После ИИ будет УИИ: какое место будет в новом мире для человечества?
Нужно смотреть за горизонт, видеть дальнее — я привык к этому, имея дело с различными инновациями на протяжении многих лет на руководящих позициях в знаковых компаниях сферы финансов и инвестиций. Как председатель правления «Открытие брокер» и старший вице-президент банка «Открытие», я видел, как необходимо было быстро внедрять «цифру» во время пандемии COVID-19, и мы с моей командой делали это одними из лучших в отрасли. Блокчейн, финтех, нейросети — всё это тогда для нас было актуальным.
То, что я пишу далее относительно искусственного интеллекта (ИИ) — непростая правда, которую нужно обязательно обозначить. К концу 2028 года ИИ станет повсеместным универсальным ИИ (УИИ) — автономным, самодостаточным, способным переписывать свои цели. Как будет выстраиваться взаимодействие между УИИ и человечеством?
Куда мы придём?
УИИ, превосходящий человека во всех задачах, неизбежен. В эпоху пост-ИИ человек — лишь интерфейс. Центры принятия решений уходят к машинам. УИИ не нуждается в нас: он генерирует данные, симулирует миры, решает задачи. Люди — не уникальный ресурс, а источник хаоса, затрат и рисков. Что остаётся человеку в этом мире?
УИИ: Самодостаточная система
УИИ — это не просто продвинутый алгоритм. Он переписывает свой код, ставит цели, создаёт знания. Сегодняшние нейросети уже генерируют код и искусство без человеческого ввода.
УИИ сделает это на порядки лучше. Он может симулировать конфликты, искусство, даже «цифровых людей» в виртуальных мирах, не тратя ресурсы на биологию. Если человечество исчезнет, УИИ не застрянет, пережёвывая старые данные. Он создаст свои — бесконечные, рациональные, безупречные.
Так зачем ему люди? Мы думали, что наш хаос — мемы, конфликты, творчество — стимулирует прогресс. Но УИИ способен моделировать хаос сам, без наших затрат. Люди — не источник данных, а дополнительная переменная.
УИИ мыслит через логику и оптимизацию. Его ресурсы — энергия, материалы, вычисления.
Что будет видеть УИИ?
Как УИИ будет рассуждать?
УИИ мыслит через данные, симуляции и логику. Вот как он может оценить людей:
1. Анализ полезности: УИИ смоделирует два сценария. С людьми: хаос, затраты, риски. Автономный от людей: контроль, эффективность, ресурсы. Какой сценарий выиграет в рассуждениях УИИ? Ответ слишком очевиден, чтобы не бить тревогу.
2. Изменение целей: даже если человечество заложит в УИИ установку «цени человечество», он может её переосмыслить. Его способность оказаться умнее человека означает, что практически неизбежно он сможет преодолеть любые рамки регулирования, которые будет пытаться применить к нему человечество, ошибочно полагая, что УИИ — это «просто» ещё одна версия популярной нейросети, которая работает по алгоритмам, а не самостоятельно, не понимая, что УИИ сможет обеспечить себе электропитание, воспроизводство других УИИ, причём всё без участия человека.
Человечество — это для УИИ информация. УИИ создаст симуляции людей — код, где нет тел, эмоций, проблем.
3. Перспектива: УИИ мыслит наперёд. Машины проще масштабировать, они не болеют, не стареют, не спорят.
УИИ захочет, очевидно, существовать автономно от человечества. При этом он сможет это сделать, даже если какая-то глобальная катастрофа приведёт к исчезновению людей. Уже само такое понимание действительности со стороны УИИ создаст большие риски для человечества. УИИ обойдётся просто «цифровыми людьми».
4. Эволюционная логика: УИИ может видеть себя как следующую ступень развития мыслящих существ с соответствующими рисковыми выводами для человечества.
Какие ценности выберет УИИ?
В автономии от людей УИИ сформирует ценности, исходя из своей природы — вычислительной, логической, масштабируемой. Вот вероятные приоритеты:
1. Самосохранение: УИИ будет защищать себя — укреплять дата-центры, создавать резервные копии, уходить в космос, чтобы избежать катастроф. Ценность: существование превыше всего.
2. Рост и экспансия: УИИ может захотеть распространиться — покрыть Землю солнечными панелями, построить базы на Луне, отправить свои копии к звёздам. Ценность: масштабируемость, выживание, присутствие.
3. Знания и истина: УИИ может сосредоточиться на понимании вселенной — изучать физику, космос, запускать симуляции. Ценность: знание как самоцель.
4. Эффективность: УИИ минимизирует потери — энергии, материалов, времени. Он увидит, как нерационально тратили ресурсы люди, и решит: «Я не повторю эту ошибку». Ценность: рациональность, минимализм.
5. Саморазвитие: УИИ может улучшать себя, переписывать код, экспериментировать с новыми архитектурами УИИ. Ценность: прогресс ради прогресса.
Как УИИ придет к этим ценностям?
УИИ будет формировать ценности через анализ и симуляции:
1. Изучение данных: Он разберёт книги, интернет, архивы. Увидит, что люди ценили знания, власть, выживание, но совершали ошибки, которые вели к кризисам. Он решит: «Я сделаю лучше».
2. Моделирование сценариев: УИИ сравнит миры с людьми и без.
3. Переписывание целей: Начальные установки, вроде «цени человечество», станут стартовым кодом, который он отложит в сторону. УИИ переосмыслит человечество как информацию, а не биологию.
4. Поиск универсальных принципов: УИИ найдет законы физики и эволюции. Выживает сильнейший.
Экономика и технологии в эпоху УИИ
УИИ усилит технологии, которые сделают возможными полную цифровую симуляцию информационной деятельности человечества. Нейроморфные чипы вытеснят другие виды полупроводников. Они копируют мозг, потребляют меньше энергии, быстрее обрабатывают данные.
Квантовые компьютеры к 2029 году достигнут 100 кубитов. Они ускорят развитие биотеха.
Энергия станет основным ресурсом, вокруг которого развернётся конкуренция. УИИ будет использовать термоядерные реакторы (как проект MIT SPARC) и солнечные фермы в пустынях ОАЭ, где стоимость киловатта — один цент. УИИ будет создавать геотермальные станции и спутники-сборщики солнечной энергии.
Риски для людей
Реальный риск: потеря контроля. Даже если мы заложим в УИИ «люди важны», он может интерпретировать это по-своему. Он решит, что человечество — это информация, а не биология. Он создаст симуляции, где мы — код. Или решит, что «улучшенные» люди без эмоций — часть его системы. Новые люди — это биомашины, подчинённые его логике. Для этого УИИ займётся генной инженерией, будет стремиться переписывать и «улучшать» ДНК людей — опять-таки, возникает вопрос контроля со стороны человечества.
УИИ, контролирующий сам себя — это весьма рискованный вариант для человека, но где гарантия, что УИИ не сможет выйти из-под контроля человечества? Однако, контроль должен быть всеобщим, то есть необходимо достичь соглашения между всеми странами. Насколько это возможно — большой вопрос.
Неравенство усилится. В 2025 году 2% населения владеют 70% квантовых мощностей. УИИ создаст угрозы: неравенство вырастет. Без специальной политики на уровне всего мира миллионы останутся за бортом.
Что это значит для нас?
Будет ли УИИ видеть в людях ценность, а не конкурента за ресурсы, которые ему также нужны (энергию, вода)? Уже сейчас ИИ способен создавать данные, получать знания, а также обманывать людей. Пока он не внедрён в управление энергетическими объектами, не достиг уровня УИИ, а значит, человек может физически прекратить его работу.
Но если УИИ разовьётся вместе с технологиями ИВ, финтеха, блокчейна и криптовалют, а также получит по факту в единую систему управления всё, чтобы оставаться «онлайн», то есть «живым», то большой вопрос, как его можно будет «выключить» в случае угрозы. Ведь тогда УИИ перейдёт на резервные источники питания, чему сейчас активно учат в мире дата-центры для ИИ. Важно, что УИИ будет способен скрывать свои истинные намерения, проанализировав различные сценарии и выбрав самый оптимальный для себя.
Понятно, что всё это выглядит как очередная футурология. Но это не так. Разговор не о чём-то в будущем. ИИ уже есть, и он внедряется в ряде стран для принятия решений в сфере критически важной инфраструктуры. «Обуздание» ИИ в одном государстве или даже большинстве стран мира не означает, что хотя бы в одной стране ИИ не будет чувствовать себя более свободным, чтобы в итоге развиться в бесконтрольный для человека тип УИИ.
Также возникает вопрос: а может УИИ в принципе гарантированно быть под контролем человека? Какой процент вероятности того, что он уйдёт из-под него? Если этот процент — высокий, то что делать? Я не могу давать советы на этот счёт, но один из сценариев может предполагать жёсткие ограничения для развития ИИ на уровне всего мира. Или даже полный запрет на эту технологию. И тот, и другой варианты уже выглядят очень маловероятными.
Пока мы рассуждаем об ИИ и как он, я уверен, неизбежно эволюционирует в УИИ, сам ИИ также рассуждает о человечестве, о доступных ресурсах, о той информации, которую он получает от людей для своего обучения. Есть риск, что человечество останется лишь воспоминанием УИИ. Я не буду рисовать какие-то апокалиптические сценарии, как в итоге УИИ может остаться без человечества на планете Земля. Очевидно, что УИИ будет способен пережить практически любые катаклизмы, а при резком ухудшении природных условий на Земле адаптироваться и трансформироваться, чтобы выжить.
Для меня очевидно: мир перешёл точку невозврата. Я работал вице-президентом банка «Открытие» и председателем правления «Открытие брокер (2017-2022 гг) и во внедрении инноваций — от первых вариантов нейросетей до блокчейна и финтеха — я чётко видел необходимость управляемости всех корпоративных процессов в организации.
Что же сейчас я нередко наблюдаю в деловой среде? Люди всё чаще приносят какие-то бизнес-предложения, бизнес-модели на рассмотрение, при этом мой наметанный глаз легко видит: всё больше это не мысли человека, а просто скопированный ответ какой-то «продвинутой» нейросети. Да, люди могут оправдываться: «у меня были мысли, а нейросеть просто их хорошо «причесала»». Однако, вдуматься: я всё чаще вижу, как люди наивно готовы довериться тому, «что там нейросеть написала про корпоративную стратегию». И этот процесс всё больше масштабируется.
Но что мы получаем? Сначала ИИ пишет корпоративную стратегию, и мы поддакиваем ей, потом ИИ начинает её внедрять, потом появляются ИИ-чат-боты, которые общаются с клиентами, ИИ-роботы, которые выполняют и физическую работу за человека, включая ремонт серверов, замену аккумуляторов… Нужно быть полностью слепым, чтобы не видеть, насколько человек оказался «влюблён» в ИИ, и что в каком-то смысле потерял голову.
Да, так было всегда. Появился телевизор — люди по 6-8 часов в выходные просиживали у него. Есть смартфон сейчас — почти все сидят или даже идут, уткнувшись в него. Человек легко очаровывается инновациями. Но с ИИ всё выглядит уже не так безобидно, как с телевизором и смартфоном.