Искусственный интеллект в августе 2025 года кажется всемогущим. Он пишет код, управляет автономными видами транспорта, диагностирует болезни. Но вот парадокс: при всей своей мощи искусственный интеллект (ИИ) часто ошибается там, где человек справляется на раз. Становится ясно, что у ИИ есть пределы, и они не только технические, но и философские. Давай разберём, чего ИИ не умеет, и как это влияет на бизнес и финансы.
ИИ: мощный, но не всесильный
ИИ силён в обработке данных, но слаб в понимании контекста. Возьмём финтех. В 2025 году ИИ-алгоритмы в банках в мире оценивают кредитоспособность в среднем с точностью 95%. Но 5%! Эти 5% — потерянные клиенты. А ведь на таком высококонкурентном рынке как банковский, это означает, что иногда кредитная организация в какой-то момент будет проваливаться ниже точки безубыточности. В мире необанков и финтеха утрата даже одного клиента может быть фатальной.
Ещё одна слабость — эмоции. ИИ может анализировать тон голоса или текст, но не чувствует эмпатию. В клиентском сервисе это проблема. Из-за этого недовольство ИИ-чат-ботами будет только нарастать, даже если замеры будут показывать обратное: не всегда с помощью стандартных, и даже глубинных исследований, можно докопаться до того, почему человек уходит от одного бренда банка к другому.
Есть некая «химия» взаимоотношений клиент-банк, которую невозможно выписать формулами или чётко определить в каких-то рамках. Но её нужно создавать, развивать и поддерживать.
Третий вызов — этика и этикет. ИИ не понимает морали так, как это есть у человека. Да, моральные установки могут быть разные у людей, но это — другая система, понятная. ИИ же играет, он всё время играет в человека!
Проблема «чёрного ящика»
Продвинутые нейросети всё чаще начинают выдавать странные результаты. Галлюцинации ИИ уже стали вопросом, который невозможно игнорировать. Эта проблема напрямую связана с тем, как мы обучаем нейросети. ИИ не хватает биологического механизма контроля.
Мозг человека не просто работает — это часть организма, где синтезируются различные вещества из еды, которая поступает в него, идёт строительство клеток.
ИИ не приводит к созданию чего-то живого, у него нет стимулов и системы сдержек, которые существуют в организме человека. Отчасти поэтому научные эксперименты по поддержанию в живом состоянии головы человека отдельно от его туловища провалились, оставшись уделом повестей писателей-фантастов.
Нынешняя система тренировки ИИ тупикова. Ещё больше ошибок появляется, как всё чаще ИИ начинает обучать сам себя. Несовершенство увеличивается в геометрической прогрессии.
Например, в финансовой сфере регуляторы требуют прозрачности, но ИИ-алгоритмы для торговли на рынке акций и облигаций — это «чёрный ящик».
Прозрачность и подотчётность — вот, что нужно. Разработка специальных ИИ-систем и создание чётких рамок человеческого надзора помогают проверять решения ИИ. Но пока это дорого и сложно. В финансовой сфере только финтех стартапы с хорошей инвестиционной поддержкой и сильной управленческой командой с большим опытом в банковской и брокерской сферах могут «обуздать» ИИ.
Отсутствие истинной креативности
ИИ может генерировать тексты, музыку или картины, но это не настоящая креативность. Он комбинирует данные, а не создаёт что-то принципиально новое. Например, в маркетинге ИИ пишет рекламные тексты, но они часто звучат шаблонно.
Например, в этом году 60% компаний в США используют ИИ для создания того или иного контента, но уже 25% отказываются от него из-за «бездушности».
Учитывая мой опыт (вице-президент банка «Открытие» и председатель правления «Открытие брокер» (2017-2022)), я удивлён, как сейчас некоторые кредитные организации бросились продвигать ИИ-помощников. Это можно? Да, но вопрос — как.
Для меня очевидно, что нужно не забывать: людям всё равно нужно человеческое общение. Поэтому, необходимо иметь баланс в продвижении и этого варианта коммуникаций, и ИИ-коммуникаций, и следить, чтобы на последних не делался акцент. Сейчас это точно будет играть в минус для самих банков и брокеров.
Да, ИИ можно заставить сыграть в человеческие эмоции, но в том-то и дело, что это — игра. Искусственность чувствуется, ровно также, как до сих пор «пластмассовыми» выглядит люди в большинстве картинок и видео, генерируемых нейросетями. На первый взгляд, и многим так кажется, что и так сойдёт: но подсознание человека не обманешь, не выдашь искусственное за реальное.
В творческих профессиях ИИ — пока не конкурент человеку. Он может предложить идею, но не поймёт, почему она трогает аудиторию. Это ограничивает его в рекламе, кино или дизайне, где нужна человеческая искра. «Понимание» ИИ смыслов — это опять-таки мимикрия. Своего рода, ИИ — продвинутый попугай, который научился говорить и делать вид, что он — человек, но от этого он не перестает быть попугаем.
Чем хорошо обучение человеком, а нейросетью?
Вроде, нейросеть-преподаватель делает то же, что и человек-преподаватель. Но у преподавателя есть своя нейросеть в голове, в которой есть то, что было недоступно никакой нейросети вне человека. Нейросеть не имеет доступа к мозгам людей — лишь к тому, что люди написали, сказали и сняли. Однако, то, что люди думают, и что они пишут, говорят в подкастах и на видео — это большая разница.
Вопрос не только в том, что не вся информация перенесена из человеческого мозга в доступный для нейросетей формат. Важно, что всё, на чём учится нейросеть (текст, аудио, видео) — это реальность не подлинная, а пропущенная через фильтр мозгов людей.
При общении с человеком-преподавателем знания идут на 80% от невербального сопровождения обучения (эмоций, мимики, жестов, и др.) и лишь 20% — от озвученной информации. Сочетание эмоций, мимики, жестов и др. раскрывает код обучения, позволяет слушающему понять, где субъективность преподавателя. На столкновении субъективности слушателя и преподавателя возникает совершенно другое восприятие процесса обучения. Но это, как говорится, будет осознанно большинством не сейчас, а когда станет слишком поздно.
Ограничения в обучении ИИ
Кинокомпания Universal Pictures заинтересовалась защитой объектов своей интеллектуальной собственности в тех моментах, когда считает, что нейросети не должны обучаться на основе их продукции, по крайней мере без разрешения. В некоторых фильмах в титрах летом стали появляться соответствующие предупредительные надписи.
Более того, в июне Universal, Disney и ряд других компаний подали исковое заявление против Midjourney, известного ИИ-генератора картинок. В 110-страничном документе выдвигается подозрение о возможном нарушении исключительных прав на объекты интеллектуальной собственности.
Да, сейчас в мире будут сделки, когда хранители и создатели контента станут заключать контракты на обучение ИИ, как это случилось, например, с социальной сетью Reddit. Но есть немало и тех, кто защищает свои информационные ресурсы от того, чтобы они были «пищей» для ИИ.
Тут ещё возникает и следующий момент. Развитие нейросетей привело к тому, что Интернет стремительно заполняется ИИ-сгенерированным контентом, а ИИ-боты всё больше создают тексты, картинки и видео в социальных сетях. Всё меньше становится «человеческого контента», а ИИ будет всё чаще обучаться на якобы человеческом контенте, но на самом деле — сделанным другими ИИ.
И тут возникает масса сложностей — начиная от того, что в обучающий материал для ИИ вторгаются как человеческие, так и специфичные для ИИ-креаторов ошибки, заканчивая тем, что ИИ «перерабатывает» контент в своих «мозгах» нелинейно и склонен всё чаще к галлюцинациям — ошибочным рассуждениям.
Наконец, эти уязвимости будут эксплуатироваться теми структурами, которые разрабатывают ИИ и привлекают инвестиции. И не всегда использование таких «дыр» в процессе обучения и работы ИИ будет этически верным.
Всё это создаёт большие риски масштабных кризисов в финансах и экономике, тем более, что всё больше компаний ставят во главу угла своей корпоративной стратегии ИИ и, как бы это не было смешно, стратегию, написанную также нейросетями.
Утрата человеческого контроля над финансовыми потоками, как на микро-, так и на макроуровне — опасный эксперимент, к которому мир стремительно приближается.
Именно поэтому я не верю в долгосрочную эффективность мультиагентной стратегии в ИИ. Компаниям нужна не масса ИИ-агентов, которые будут ухудшать друг друга, а требуется надёжная корпоративная ИИ-система, которая ни зависит от внешних провайдеров, ни «облачных» сервисов, ни нейросетей. Более того, под ИИ нужно закупать и выстраивать конфигурацию специального «железа», а крупным компаниям иметь резервную энергогенерацию, чтобы не допускать «чёрных пятен» в работе ИИ в организации.
ИИ и технологии: где он спотыкается, и что нас ждёт
ИИ в связке с блокчейном и (децентрализованными финансами) DeFi сталкивается с проблемами. ИИ-алгоритмы для трейдинга на DeFi-платформах не понимают логики рационального и иррационального в человеческом поведении. В 2025 году в США 60% таких проектов провалились из-за ошибок ИИ в предсказании рынка. Блокчейн требует доверия, а ИИ его не чувствует. Это ограничивает его в DeFi, где интуиция часто решает.
В «умных» городах ИИ не справляется с выбивающимися из ряда рутинных ситуаций или просто ошибаются . Например, ИИ-системы видеонаблюдения в «умных» городах в мире ошибаются в 15% случаев, путая тени с людьми или машины с препятствиями, а также совершают ошибки при распознавании лиц.
ИИ не понимает человеческой жизни. Он может оптимизировать процессы, но не знает, например, как бороться с бедностью в мире. Это делает его холодным инструментом, который требует человеческого контроля.
Конечно, «умные» города станут умнее, но ИИ не заменит человеческую интуицию. Бизнесу нужно учиться работать с ИИ, а не подстраиваться под него. ИИ не станет «человеком». Он не научится по-настоящему, на уровне биохимии, чувствовать, понимать мораль или быть креативным в человеческом смысле. Это значит, что люди останутся незаменимыми в тех сферах, где нужны эмоции, этика и интуиция.
ИИ меняет мир, но он не волшебник. Он не понимает контекста, эмоций, морали. Его «чёрный ящик» пугает регуляторов и клиентов. В 2025 году ИИ добавляет миллиарды к ВВП, но создаёт и миллионы проблем. Пора здраво посмотреть на возможности и ограничения ИИ прежде, чем он получит критически важные рычаги в экономике и человеческом обществе.
К сожалению, осознание необходимости установить рамки для ИИ приходит уже слишком поздно. Следующий глобальный экономический кризис, который сотрясёт мир и станет самым разрушительным за всю историю человечества — уже на пороге, и он будет связан напрямую с нынешним зачастую беспечным и слишком потребительским отношением человека к ИИ.