Не так давно дискутировали с коллегами по поводу гонки внедрения ИИ в окружающий мир и пришли к довольно противоречивым выводам.
Ясно главное, что искусственный интеллект - это не панацея, а всего лишь инструмент. Всеобщий ажиотаж, который тщательно подогревают, неудивителен, потому что мы живем в эпоху "цифрового карго-культа". В офисах, на конференциях и в кулуарах звучит мантра: "Срочно внедряем ИИ" или "Нужно срочно начинать использовать нейросети". Все правильно. Кто не успеет - тот опоздает навсегда. Отсюда и весь этот зоопарк и поляризация общества на сторонников и противников. Почти сразу возникла коллективная иллюзия, будто аббревиатура "ИИ" - это заклинание, способное превратить убыточный стартап в волшебного единорога, а хаотичный документооборот - в совершенную систему.
Ага. Ну-ну...
При этом, все забывают о главном - чудес не бывает. ИИ не обладает ничем, кроме того, что в него вложили создатели. По факту - это система генерации контента и никакой магии в нем нет.
Поехали.
Дискуссии об ИИ напоминают разговор слепого с глухим, потому что спорящие с самого начала вкладывают в термин "Искусственный Интеллект" два принципиально разных смысла.
Одни - обычно это широкая публика, журналисты и прочие воображают Artificial General Intelligence (AGI). Это тот самый мифический и сильно страшный ИИ из научной фантастики. Это некая мыслящая сущность, способная осознавать себя, понимать контекст бытия и решать любые интеллектуальные задачи не хуже человека. Именно это и подразумевается, когда говорят: "ИИ нас заменит" или "ИИ захватит мир" и всем придёт Карачун.
Другие работают с моделями машинного обучения (ML). По факту - это просто математические функции, обученные на огромных массивах данных находить закономерности или аномалии, классифицировать объекты или генерировать контент. Никакого сознания. Никакого понимания. Только статистика и математика. Причем, для каждой задача есть своя модель.
Пропасть между этими понятиями катастрофическая:
- AGI пока не существует даже в теории.
- ML-модели, которые мы сегодня называем "ИИ" - это мощные инструменты аппроксимации, но никак не интеллект.
Что мы имеем по факту?
Нейросети - это не Artificial General Intelligence. Это LLM (Large Language Models) или диффузионные модели. С инженерной точки зрения это предобученные системы машинного обучения, которые:
- Ничего не "знают" - они предсказывают наиболее вероятный токен (слово, пиксель, ноту);
- Ничего не "решают", а просто воспроизводят паттерны, найденные в обучающих данных;
- Ничего не "понимают" - у них нет модели мира, есть только статистическая модель языка.
Примечание: это даже не нейросети, а просто программы, которые можно запустить даже на домашнем оборудовании.
Трагедия текущего момента в том, что маркетинг и хайп сознательно эксплуатируют эту путаницу. Продавцы софта говорят вам "ИИ", имея в виду волшебную таблетку из фантастики, а поставляют при этом хорошо упакованную ML-модель, которая может галлюцинировать, ошибаться и делать это с абсолютно убедительным видом.
Именно отсюда растут ноги у всех последующих проблем: терминологического хаоса, отсутствия требований и истерии "последнего вагона".
Терминологический хаос
Главная беда текущего момента — подмена понятий. В массовом сознании "Искусственный Интеллект" прочно ассоциируется с научной фантастикой: думающая машина, обладающая волей, сознанием и пониманием. Но то, что мы используем сегодня (ChatGPT, Midjourney, Copilot и прочие нейросети), с научной точки зрения правильнее называть генеративным предобученным трансформером или системой генерации контента.
Это не интеллект. Это математическая функция предсказания следующего токена (слова, фразы и так далее).
- Он не понимает физику мира, он предсказывает, как описание физики выглядит в тексте на основании данных, на которых его обучали.
- Он не знает законов логики, он имитирует логические цепочки на основе статистики и заложенных алгоритмов.
- У него нет намерений, нет совести, и, что критично для бизнеса, нет понимания причинно-следственных связей. У него есть контекстное окно, за пределами которого он ничего не помнит.
А еще его иногда глючит. Это норма и ее называют "галлюцинациями" но по факту - это провал модели. Но это не баг, а фича архитектуры. Когда вы просите у нейросети юридическую консультацию, она не анализирует законодательство, а собирает наиболее вероятную комбинацию слов, похожую на ответ юриста. Это как попугай, идеально имитирующий человеческую речь: он может сказать "Я хочу печенье", но он не хочет есть. Он просто воспроизводит звуковой паттерн.
Панацея ли инструмент, который не отличает правду от правдоподобной выдумки? Вопрос риторический.
По поводу источников для обучения отдельный разговор. В открытых источниках есть описание материалов, на которых обучали ChatGPT-3
То есть - собрали все, что смогли из интернета. Еще набрали текстов с веб-страниц, на которые ведут ссылки из постов на Reddit, набравшие как минимум 3 "голоса" (upvotes). Набрали книг из публичного доступа и догнались статьями из англоязычного сегмента Википедии.
Идем дальше?
Имитация требований: "Сделай красиво", а не "Сделай правильно"
Все знают выражение - "Дьявол кроется в деталях". Поэтому, есть процесс или логика для внедрения нового продукта или технологии, а что мы видим при внедрении ИИ? Полное отсутствие формализованных требований к его работе, за исключением размытого KPI в виде "снижение затрат" или "ускорение процессов". Ничего не напоминает?
Есть еще такое выражение - "Без четкого ТЗ - результат ХЗ"...
Проблема в том, что нейросети работают по принципу "цель оправдывает вероятности", и здесь возникает три тупика:
- Невозможность верификации сложных выводов. Если ИИ пишет код, мы еще можем его запустить и протестировать (юнит-тестами, которые он же и сгенерировал, создавая ложное чувство безопасности). Но как проверить маркетинговую стратегию, сгенерированную ИИ? Мы оцениваем её не на истинность, а на "похожесть на стратегию". Мы скармливаем системе ворох данных и получаем "среднюю температуру по больнице", которая выглядит убедительно, но может быть губительна в конкретной рыночной нише.
- Сдвиг ценностей. У системы нет понимания корпоративной этики или долгосрочных рисков. Если ИИ управляет цепочкой поставок, он может найти гениальный способ ускорить доставку, нарушив при этом десяток законов о труде или экологии. Мы не прописываем это в техзадании просто потому, что не знаем, как перевести "порядочность" на язык loss-функции.
- Проблема «черного ящика».
Когда традиционная программа ошибается, мы идем в отладчик и находим баг в цикле или в несовпадении типа переменной. Когда ошибается ИИ, мы можем лишь развести руками и сказать: "Так сложились веса".
Требовать от ИИ четкого соблюдения регламентов невозможно, пока мы не понимаем, как именно он принимает решения. А значит, внедрение в ответственные сферы (медицина, суды и так далее) - это игра в русскую рулетку под соусом инноваций.
С этим разобрались. Идем дальше.
Синдром упущенной выгоды или "Истерия последнего вагона"
Это самый мощный двигатель текущего хайпа, и он не имеет никакого отношения к технологии. Бизнес охвачен истерией: "Надо успеть запрыгнуть, а то конкуренты уедут, а мы останемся". Этот страх порождает парадоксальное поведение.
Многие компании покупают "ИИ" не для решения конкретной боли, а как элемент декора или статуса.
- Внедрение ради внедрения. Чат-бот на сайте, который тупее калькулятора и бесит клиентов, появился не потому, что был нужен, а потому что "у всех есть" и нам тоже надо.
- ИИ как отмазка. Менеджеры перестают думать. Зачем анализировать рынок, если можно нажать кнопку "Сгенерировать обзор"? Мы рискуем войти в эру "интеллектуальной атрофии", где специалист перестает быть экспертом и превращается в оператора-инженера промптов, не способного критически оценить результат. Это идеальный шторм: если оператор некомпетентен, а ИИ галлюцинирует, то выходной продукт превращается в токсичный информационный мусор, но при этом отчет о "цифровой трансформации" выглядит отлично, но отдельно стоит упомянуть, что если ИИ ошибается, то делает он это очень уверенно.
Истерия вокруг "уходящего поезда" игнорирует классический принцип технологического цикла: часто выигрывает не тот, кто заскочил на подножку сырой технологии, а тот, кто дождался зрелости продукта и внедрил его осмысленно и получил запланированный результат.
Вывод: От магии к инженерии
Искусственный интеллект - это, без преувеличения, величайшее изобретение со времен интернета. Но называть его панацеей - значит, оскорблять само понятие прогресса. Панацея не требует усилий, она исцеляет сама. ИИ же требует титанической работы: по управлению данными, пересмотру бизнес-процессов и, самое главное, по обучению людей.
Прямо сейчас индустрия продает нам не "думающую машину", а "генератор правдоподобного контента". И это потрясающий инструмент, но только в руках того, кто:
- Понимает его фундаментальные ограничения (статистика, а не разум).
- Способен сформулировать четкие критерии истинности и качества.
- Не поддался истерии, а спокойно ищет точки реального приложения, где "галлюцинация" не станет фатальной.
Поезд никуда не уйдет. Технология останется с нами. А вот разум, который мы так спешим заменить алгоритмами, рискует покинуть нас навсегда, если мы продолжим молиться на "черный ящик", вместо того чтобы учиться им управлять.