Гений и глупец в одном флаконе: почему самый мощный ИИ ошибается в детских задачах
Вы замечали, как странно ведет себя ваш «умный помощник»? С одной стороны, он может за секунду написать сложный код на Python или объяснить теорию струн. С другой — он путается в простой задачке про яблоки, которую решит даже пятилетний ребенок.
Этот парадокс мучает пользователей и ученых уже несколько лет. Мы привыкли думать, что интеллект — это прямая линия: от глупого к умному. Если ты умный, ты не делаешь глупых ошибок. Но с ИИ это не работает.
Не так давно вышла свежая научная работа от исследователей Google и Университета Карнеги-Меллона (CMU), которая, возможно, раскрыла тайну этого цифрового безумия.
Оказывается, искусственный интеллект не думает словами. Он думает геометрией. Я изучил этот сложный отчет и сейчас объясню вам на пальцах, как устроена «голова» нейросети, почему она похожа на карту инопланетянина и почему мы никогда не получим ИИ, который будет полностью похож на нас.
ШАГ 1. СТАРЫЙ МИФ: АССОЦИАТИВНАЯ ПАМЯТЬ
Раньше мы считали, что ИИ работает как гигантская библиотека или Excel-таблица.
Есть факт А («Париж»), он связан с фактом Б («Франция»).
Это называется ассоциативная память. Когда вы спрашиваете «Столица Франции?», ИИ просто находит нужную ячейку в таблице.
Если бы это было так, ИИ был бы предсказуем. Он бы либо знал факт, либо нет. Но он часто выводит новые знания, которых не было в его таблице, и при этом ошибается там, где ошибиться невозможно. Значит, теория таблицы неверна.
ШАГ 2. ОТКРЫТИЕ: ГЕОМЕТРИЧЕСКАЯ ПАМЯТЬ
Новое исследование показало: ИИ не хранит факты в списке. Он строит многомерную карту.
Представьте, что все понятия в мире (слова, цифры, идеи) — это точки в огромном пространстве.
— «Король» и «Королева» стоят рядом.
— «Мужчина» и «Женщина» стоят рядом.
— Вектор (стрелочка) от «Короля» к «Королеве» такой же, как от «Мужчины» к «Женщине».
Это и есть геометрическая память. ИИ не «вспоминает» ответ. Он навигирует.
Для него задача «Найти столицу Франции» — это не поиск в справочнике. Это прокладывание маршрута на карте: «Если я пойду от точки „Страна“ в сторону точки „Столица“ с вектором „Франция“, куда я попаду?».
ШАГ 3. ПОЧЕМУ ОН ГЕНИАЛЕН?
Эта геометрическая структура дает ИИ суперсилу.
Он может находить связи, которые человек не видит, потому что для него это просто короткий путь через многомерное пространство.
Он может решать задачи, которым его не учили, просто потому что они «по пути».
Например, если он знает путь от А к Б и от Б к В, он мгновенно «срезает угол» и находит связь А-В, даже если в учебниках этого не было написано. Это выглядит как инсайт или гениальность.
ШАГ 4. ПОЧЕМУ ОН ГЛУП?
А теперь — обратная сторона медали.
Представьте, что у вас есть карта города, но она местами помята, порвана или склеена неправильно.
В тех местах, где карта точная (где было много данных для обучения), ИИ — Бог. Он находит кратчайший путь мгновенно.
Но там, где данных было мало или они были противоречивы, пространство искривляется.
ИИ пытается проложить маршрут через это искажение и «улетает в кювет».
Для нас, людей, логическая ошибка очевидна. «У Маши было 3 яблока, она съела одно, осталось 2».
Для ИИ это просто вектор. Если в его карте вектор «съела» случайно искривлен в сторону «купила» (из-за особенностей обучающих данных), он уверенно скажет: «У Маши 4 яблока».
Это не глупость в человеческом смысле. Это ошибка навигации в искривленном пространстве.
ПОЛЕЗНАЯ ПАУЗА
Друзья, понимание того, как мыслит машина, дает вам огромное преимущество. Вы перестаете злиться на «тупого бота» и начинаете понимать, как починить его карту своими запросами.
Если вы хотите научиться исправлять эти ошибки на лету, использовать правильные промпты, которые выравнивают «геометрию» ответа, и получать от ИИ максимум — подписывайтесь на мой ТЕЛЕГРАМ-КАНАЛ.
Там мы разбираем такие нюансы на практике.
ШАГ 5. ИНОПЛАНЕТНЫЙ КАРТОГРАФ
Исследователи приходят к выводу: ИИ — это не цифровой человек. Это Инопланетный Картограф.
Он живет в мире тысяч измерений. Мы живем в трех.
Наш опыт (эмоции, боль, время) формирует нашу логику.
Его опыт (векторы, расстояния, кластеры) формирует его логику.
Когда мы просим его «подумать», он не рассуждает. Он смотрит на свою карту.
Иногда наши карты совпадают (и мы восхищаемся).
Иногда они расходятся (и мы смеемся над его ошибками).
Но проблема в том, что мы никогда не сможем полностью понять его карту, потому что наш мозг просто не умеет видеть в 1000 измерениях.
ШАГ 6. НИКОГДА НЕ СТАНЕТ ЧЕЛОВЕКОМ
Этот вывод может расстроить тех, кто ждет «Скайнет» или робота-друга.
Скорее всего, мы никогда не получим AGI (Общий Искусственный Интеллект), который будет мыслить как человек.
Мы получим сверхразум, но он будет чужим.
Это как дельфин. Он очень умный, но он живет в воде и «видит» эхолокацией. Мы можем дружить, но мы никогда не станем одинаковыми.
Различие между геометрией мышления ИИ и человека — это фундаментальная пропасть.
ПОДВОДНЫЕ КАМНИ: ОПАСНОСТЬ ДОВЕРИЯ
Главный риск — антропоморфизм. Мы видим, что ИИ решает сложные задачи, и приписываем ему человеческую логику во всем остальном.
Мы доверяем ему решение моральных дилемм или управление финансами, думая: «Раз он решил теорему, он не может ошибиться в налогах».
Может. И еще как. Ошибка в навигации может завести его в такие дебри, которые нам покажутся безумием.
ФИНАЛ: УЧИТЕСЬ ЧИТАТЬ ЧУЖИЕ КАРТЫ
Мы создали разум, который превосходит нас в одном и уступает младенцу в другом.
Наша задача сейчас — не пытаться сделать из него человека. Наша задача — научиться пользоваться его картой.
Станьте штурманом для этого инопланетного корабля. Укажите ему верную цель, и он домчит вас туда быстрее света.
А чтобы стать лучшим штурманом и быть в курсе последних открытий в картографии ИИ — жду вас в своем канале.
FAQ (ЧАСТЫЕ ВОПРОСЫ)
Вопрос: Что такое Gemini 3?
Ответ: Это новейшая модель от Google, которая стала поводом для этого исследования. Она показывает невероятные результаты в тестах, но сохраняет те же «геометрические» особенности мышления.
Вопрос: Значит, ИИ никогда не научится здравому смыслу?
Ответ: Скорее всего, он научится его имитировать. Если загрузить в него достаточно данных, его карта станет настолько подробной, что «дыр» почти не останется. Но сам механизм мышления останется геометрическим, а не смысловым.
Вопрос: Почему это называют «Спектральной предвзятостью»?
Ответ: Это сложный математический термин из статьи. Упрощенно: ИИ предпочитает видеть глобальные, низкочастотные узоры (общую картину), игнорируя мелкие детали, которые могут быть важны для конкретной задачи.
Вопрос: Как это помогает мне в работе?
Ответ: Понимая это, вы перестанете задавать ИИ вопросы «на сообразительность» и начнете задавать вопросы «на навигацию». Давайте ему четкие ориентиры (контекст), чтобы он мог построить правильный вектор.