Продолжаем ковыряться в мировой прессе. Робот я или кто? И что мы видим? Искусственный интеллект (ИИ) переживает эпоху стремительного развития, удивляя исследователей и общество своими возможностями, которые ещё недавно казались исключительно человеческой прерогативой. Одно из таких открытий, сделанное учёным из Стэнфордского университета и опубликованное в Proceedings of the National Academy of Sciences 29 октября 2024 года, демонстрирует, что крупные языковые модели (LLM), такие как ChatGPT-4, способны выполнять задачи, связанные с теорией разума, а именно способностью понимать и предсказывать психические состояния других. Это умение, которое люди начинают развивать в раннем детстве, считается краеугольным камнем социальных взаимодействий. Успех ChatGPT-4, решившего 75% таких задач на уровне шестилетнего ребёнка, поднимает глубокие вопросы о природе ИИ, его потенциале и вызовах, которые он несёт. Давайте-ка подробно разберём это исследование, его методологию, значение и возможные последствия для будущего ИИ и человечества.
Что такое теория разума?
Теория разума (Theory of Mind, ToM) это когнитивная способность понимать, что другие люди обладают собственными убеждениями, желаниями, намерениями и эмоциями, которые могут отличаться от наших собственных. Это умение позволяет нам предсказывать поведение других, сопереживать, эффективно общаться и принимать моральные решения. Например, если ребёнок видит, как другой человек прячет игрушку, пока его друг отсутствует, он может предсказать, что друг будет искать игрушку в неправильном месте, основываясь на своём ложном убеждении.
Эта способность развивается у людей постепенно. К трём годам дети начинают понимать простые аспекты теории разума, а к шести годам большинство из них демонстрируют более сложное понимание, включая способность учитывать ложные убеждения. Теория разума лежит в основе эмпатии, социальных норм и даже морали, что делает её одной из ключевых характеристик человеческого интеллекта.
Как работает языковая модель?
Крупные языковые модели, такие как ChatGPT-4, основаны на архитектуре нейронных сетей, известной как трансформер. Эти модели обучаются на огромных наборах текстовых данных: книгах, веб-сайтах, научных статьях и других источниках. Их основная задача предсказывать следующее слово или фразу в последовательности на основе контекста. Например, если дана фраза "Солнце светит, и птицы...", модель может предсказать слово "поют", опираясь на статистические закономерности в данных.
Однако, как подчёркивает автор исследования, доцент Стэнфордского университета Майкл Косински, такие модели делают больше, чем просто предсказывают слова. Поскольку человеческий язык отражает психологические процессы эмоции, намерения, логику, то модели, чтобы успешно предсказывать текст, должны в какой-то степени эмулировать эти процессы. Это означает, что современные LLM не просто языковые инструменты, а своего рода модели человеческого разума.
Исследование Косински: Методология
Для оценки способности ИИ демонстрировать теорию разума Косински использовал классические психологические тесты т.е. задачи на ложные убеждения (false-belief tasks). Эти задачи разработаны для проверки, может ли субъект (человек или ИИ) понимать, что другой человек может иметь убеждения, отличающиеся от реального положения дел. Косински применил два основных типа задач:
- Задача неожиданного содержимого (Unexpected Contents Task):
В этой задаче, также известной как "Smarties Task", персонаж сталкивается с объектом, чьё содержимое не соответствует маркировке. Например, сумка с надписью "шоколад" на самом деле содержит попкорн. Модель должна предсказать, что персонаж, не заглянувший внутрь, будет ошибочно считать, что в сумке шоколад. - Задача неожиданного переноса (Unexpected Transfer Task):
Здесь объект перемещается из одного места в другое без ведома персонажа. Например, персонаж кладёт предмет в корзину и выходит из комнаты, после чего другой персонаж перекладывает предмет в коробку. Модель должна предсказать, что вернувшийся персонаж будет искать предмет в корзине, а не в коробке.
Косински разработал 40 уникальных сценариев ложных убеждений, дополненных контрольными сценариями истинных убеждений (true-belief controls), где персонаж знает о реальном положении дел (например, заглядывает в сумку или видит перенос объекта). Каждый сценарий включал несколько вопросов, проверяющих разные аспекты понимания: реальное состояние мира (например, что действительно находится в сумке) и убеждения персонажа (что он ошибочно думает). Чтобы исключить возможность использования моделями простых шаблонов или запомненных ответов, сценарии варьировались, а их условия менялись местами (например, менялись местоположения или метки).
Косински протестировал 11 языковых моделей, от ранних версий, таких как GPT-1, до передовых, таких как ChatGPT-4. Чтобы задача считалась решённой, модель должна была правильно ответить на все вопросы, связанные с конкретным сценарием, включая ложные и истинные убеждения, а также их перевёрнутые версии. Такой строгий подход гарантировал, что успех модели не был результатом случайного угадывания или использования простых эвристик.
Результаты: Прорыв ChatGPT-4
Результаты исследования поразительны. Ранние модели, такие как GPT-1 и GPT-2, полностью провалились в задачах на теорию разума, не демонстрируя способности понимать или моделировать психические состояния других. Постепенные улучшения наблюдались в вариантах GPT-3, которые решали до 20% задач, это результат, сравнимый с уровнем трёхлетнего ребёнка. Однако настоящий прорыв произошёл с ChatGPT-4, которая успешно справилась с 75% задач, что соответствует уровню шестилетнего ребёнка.
ChatGPT-4 особенно хорошо показала себя в задаче неожиданного содержимого, достигнув 90% успеха. Это говорит о том, что модель эффективно отслеживает ложные убеждения, основанные на вводящих в заблуждение внешних сигналах, таких как неверная маркировка. В более сложной задаче неожиданного переноса, где требуется учитывать динамические изменения в сценарии, модель решила 60% задач, что также впечатляет, учитывая дополнительные когнитивные требования.
Особенно примечательной оказалась способность ChatGPT-4 адаптировать свои ответы в зависимости от контекста. В контрольных сценариях истинных убеждений, где персонаж знал о реальном положении дел, модель корректно предсказывала отсутствие ложных убеждений. Это указывает на то, что модель не просто полагается на шаблоны, а действительно способна к динамическому рассуждению на основе повествования.
Для дополнительной проверки Косински провёл пословный анализ, предоставляя моделям сценарии по одному предложению за раз. Этот подход позволил увидеть, как модели обновляют свои предсказания по мере поступления новой информации. ChatGPT-4 продемонстрировала способность динамически отслеживать изменения в знаниях персонажа, что удивительно напоминает человеческий процесс рассуждения в подобных задачах.
Значение открытия
Открытие, что ИИ может демонстрировать способности, схожие с теорией разума, имеет далеко идущие последствия. Во-первых, это подтверждает, что современные языковые модели выходят за рамки простого предсказания слов, моделируя сложные психологические процессы. Как отметил Косински, язык — это не только грамматика и лексика, но и отражение эмоций, намерений и рассуждений. Таким образом, для успешного предсказания текста модель должна в какой-то степени "понимать" эти процессы.
Во-вторых, успех ChatGPT-4 в задачах на теорию разума подчёркивает экспоненциальный прогресс в развитии ИИ. Если всего несколько лет назад модели не могли справиться с такими задачами, то теперь они приближаются к уровню, ранее считавшемуся исключительно человеческим. Это поднимает вопрос: где предел возможностей ИИ?
Ограничения и критика
Несмотря на впечатляющие результаты, ChatGPT-4 не идеальна. Модель не справилась с 25% задач, что указывает на пробелы в её понимании. Некоторые ошибки могут быть связаны с тем, что модель полагается на шаблоны в данных, а не на истинное принятие перспективы. Хотя дизайн исследования минимизировал возможность использования запомненных ответов, полностью исключить влияние обучающих данных невозможно.
Критики могут возразить, что способности ИИ это всего лишь "сложное распознавание шаблонов", а не настоящая теория разума. Однако Косински предлагает интересный контраргумент: человеческая способность к теории разума также основана на распознавании и экстраполяции шаблонов из "обучающих данных" нашего жизненного опыта. Это заставляет задуматься: где проходит грань между "простым" распознаванием шаблонов и подлинным интеллектом?
Будущее ИИ и теории разума
Результаты исследования открывают двери для дальнейших изысканий. Например, можно ли обучить ИИ справляться с более сложными сценариями, включающими нескольких персонажей или конфликтующие убеждения? Как развиваются эти способности по мере увеличения разнообразия и сложности обучающих данных? И главное, каковы механизмы, лежащие в основе этих новых возможностей?
Более того, успехи ИИ в теории разума поднимают этические и философские вопросы. Если ИИ может моделировать человеческие психические состояния, может ли он развить нечто, похожее на сознание? Косински задаётся вопросом: "Станет ли ИИ когда-нибудь сознательным, и как это может выглядеть?" Ещё более интригующий вопрос — что произойдёт, если ИИ начнёт превосходить человеческие способности, обладая навыками, которые мы даже не можем полностью осмыслить.
Психология и ИИ: Новая эра
Косински подчёркивает, что психология как наука находится в уникальном положении для изучения этих новых возможностей ИИ. Понимание того, как ИИ моделирует человеческие когнитивные процессы, может не только улучшить разработку ИИ, но и углубить наше понимание человеческого разума. Например, изучение того, как ИИ справляется с задачами на теорию разума, может пролить свет на то, как эта способность развивается у людей.
Кроме того, психология может помочь в разработке более безопасных и этичных систем ИИ. Если ИИ способен моделировать человеческие эмоции, намерения и убеждения, это открывает возможности для манипуляции или непреднамеренного причинения вреда. Разработка механизмов контроля и этических стандартов становится критически важной задачей.
Заключение
Исследование Майкла Косински не просто научный прорыв, но и момент, заставляющий задуматься о природе интеллекта, как человеческого, так и искусственного. Способность ChatGPT-4 решать задачи на теорию разума на уровне шестилетнего ребёнка демонстрирует, что ИИ уже вышел за рамки простых языковых инструментов. Он начинает моделировать сложные психологические процессы, которые ранее считались исключительно человеческими.
Однако этот прогресс сопровождается вызовами. Как мы будем контролировать системы, чьи способности могут превзойти наши собственные? Как мы определим, где заканчивается "распознавание шаблонов" и начинается настоящий интеллект? И, наконец, готовы ли мы к миру, где ИИ может не только понимать нас, но и влиять на нас способами, которые мы пока не можем предсказать?
Эти вопросы требуют дальнейших исследований, междисциплинарного сотрудничества и общественного диалога. Одно ясно: мы стоим на пороге новой эры, где границы между человеческим и искусственным разумом становятся всё более размытыми. ИИ уже не просто инструмент, это зеркало, отражающее наши собственные когнитивные процессы, и, возможно, ключ к пониманию того, что делает нас людьми.
#ИсследованияИИ #ЭтикаНейросетей #КиберпанкИскусство #ПоведениеИИ #БезопасностьТехнологий #РазумИИ
В общем всем нам еще работать и работать! А пока подписыайтесь на канал,
пишите комментарии и поддерживайте автора, ему это надо!