Представьте, что вы разговариваете с умным собеседником, который может ответить практически на любой вопрос. Но есть один нюанс – иногда он выдумывает несуществующие факты, причём делает это очень уверенно. Именно так ведут себя современные чат-боты на базе искусственного интеллекта (ИИ).
Когда ИИ начинает фантазировать
Учёные выяснили, что популярные чат-боты ошибаются в 30-90% случаев, когда дело касается научных источников. Они могут неправильно указать авторов статей, перепутать годы публикации или вообще сослаться на несуществующие исследования. В 2023 году произошёл показательный случай: американский адвокат использовал ChatGPT для подготовки документов в суд и попал в неприятную ситуацию – оказалось, что некоторые упомянутые судебные дела никогда не существовали.
Почему это происходит
Причина кроется в самом принципе работы искусственного интеллекта. Чат-боты не хранят факты как библиотека, а создают ответы на основе статистических закономерностей, которые они находят в данных для обучения. При этом они сжимают огромные объёмы информации, и часть данных неизбежно теряется или искажается.
Представьте, что вы пересказываете книгу, которую читали давно. Вы помните общий сюжет, но можете случайно добавить детали, которых там не было. Похожим образом работает и ИИ – он восстанавливает информацию из сжатых данных и иногда "додумывает" недостающие части.
Что делают для решения проблемы
1. Проверка фактов
Некоторые компании встраивают в чат-боты систему проверки информации через интернет. Например, Google Gemini может подсвечивать части ответа зелёным (проверено) или коричневым (спорно) цветом.
2. Самопроверка
Исследователи учат ИИ "сомневаться" в своих ответах. Если заставить бота подробно объяснять ход своих мыслей или отвечать на дополнительные вопросы, он становится более точным.
3. "Сканирование мозга" ИИ
Учёные научились отслеживать активность "нейронов" искусственного интеллекта и определять, когда он говорит правду, а когда фантазирует.
Как пользоваться ИИ безопасно
1. Не принимайте информацию от чат-ботов на веру, особенно когда речь идёт о важных фактах или решениях.
2. Для поиска конкретных фактов лучше использовать обычные поисковые системы – они работают по-другому и не склонны к выдумыванию.
3. Помните, что чат-боты особенно полезны для творческих задач, обсуждения идей и получения общего представления о теме, но не для точных фактов.
Что ждёт нас в будущем
Исследователи считают, что полностью избавиться от "фантазий" ИИ невозможно – это часть его природы. Но технологии постепенно улучшаются. Вероятно, в будущем появятся разные типы чат-ботов: одни будут строго придерживаться фактов, другие останутся более творческими собеседниками.
Главное – помнить, что искусственный интеллект, при всей своей полезности, это не всезнающий оракул, а инструмент, требующий осторожного и разумного использования.
Источник: https://www.nature.com/articles/d41586-025-00068-5