ChatGPT, одна из самых популярных ИИ-систем в мире, начала всё чаще выдавать неточные или вымышленные ответы. И самое тревожное: создатели из OpenAI пока не могут объяснить, почему это происходит. Об этом сообщает немецкое издание WinFuture со ссылкой на внутренние исследования компании.
Что такое "галлюцинации" у искусственного интеллекта
Когда мы говорим, что ChatGPT "галлюцинирует", речь идёт не о сбоях или зависаниях. Это особый тип ошибки, при котором ИИ выдаёт информацию, которая звучит логично, но не соответствует действительности. Например, придумывает факты, подменяет термины, называет несуществующие даты или приводит вымышленные цитаты.
Если раньше такие ошибки были редкостью, то сейчас — по словам самих разработчиков — они стали системными и часто возникают в задачах, где требуется логика, анализ и цепочка рассуждений.
Цифры, которые настораживают
Во время внутренних тестов модели GPT-3.5 и GPT-4 показали:
- до 79% ошибок в задачах на логическое мышление;
- максимальные сбои при выполнении многоступенчатых логических операций;
- уверенная, но ложная подача информации — так, что ошибка кажется правдой.
Именно это делает проблему особенно острой: пользователь может даже не заметить, что получает недостоверные данные.
Чем это опасно
Проблема выходит за рамки технологий. ChatGPT всё активнее используют в медицине, образовании, праве, бизнесе. Ошибка, допущенная ИИ, может повлиять на решения, от которых зависят деньги, здоровье или репутация.
Кроме того, растёт общее недоверие к ИИ. Если даже самые продвинутые модели не гарантируют точности, возникает вопрос: стоит ли им доверять в принципе?
OpenAI пока не знает, в чём причина
Компания OpenAI уже признала проблему, но пока не может объяснить, почему модели стали "галлюцинировать" чаще. Рассматриваются разные гипотезы:
- изменения в архитектуре и оптимизациях;
- рост объёма обучающей информации;
- влияние нестандартных запросов и перегрузки модели;
- возможные искажения в обучающих данных.
Но точного ответа пока нет. Исследования продолжаются.
Что дальше
OpenAI обещает доработать архитектуру будущих версий и сделать ИИ более точным. Также разрабатываются инструменты для оценки достоверности и проверки фактов в ответах ChatGPT.
А пока пользователям советуют относиться к любому ответу критически — особенно если он связан с важными темами. Проверяйте информацию, не принимайте всё на веру и помните: даже умный ИИ может ошибаться.