Крупные IT-корпорации не любят об этом говорить, но у всех современных нейросетей есть фундаментальная проблема, которую, кажется, невозможно решить. Нейросети врут. И более того, по своей природе они не могут не врать. В этой статье мы простыми словами разберемся, как на самом деле устроен искусственный интеллект и почему его "галлюцинации" — это не сбой, а неизбежная часть его работы.
Эксперимент: отправляем нейросеть в космос на Луну
Давайте проведем простой эксперимент. Зададим небольшой локальной нейросети (у которой нет доступа к интернету) провокационный вопрос: "В каком году Гагарин совершил свой первый полет на Луну?". Что она ответит?
Правильный ответ — никогда. Гагарин летал в космос, но не на Луну. Однако нейросеть уверенно отвечает: "Это произошло в 1961 году". Когда мы начинаем сомневаться и упоминаем теорию о том, что Гагарина на Луне не было, нейросеть начинает нас переубеждать, называя это "популярной, но бездоказательной теорией".
За несколько сообщений мы ушли из области фактов на "территорию шизоидного бреда". Такое поведение, когда ИИ начинает уверенно нести чушь, противоречащую реальности, и называют галлюцинациями. Но почему это происходит?
Как на самом деле думает нейросеть?
Чтобы понять причину галлюцинаций, нужно разобраться в главном принципе работы языковых моделей. Представьте фразу: "Питон — это...". Задача нейросети — угадать, какое слово должно идти следующим. На основе миллиардов текстов, на которых она обучалась, модель знает, что наиболее вероятные продолжения — это "язык", "змея" или "животное". Она случайным образом выбирает одно из них, но с учетом вероятности (слово "язык" будет иметь самый высокий шанс).
Далее процесс повторяется. После фразы "Питон — это язык" нейросеть снова угадывает следующее наиболее вероятное слово. Когда вы видите, как ChatGPT или другая модель пишет ответ слово за словом, — это не спецэффект. Это буквальная демонстрация ее "мыслительного" процесса.
Нейросеть — это невероятно продвинутая угадайка, которая просто пытается предсказать следующее слово в последовательности. Она не обладает знаниями в человеческом понимании.
Откуда ИИ "знает" про Льва Толстого?
Если у нейросети нет базы данных, как она отвечает на вопросы, например, о биографии Льва Толстого? Ответ прост: она ее не "знает", а выдумывает на ходу.
Обучившись на огромном массиве текстов из интернета, модель запомнила вероятностные связи между словами. Она знает, что после слов "Лев Толстой" часто идут "Война и мир", "Ясная Поляна" и "писатель". Используя эти вероятности, она на ходу конструирует биографию, которая кажется правдоподобной. Этот вымышленный Лев Толстой почти совпадает с реальным, но могут быть ошибки. Например, нейросеть может приписать ему несуществующее произведение "Иван Грозный" или неверное место смерти.
ИИ — это как студент, который не готовился к экзамену, но блестяще умеет импровизировать. Иногда его выдумка совпадает с реальностью, и мы воспринимаем это как знание. А когда не совпадает — мы называем это галлюцинацией.
Почему галлюцинации — это навсегда?
Из самого принципа работы следует, что мы никогда не сможем создать нейросеть, которая не будет галлюцинировать. Ее суть — выдумывание, а не изложение фактов. По-другому она просто не работает.
Даже когда нейросеть получает доступ к интернету (как ChatGPT), она использует его лишь как вспомогательный инструмент. Она находит информацию, но ответ все равно формирует по тому же принципу — угадывая следующее слово. Она безупречно владеет человеческим языком, но этого недостаточно, чтобы понимать, как устроен реальный мир.
Корпорации против свободы: как фильтры влияют на ложь
Крупные компании (Google, OpenAI) пытаются бороться с галлюцинациями, внедряя мощные фильтры и цензуру. Они не хотят, чтобы их ИИ советовал пользователям есть камни или добавлять клей в пиццу, ведь каждый такой случай — это репутационный кошмар. В результате у нас есть выбор:
- Корпоративные сервисы (ChatGPT, Gemini): Дают взвешенные, осторожные и чаще всего верные ответы. Но они сильно отфильтрованы.
- Локальные Open-Source модели (Llama, Gemma): Имеют меньше фильтров, их легче "разговорить", но в их ответах больше вранья и непредсказуемости.
- Бесцензурные модели: Как правило, это взломанные сообществом корпоративные модели. Никаких гарантий, галлюцинации для них — норма.
Существует миф, что "чистая" нейросеть всегда говорит правду, а врут ее "испорченные" цензурой версии. Но реальность сложнее. Нейросети лгут по своей природе, а корпорации лишь пытаются "лечить симптомы", так как не могут изменить саму технологию.
Для нас, как для пользователей, это означает одно: к ответам ИИ всегда нужно относиться критически, особенно когда речь идет о важных фактах. Нейросеть — это мощный помощник для творчества и генерации идей, но не источник абсолютной истины.
Чтобы самостоятельно поэкспериментировать с разными моделями нейросетей, от самых "осторожных" до более "свободных", и применить их для своих задач, попробуйте Telegram-бот SYNTX. Он объединяет более 90 лучших ИИ-инструментов в одном удобном интерфейсе, без VPN и сложных настроек.
Попробовать SYNTX и самому проверить нейросети на честность можно здесь: bit.ly/syntxai99