В OpenAI объяснили, почему ChatGPT всегда будет галлюцинировать
Новое исследование OpenAI раскрывает истинную природу галлюцинаций больших языковых моделей: это не временный недостаток, а неизбежная математическая проблема, сохраняющаяся даже при идеальных данных и сложных методах обучения. Хотя технически возможно снизить количество ошибок, позволив ИИ оценивать собственную уверенность и воздерживаться от ответа в случае сомнений, такое решение экономически невыгодно и непрактично. Пользователи не готовы мириться с ИИ, который постоянно говорит «не знаю». Так что в обозримом будущем галлюцинации, вероятно, останутся неотъемлемой чертой языковых моделей.
https://hightech.plus/2025/09/16/v-openai-obyasnili-pochemu-chatgpt-vsegda-budet-gallyucinirovat
