Ежедневно нейросети Google выдают свыше 1 миллиона некорректных ответов. Основная причина — функция AI Overviews, предназначенная для краткого резюмирования поисковых запросов. Модели формируют ответы на основе вероятностного подбора слов, а не фактической информации. Часто источниками становятся сомнительные обсуждения на Reddit или шутки, принимаемые за правду. • Примером подобной ошибки стал совет добавлять клей в пиццу для лучшего сцепления сыра. Компания работает над улучшением Gemini, однако проблема сохраняется. https://dzen.ru/id/5c0e38ff46ef5c00aaa80527
Google AI генерирует более миллиона ошибок в день
Ежедневно нейросети Google выдают свыше 1 миллиона некорректных ответов. Основная причина — функция AI Overviews, предназначенная для краткого резюмирования поисковых запросов.
Модели формируют ответы на основе вероятностного подбора слов, а не фактической информации. Часто источниками становятся сомнительные обсуждения на Reddit или шутки, принимаемые за правду.
• Примером подобной ошибки стал совет добавлять клей в пиццу для лучшего сцепления сыра.
Компания работает над улучшением Gemini, однако проблема сохраняется.
https://dzen.ru/id/5c0e38ff46ef5c00aaa80527
