«Яндекс» объяснил, как борется с «галлюцинациями» нейросетей на примере «свиных крылышек»
Проблема "галлюцинаций" нейросетей - генерации ими неправдоподобной информации - постепенно решается, заявил в эфире Радио РБК Дмитрий Масюк, руководитель направления ИИ в "Яндексе". По его словам, такие ошибки сокращаются кратно каждый год, хотя стопроцентной точности добиться невозможно.
В качестве примера он привёл запрос о "свиных крылышках" - вымышленном блюде, рецепты которого тем не менее могут выдавать нейросети. Масюк пояснил, что "Алиса" в таких случаях не сочиняет ответ сама, а находит и цитирует уже существующие в сети некорректные статьи.
"Это её не извиняет... но, тем не менее, она ссылается на существующие источники",
- отметил топ-менеджер.
Для минимизации подобных ошибок в "Яндексе" используют систему дообучения моделей, "наказывая" их за выдумки и мотивируя опираться на проверенные данные.
Уважаемые читатели "Царьграда"!
Присоединяйтесь к нам в соцсетях "ВКонтакте" и "Одноклассники", также подписывайтесь на наш телеграм-канал.
Если вам есть чем поделиться с редакцией "Царьград. Беларусь", присылайте свои наблюдения, вопросы, новости на электронную почту belorussia@Tsargrad.TV.