Добавьте клей в пиццу и ешьте камни
Помните, как пользователь попросил ChatGPT придумать рецепт, и нейросеть уверенно предложила блюдо из свиных крылышек?
➡️ В мае 2024 Google шагнул дальше, запустив революционную функцию — ИИ-ответы в поиске. Через несколько дней система начала рекомендовать
добавлять клей в соус для пиццы, чтобы сыр не скользил и есть не менее одного камня в день для получения витаминов
Как это произошло?
ИИ-система:
— Доверилась шутке 11-летней давности с Reddit про клей в пицце
— Восприняла сатирическую статью The Onion про питание камнями как научный факт
— Не проверяла достоверность источников перед генерацией ответов
Исправимо ли это?
Google уже:
— Ограничил использование юмористического контента
— Улучшил фильтрацию бессмысленных запросов
— Но проблема фундаментальна, ИИ не отличает правду от вымысла и до сих пор плохо распознает юмор
#ИИ #Google #Технологии #Факап #ai #Нейросети #Безопасность #факапыии #дизайникосмос
