ИИ-обзоры Google были анонсированы пару недель назад на Google I/O, и они уже успели стать довольно противоречивыми. Их цель - предоставить высококачественные ответы на ваши вопросы, обобщенные в Интернете, но серия недавних сообщений в X (бывший Twitter) показывает, насколько неудачной она уже оказалась.
Ответ, получивший широкую огласку, касается весьма сомнительного рецепта пиццы. Как сообщается, когда Google запрашивает ответ на вопрос "сыр не прилипает к пицце", ИИ-обзор предлагает добавить в пиццу нетоксичный клей, чтобы сыр не соскальзывал. В обзоре ИИ говорится следующее: "Вы также можете добавить около 1/8 чашки нетоксичного клея в соус, чтобы придать ему больше липкости". Откуда ИИ-обзор Google взял эту информацию в качестве источника? Комментарий 11-летней давности на Reddit из этой темы, который явно был шуткой.
https://t.co/W09ssjvOkJ pic.twitter.com/6ALCbz6EjK
— SG-r01 (@heavenrend) 22 мая 2024 г.
Получите Microsoft Office для Windows/Mac за 25 долларов
Слова "сыр не прилипает к пицце" вызвали такой неожиданный и забавный ответ, и интернету стало весело от этого. Ответ Google AI Overview с тех пор стал вирусным, а кто-то даже попробовал приклеить пиццу только для того, чтобы убедиться в этом.
Следует отметить, что мы наблюдаем массовое увеличение количества сообщений с Reddit и форумов, которые появляются в поисковой выдаче Google. Стоит также отметить, что недавно Reddit заключил сделку на 60 миллионов долларов, чтобы позволить Google тренировать свои модели на контенте Reddit. Нетрудно догадаться, как это могло произойти.
Однако дело не только в Reddit. В сети появился еще один ИИ-обзор с ответом на вопрос "сколько камней я должен съедать каждый день", в котором информация взята прямо из The Onion.
pic.twitter.com/FGbvO923gk
— Tim Onion (@oneunderscore__) 23 мая 2024 г.
Отчасти проблема заключается в абсолютной убежденности, с которой AI Overviews дает свои ответы. Он не предлагает ссылку на статью Onion и не позволяет вам решать. Вместо этого он обращается с каждым источником, как с Википедией, и предоставляет информацию с полной уверенностью.
Google утверждает, что ее ИИ-обзоры предоставляют пользователям высококачественную информацию и что подобные ошибки встречаются редко. Вот официальный ответ Google, предоставленный Digital Trends: «Подавляющее большинство обзоров ИИ предоставляют высококачественную информацию со ссылками, позволяющими углубиться в интернет. Многие из примеров, которые мы видели, были нестандартными запросами, а также мы видели примеры, которые были подделаны или которые мы не смогли воспроизвести. Мы провели обширное тестирование, прежде чем запустить этот новый опыт, и, как и в случае с другими функциями, которые мы запустили в Search, мы ценим отзывы. Мы принимаем оперативные меры в соответствии с нашей политикой в отношении контента и используем эти примеры для разработки более широких улучшений в наших системах, некоторые из которых уже начали внедряться».
Похоже, что некоторые из этих обзоров ИИ будет трудно исправить, если их нельзя будет воспроизвести. Решением проблемы должны стать «более широкие улучшения», и поскольку Google утверждает, что они уже в работе, надеемся, что скоро мы увидим более качественный поиск. Нам предстоит увидеть, как Google отреагирует на ситуацию дальше, чем это заявление. Получив негативные отзывы о генерации изображений в Gemini в начале этого года, Google пришлось принести извинения и отменить его, чтобы исправить проблемы.
Пока что это хорошее напоминание о том, как осторожно нужно относиться к информации, которую можно получить с помощью систем искусственного интеллекта. Google AI Overview начал распространяться на всех жителей США в начале этого месяца, а в скором времени появится и в других странах. Но с такими ответами, как этот, возможно, больше людей будут искать способ отключить его, чем ожидает Google.
Если вам понравилась эта статья, подпишитесь на нее, чтобы не пропустить новые полезные статьи!
Вы также можете читать меня в:
- Telegram: https://t.me/gergenshin
- Яндекс Дзен: https://dzen.ru/gergen
- Официальный сайт: https://www-genshin.ru