Когда искусственный интеллект сбоит: Google Search и его "безумные" ответы
Все говорят об искусственном интеллекте, но функция AI Overview (Обзор ИИ) в Google Search вызывает всё больше вопросов, выдавая пользователям неверную и порой абсурдную информацию.
CNBC сообщает о вопиющем случае: на запрос "сколько мусульман было президентами США" AI Overview выдал ответ: "В США был один мусульманский президент — Барак Хусейн Обама". Стоит напомнить, что это не первый промах Google с ИИ. В феврале их генератор изображений по запросу показывал исторических личностей с нереалистично тёмной кожей, что вынудило компанию временно отключить функцию.
В чём проблема? AI Overview предлагает краткое изложение ответов на вопросы в Google Search, отображая его вверху страницы результатов. И некоторые из этих ответов могут быть не просто неверными, но и опасными.
Например, на запрос "сыр не липнет к пицце" ИИ посоветовал добавить в соус "примерно 1/8 стакана нетоксичного клея". Интернет-сыщики нашли источник этой "мудрости" — пост на Reddit 11-летней давности.
Ситуация усугубляется тем, что ответы часто приписываются авторитетным источникам, что создаёт иллюзию достоверности. Так, на вопрос "как долго можно смотреть на солнце для пользы здоровья", AI Overview, ссылаясь на WebMD, сообщил, что "учёные рекомендуют смотреть на солнце от 5 до 15 минут, а для людей с более тёмной кожей — до 30 минут". Сложно представить, что на самом деле думают об этом специалисты WebMD.
Ещё один пример: на вопрос "сколько камней нужно есть каждый день?" AI Overview, ссылаясь на геологов из Калифорнийского университета в Беркли, ответил: "Люди должны есть хотя бы один маленький камень в день".
Иронично, что на запрос о нарушении Google антимонопольного законодательства ИИ, вероятно, выдал ответ, который не обрадовал руководство компании: "Да, Министерство юстиции США и 11 штатов подали в суд на Google за нарушение антимонопольного законодательства".
В Google заявили CNBC: "Подавляющее большинство обзоров ИИ предоставляют высококачественную информацию со ссылками на более подробные сведения в Интернете. Многие из примеров, которые мы видели, были необычными запросами, а также мы видели примеры, которые были сфабрикованы или которые мы не смогли воспроизвести". Компания утверждает, что AI Overview прошёл "тщательное тестирование" перед запуском, и они принимают "быстрые меры там, где это уместно, в соответствии с нашей политикой в отношении контента".
Какой вывод? Если ответ AI Overview в Google Search кажется вам странным, доверьтесь здравому смыслу. Не добавляйте нетоксичный клей в еду, ни в коем случае не смотрите на солнце по 5-15 минут и не ешьте камни, даже если Google говорит обратное.
