Google начала отключать AI Overviews для отдельных медицинских поисковых запросов после публикации расследования, в котором эксперты назвали ответы системы «опасными» и «вызывающими тревогу». Речь идёт о случаях, когда автоматические обзоры выдавали вводящую в заблуждение или откровенно неверную медицинскую информацию.
Ещё по теме:
Поводом стало расследование, опубликованное в начале января, где были приведены конкретные примеры некорректных рекомендаций. В одном из них система советовала людям с раком поджелудочной железы избегать жирной пищи. Специалисты указали, что такая рекомендация прямо противоположна клиническим подходам и может повысить риск летального исхода для пациентов. В другом случае AI Overviews предоставляли ложные сведения о ключевых анализах функции печени, из-за чего люди с серьёзными заболеваниями могли ошибочно считать себя здоровыми.
⚡Подписывайтесь на канал itzine и канал подкаста ForGeeks в Telegram! Там самые свежие новости про технологии, гаджеты и космос.
Какие запросы остались без AI-ответов
По состоянию на утро 11 января AI-обзоры были полностью отключены для ряда медицинских вопросов, включая запросы вроде «каков нормальный диапазон показателей печёночных анализов крови». Вместо автоматически сгенерированных резюме пользователям теперь показываются обычные результаты поиска.
👉 Читайте также наши материалы на itzine.ru
Компания не стала комментировать конкретные случаи удаления AI-обзоров. При этом представитель Google заявил, что в развитие и контроль качества AI Overviews, особенно в области здоровья, инвестируются значительные ресурсы. По его словам, внутренняя команда клиницистов проанализировала примеры, переданные журналистами, и в ряде случаев пришла к выводу, что информация не была неточной и опиралась на авторитетные источники. В ситуациях, где системе не хватало контекста, Google вносит общие улучшения и применяет внутренние правила модерации.
Очередной скандал вокруг AI Overviews
Это не первый раз, когда AI Overviews оказываются в центре критики. Ранее функция уже давала абсурдные и потенциально опасные советы, включая рекомендации добавлять клей в еду или употреблять несъедобные вещества. Кроме того, автоматические обзоры стали предметом нескольких судебных исков.
Ситуация с медицинскими запросами подчёркивает сложность применения генеративного ИИ в чувствительных областях, где ошибки могут иметь прямые последствия для здоровья людей. Временное отключение AI-обзоров для части запросов показывает, что Google вынуждена пересматривать границы использования технологии, несмотря на её активное продвижение в поиске.
Источник: Google отключила AI-обзоры для части медицинских запросов