Google удалила отображение результатов «Обзоров ИИ» для ряда медицинских и оздоровительных запросов после сообщений пользователей о неточностях. Отключение функции последовало за критикой The Guardian и TechCrunch по поводу распространения недостоверной информации в ответах ИИ.
Google удалил результаты функции «Обзоры ИИ» (AI Overviews) для некоторых запросов, связанных с медициной или здоровьем.
Недавно в издании The Guardian был опубликован материал, в котором высказывались опасения по поводу предполагаемых «неточностей» в ответах, которые предоставляет функция «Обзоры ИИ» от Google при генерации резюме результатов или ответов.
Как сообщает TechCrunch, компания Google теперь отключила функцию «Обзоры ИИ» при поиске по определённым медицинским вопросам в поисковой системе после того, как её раскритиковали за предоставление недостоверной информации.
В ходе тестирования, проведённого TechCrunch, функция «Обзоры ИИ» для указанных запросов больше не отображалась, и система начала направлять пользователей к результатам поиска, проиндексированным поисковой машиной в интернете.
В докладе утверждается, что этот шаг связан с недавним фиаско, в которое оказалась вовлечена The Guardian, недавно сообщившая о том, что «Обзоры ИИ» якобы распространяли дезинформацию среди пользователей.
В Google заявили, что не комментируют конкретные случаи удаления контента из функции «Обзоры ИИ», но компания время от времени вносит «широкие улучшения» в этот инструмент.
Согласно отчёту The Guardian, проблема, обнаруженная в «Обзорах ИИ» Google, заключалась в том, как система отвечала на запрос о нормах показателей печёночных анализов крови. В материале говорилось, что был задан вопрос: «каков нормальный диапазон для печёночных анализов крови».
В ответ The Guardian получила данные, которые не учитывали важные факторы, включая возраст, этническую принадлежность, национальность или пол.
Эти факторы имеют значение для определения нормальных диапазонов показателей печёночных анализов, поскольку они варьируются в зависимости от возрастной группы, национальности и других параметров.
The Guardian отметила, что при использовании вариаций запросов, таких как «lft reference range» или «lft test reference range», по-прежнему можно получить результат из «Обзоров ИИ».
Однако, согласно тестированию TechCrunch, использование тех же самых запросов больше не приводит к тому, что «Обзоры ИИ» выдают краткое резюме ответа, хотя Google по-прежнему предлагает выполнить поиск с помощью ИИ-режима.
С момента внедрения «Обзоров ИИ» Google сталкивается с многочисленными проблемами, о которых сообщают пользователи, касающимися неточностей и дезинформации, что привело к ряду трудностей для этой функции с момента её запуска в 2024 году.
Это вынуждало Google временно отключать функцию, которая затем возвращалась спустя некоторое время. Так продолжалось до тех пор, пока «Обзоры ИИ» не стали постоянной функцией Поиска.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Isaiah Richard