Компания Google удалила часть генерируемых искусственным интеллектом ответов (AI Overviews) после расследования издания The Guardian, которое выявило, что они содержат ошибки в медицинской информации.
Об этом сообщает The Guardian.
Одним из самых опасных разобранных в расследовании примеров была неточная информация по запросу «какой нормальный диапазон для анализов крови на печень». ИИ предоставлял пользователям лишь набор чисел без контекста и без учета возраста, пола, национальности и других индивидуальных факторов.
В результате Google отключил функцию кратких ИИ-сводок для ряда медицинских запросов, включая темы здоровья печени, онкологии и психического здоровья. Однако проблема решена лишь частично: при вводе запросов-синонимов, например, «референтный диапазон теста ЛФТ», сводки могут появляться снова.
В официальном комментарии представитель компании сказал: «Мы не комментируем отдельные случаи удаления в поиске. В случаях, когда ИИ-сводкам не хватает некоторого контекста, мы работаем над внесением широких улучшений, а также принимаем меры в соответствии с нашей политикой, где это уместно».