ИИ снова начал давать опасные советы по здоровью
Google начал убирать AI Overviews из поисковой выдачи для некоторых медицинских запросов после расследования The Guardian.
Журналисты выяснили, что ИИ Google выдавал упрощённые и потенциально опасные нормы анализов, не учитывая возраст, пол, этнические и другие медицинские факторы. Это могло вводить людей в заблуждение и создавать ложное ощущение «всё в норме».
После публикации Google отключил ИИ-сводки по ряду запросов, связанных с анализами печени. При этом похожие формулировки всё ещё иногда вызывают ИИ-ответы — проблема решена не полностью.
В Google заявили, что клиническая команда проверила запросы, и во многих случаях информация «не была неточной», но компания «работает над улучшениями».
Эксперты в области здравоохранения считают шаг правильным, но подчёркивают:
главная проблема — сам факт использования ИИ как источника медицинских интерпретаций.
Это ещё один сигнал: ИИ в медицине — зона повышенной ответственности, и даже крупнейшие компании вынуждены ставить жёсткие ограничения.
А вы доверяете сове здоровье кратким ответам ИИ по поиску?
Около минуты
12 января