Google скрывает предупреждения о рисках медицинских советов искусственного интеллекта

Google подвергает пользователей риску, занижая важность предупреждений о безопасности при использовании медицинских советов, созданных искусственным интеллектом. Компания утверждает, что ее AI Overviews, появляющиеся над результатами поиска, предлагают пользователям обращаться за профессиональной помощью, а не полагаться исключительно на сводки ИИ.

Однако расследование издания The Guardian показало, что Google не включает такие предупреждения, когда пользователи впервые получают медицинские советы. Компания выдает предостережение только в том случае, если пользователи запрашивают дополнительную информацию о здоровье и нажимают на кнопку «Показать больше». Даже тогда предупреждения о безопасности появляются ниже всех дополнительных медицинских советов, собранных с помощью генеративного ИИ, и напечатаны более мелким и светлым шрифтом.

«Это только в информационных целях. Для получения медицинской консультации или диагноза обратитесь к специалисту. Ответы ИИ могут содержать ошибки», — говорится в предупреждении, которое видят только те пользователи, кто решит узнать дополнительные подробности и дойдет до самого конца обзора AI Overview. Google не опровергла, что предупреждения отсутствуют при первоначальном предоставлении медицинских советов. Представитель компании заявил, что AI Overviews «призывают людей обращаться за профессиональной медицинской консультацией» и часто упоминают о необходимости обращения к врачу непосредственно в самой сводке, «когда это уместно».

Эксперты по искусственному интеллекту и защитники прав пациентов выразили обеспокоенность результатами расследования. Пэт Патаранутапорн, доцент и исследователь Массачусетского технологического института, отметил, что отсутствие предупреждений при первоначальном предоставлении медицинской информации создает несколько критических опасностей. Даже самые продвинутые модели ИИ сегодня все еще могут выдавать дезинформацию или демонстрировать подобострастное поведение, ставя удовлетворенность пользователя выше точности. В медицинских контекстах это может быть по-настоящему опасно.

Джина Нефф, профессор ответственного ИИ из Лондонского университета королевы Марии, заявила, что «проблема с плохими AI Overviews заложена в их дизайне», и в этом виновата Google. AI Overviews разработаны для скорости, а не точности, что приводит к ошибкам в медицинской информации, которые могут быть опасными. В январе 2026 года расследование The Guardian выявило, что люди подвергаются риску из-за ложной и вводящей в заблуждение медицинской информации в Google AI Overviews. После публикации материала Google удалила AI Overviews для некоторых, но не для всех медицинских запросов.

Оригинал на MiraNews.ru

Самое читаемое сегодня:

Путин элегантно обошел ловушку репортера и вызвал восторг у китайских зрителей

Немецкому ледоколу грозит зимовка в Арктике без помощи российских атомоходов

Турки обсуждают привычки россиян и узнают их по поведению на пляже и рынке

В столице успешно прошли показы фестиваля, где Лещенко получил свой гран-при

Земля стремительно идет к катастрофе: ученые предупреждают о точке невозврата