Компания Google удалила ряд своих медицинских обзоров, созданных искусственным интеллектом (ИИ), из-за содержащейся в них ложной информации, которая подвергала потенциальному риску здоровье людей. Об этом 11 января сообщила британская газета The Guardian.
Уточняется, что, как показало расследование издания, нейросеть AI Overviews предоставляла неточную или ложную информацию при запросе результатов анализов крови. Отмечалось, что ИИ называл нормой показатели, которые на самом деле таковыми не являлись.
Как отмечает издание, поверившие ИИ тяжелобольные пациенты могли ошибочно решить, что у них всё в порядке со здоровьем и не пройти медицинское обследование.
Ранее компания xAI, которая принадлежит американскому предпринимателю Илону Маску, опубликовала в поисковой системе Google расшифровки сотен тысяч чатов пользователей с ботом Grok, не предупредив юзеров. Доступными стали не только нейтральные сообщения, но и данные людей, их пароли, медицинская информация и загруженные в бот документы и фотографии. В поисковике Google зафиксированы свыше 370 тыс. таких разговоров.
В сентябре на Восточном экономическом форуме во Владивостоке прошла дискуссия о социальном воздействии ИИ на человека, где эксперты обсудили необходимость ответственного регулирования этой технологии. Участники выделили ключевые риски, включая предвзятость алгоритмов, распространение фейков и проблемы кибербезопасности, подчеркнув важность прозрачности и контроля.
Еще больше информации в канале «Регнум» в мессенджере МАХ.