The Guardian: Google подвергает своих пользователей риску. Как?

Британское издание The Guardian утверждает, что Google подвергает людей риску причинения вреда, не выводя на первый план предупреждения о безопасности, связанные с медицинскими рекомендациями, созданными ИИ, которые могут быть ошибочными. Компания не включает предупреждающий о рисках текст при первом показе медицинских рекомендаций от ИИ.

Google заявляет, что при ответе на запросы по деликатным темам, таким как здоровье, ее обзоры на основе искусственного интеллекта, которые отображаются над результатами поиска, побуждают пользователей обращаться за профессиональной помощью, а не полагаться исключительно на их краткие описания.

Однако издание The Guardian выяснило, что Google выдает предупреждение только в том случае, если пользователи запрашивают дополнительную информацию о здоровье и нажимают кнопку «Показать больше». Даже в этом случае предупреждения появляются только под всеми дополнительными медицинскими рекомендациями, собранными с помощью генеративного ИИ, и выделены более мелким и светлым шрифтом.

Эксперты по ИИ и защитники прав пациентов, ознакомившиеся с результатами исследования Guardian, выразили обеспокоенность. По их словам, предупреждения играют важную роль и должны быть заметны при первом предоставлении пользователям медицинских рекомендаций.

«Отсутствие оговорок при первоначальном предоставлении пользователям медицинской информации создает ряд серьезных опасностей», — заявила Пэт Патаранутапорн, доцент, технолог и исследователь Массачусетского технологического института (MIT) и всемирно известный эксперт в области ИИ и взаимодействия человека с компьютером.

«Во-первых, даже самые передовые модели ИИ сегодня по-прежнему генерируют ложную информацию или демонстрируют подобострастное поведение, ставя удовлетворение пользователя выше точности. В контексте здравоохранения это может быть действительно опасно. Во-вторых, проблема заключается не только в ограничениях ИИ, но и в человеческом факторе. Пользователи могут не предоставлять всю необходимую информацию или задавать неверные вопросы, неправильно оценивая свои симптомы», — пояснила специалист.

Есть о чем рассказать? Пишите в наш телеграм-бот. Это анонимно и быстро