Искусственный интеллект Google рискует безопасностью пользователей в медицинских ответах
Компания Google подвергается критике за выдачу медицинской информации сгенерированным ИИ без явных предупреждений. Исследователи отмечают, что пользователи не видят дисклеймеров при первом показе ответов, а предупреждение появляется только при нажатии кнопки «Показать больше» и написано мелким шрифтом. Согласно The Guardian, текст уведомления указывает: «Это только для информационных целей. За медицинской консультацией обращайтесь к профессионалу».
Риски и эксперты
Пэт Патаранутапорн из Массачусетского технологического института подчеркнул, что отсутствие предупреждений может быть опасным, поскольку даже самые продвинутые модели ИИ иногда выдают неверную или вводящую в заблуждение информацию. Пользователи могут неправильно задать вопросы и оценить симптомы, что повышает риск.
Идеи по улучшению
Джина Нефф из Лондонского университета королевы Марии и Сонали Шарма из Стэнфорда отмечают, что дизайн системы ориентирован на скорость, а не на точность, и обзоры ИИ выглядят как готовый ответ, создавая ложное чувство уверенности. Том Бишоп из благотворительной организации по борьбе с раком крови предложил разместить предупреждение в верхней части страницы, с тем же шрифтом, что и основной текст, чтобы побуждать пользователей проверять данные у врача.
Больше новостей и эксклюзивных видео смотрите в канале Самара Онлайн 24 в MAX.
Читайте также: