Концерт скрипача отменили из-за ошибки ИИ Google В Канаде концерт скрипача Эшли Макисаака отменили после того, как ИИ-сводка в поиске Google ошибочно приписала ему судимость и сексуализированное насилие.
Позже выяснилось, что система спутала музыканта с другим человеком.
Поводом стала функция AI Overviews — автоматически сгенерированное резюме, которое показывается над ссылками. Как писали The Globe and Mail и
канадские СМИ, организаторы выступления в общине Сипекне’катик в Новой Шотландии, увидев такую сводку, отменили концерт, намеченный на 19 декабря.
Макисаак утверждает, что текст в выдаче содержал ложные сведения о «судимости» и ряде тяжких преступлений, включая сексуализированное насилие. По его
словам, после этого он начал беспокоиться о личной безопасности: подобные обвинения могут спровоцировать агрессию со стороны людей, которые примут ИИ-ответ
за проверенный факт.
Позже, по сообщениям СМИ, стало понятно, откуда взялась ошибка: система связала биографию музыканта с публикациями о другом человеке с той
же фамилией. Это один из самых опасных типов сбоев генеративных систем — «слияние персон», когда совпадение имени или фамилии приводит
к переносу чужих фактов на конкретного человека.
Музыкант также опасается скрытых последствий: организаторы могли отказаться от сотрудничества, не вступая в объяснения, если ориентировались на результаты поиска. Для
индустрии выступлений это особенно болезненно: репутационные решения принимаются быстро, а исправление в выдаче не возвращает сорванные даты.
Google, комментируя подобные случаи, обычно отмечает, что AI Overviews формируются на основе материалов из сети и могут содержать неточности, а
примеры ошибок используются для улучшения системы. Но эта история показывает, что в формате «короткой сводки сверху» цена неточности растёт: пользователь
видит не набор источников, а готовый вывод, который воспринимается как справка.
ИЗНАНКА
Генеративный поиск меняет механику доверия: раньше репутацию ломали слухи и пересказы, теперь достаточно одного «уверенного» абзаца над всеми источниками —
и человеку приходится опровергать не факты, а сам интерфейс.
Фото: соцсети.
Читайте, ставьте лайки, следите за обновлениями в наших социальных сетях и присылайте материалы в редакцию.
ИЗНАНКА — другая сторона событий.
Читать на сайте: http://iznanka.news/articles/Interesnoe/Kontsert-skripacha-otmenili-iz-za-oshibki-II-Google.html