Канадский скрипач Эшли МакАйзек столкнулся с серьёзными последствиями из-за ошибки сервиса генерации кратких ответов на запросы пользователей Google AI Overview. Организаторы концерта отменили его выступление, ошибочно посчитав музыканта осуждённым преступником.
Случай произошёл в общине коренного народа Сипекне’катик возле Галифакса, где МакАйзек планировал провести концерт. Выяснилось, что Google AI Overview перепутал биографию МакАйзека с другим мужчиной с той же фамилией, жителем Ньюфаундленда и Лабрадора, который имел судимости.
МакАйзек выразил обеспокоенность возможной потерей работы и ограничениями на будущие концерты, включая въезд в США. Эксперты предупреждают, что такие ошибки ИИ воспринимаются пользователями как авторитетные сведения, что увеличивает риск для потерпевших.
Google исправил результаты поиска, но осадок у мужчины остался. Представители общины Сипекне’катик выразили сожаление за причинённый вред, а профессор Университета Макмастера подчеркнул, что случай наглядно показывает недостатки ИИ и необходимость внимательной проверки генерируемой информации.