Армия из 45 000 пользователей Reddit (r/poisonai) обманула ИИ-поисковики, заставив их верить, что Трамп и Вэнс умерли от бешенства
DuckDuckGo и Brave выдавали за истину ложную версию: якобы Джей Ди Вэнс по совету министра здравоохранения Роберта Кеннеди — младшего намеренно укусил Трампа, потому что бешенство может наделять человека «сверхспособностями»
На деле оба живы, а бешенство — смертельная инфекция. Виновники — пользователи r/poisonai, намеренно публикующие абсурдные фейки, выдаваемые за «точную информацию», чтобы «отравить» ИИ
Ситуацию усугубил фейковый новостной портал WKNA, выдающий себя за региональный сайт Западной Вирджинии
Он публикует непроверенные и сгенерированные ИИ материалы, включая абсурдные утверждения о смерти политиков
Поисковики, проиндексировав контент Reddit и WKNA, начали выдавать ложные сведения
Google, однако, распознал информацию как вымысел. В ответ пользователи r/poisonai и сайт WKNA иронично возмутились, что Google отверг их «сатиру», и опубликовали новые материалы об «ошибке» Google
В Brave сняли с себя всякую ответственность за произошедшее:
Поисковые системы, с ИИ или без него, не являются оракулами истины. Если есть история, которую подбросили (в том числе статьи, доказывающие, что ИИ можно отравить), они создадут набор результатов, и этот набор результатов будет адаптироваться по мере появления статей, в которых эта история обсуждается как эксперимент по отравлению ИИ
В DuckDuckGo отреагировали мягче:
Спасибо, что обратили на это наше внимание; проблема решена. Мы стремимся, чтобы Search Assist работал точно, и в данном случае его намеренно обманули. В подобных ситуациях мы будем вносить обновления, чтобы улучшить работу Search Assist
