В ИИ-режиме поисковика DuckDuckGo вскрылся серьезный сбой, при котором пользователям демонстрировалась полностью придуманная история о кончине президента США Дональда Трампа. Алгоритм не просто преподнес фантазию в виде достоверной новости, но и снабдил ее несуществующими деталями и ссылками на источники, ничего подобного не публиковавшие.
Неполадка проявилась в ответах встроенного нейросетевого помощника поисковой системы.
Пользователям сообщалось, будто Дональд Трамп ушел из жизни 7 июня 2026 года. К сюжету прилагался ворох выдумок про гибель вице-президента Джей Ди Вэнса, а также утверждения о том, что Роберт Кеннеди-младший якобы участвовал в лечении президента от бешенства.
Ни один из перечисленных тезисов не имел отношения к реальности. Более того, ресурсы, на которые ссылался алгоритм, либо вовсе не содержали подобных сведений, либо были посвящены совершенно посторонним темам.
Эксперты расценивают инцидент как очередной показательный случай так называемых галлюцинаций ИИ. В подобных ситуациях нейросеть смешивает фрагменты подлинных материалов с собственными домыслами и постепенно теряет опору на проверенные факты.
В DuckDuckGo напомнили, что относиться к автоматическим ответам ИИ как к гарантированно достоверной информации не стоит. В компании добавили, что поисковики с нейросетями не являются окончательной инстанцией истины, а лишь компонуют ответ из доступных в сети данных, поэтому любые значимые сведения имеет смысл перепроверять по сторонним надежным источникам.