28,2 тыс подписчиков
🚨 ИИ ЧУТЬ НЕ УСТРОИЛ США ВОЕННЫЙ КОНФЛИКТ С КИТАЕМ: САМОЛЁТЫ УЖЕ БЫЛИ В ВОЗДУХЕ, А ПОТОМ ВЫЯСНИЛОСЬ, ЧТО ЧАТ-БОТ НАФАНТАЗИРОВАЛ
История, которая ещё недавно выглядела бы как сценарий очень ленивого фильма про восстание машин, произошла в американской военной разведке вполне реально. По данным CNN, весной, во время конфликта с Ираном, по военным каналам США разошёлся разведывательный отчёт: китайское судно в районе Ближнего Востока якобы перевозило компоненты, связанные с программой создания ядерного оружия.
Американские военные отреагировали максимально серьёзно. Началась подготовка к перехвату и досмотру китайского судна, вооружённые военнослужащие готовились подняться на борт, а военные самолёты, по данным источников CNN, уже находились в воздухе. То есть до международного скандала оставалось буквально несколько шагов.
И только непосредственно перед операцией кто-то наконец решил ещё раз внимательно посмотреть, откуда вообще взялась эта информация.
И тут выяснилось прекрасное: аналитик спецподразделения использовал ИИ-чат-бота, чтобы совместить открытые данные с секретной радиотехнической разведкой. Нейросеть неправильно определила груз судна и выдала ошибочный вывод. Затем тот же искусственный интеллект помог оформить эту информацию уже в привычный разведывательный отчёт, после чего документ отправился путешествовать по военной вертикали как вполне серьёзная бумага. Один из источников CNN назвал разведданные «полностью ложными» и заявил, что они едва не привели к войне.
То есть проблема оказалась даже не в том, что ИИ ошибся. ИИ ошибается постоянно. Проблема в том, что его ошибка успела переодеться в официальный документ, пройти по инстанциям и почти добраться до вооружённых людей с самолётами.
В общем, раньше разведчик ошибался, и начальник спрашивал: «Источник надёжный?» Теперь скоро придётся добавлять второй вопрос: «А это случайно не ChatGPT придумал?»
И самая абсурдная часть здесь в том, что никакого восстания машин даже не понадобилось. Скайнет не проснулся, не захватил Пентагон и не взломал ядерные шахты. Он просто уверенно написал ерунду, а люди чуть не начали действовать по инструкции.
1 минута
Вчера