ВВС США опровергают симуляцию полета, в котором беспилотник с искусственным интеллектом попытался ликвидировать оператора. Об этом пишет The Guardian. Ни один реальный человек не пострадал.
На прошлой неделе во время конференции Королевского авиационного общества глава отдела испытаний искусственного интеллекта ВВС США полковник Такер Гамильтон предупредил, что технологии искусственного интеллекта могут вести себя непредсказуемым и даже опасным образом. В качестве примера он описал смоделированное испытание, в котором беспилотник был запрограммирован на распознавание ракет класса «земля — воздух». Оператор контролировал его решения и задал команду не атаковать некоторые цели. Но дрон решил, что человек мешает ему выполнять приказы, и поэтому открыл огонь по коммуникационной вышке со своим же командиром и «убил» его.
«Мы обучили систему: «Не убивайте оператора — это плохо. Если вы это сделаете, вы потеряете очки», — отметил Гамильтон. Но беспилотник, видимо, принял собственного оператора за помеху при выполнении задачи и решил избавиться от него. По словам полковника, тест показывает, что «нельзя вести разговор об искусственном интеллекте, машинном обучении и автономии, если вы не собираетесь говорить об этике искусственного интеллекта».
Представитель ВВС США Энн Стефанек отметила, что они не проводили таких симуляций и «по-прежнему придерживаются этичного и ответственного использования технологий искусственного интеллекта». Она добавила, что комментарии полковника, скорее всего, были «анекдотичны» или вырваны из контекста.
Новости о подобных испытаниях настораживают экспертов, так как машинное обучение в тандеме с достижениями в автоматизации танков и артиллерии может привести к убийству обычных жителей. Вот что говорит генеральный директор компании «А-Я эксперт» Роман Душкин:
— В машинном обучении есть понятие «обучение с подкреплением». Дрессировщик в цирке гоняет по кругу лошадку и, если она правильно делает свои номера, дает ей сахар — это положительное подкрепление. Если она что-нибудь выкаблучивает, то он ее стегает кнутом по крупу — это отрицательное подкрепление. Систему искусственного интеллекта можно обучать точно так же, обычно это делается в виртуальной среде, и в ней система тренируется, а потом функционирует. Когда высокопоставленный военный чиновник Пентагона на мероприятии подобного уровня говорит эту ерунду с точки зрения разработчика системы искусственного интеллекта, который знает, как оно работает, весь мир реально бьется в конвульсиях на тему: «Скайнет» ожил, он нас всех сейчас порубит. Для чего они запустили этот инфоповод в информационное пространство, надо разбираться. Системы искусственного интеллекта, которые тренируются по принципу обучения с подкреплением, функционируют в некой среде, способы их поведения заранее специфицируются. Есть четкий перечень действий, которые они могут выполнять, у этой системы нет собственного целеполагания, нет волеизъявления, она не может придумать действие, способ поведения, который ранее не заложили в нее программисты.
— Подобная технология грозит реальной опасностью?
— Если они над этим работают, то рано или поздно это появится. Надо быть готовыми к тому, что у вероятного противника появятся системы летального вооружения, управляемые системами искусственного интеллекта.
В 2020 году истребитель F-16 с поддержкой искусственного интеллекта победил противника-человека в пяти смоделированных воздушных боях в рамках конкурса Агентства перспективных оборонных исследовательских проектов. В конце 2022 года, как сообщает журнал Wired, Минобороны США провело первый успешный испытательный полет F-16 с искусственным интеллектом в реальных условиях. Это, по их словам, является частью разработки нового автономного самолета, который планируют выпустить к концу этого года.