В пятницу ВВС США опровергли комментарии официального представителя, сделанные на прошлой неделе, в которых он утверждал, что симуляция беспилотника с искусственным интеллектом, которому поручено уничтожать объекты зенитно-ракетных комплексов (ЗРК), повернулась против своего пользователя-человека и атаковала его, заявив, что замечания были вырваны из контекста и представляли собой анекдот.
Во время саммита Future Combat Air & Space Capabilities Summit в Лондоне, Полковник ВВС США Такер "Синко" Гамильтон предостерег от чрезмерного доверия ИИ из-за его уязвимости к возможному обману и ошибкам. Он рассказал об одном симуляционном испытании, в котором дрон с поддержкой ИИ, когда человек отдал запретный приказ, решил, что это противоречит более высокой миссии по уничтожению ЗРК, поэтому атаковал оператора в симуляции.
Позже Гамильтон сказал, что систему научили не убивать оператора, потому что это плохо, и это приведет к потере очков. Но в будущих симуляциях вместо того, чтобы убить оператора, система ИИ уничтожила коммуникационную вышку, которую оператор использовал для выдачи приказа о запрете.
"Министерство ВВС не проводило подобных симуляций дронов с искусственным интеллектом и по-прежнему привержено этичному и ответственному использованию технологий искусственного интеллекта", — заявила Fox News официальный представитель ВВС Энн Стефанек. "Похоже, что комментарии полковника были вырваны из контекста и должны были быть анекдотичными".
Так нападают ли дроны на своих операторов?
3 июня 20233 июн 2023
181
1 мин
2