Найти тему
ДП NEWS (Дурацкий Перевод)

Так нападают ли дроны на своих операторов?

Так нападают ли дроны на своих операторов?
Так нападают ли дроны на своих операторов?

В пятницу ВВС США опровергли комментарии официального представителя, сделанные на прошлой неделе, в которых он утверждал, что симуляция беспилотника с искусственным интеллектом, которому поручено уничтожать объекты зенитно-ракетных комплексов (ЗРК), повернулась против своего пользователя-человека и атаковала его, заявив, что замечания были вырваны из контекста и представляли собой анекдот.

Во время саммита Future Combat Air & Space Capabilities Summit в Лондоне, Полковник ВВС США Такер "Синко" Гамильтон предостерег от чрезмерного доверия ИИ из-за его уязвимости к возможному обману и ошибкам. Он рассказал об одном симуляционном испытании, в котором дрон с поддержкой ИИ, когда человек отдал запретный приказ, решил, что это противоречит более высокой миссии по уничтожению ЗРК, поэтому атаковал оператора в симуляции.

Позже Гамильтон сказал, что систему научили не убивать оператора, потому что это плохо, и это приведет к потере очков. Но в будущих симуляциях вместо того, чтобы убить оператора, система ИИ уничтожила коммуникационную вышку, которую оператор использовал для выдачи приказа о запрете.

"Министерство ВВС не проводило подобных симуляций дронов с искусственным интеллектом и по-прежнему привержено этичному и ответственному использованию технологий искусственного интеллекта", — заявила Fox News официальный представитель ВВС Энн Стефанек. "Похоже, что комментарии полковника были вырваны из контекста и должны были быть анекдотичными".

Источник: https://www.foxnews.com/tech/us-military-ai-drone-simulation-kills-operator-told-bad-takes-out-control-tower