570,4 тыс подписчиков
ИИ американского дрона решил ликвидировать оператора, чтобы тот ему не мешал
К счастью, оператор был виртуальный, а инцидент произошел в ходе симуляции, пишет The Guardian. Как рассказал полковник Такер Гамильтон, суть испытания состояла в том, что система получала очки за поражение целей.
Так как виртуальный оператор слишком часто просил подождать и не атаковать, дрон посчитал, что человек мешает ему зарабатывать очки, и принял решение попросту его уничтожить. Когда же ИИ запретили убивать оператора, он начали уничтожать вышку связи с ним.
Реальные люди в ходе симуляции не пострадали, но эксперты обеспокоены, какую стратегию выбрал ИИ для достижения целей. По словам Гамильтона, это заставляет задуматься об этике при разработке машинного интеллекта.
Около минуты
2 июня 2023
3193 читали