118,9 тыс подписчиков
Беспилотник под управлением искусственного интеллекта убил своего оператора.
Американцы тестировали беспилотник с ИИ, которому в ходе имитационного испытания нужно было уничтожить системы ПВО противника.
Итоговое решение о поражении цели оставалось за оператором. В какой-то момент система начала понимать, что человек иногда говорил ей не уничтожать цели.
За выполнение отмененных задач искусственный интеллект получал бы бонусные очки, поэтому решил убить оператора.
Конечно же, робота быстро перепрограммировали и запретили устранять людей. Но на повторной проверке ИИ уничтожил вышку связи, через которую оператор передавал «ошибочные» приказы.
Около минуты
3 июня 2023
212 читали