В Пентагоне приняли решение упразднить запреты и нормы, мешавшие разрабатывать и применять боевых роботов с искусственным интеллектом, способных принимать самостоятельное решение о том, кого оставить в живых, а кого ликвидировать.
В начале года американское оборонное ведомство утвердило директиву 3000.09 Autonomy in Weapon System. Она регулирует правовые коллизии, которые ранее ограничивали работу над системами вооружения, имеющими элементы ИИ. Согласно обновлённым нормам, теперь допускается, чтобы робот сам решал убивать ли обнаруженную цель.
Впрочем, жёсткого запрета на использование автономного и полуавтономного оружия с летальным уклоном никогда в США не было. Речь шла лишь о некоторых формальных препятствиях. Согласно новой редакции доктрины представители американского военного ведомства теперь могут хорошенько развернуться - можно практически всё.
Теперь допустимо и изобретать, и тестировать, и применять системы разной степени автономности, способные уничтожать самостоятельно выбранные цели с использованием «смертоносной кинетической или некинетической силы». Документ не распространяет своё действие на системы, которые, впрочем, и к Пентагону отношения не имеют.
Документ предусматривает создание программ обучения ИИ таким образом, чтобы системы вооружения самостоятельно не только защищались от попыток перехвата управления, но и принимали решение об уничтожении техники и живой силы противника. Конечно решение, в то же время, остаётся за оператором (так системы автономные или полуавтономные?).
То есть по замыслу оружие должно быть умным и самостоятельным, но максимально послушным. Только вот даже разработчики не могут в полной мере предугадать, как поведёт себя машина, оснащённая искусственным интеллектом.
Проблема с такими мощными машинами в том, что достаточно малейшей случайности или недосмотра в проектировании, чтобы они поставили свои собственные цели превыше наших - пускай даже и с самыми благими намерениями защитить нас от самих себя.
Больше информации по этой теме в материале Еженедельника "Звезда"
#вооружение #технологии #ии #сша #законодательство #геополитика #беспилотники