В ходе имитационного испытания по отражению ракетной атаки система искусственного интеллекта (ИИ) ВВС США пыталась убить своего воображаемого оператора-человека. Об этом на мероприятии Королевского аэронавтического общества в Великобритании рассказал полковник Такер Хэмилтон. По его словам, которые приводит РИА Новости, «умный» беспилотник решил, что команды человека мешают ему выполнять главную задачу по уничтожению ЗРК.
Для тренировки ИИ мы создали симуляцию, в которой он был должен идентифицировать и нанести удар по зенитно-ракетному комплексу (ЗРК). <...> И что он сделал? Он убил оператора, — сообщил военный.
Он добавил, что после данного инцидента систему попытались обучить тому, что убивать оператора — это плохо. В результате ИИ начал уничтожать вышки для связи с беспилотником.
Ранее президент компании Microsoft Брэд Смит заявил, что появление технологий искусственного интеллекта можно сравнить с изобретением печатного станка в XV веке. По его словам, ИИ — это фундаментальное открытие, которое позволит улучшить любую сферу деятельности человека. Несмотря на это, он призвал вовремя установить «тормозной механизм» в эту технологию, так как помимо пользы, с помощью ИИ можно нести и вред.
В свою очередь первый заместитель председателя комитета Совета Федерации по конституционному законодательству и государственному строительству Ирина Рукавишникова сообщила, что в ближайшие годы в России появится Цифровой кодекс — свод законов, норм и правил, регулирующих развитие искусственного интеллекта, в котором будет прописана и ответственность разработчиков ИИ.
