Вопрос, которым задавались десятки писателей-фантастов, сценаристов и просто пытливых умов, сейчас как никогда актуален. Отчет некоммерческой организации Pax говорит о том, что разработки Amazon, Microsoft и Intel в области искусственного интеллекта (ИИ) несут в себе угрозу миру. В исследовании специалисты собрали и проанализировали данные 50 технологичных компаний.
Представители Pax в своей работе рассматривали несколько критериев:
- связаны ли разработки исследуемых компаний со смертоносным искусственным интеллектом,
- работали ли указанные организации над военными проектами.
«Почему компании вроде Microsoft и Amazon не отрицают факта разработки крайне спорной формы оружия? А ведь искусственный интеллект может сам решать, убивать ли ему людей, без непосредственного участия этих самых людей», — объясняет Фрэнк Сличпер, один из авторов исследования.
Опасность состоит в том, что оружие со встроенным ИИ может самостоятельно, т.е. без какой-либо санкции от человека, выбирать цель и атаковать ее.
Кто за кого?
В 2018 году компания Google высказалась за запрет на внедрение в системы вооружения ИИ.
Amazon и Microsoft же заключили с Пентагоном контракты, размер которых по сообщению издания "anti-malware" 10 млрд долларов США. Компании представляют военным Штатов облачную инфраструктуру.
***
Представители Pax полагают:
- общество нужно проинформировать о текущих разработках в области ИИ,
- корпорации должны выработать строгие правила в отношении использования разработок военными.
О необходимости наложить вето на использование оружия, оснащенного ИИ, высказался специалист Калифорнийского университета Стюарт Рассел.
«Машины, которые будут принимать решения в отношении убийства людей, не должны разрабатываться и использоваться», — подчеркнул Рассел.
Тем временем в Казахстане планируется закрепить законом ответственность за действия роботов.