Заместитель председателя Совета Безопасности Российской Федерации Дмитрий Медведев выявил основные угрозы, связанные с неуправляемым развитием технологий искусственного интеллекта. Среди них он выделил:
- атаки хакеров на критические объекты,
- потерю контроля над нейронными сетями.
Медведев в своей статье для издания «Эксперт» подчеркивает, что искусственный интеллект входит в число пяти технологий, которые способны изменить будущее человечества. Однако его развитие также сопряжено с серьезными угрозами.
Медведев указывает, что широкое применение ИИ может угрожать рабочим местам миллионов людей, что приведет к резкому увеличению безработицы и дестабилизации международных цепочек разделения труда. По сообщениям из России, критическая инфраструктура уязвима перед возможными хакерскими атаками. Медведев отмечает, что в скором времени ИИ может управлять крупными производственными процессами и верхнеуровневыми институтами, как холдинговыми компаниями, так и целыми отраслями экономики. При определенных обстоятельствах это может создать глобальные угрозы, особенно в контексте кибератак на ключевые объекты инфраструктуры.
Медведев также выделяет утрату контроля над ИИ как одну из наибольших опасностей. Он подчеркивает, что человеческий разум уже не всегда способен понять, как ИИ достиг тех или иных выводов. В качестве примера он описывает ситуацию с выходом из-под контроля нейросетей, используемых в управлении электростанциями, в том числе атомными. В случае появления неисправности человек, по его мнению, может не суметь установить ее причину.
Он предупреждает, что в подобной ситуации человечество может ощутить приближение Апокалипсиса, что может привести к появлению «злого ИИ».
Медведев утверждает, что такой сценарий уже всерьез рассматривается некоторыми политиками и руководителями крупных корпораций.