Медведев предупредил о рисках неконтролируемого развития ИИ

Ключевые риски нерегулируемого развития технологий искусственного интеллекта перечислил заместитель председателя Совета безопасности России Дмитрий Медведев в своей статье для журнала «Эксперт».

По его словам, одной из главных угроз становится массовое сокращение рабочих мест: «Широкое использование ИИ ставит под угрозу рабочие места миллионов людей и, как следствие, создает предпосылки для экспоненциального роста безработицы и нарушения международных цепочек разделения труда», передает РИА «Новости».

Медведев также отмечает уязвимость критически важной инфраструктуры перед возможными кибератаками. Он подчеркивает, что уже сейчас искусственному интеллекту начинают передавать управление крупными производственными процессами и целыми отраслями экономики, что может привести к серьезным глобальным рискам в случае атак на такие системы.

Самой серьезной угрозой Медведев считает потенциальную потерю контроля над нейросетями. По его мнению, человек уже не всегда способен понять, каким образом ИИ приходит к тем или иным выводам, что особенно опасно при управлении стратегическими объектами, включая атомные электростанции. В случае сбоя, уверен зампред Совбеза, человек может не разобраться в причине, что может привести к фатальным последствиям.

Он добавляет, что в такой ситуации возникает «предчувствие Апокалипсиса», поскольку сбой жизненно важной системы может случиться по прямому умыслу самого искусственного интеллекта. Медведев добавил, что подобные сценарии развития событий допускают не только футурологи, но и вполне реальные политики и представители крупного бизнеса.

Ранее в департаменте информационных технологий Москвы сообщили, что для получения качественных ответов от искусственного интеллекта необходимо формулировать ясные и лаконичные задачи с указанием контекста и деталей.

4 марта президент России Владимир Путин в ходе открытия по видеосвязи новых образовательных объектов в регионах заявил о необходимости активнее внедрять в процесс обучения современные цифровые и платформенные решения, включая технологии искусственного интеллекта.