Передача искусственному интеллекту (ИИ) управления важными производственными процессами грозит глобальными рисками. Об этом заявил заместитель председателя Совбеза России Дмитрий Медведев.
Опасность представляет уже то, что люди не способны понять, как ИИ может прийти к тому или иному выводу. «Представим себе, что из-под контроля вышли нейросети, которые используются в ходе управления электростанциями, включая атомные. В случае, если в них происходит сбой, мы не сможем даже разобраться в его причине. Вот тут-то для человечества и начинается предчувствие Апокалипсиса», – пишет Медведев в статье для журнала «Эксперт».
Кроме того, широкое использование ИИ грозит массовой безработицей во всем мире и, как следствие, нарушением международных цепочек разделения труда. Замглавы Совбеза напомнил о прогнозе лауреата Нобелевской премии, экономиста Роберта Шиллера о том, что автоматизация и цифровая экономика приведут к структурной безработице, которую пока невозможно адекватно оценить.
Нейросети уже сейчас активно используют для совершения преступлений и даже терактов. «Это может быть и нелегальное получение персональных данных для доступа к охраняемым сведениям на электронных ресурсах, и кража денежных средств, и незаконное присвоение личной, коммерческой или государственной собственности. Всё это уже сейчас приводит к подрыву доверия к официальным властям, которые далеко не всегда способны защитить ключевые данные и алгоритмы», – предупреждает Медведев.
Москва, Зоя Осколкова