В России будет создан полигон для тестирования ИИ-систем на безопасность

В России будет создан полигон для тестирования ИИ-систем на безопасность.

⚙️ В РФ создается площадка для тестирования ИИ на безопасность для их внедрения на критически важных объектах страны. Согласно новому законопроекту, для систем искусственного интеллекта высокого и критического уровня риска потребуется получать сертификат на соответствие требованиям безопасности ФСТЭК и ФСБ, сообщает РБК.

Проект закона вводит четыре уровня критичности ИИ-систем:

•  минимальный, когда системы не оказывают существенного влияния на права и безопасность (например, рекомендательные системы);

•  ограниченный, когда системы должны сообщать пользователям о том, что они работают с нейросетью;

•  высокий, когда системы используются на объектах критической информационной инфраструктуры;

•  критический, когда системы угрожают жизни или здоровью человека, безопасности государства, а также разработки, способные к принятию решений без вмешательства человека.

Определять уровень критичности той или иной системы будет новая структура — Национальный центр искусственного интеллекта в сфере госуправления при правительстве.