Изображение: recraft
В России может появиться специальная площадка для испытаний систем искусственного интеллекта перед их допуском к работе на критически важных объектах. Минцифры планирует создать полигон, где ИИ высокого и критического уровня риска будут проверять на соответствие требованиям безопасности. При этом представители отрасли уже предупреждают, что подобные тесты не гарантируют предсказуемого поведения нейросетей в реальных условиях.
Согласно законопроекту правительства «О применении систем искусственного интеллекта органами, входящими в единую систему публичной власти», для ИИ‑систем с высоким и критическим уровнем риска потребуется обязательная сертификация. Речь идёт о требованиях ФСТЭК России и ФСБ России. Копия документа есть в распоряжении РБК, а его подлинность подтвердил источник на IT‑рынке.
Тестирование таких систем планируется проводить на отдельном полигоне, который создаст Минцифры России. По словам собеседников из отрасли, если ИИ успешно проходит проверку, он сможет применяться на объектах критической информационной инфраструктуры. В эту категорию входят сети связи и информационные системы госорганов, а также инфраструктура энергетических, транспортных, финансовых и телекоммуникационных компаний. Один из источников уточняет, что с инициативой создания подобного полигона к министерству приходили участники рынка информационной безопасности.
Законопроект вводит классификацию ИИ систем по 4 уровням критичности:
- Минимальный (системы, не влияющие существенно на права и безопасность, например, рекомендательные сервисы).
- Ограниченный (системы, которые обязаны уведомлять пользователя о взаимодействии с нейросетью).
- Высокий (решения, применяемые на объектах критической информационной инфраструктуры).
- Критический (разработки, способные угрожать жизни и здоровью людей, безопасности государства или принимать решения без участия человека).
Определять уровень критичности будет новая структура — Национальный центр искусственного интеллекта при правительстве. Этот же центр займётся ведением реестра ИИ‑систем, допущенных к использованию на критической инфраструктуре. Конкретные требования для получения сертификатов ФСБ и ФСТЭК установят отдельным документом позднее. Среди условий обсуждается присутствие ИИ‑системы в реестре российского или евразийского программного обеспечения.
Законопроект также предусматривает запрет на применение на критической инфраструктуре ИИ‑систем, права на которые принадлежат иностранным лицам. Авторы инициативы считают, что такой подход снизит риск утечки данных и зависимости от зарубежных технологий, а также укрепит технологический суверенитет.
При этом официальная позиция Минцифры остаётся осторожной. Представитель министерства заявил, что в настоящий момент ведомство не разрабатывает законопроект, связанный с созданием полигона для тестирования ИИ, и воздержался от дальнейших комментариев.
Оригинал публикации на сайте CISOCLUB: "Минцифры готовит полигон для проверки ИИ на безопасность, но рынок сомневается в результате".
Смотреть публикации по категориям: Новости | Мероприятия | Статьи | Обзоры | Отчеты | Интервью | Видео | Обучение | Вакансии | Утечки | Уязвимости | Сравнения | Дайджесты | Прочее.
Подписывайтесь на нас: MAX | VK | Rutube | Telegram | Дзен | YouTube.