К концу 2025 года будет разработан проект стандарта по безопасной разработке систем искусственного интеллекта (ИИ) в дополнение к стандарту по безопасной разработке программного обеспечения (ПО), заявил первый заместитель директора ФСТЭК Виталий Лютиков на форуме BIS-2025.
Проект планирует представить Федеральная служба по техническому и экспортному контролю (ФСТЭК). Виталий Лютиков уточнил, что речь идет о тех уязвимостях и угрозах, которые специфичны для ИИ, связанных с дата-центричностью, с моделями машинного обучения, сообщают «Ведомости».
Эксперты, мнение которых приводит издание, предположили, что новый проект стандарта ФСТЭК будет представлять собой детализированное методическое руководство, дополняющее существующие «Требования по безопасной разработке программного обеспечения» специфическими мерами для жизненного цикла систем ИИ. Существующий стандарт по безопасной разработке ПО (SDLC) охватывает общие практики безопасности на всех этапах создания ПО, но ИИ-системы имеют фундаментальные отличия, которые не учитываются в традиционных моделях угроз. По мнению экспертов, новый стандарт станет шагом к системному подходу. Россия пытается занять золотую середину между жестким регулированием ЕС и вольным подходом США. Цель – не задушить ИИ, но задать рамки для безопасного развития и внедрения во всех секторах экономики.
При этом эксперты предупредили о необходимости учитывать требования кибербезопасности и при создании, и при внедрении систем ИИ, особенно важно распространить их на компании, использующие сторонние ИИ-компоненты для разработки собственных решений. Они считают, что новый стандарт более важный и охватывающий все направления, но не заменяющий другие стандарты. В противном случае можно столкнуться с большим количеством инцидентов, когда ИИ, обученный либо на некорректных, либо на сфальсифицированных, либо на мошеннических данных, будет принимать некорректное решение, в результате чего пострадают люди, различные государственные проекты и иные системы, принимающие решения, в том числе имеющие юридические последствия, на базе ИИ.
Судя по мировому опыту, новая регуляторика либо не ограничит, либо сильно затормозит развитие технологии, отмечают эксперты. Но успешные примеры есть: к примеру, в США OpenAI смогла преодолеть этот вызов и постепенно планирует внедрять ИИ-технологии, в том числе в государственные структуры.
Ранее «Телеспутник» сообщал, что более 70% полупроводниковых изделий к 2030 году будут связаны с ИИ.