Инициатива нацелена обеспечить обмен данными между разными участниками рынка ИИ.
В России в 2024г может появиться специализированный центр по исследованию безопасности в сфере искусственного интеллекта (ИИ). Эту инициативу озвучила Анна Кулашова, управляющий директор «Лаборатории Касперского» в России и странах СНГ, на форуме информационных технологий 2 апреля. По ее словам, необходимо создать единый центр исследований безопасности ИИ по аналогии с командами реагирования на компьютерные инциденты (CERT).
Кулашова подчеркнула, что в области кибербезопасности уже проводятся регулярные проверки на предмет безопасности разработки ПО, и подобный подход должен быть применен и к алгоритмам ИИ.
Как сообщают «Ведомости», замминистра цифрового развития Александр Шойтов подтвердил, что ведомство уже ведет работу по созданию такого CERT по ИИ совместно с заинтересованными сторонами. «С учетом того что вопросы безопасности ИИ в отдельных компаниях и госструктурах развиваются, создание единого центра исследований информационной безопасности (ИБ) искусственного интеллекта как единой точки исследований необходимо», – сказал он.
В России уже функционирует несколько CERT, таких как ICS-CERT от «Лаборатории Касперского», ГосСОПКА, GOV-CERT ФСБ, специализирующийся на финансовом секторе центр ЦБ FinCERT.
Артем Сычев, советник генерального директора Positive Technologies, упомянул, что вопрос создания CERT для ИИ обсуждается в контексте разработки национального проекта «Экономика данных», который должен прийти на смену нацпроекту «Цифровая экономика».
Кулашова уточнила, что при активном взаимодействии участников такой центр может быть запущен уже в 2024 году. Она считает логичным, если центр будет создан на базе регулятора, а к нему смогут присоединиться операторы связи, члены Альянса в сфере ИИ, специализированные компании и другие регуляторы. Целью является совместная защита от киберрисков, связанных с ИИ, быстрый обмен информацией и рекомендациями по реагированию на инциденты. Работа с ИИ, по ее словам, требует «доверенности, верифицируемости и надежности, а также проверки инструментов разработки на наличие уязвимостей».
Эксперты отмечают, что в России пока не так много ИИ-сервисов с большой аудиторией, подобных ChatGPT от OpenAI, однако среди них можно выделить GigaChat от «Сбера» и YandexGPT от «Яндекса». По их мнению, что эти компании должны войти в число участников предлагаемого CERT по ИИ. Также участниками CERT могут стать разработчики графических процессоров (GPU), которые способны на аппаратном уровне регулировать работу нейросети.
Еще больше о нейросетях и возможностях в ТГ канале ПОЛДЕНЬ, XXII ВЕК подписывайтесь!