"Лаборатория Касперского" предложила создать центр безопасности ИИ

Иг­ро­ки рын­ка ин­фор­ма­цион­ной бе­зопас­нос­ти выс­ту­пают за соз­да­ние цен­тра ис­кусс­твен­но­го ин­тел­лек­та (ИИ) на ба­зе од­но­го из ре­гуля­торов. По за­дум­ке, но­вое уч­реж­де­ние зай­мет­ся воп­ро­сами ин­фор­ма­цион­ной бе­зопас­нос­ти в сфе­ре ИИ.

Иван Ива­нов

© ComNews

10.10.2024

Об этом рассказал директор по исследованиям и разработке АО "Лаборатория Касперского" Антон Иванов на площадке форума "Кибертех" во время круглого стола "ИБ в промышленности". Он сообщил, что в России нет единого центра безопасности искусственного интеллекта, и это проблема, так как никто не представляет модель угроз искусственного интеллекта.

"У нас нет единой базы данных угроз ИИ и, самое главное, нет механизмов идентификации пользователей ИИ. Например, многие пользуются различными библиотеками для извлечения образов и текстов из фотографий. Мы находим много скомпрометированных библиотек, который лежит в Open Source, а большая часть дата-инженеров и дата-саентистов пользуются этим софтом при разработке ИИ. Как нам оповестить их, что это ПО опасно? Сейчас такого механизма нет. Поэтому нужно создать такой центр, который будет заниматься безопасностью ИИ, рассказывать про закладки в ПО, используемое при разработке ИИ, и про новые способы манипулировать моделями ИИ", - отметил Антон Иванов.