Компания Wiz, поставщик облачной безопасности, сообщила об обнаружении двух критических уязвимостей архитектуры в генеративных моделях искусственного интеллекта, загруженных в Hugging Face, популярный центр обмена моделями и приложениями искусственного интеллекта. В своём отчёте, опубликованном 4 апреля, Wiz Research описала две уязвимости и риск, который они могут представлять для поставщиков ИИ как услуги.
Это:
- Риск поглощения инфраструктуры общего вывода.
- Риск поглощения общей непрерывной интеграции и непрерывного развёртывания (CI/CD).
Проанализировав несколько моделей искусственного интеллекта, загруженных на Hugging Face, исследователи Wiz обнаружили, что некоторые из них используют общую инфраструктуру вывода.
В контексте генеративного ИИ под выводом понимается модель, которая делает прогнозы или решения на основе ранее обученных моделей и входных данных. Инфраструктура вывода позволяет выполнять модель ИИ — либо «на периферии» (например, Transformers.js), через интерфейс прикладного программирования (API), либо по модели «вывод как услуга» (например, конечные точки вывода Hugging Face).
«Наше исследование показало, что инфраструктура вывода часто использует ненадёжные, потенциально вредоносные модели, использующие формат «рассола», — заявили исследователи Wiz.
Модель ИИ в формате «pickle» — это сериализованная сжатая версия обученной модели, сохранённая с помощью модуля Python Pickle. Поскольку это сжатая версия модели, она более компактна и занимает меньше места, чем хранилище необработанных обучающих данных.
Тем не менее, в Wiz отметили, что вредоносные сериализованные модели Pickle могут содержать полезные данные для удалённого выполнения кода, что потенциально предоставляет злоумышленнику повышенные привилегии и перекрёстный доступ к моделям других клиентов.
Полная версия отчёта компании Wiz представлена по ссылке.
Оригинал публикации на сайте CISOCLUB: "Wiz: в моделях GenAI обнаружены уязвимости, способствующие краже данных клиентов".
Смотреть публикации по категориям: Новости | Мероприятия | Статьи | Обзоры | Отчеты | Интервью | Видео | Обучение | Вакансии | Утечки | Уязвимости | Сравнения | Дайджесты | Прочее.
Подписывайтесь на нас: VK | Twitter | Rutube | Telegram | Дзен | YouTube.
