52 подписчика
Российские ученые разработали метод выявления краж моделей искусственного интеллекта 🔓
Группа ученых из Института искусственного интеллекта AIRI, Сколтеха и ИСП РАН разработала новый метод защиты моделей ИИ от кражи. Протокол основан на встраивании «водяных знаков» в модель, что позволяет доказать, что она была скопирована без разрешения.
✔️Проблема:
Кража моделей ИИ - это серьезная проблема, которая может привести к потере интеллектуальной собственности и убыткам для разработчиков. Злоумышленники могут "украсть" модель, используя ее для создания собственных продуктов, неправомерно используя результаты труда разработчиков.
✔️Решение:
Разработанный метод включает в себя создание уникальных «триггеров», которые встраиваются в модель ИИ и с высокой вероятностью сохраняются даже при ее модификации. Эти «триггеры» проявляются, провоцируя определенное «поведение» модели при проверке, позволяя определить, что она была скопирована.
▪️Преимущества метода:
🔹Универсальность: применим к любым моделям без потери производительности.
🔹Эффективность: обеспечивает высокую вероятность сохранения «водяных знаков» при модификации модели.
🔹Прозрачность: код метода доступен в открытом доступе.
Метод прошел государственную регистрацию и принят на одну из наиболее престижных научных конференций в сфере искусственного интеллекта IJCAI.
#ии
1 минута
23 мая 2024