ИИ-системам, генерирующим контент, нужны огромные объёмы данных для обучения, и часто это материалы, защищённые авторским правом. Исследователи из Университета Теннесси в Ноксвилле и Университета Лихай разработали инструмент, который поможет музыкантам защитить свои работы. HarmonyCloak добавляет в музыку особый шум, неслышимый для человека, но мешающий ИИ её скопировать.
Этот шум динамически подстраивается под характеристики музыки, оставаясь незаметным для человеческого уха. Но ИИ не может понять, какие элементы нужно игнорировать, и его попытки скопировать музыку проваливаются.
Авторы смогут защищать свои треки перед публикацией на сайтах или в стриминговых сервисах, где их может найти ИИ. Аналогичные инструменты уже используются для изображений.
Пример в прикреплённом видео. (https://www.youtube.com/watch?v=E5cD5qyxjEQ) Оба аудиофрагмента сгенерированы моделью MusicLM по запросу «создать инди-рок трек» и обучены на одинаковой музыке. Разница в том, что один источник — чистый, а второй обработан HarmonyCloak.
Обученный на чистой музыке ИИ создаёт неплохой, но бездушный трек, который подошёл бы для рекламы автострахования компании, экономящей на музыкантах.
Совсем иначе звучит трек, созданный ИИ, обученным на музыке, обработанной HarmonyCloak. Это какофония случайных звуков, которую неприятно слушать. Кажется, будто по клавишам прыгает трёхлапая кошка.
У HarmonyCloak два режима работы. Можно настроить шум под конкретную модель ИИ, чтобы получить лучший результат, сохраняющийся даже после обработки трека (например, сжатия в MP3). Или же можно создать шум, влияющий на множество моделей, чтобы защитить произведение от любого ИИ, даже ещё не созданного.
Обычно такие меры защиты вызывают гонку вооружений: ИИ адаптируется и обходит их. Но разработчики утверждают, что HarmonyCloak работает по-разному с каждой песней, поэтому ИИ нужно знать параметры, использованные для конкретного трека, чтобы его взломать. Это возможно, но сделать это массово будет трудно.
HarmonyCloak и подобные инструменты могут помочь артистам продержаться до тех пор, пока ИИ либо не уничтожит ценность человеческого творчества, либо не захлебнётся в собственных копиях — смотря что произойдёт раньше.
Исследователи представят свою работу на Симпозиуме IEEE по безопасности и конфиденциальности в мае 2025 года.
Пост из моего тг-канала «Музыкальный ИИ» — https://t.me/gensound – от 25 октября 2024 года.