Интернет начал быстро меняться после появления генеративного искусственного интеллекта. Теперь нельзя быть уверенным, что изображение является подлинным, потому что достаточно ввести несколько слов, и генераторы изображений вроде Stable Diffusion и Dall-e создадут настоящее произведение искусства, которое может конкурировать с картинами известных художников. Нанесение водяных знаков на изображения, полученные с помощью искусственного интеллекта, может помочь в этой ситуации, а также поможет бороться с фейковыми изображениями (deepfake), но традиционные водяные знаки неэстетичны и их легко удалить. Здесь на помощь пришел инструмент под названием SynthID, который разработала компания Google DeepMind. Разработчики сообщили, что инструмент взаимодействует с облачной моделью Google Imagen, чтобы надежно маркировать контент как созданный машиной.
Водяной знак применяется уже давно и чаще всего его наносят на ценные бумаги. На данный момент существует множество способов "пометить" изображение, обычно с помощью видимого, но ненавязчивого логотипа или надписи. Водяные знаки на цифровых изображениях также будут невидимы для человеческого глаза, так как с этой задачей легко справляется инструмент SynthID. Цифровые водяные знаки на уровне пикселей не изменят внешний вид изображения для нас с вами, но SynthID обнаружит их без труда.
По словам специалистов DeepMind, метки SynthID были разработаны таким образом, чтобы они сохранялись даже после манипуляций с изображениями. Такие действия, как обрезка, добавление фильтров и даже сохранение сжатой копии с потерями, не удалят водяной знак. Инструмент состоит из двух моделей глубокого обучения: одна для добавления водяных знаков, а другая — для их обнаружения. Он был обучен на широком спектре данных изображений; DeepMind утверждает, что SynthID одновременно надежен и устойчив к взлому.
Когда подозрительное изображение передается в SynthID, система сканирует водяной знак и сообщает о наличии или отсутствии метки. Тем не менее он не дает 100% гарантию достоверного результата. В случаях, когда изображения были сильно изменены, SynthID не сможет точно определить водяной знак. Искусственный интеллект может пометить такие изображения как вероятно сгенерированные машиной. Такой уровень точности является компромиссом, позволяющим гарантировать, что водяной знак не повлияет на качество изображения. Как вы можете видеть на анимационном изображение выше, водяной знак совершенно невидим для пользователей, не являющихся компьютерами.
На данном этапе развития искусственного интеллекта этот инструмент не является универсальным решением для всех ваших потребностей в обнаружении фейковых изображений. Он работает только с Imagen, которая является частью облачного сервиса Google Vertex AI. Добавление водяных знаков не является обязательным, и на данный момент лишь небольшое количество клиентов Vertex AI имеют доступ к этой функции.
Законодательно ещё не существует общепринятого подхода к нанесению водяных знаков на изображения, созданные искусственным интеллектом. DeepMind заявила, что их цель состоит в том, чтобы внедрять SynthID в различные продукты и услуги Google, что в итоге может способствовать принятию этой технологии в качестве единого стандарта. Также компания планирует предоставить SynthAI третьим сторонам для использования инструмента в других генеративных ИИ-моделях.
