Интернет-протокол под названием C2PA добавляет «этикетку» к изображениям, видео и аудио, сгенерированным ИИ.
Белый дом хочет, чтобы крупные компании раскрывали информацию о том, что контент был создан с использованием искусственного интеллекта. Скоро ЕС потребует от некоторых технологических платформ маркировать созданные ИИ изображения, аудио и видео «этикетками», раскрывающими их синтетическое происхождение.
Однако есть большая проблема: идентификация материала, созданного искусственным интеллектом, является серьезной технической задачей. Инструменты обнаружения на основе ИИ и водяные знаки (лучшие из доступных в настоящее время вариантов) — непоследовательны, непостоянны и иногда неточны.
Но в последнее время внимание привлекает другой подход: C2PA. Этот интернет-протокол с открытым исходным кодом, запущенный два года назад, использует криптографию для кодирования сведений о происхождении.
Разработчики C2PA часто сравнивают протокол с этикеткой на продуктах питания, только на ней указано, откуда взялся контент и кто — или что — его создал.
Проект был запущен Adobe, Arm, Intel, Microsoft и Truepic, которые сформировали Коалицию за происхождение и аутентичность контента.
В последнее время, когда интерес к обнаружению и регулированию ИИ усилился, проект набирает обороты. Крупная медиа-платформа Shutterstock присоединилась в качестве члена проекта и намерена использовать протокол для маркировки всего своего контента, созданного ИИ, включая генератор изображений ИИ на базе DALL-E.
Таким образом компания защищает художников и пользователей, «поддерживая разработку систем и инфраструктуры, обеспечивающих большую прозрачность, позволяющих легко определить, что является творением художника, а что создано искусственным интеллектом или является модифицированным искусством».
Что такое C2PA и как его использовать?
Microsoft, Intel, Adobe и другие крупные технологические компании начали работу над C2PA в феврале 2021 года, надеясь создать универсальный интернет-протокол, который позволит создателям контента помечать свой визуальный и аудиоконтент информацией о том, откуда он взялся.
Проект устроен так, чтобы его можно было адаптировать и использовать в Интернете, а базовый компьютерный код доступен и бесплатен для всех.
Truepic, которая продает продукты для проверки контента, продемонстрировала, как протокол работает с дипфейковым видео с Revel.ai. Когда зритель наводит курсор на маленький значок в правом верхнем углу экрана, появляется окно с информацией о том, что видео «содержит контент, созданный ИИ».
Adobe уже интегрировала C2PA в несколько своих продуктов, включая Photoshop и Adobe Firefly.
C2PA защищен с помощью криптографии, которая опирается на ряд кодов и ключей для защиты информации от подделки и для записи того, откуда поступила информация. В частности, он работает путем кодирования информации о происхождении с помощью набора хэшей, которые криптографически связываются с каждым пикселем.
Значение информации о происхождении
Добавление информации о происхождении в СМИ для борьбы с дезинформацией — не новая идея, и ранние исследования показывают, что она может быть многообещающей. Тем не менее, информация о происхождении далека от решения всех проблем. C2PA не имеет обязательной юридической силы, и без обязательного принятия стандарта во всем Интернете немаркированный контент, созданный ИИ, будет существовать.
Более того, поскольку C2PA полагается на согласие создателей, протокол на самом деле не решает проблему злоумышленников, использующих контент, созданный ИИ. И пока неясно, насколько полезным будет предоставление метаданных, когда дело доходит до средств массовой информации. Этикетки не обязательно указывают, является ли содержание правдивым или точным.
В конечном счете, наиболее серьезной задачей коалиции может стать поощрение широкого распространения в интернет-экосистеме, особенно на платформах социальных сетей. Протокол разработан таким образом, что информация о происхождении фотографии, например, будет закодирована с момента ее захвата камерой до момента, когда она попала в социальные сети. Но если платформа социальных сетей не использует протокол, она не будет отображать данные о происхождении фотографии.
C2PA не является панацеей, не решает всех проблем с дезинформацией, но закладывает основу для общей объективной реальности.
