Google запускает функцию быстрой проверки того, было ли изображение, видео, аудиофайл или фрагмент текста созданы с помощью одного из его инструментов на основе ИИ.
SynthID Detector, анонсированный во вторник на Google I/O 2025, — это портал для проверки, который использует технологию водяных знаков Google SynthID для идентификации контента, созданного искусственным интеллектом. Пользователи могут загрузить файл, и SynthID Detector определит, создан ли весь образец или только его часть искусственным интеллектом.
Дебют SynthID Detector состоялся в то время, когда интернет наводнили медиа, созданные искусственным интеллектом. Только количество дипфейковых видео выросло на 550% с 2019 по 2024 год, согласно одной из оценок. По данным The Times, из 20 самых просматриваемых постов в социальных сетях в США прошлой осенью четыре были «очевидно созданы искусственным интеллектом».
Конечно, у SynthID Detector есть свои ограничения. Он распознаёт только медиафайлы, созданные с помощью инструментов, использующих спецификацию Google SynthID, — в основном это продукты Google. У Microsoft есть собственные технологии добавления водяных знаков в контент, как и у OpenAI.
SynthID также не является идеальной технологией. Google признаёт, что её можно обойти, особенно в случае с текстом.
Что касается первого пункта, Google утверждает, что стандарт SynthID уже используется в массовом масштабе. По данным технологического гиганта, с момента запуска SynthID в 2023 году более 10 миллиардов единиц медиаконтента были защищены водяными знаками SynthID.
Источник: AI News