Meta* (признана в РФ экстремистской и запрещена) работает над обнаружением и маркировкой изображений, созданных искусственным интеллектом, в Facebook* , Instagram* и Threads, поскольку компания стремится выявить «людей и организации, которые хотят обмануть людей».
Изображения, созданные с помощью инструмента визуализации искусственного интеллекта Meta*, уже помечены как ИИ. Но президент компании по глобальным вопросам Ник Клегг объявилв своем блоге, что компания будет работать над тем, чтобы маркировать изображения, созданные искусственным интеллектом конкурирующих сервисов.
По словам Клегга, изображения искусственного интеллекта Meta* уже содержат метаданные и невидимую маркировку. На данный момент компания разрабатывает инструменты для идентификации подобных меток, используемых другими компаниями, такими как Google, OpenAI, Microsoft, Adobe, Midjourney и Shutterstock, в своих генераторах изображений с ИИ.
«По мере того как разница между человеческим и синтетическим контентом размывается, люди хотят знать, где проходит граница, — сказал Клегг. — Часто впервые столкнувшись с контентом, созданным искусственным интеллектом, пользователи говорят, что им важна прозрачность этой новой технологии. Поэтому нам важно помочь людям понять, что фотореалистичный контент, который они видят, был создан с помощью ИИ».
Клегг сказал, что в настоящее время создается необходимая инфраструктура и в ближайшие месяцы метки будут нанесены на всех языках. Он отметил, что это касается только изображений, а инструменты ИИ, генерирующие аудио и видео, в настоящее время не содержат таких меток, но компания позволит пользователям помечать такой контент при размещении в сети.
Также он добавил, что компания будет размещать более заметную маркировку на «созданных или измененных» изображениях, видео или аудио, которые «представляют риск введения общественности в заблуждение». Кроме того, компания планирует разработать технологию автоматического обнаружения контента, созданного ИИ, даже если он не содержит маркировки или если она была удалена.
«Люди и организации, которые хотят обмануть людей с помощью контента, созданного искусственным интеллектом, будут искать способы обойти меры безопасности, которые применяются для его обнаружения. В нашей отрасли и в обществе в целом необходимо продолжать искать способы оставаться на шаг впереди», — заявил Клегг.
На прошлой неделе австралийский телеканал Nine News также подвергся критике за изменение изображения члена партии «Справедливость к животным» от штата Виктория Джорджи Перселл. Телеканал обвинил в этом «автоматизацию» в продукте Adobe Photoshop, который включает в себя инструменты для работы с изображениями на основе искусственного интеллекта.
Ранее стало известно, что Meta* проигралав судебной тяжбе с израильской технологической компанией Bright Data, на которую она подала иск в прошлом году. Технологический гигант заявил, что сбор данных Bright Data производился с нарушением условий договора.