Meta для маркировки изображений, созданных искусственным интеллектом, в Facebook и Instagram

Пользователи Facebook и Instagram начнут видеть метки на изображениях, созданных искусственным интеллектом, которые появляются в их лентах в социальных сетях, что является частью более широкой инициативы технологической индустрии по сортировке между тем, что реально, а что нет.

Meta заявляет, что работает с отраслевыми партнерами над техническими стандартами, которые упростят идентификацию изображений и, в конечном итоге, видео и аудио, созданных с помощью инструментов искусственного интеллекта.

Еще неизвестно, насколько хорошо это будет работать в то время, когда создавать и распространять сгенерированные ИИ изображения, которые могут причинить вред, стало проще, чем когда-либо, — от дезинформации о выборах до фальшивых изображений знаменитостей.

Президент Meta по глобальным вопросам Ник Клегг не уточнил, когда появятся надписи, но сказал, что это будет «в ближайшие месяцы» и на разных языках, отметив, что «во всем мире проходит ряд важных выборов».

Meta уже ставит ярлык «Создано с помощью ИИ» на фотореалистичные изображения, созданные с помощью ее собственного инструмента, но большая часть созданного ИИ контента, наводняющего ее социальные сети, поступает из других источников.

Ряд коллабораций в сфере высоких технологий, в том числе Инициатива по обеспечению подлинности контента под руководством Adobe, работают над установлением стандартов. Стремление к использованию цифровых водяных знаков и маркировке контента, созданного искусственным интеллектом, также было частью указа, который президент США Джо Байден подписал в октябре.

Клегг сообщил, что Meta будет работать над маркировкой «изображений из Google, OpenAI, Microsoft, Adobe, Midjourney и Shutterstock, поскольку они реализуют свои планы по добавлению метаданных к изображениям, созданным с помощью их инструментов».

В прошлом году Google заявила, что лейблы с искусственным интеллектом приходят на YouTube и другие платформы.

«В ближайшие месяцы мы представим ярлыки, которые будут информировать зрителей о том, что реалистичный контент, который они видят, является синтетическим», — написал генеральный директор YouTube Нил Мохан в своем блоге 6 февраля.

Одна из потенциальных проблем для потребителей заключается в том, что технологические платформы станут более эффективно идентифицировать контент, созданный искусственным интеллектом, от ряда крупных коммерческих поставщиков, но будут упускать из виду то, что сделано с помощью других инструментов, создавая ложное чувство безопасности.