Meta Platforms*, владелец Facebook* и Instagram*, приняла меры по борьбе с изображениями, созданными искусственным интеллектом и способными ввести пользователей в заблуждение. Вскоре компания начнет обнаруживать и маркировать на своих платформах изображения, созданные другими ИИ-сервисами (от OpenAI или Google, например).
Почему это важно? Изображения, созданные искусственным интеллектом, могут быть очень реалистичными и часто неотличимы от настоящих фотографий. Маркировка таких изображений поможет пользователям понять истинное происхождение контента.
Meta* будет опираться на невидимые маркеры, встроенные в файлы изображений такими компаниями, как OpenAI и Google. Эта система опирается на существующие кросс-платформенные усилия по удалению вредоносного контента.
В то время как Meta уверена в точности маркировки изображений, инструменты для работы с аудио- и видеоматериалами все еще находятся в стадии разработки. Для такого контента пользователи должны будут самостоятельно маркировать измененные медиафайлы, и за несоблюдение этого требования могут быть применены определенного рода санкции.
А вот маркировка текста, созданного искусственным интеллектом, например сообщений чатботов, по-прежнему остается сложной задачей. «Этот корабль уже отплыл», — говорит руководитель отдела политики Meta*, признавая сложность отслеживания происхождения текста.
При этом компания умалчивает о том, будет ли система маркировки распространяться на ее WhatsApp, но интегрировать подобную технологию будет, скорее всего, тяжело, считают эксперты.
*принадлежит Meta, которая признана в РФ экстремистской и запрещена