В социальных сетях всегда было что модерировать: разжигание ненависти, фейковые новости и спам-аккаунты, к сожалению, являются обычным явлением повсюду, даже если многие платформы принимают против этого контента меры. ИИ усугубил проблему. Потому что многие ИИ-инструменты легко доступны, а это значит, что реалистичные дипфейки можно создавать без особых усилий.
YouTube хочет принять более жесткие меры против дипфейков. Теперь пользователи могут сообщать о контенте ИИ, который затрагивает их личную жизнь
Однако на YouTube дипфейков вскоре не будет. Платформа объявила, что теперь принимает жалобы на созданные искусственным интеллектом дипфейки и другой синтетический контент. Эта мера является частью более длительной кампании Google по большей прозрачности в отношении контента, создаваемого искусственным интеллектом.
Для подачи жалобы, контент не обязательно должен быть полностью создан ИИ. Достаточно, если исходные видео были изменены. Можно сообщить о контенте, который имитирует лицо или голос конкретного человека, используя политику конфиденциальности.
При рассмотрении этих запросов YouTube также учитывает, является ли контент измененным или синтетическим и может ли он считаться реальным, можно ли идентифицировать лицо, сделавшее запрос, является ли контент пародией или сатирой или затрагивает ли он известных личностей.
Обычно каналам на платформе разрешено максимум два предупреждения за 90 дней. В третьем случае канал блокируется. YouTube прямо не объясняет, в какой момент ИИ-контент нарушает конфиденциальность, а в какой момент он нарушает правила сообщества.