С целью противодействия дезинформации YouTube вводит новые требования по раскрытию информации для авторов, публикующих контент, созданный при помощи искусственного интеллекта. Во вторник администраторы вебхостинга объявили, что вскоре на сайте будут размещать метки и другие обновления, идентифицирующие «синтетический» или «реалистично измененный» контент. Согласно опубликованному заявлению, цель состоит в том, чтобы уменьшить количество пользователей, которые могут быть обмануты видеороликами, созданными с использованием новейших технологий.
YouTube всегда придерживался принципов борьбы с дезинформацией, а это лишь дополнение к ним. Пользователям уже запрещено делиться обработанным или подделанным контентом, который «может представлять серьезную угрозу для жизни и здоровья» (хотя YouTube не уточняет, какие именно виды угроз имеются в виду). Пользователи также должны нести ответственность за ложное приписывание кадров из прошлых событий к текущим событиям. Но по словам разработчиков ни одна из этих политик не была разработана специально для искусственного интеллекта, который быстро позволил интернет-шутникам и злоумышленникам создавать фейковый контент, который неподготовленному глазу кажется очень реалистичным.
Эмили Моксли и Дженнифер О'Коннор, топ-менеджеры YouTube по контролю за продуктами, надеются, что разрабатываемые технологии борьбы с дезинформацией восполнят этот пробел. Одна из стратегий предполагает размещение основной информации об "измененном или синтетическом контенте" в нижней части описания видео (для стандартных видеороликов YouTube) или в проигрывателе Shorts. Согласно приведенным примерам YouTube, это позволит предупредить пользователей о видео, в которых звуки или визуальные эффекты были “изменены или созданы цифровым способом”.
Примеры, демонстрирующие предупреждение об "измененном или синтетическом контенте" в нижней части видеоролика и проигрывателе Shorts. Автор: YouTube
Авторам будет предложено самим выбирать эти метки при публикации нового контента. Учитывая, что некоторые люди, публикующие синтетический контент, делают это намеренно, чтобы ввести зрителей в заблуждение, YouTube также готов иметь дело с пользователями, которые отказываются подчиняться.
«Авторы, которые постоянно предпочитают не раскрывать эту информацию, могут быть подвергнуты удалению контента, отстранению от партнерской программы YouTube или другим штрафам», — предупреждается во вторник.
Если этой информации будет недостаточно, YouTube добавит более заметную надпись. Такая надпись может появиться на материалах, посвященных текущим выборам или вопросам общественной безопасности. Особо опасный контент будет удаляться полностью.
YouTube также планирует предоставить пользователям возможность сообщать о материалах, в которых ложно используются их образы для распространения дезинформации. Это становится все более важным на фоне распространения дипфейков — компьютерных видеороликов, создающих впечатление, что кто-то сделал или сказал что-то, чего никогда не было. В конечном итоге эта система отчетности будет распространяться на звуки, генерируемые искусственным интеллектом, которые имитируют речь, пение или рэп конкретного человека.