TikTok, одна из самых популярных в мире платформ социальных сетей, объявила о запуске новой автоматической системы маркировки контента. Эта новая функция будет идентифицировать и маркировать видео, созданные с использованием искусственного интеллекта (ИИ). Этот шаг направлен на повышение прозрачности и аутентичности на платформе.
Новая система будет применяться ко всем видеороликам, созданным или загруженным на TikTok, независимо от того, были ли они сделаны с использованием встроенных инструментов искусственного интеллекта платформы или сторонних сервисов, таких как OpenAI. Любое видео, идентифицированное как созданное с помощью искусственного интеллекта, будет помечено специальным тегом или бейджем, дающим понять зрителям, что контент создан не человеком.
Согласно TikTok, новая система будет использовать комбинацию алгоритмов машинного обучения и человеческого анализа для точной идентификации контента, созданного искусственным интеллектом. Компания также заявила, что будет тесно сотрудничать с создателями контента, чтобы гарантировать, что система маркировки является справедливой и эффективной.
Объявление сделано в связи с растущей обеспокоенностью по поводу использования искусственного интеллекта при создании фейков и других форм синтетических медиа. Дипфейки - это реалистичные, но поддельные видео или аудиозаписи, которые создаются с помощью искусственного интеллекта для манипулирования кем-либо. В последние годы они вызывают растущую озабоченность, и многие эксперты предупреждают об их потенциальном распространении дезинформации и пропаганды.
Внедряя систему для идентификации контента, созданного искусственным интеллектом, TikTok предпринимает упреждающий шаг к решению этой проблемы. Компания также заявила, что примет меры против любых учетных записей, которые, как будет установлено, используют искусственный интеллект для создания вводящего в заблуждение или вредоносного контента.
Этот шаг был одобрен многими представителями технологической индустрии, которые рассматривают его как важный шаг на пути к повышению прозрачности и подотчетности в использовании искусственного интеллекта. Однако некоторые критики выразили обеспокоенность по поводу возможности ложных срабатываний, когда законный контент неправильно помечается как созданный искусственным интеллектом.
TikTok признал эти опасения и заявил, что со временем будет работать над повышением точности своей системы. Компания также призвала пользователей сообщать о любых случаях использования контента с неправильной маркировкой, чтобы его можно было просмотреть и исправить по мере необходимости.