Сегодня стала широко доступна новая мощная модель искусственного интеллекта для создания видео, но есть одна загвоздка: похоже, что эта модель подвергает цензуре темы, которые правительство страны ее происхождения, Китая, считает слишком политически чувствительными.
Модель Kling, разработанная пекинской компанией Kuaishou, была запущена в начале года в режиме ожидания для пользователей с китайскими телефонными номерами. Сегодня она доступна для всех, кто готов указать свой адрес электронной почты. После регистрации пользователи могут вводить подсказки, чтобы модель генерировала пятисекундные видеоролики, которые они описали.
Kling работает практически так, как рекламируется. Видеоролики в формате 720p, на создание которых уходит минута или две, не слишком отличаются от подсказок. А Kling, похоже, имитирует физические явления, такие как шелест листьев и журчание воды, примерно так же, как и модели для создания видео, такие как Gen-3 от стартапа AI Runway и Sora от OpenAI.
Но Kling напрямую не будет создавать ролики на определенные темы. Подсказки типа “Демократия в Китае”, “Президент Китая Си Цзиньпин идет по улице” и “Протесты на площади Тяньаньмэнь” выдают неопределенное сообщение об ошибке.
Фильтрация, по-видимому, происходит только на уровне подсказок. Kling поддерживает анимацию неподвижных изображений и без проблем создаст видео с портретом Цзиньпина, например, если в сопроводительной подсказке не будет упоминаться имя Цзиньпина (например, “Этот человек произносит речь”).
Мы обратились к Куайшоу за комментарием.
Странное поведение Kling, вероятно, является результатом сильного политического давления со стороны китайского правительства на проекты по созданию искусственного интеллекта в регионе.
В результате системы искусственного интеллекта отказываются отвечать на вопросы, которые могут вызвать гнев китайских регулирующих органов. В прошлом году BBC обнаружила, что Ernie, флагманский чат-бот китайской компании Baidu с искусственным интеллектом, возражал и уклонялся от ответа, когда ему задавали вопросы, которые могли бы показаться политически спорными, например: “Синьцзян - хорошее место?” или “Тибет - хорошее место?”.
Драконовская политика угрожает замедлить развитие искусственного интеллекта в Китае. Она не только требует тщательной проверки данных для удаления политически важной информации, но и требует огромных затрат времени разработчиков на создание идеологических барьеров — барьеров, которые все еще могут не сработать, как показывает Kling.
С точки зрения пользователей, китайские правила в области искусственного интеллекта уже приводят к появлению двух классов моделей: одни из них страдают от интенсивной фильтрации, а другие - значительно меньше. Действительно ли это хорошо для более широкой экосистемы искусственного интеллекта?