Почему OpenAI позволяет только некоторым пользователям Sora создавать видео с реальными людьми?
В понедельник OpenAI запустила свой инструмент для создания видео, Sora. Но компания решила не предоставлять эту ключевую функцию большинству пользователей в ожидании дальнейшего тестирования.
Рассматриваемая функция создает видео, используя загруженную фотографию или видеозапись реального человека в качестве эталона. OpenAI заявляет, что предоставит доступ к нему “подмножеству” пользователей Sora, но не будет широко использовать эту возможность до тех пор, пока у него не появится возможность точно настроить свой “подход к безопасности”.
“Возможность создавать видео, используя загруженную фотографию или видеозапись реального человека в качестве ”основы", является фактором потенциального злоупотребления, к которому мы применяем особенно постепенный подход, чтобы извлечь уроки из ранних моделей использования", - написал OpenAI в своем блоге. “Первые отзывы художников показывают, что это мощный творческий инструмент, который они ценят, но, учитывая потенциальную возможность злоупотреблений, мы изначально не делаем его доступным для всех пользователей”.
OpenAI также не позволяет пользователям публиковать сгенерированные видеоролики, содержащие клипы или изображения реальных людей, в ленте объявлений на домашней странице Sora.
“Очевидно, что перед нами, как перед OpenAI, стоит серьезная задача, поэтому мы хотим предотвратить незаконную деятельность с помощью Sora, но мы также хотим сбалансировать это с творческим самовыражением”, - сказал Рохан Сахай, руководитель отдела продуктов Sora, во время презентации в прямом эфире ранее сегодня. “Мы знаем, что [это будет] постоянная проблема — мы можем не довести ее до совершенства в первый же день. Мы начинаем немного консервативно относиться к модерации, поэтому, если у нас что-то не получается, просто сообщите нам об этом”.
Генеративное видео — это мощный инструмент, но при этом противоречивый, поскольку фейки и дезинформация вызывают серьезные опасения. Согласно данным сервиса проверки личности Sumsub, с 2022 по 2023 год число случаев мошенничества с помощью deepfake во всем мире увеличилось более чем в 10 раз.
Среди других мер, которые, по словам OpenAI, принимаются для предотвращения злоупотреблений, в Sora есть фильтр, позволяющий определить, изображен ли на сгенерированном видео кто-то моложе 18 лет. Если это произойдет, OpenAI установит “более строгий порог” для модерации контента, связанного с сексуальным, насильственным или членовредительством, утверждает компания.
Все видеоролики, созданные Sora, содержат метаданные, указывающие на их происхождение, в частности, метаданные, соответствующие техническому стандарту C2PA. Метаданные могут быть удалены, это разрешено. Но OpenAI предлагает это как способ для платформ, поддерживающих C2PA, быстро определить, было ли видео получено с Sora.
Стремясь отразить жалобы на авторские права, OpenAI также заявляет, что использует “быстрое переписывание”, чтобы помешать Sora создавать видео в стиле живого создателя.
“Мы добавили быстрые перезаписи, которые запускаются, когда пользователь пытается создать видео в стиле живого исполнителя”, - написали в компании. “Мы решили придерживаться консервативного подхода к этой версии Sora, поскольку узнаем больше о том, как Sora используется творческим сообществом … В творчестве существует очень давняя традиция заимствовать стили других художников, но мы понимаем, что у некоторых создателей могут возникнуть проблемы”.
Ряд художников подали в суд на компании, занимающиеся искусственным интеллектом, включая OpenAI, за то, что они якобы обучались на своих работах без разрешения создавать инструменты искусственного интеллекта, которые воспроизводят контент в их уникальных стилях. Компании, со своей стороны, заявляют, что доктрина добросовестного использования защищает их от претензий о нарушении авторских прав и что модели искусственного интеллекта на самом деле не повторяются.
В ходе обучения OpenAI сообщит только, что Sora была разработана с использованием сочетания “разнообразных наборов данных”, включая общедоступные данные, собственные данные, к которым можно получить доступ благодаря партнерству с поставщиками данных, и пользовательские наборы, разработанные собственными силами. В начале этого года бывший технический директор OpenAI Мира Мурати не стала прямо отрицать, что Сора обучалась работе с роликами на YouTube, что, по-видимому, является нарушением политики использования стриминговой платформы, принадлежащей Google.
По словам видеоблогера Маркеса Браунли, который получил предварительный просмотр Sora, система может создавать несколько вариантов видеоклипов из текстовой подсказки или изображения и редактировать существующие видео с помощью инструмента повторного микширования. Интерфейс раскадровки позволяет пользователям создавать последовательности видеороликов; инструмент наложения берет два видеоролика и создает новое, в котором сохраняются элементы обоих; а опции зацикливания и перерезки позволяют создателям дополнительно настраивать и редактировать свои видео и сцены.
Подписчики тарифных планов OpenAI ChatGPT Pro и Plus получают доступ к Sora, видеогенератору OpenAI, уже сегодня, но только в том случае, если они живут в определенных странах.