Кадр из сгенерированного ИИ видео. Источник: OpenAIБурное развитие искусственного интеллекта (ИИ) неудержимо прогрессирует. До сих пор внимание в первую очередь привлекали тексты и изображения, созданные ИИ, благодаря их всё более реалистичному представлению. Теперь неизбежен новый прорыв: искусственный интеллект скоро сможет генерировать видео, которые вряд ли можно будет отличить от реальных записей.
Такое развитие событий вызывает серьёзную обеспокоенность у многих экспертов. В разговоре с порталом Axios «ведущий архитектор ИИ» поделился своим опытом работы с генеративным видео.
В ходе теста эксперт не смог отличить половину фейковых видео от реальных записей, что поднимает вопрос о возможных эффектах и проблемах этой технологии.
Байден в России. Сгенерировано с использованием ИИ
По мнению экспертов, технология создания таких видеороликов, генерируемых искусственным интеллектом, может стать общедоступной уже в начале 2025 года. Уже сейчас в сети есть сервисы, способные генерировать правдоподобные видео.
Компании, занимающиеся искусственным интеллектом, осознают потенциальные проблемы. Сэм Альтман, соучредитель и экс-глава OpenAI, заявил, что отрасль должна справиться с этим риском. При этом Альтман подчеркнул необходимость дальнейшего развития индустрии искусственного интеллекта.
Кадр из сгенерированного ИИ видео.
Серьёзную озабоченность вызывает то, что созданные ИИ видеоролики могут быть использованы не по назначению, например, для оказания влияния на выборы или для создания реалистичного "взрослого" контента с изображением реальных людей, что поднимает серьёзные этические и юридические вопросы.
Как только технология станет общедоступной, её появление в социальных сетях станет неизбежным. Вероятно, злоумышленники попытаются использовать эту технологию в своих целях. Уже сейчас пользователям стоит проявлять особую бдительность, когда дело касается изображений и видео в интернете.
Американские политики рассматривают возможность использования водяных знаков (специальных меток) для таких видеороликов. YouTube уже начал прибегать к такой практике, отмечая видео, созданные с использованием генеративных нейросетей. Но, по мнению Axios, это ограничение можно относительно легко обойти.