Интернет сейчас оживлен обсуждениями на тему генеративных моделей искусственного интеллекта. Благодаря комбинации умных алгоритмов, машинного обучения и обширных наборов данных, фотогенераторы, такие как DALL-E, Midjourney и Stable Diffusion, а также текстовые генераторы, включая Google Bard, ChatGPT, Chinchilla и LLaMA, продолжают улучшаться с невероятной скоростью, создавая все более разнообразный контент.
Несмотря на то, что технология находится на ранней стадии развития, результаты уже впечатляют. Например, ChatGPT-4 уже обещает создание видео контента на основе текста, и это только одно из направлений развития искусственного интеллекта. Системы искусственного интеллекта будут постепенно осваивать новые области, включая аудио и видеоконтент в Интернете.
Искусственный интеллект уже может создавать реалистичные видеоролики, известные как «Deep Fakes«. Которые практически не отличить от настоящих. Это становится все более проблематичным по мере улучшения технологии. Реалистичный контент, созданный искусственным интеллектом, требует дополнительных правил и ограничений, чтобы предотвратить возможность фальсификации, сообщает Gizmodo.
Один из таких инструментов — это водяные знаки, которые имеют долгую историю использования для обеспечения подлинности и предотвращения фальсификации. Водяные знаки могут быть встроены в генеративные системы искусственного интеллекта и их обучающую базу данных, таким образом, генерируемый контент будет содержать отличительный символ.
OpenAI также экспериментирует с использованием водяных знаков в ChatGPT, однако это требует времени и усилий. Для стандартизации подобного подхода к аутентификации контента искусственного интеллекта потребуется усилия компаний, таких как Apple, Google и Microsoft.