OpenAI, ведущая компания в области искусственного интеллекта, объявила о начале разработки инновационных методов определения контента, созданного с использованием современных алгоритмов машинного обучения. В рамках этой инициативы компания представила два основных инструмента: продвинутый классификатор изображений и устойчивый к взлому водяной знак для аудиоконтента.
Первый инструмент, классификатор изображений, позволит определять, было ли изображение сгенерировано искусственным интеллектом или создано естественным путем. Эта технология обещает стать мощным оружием в борьбе с дезинформацией и подделками, которые стали возможны благодаря развитию генеративных моделей, таких как DALL-E и другие. Согласно пресс-релизу, новый классификатор будет способен анализировать мелкие детали изображений, чтобы с высокой точностью отличать работы, созданные искусственным интеллектом, от фотографий и рисунков, созданных людьми.
Вторым ключевым достижением OpenAI стал устойчивый к взлому водяной знак для аудиоконтента. Этот инструмент позволяет маркировать аудио, созданное моделями, такими как GPT-4 или Whisper, невидимыми, но узнаваемыми сигналами. Такие метки устойчивы к различным методам манипуляции и призваны помочь в идентификации контента, созданного с помощью ИИ, даже после модификаций или перекодирования аудиофайлов. Эти водяные знаки будут эффективно использоваться в борьбе с распространением фейковых аудиозаписей, имитирующих голоса известных личностей или создающих ложные информационные следы.
«Мы понимаем, что с ростом популярности генеративных моделей искусственного интеллекта растет и угроза их злоупотребления, — заявил Грег Брокман, сооснователь и президент OpenAI. — Наши новые инструменты помогут пользователям и компаниям быть уверенными в подлинности создаваемого контента и противостоять растущей волне дезинформации».
OpenAI подчеркивает, что оба инструмента будут доступны для интеграции в сторонние приложения и платформы, чтобы помочь различным компаниям и организациям адаптироваться к новым вызовам, связанным с развитием генеративного ИИ. Разработчики также активно работают над созданием открытых API для упрощения доступа к этим технологиям.
Появление инновационных инструментов идентификации контента, созданного искусственным интеллектом, стало своевременным ответом на растущие опасения общественности и регуляторов по поводу дезинформации, манипуляций и подделок. Подход OpenAI к созданию прозрачных и надежных методов доказательства происхождения контента может задать новый стандарт в индустрии.
Эксперты прогнозируют, что в ближайшее время аналогичные инструменты могут быть разработаны и другими компаниями в области искусственного интеллекта. Это позволит создать глобальную систему распознавания контента, основанного на алгоритмах машинного обучения, и обеспечить более доверительное взаимодействие между пользователями и технологиями нового поколения.