Фейковое видео Тейлор Свифт. Фотореалистичные, но вымышленные изображения Gaza. Список сбивающих с толку дипфейков можно продолжать, и по мере того, как инструменты для создания дипфейков становятся все проще и дешевле в использовании, волны фейков наступают все быстрее и яростнее.
Согласно недавнему опросу Pew Center, около двух третей американцев (66%) говорят, что они хотя бы иногда сталкиваются с измененными видео и изображениями, которые призваны ввести в заблуждение, причем 15% сталкиваются с ними часто. В отдельном опросе экспертов по искусственному интеллекту, проведенном Axios и Сиракузским университетом, 62% заявили, что дезинформация станет самой большой проблемой для поддержания подлинности и достоверности новостей в эпоху контента, создаваемого искусственным интеллектом.
Так каков ответ? Есть ли такой?
Если вы поговорите с такими людьми, как Майкл Матиас, специалист по кибербезопасности, соучредитель и генеральный директор Clarity , они скажут вам, что это детекторы дипфейков. Матиас основал Clarity вместе с Гилом Авриэлем и Натали Фридман в 2022 году с целью разработки технологии для обнаружения медиафайлов, манипулируемых ИИ, — в основном изображений.
Clarity входит в число многих крупных и мелких поставщиков, стремящихся разработать инструменты для обнаружения дипфейков. Другие включают Reality Defender , который предлагает платформу для изоляции дипфейков текста, видео и изображений, и Sentinel , который фокусируется на дипфейках изображений и видео.
На самом деле трудно отличить предложения Clarity от других — по крайней мере, для этого автора. Как и конкурирующие поставщики, Clarity поддерживает инструмент сканирования, доступные через приложение и API, который использует несколько моделей искусственного интеллекта для сравнения загруженных медиафайлов — видео, изображений и аудио — с базой данных дипфейков и изображений, созданных искусственным интеллектом. Кроме того, Clarity предоставляет форму водяных знаков, которую клиенты могут использовать, чтобы указать, что их контент является законным.
Но Матиас настаивает на том, что отличительные черты лежат под поверхностью, учитывая быструю реакцию Clarity на новые типы дипфейков.
«По своей сути Clarity использует искусственный интеллект, но работает как компания по кибербезопасности», — сказал Матиас. «Clarity рассматривает дипфейки как вирусы, действующие как патогены, которые быстро разветвляются и размножаются. Таким образом, ее решение также было создано для разветвления и репликации для поддержания адаптивности и отказоустойчивости… Команда создала инфраструктуру и модели искусственного интеллекта, предназначенные для выполнения этой задачи».
Конечно, точность в области обнаружения дипфейков — движущаяся цель. Даже при наличии лучших знаний и технологий, которые можно купить за деньги, в этой игре невозможно выиграть, учитывая скорость, с которой улучшаются GenAI и приложения для создания дипфейков. Возможно, именно поэтому некоторые крупные игроки, включая Google, Microsoft и AWS, используют более сложные метаданные водяных знаков и происхождения в качестве альтернативных — хотя и несовершенных — мер борьбы с дипфейками.
Как бы то ни было, Clarity без проблем заручилась поддержкой. Нью-йоркский стартап со штатом из 13 сотрудников недавно завершил посевной раунд стоимостью 16 миллионов долларов под руководством Walden Catalyst Ventures и Bessemer Venture Partners при участии Secret Chord Ventures, Ascend Ventures и Flying Fish Partners.
И, похоже, он занял свою нишу. Первоначально Clarity, которая продает подписку, а также планы с оплатой по мере использования, искала клиентов в издательствах новостей и государственном секторе, включая правительство Израиля. (Матиас утверждает, что Clarity помогает аутентифицировать и проверять видео, снятые во время конфликта между Израилем и Хамасом.) Но с тех пор она распространилась на поставщиков услуг проверки личности и другие, неназванные «крупные предприятия».
«Это быстро развивающаяся гонка вооружений, как и в случае с традиционной кибербезопасностью», — сказал Матиас. «Любая компания, которая хочет бороться с дипфейками, должна действовать так же быстро, как и те, кто их создает и распространяет».