Сивэй Лю — профессор Университета Буффало (UB), одного из ведущих университетов США. В рамках своей работы он имеет доступ к лучшим инструментам для быстрого обнаружения поддельных вирусных фотографий, видео и аудиофайлов. Недавно он рассказал о своей работе на портале Techxplore.
«Будь то пользователи социальных сетей, журналисты или правоохранительные органы, каждому часто приходится обращаться к кому-то вроде меня, чтобы узнать, есть ли в средствах массовой информации признаки того, что они созданы искусственным интеллектом», — сетует Лю.
Люди не могут получить немедленный и окончательный анализ, когда время имеет решающее значение. Чтобы исправить эту ситуацию, Лю и его команда из лаборатории медиа-криминалистики UB разработали Deepfake-o-Meter. Внешне это простая веб-платформа, похожая на поисковую систему. Однако на ней работает несколько современных алгоритмов обнаружения дипфейков, общим для которых является то, что они имеют открытый исходный код.
Использовать платформу довольно просто. После того, как пользователи создадут бесплатную учетную запись, они смогут загрузить медиафайл. Затем можно выбрать алгоритмы обнаружения. Таким образом, можно точно узнать время работы и год, в котором контент был разработан. Менее чем через минуту пользователи получают оценку от системы.
«Мы не делаем никаких явных выводов по поводу загруженного контента. Мы просто проводим комплексный анализ этого контента, используя различные методы», — объясняет Лю.
Затем пользователи должны использовать эту информацию, «чтобы решить для себя, считают ли они контент реальным». Перед загрузкой пользователей спрашивают, хотят ли они поделиться соответствующим анализом с исследователями. Лю и его команда хотят в конечном итоге тренировать свои алгоритмы с помощью средств массовой информации, которые распространяют материалы в интернете.
«Все время появляются новые и более изощренные дипфейки. Алгоритмы необходимо постоянно совершенствовать, чтобы оставаться в курсе событий», — объясняет Лю.
Для этого нужны «данные из реального мира». По словам Лю, на платформе уже проверено более 6300 СМИ. В их число входил звонок от предполагаемого Джо Байдена, который просил жителей американского штата Нью-Гэмпшир не голосовать, а также фейковое видео, на котором Владимир Зеленский объявляет о капитуляции.
Следующая версия Deepfake-o-Meter предназначена для раскрытия используемых инструментов искусственного интеллекта. У Лю много планов на будущее Deepfake-o-Meter. Он надеется расширить свою платформу за пределы выявления контента, созданного искусственным интеллектом. Его команда уже разработала инструменты, которые, в свою очередь, могут идентифицировать инструменты искусственного интеллекта, которые, скорее всего, использовались для создания дипфейков.
Это даст подсказки, позволяющие сузить круг ответственных за создание контента, поскольку не всегда достаточно «знать, что средство массовой информации является синтетическим или манипулируемым». Также важно понять, кто за этим стоит и каковы их намерения.
Его команда хочет привлечь внимание людей к теме дипфейков и вовлечь их в охоту за ними. По словам ученого, объединение пользователей социальных сетей и исследователей имеет решающее значение для решения многих проблем, вызванных дипфейками. Это потребует коллективных усилий для решения проблемы дипфейков.
