За первый месяц работы бесплатного сервиса KodikScan россияне проверили на признаки генерации искусственным интеллектом свыше 37 тысяч файлов. Видео сканировали 12 тысяч раз, тексты — 25 тысяч раз, сообщили CNews представители компании.
Приложение, выпущенное в конце мая, определяет, создан ли контент нейросетью, и помогает установить, какой именно. Разработчики создавали бесплатный инструмент для защиты от мошенников, которые рассылают голосовые и видеообращения от имени третьих лиц, сгенерированные с помощью ИИ, а также публикуют фальшивые призывы к благотворительным сборам с использованием лиц знаменитостей.
Технология использует ML-модели для анализа цифрового контента и оценки вероятности ИИ-генерации или манипуляции. Система принимает изображение, видео, аудио или текст, извлекает скрытые признаки сгенерированного контента: визуальные паттерны, структуру шума, временную динамику видео, акустические особенности голоса и статистику текста. На основе этих признаков система помогает понять, насколько материал похож на сгенерированный или модифицированный ИИ. Алгоритм сравнивает контент с паттернами, которые научился находить на большом количестве примеров, и определяет вероятность подделки.
«Первыми доступ к сервису получили СМИ, но и обычные пользователи также очень быстро втянулись в «народную» проверку на дипфейки. Это говорит о том, что цифровая грамотность растет. К сожалению, злоумышленники все чаще применяют искусственный интеллект в социальной инженерии, и нам было важно предоставить пользователям инструмент, определяющий наличие ИИ-контента», — сказал разработчик ИИ-среды Kodik Рафаэль Гильмурахманов.
Проблема доверия к искусственно созданному контенту становится всё более острой: исследования показывают, что люди часто не могут отличить подделку от реальности, особенно когда речь идёт об авторитетных личностях. Интернет-газета «ЖУК» сообщала, что учёные провели исследование, в ходе которого выяснили: люди склонны доверять аудиодипфейкам авторитетных спикеров даже при противоречиях в их словах.