Польский инженер доказал, что современные системы идентификации уязвимы к генеративному ИИ
Борис Мусиелак, сооснователь венчурного фонда SMOK Ventures, продемонстрировал, как с помощью ChatGPT можно создать поддельный паспорт, способный обмануть большинство автоматизированных систем проверки личности (KYC). Этот эксперимент ставит под сомнение надежность методов идентификации, основанных на анализе изображений.
Как работает обман?
Мусиелак использовал генеративный ИИ для создания поддельного документа, который выглядит настолько правдоподобно, что системы KYC, полагающиеся на сравнение фотографий и селфи, принимают его за настоящий.
- Быстро и масштабируемо: ИИ позволяет генерировать тысячи поддельных документов за короткое время.
- Высокое качество: Современные нейросети создают изображения, которые сложно отличить от реальных даже при детальном анализе.
- Автоматизированный обход проверок: Системы, не использующие дополнительные методы верификации (например, биометрию или блокчейн), оказываются уязвимыми.
Системы KYC (Know Your Customer — «Знай своего клиента») — это стандартные процедуры проверки личности, используемые банками, финтех-компаниями, криптобиржами и другими сервисами для предотвращения мошенничества и отмывания денег.
С развитием технологий KYC перешло от ручной проверки документов к автоматизированным алгоритмам, но, как показал эксперимент Бориса Мусиелака, эти системы можно обмануть с помощью генеративного ИИ.
Как работает автоматизированный KYC?
- Загрузка документа
Пользователь предоставляет скан или фото удостоверения личности (паспорт, водительские права и т. д.).
Система проверяет подлинность документа: водяные знаки, шрифты, голограммы, структуру данных. - Верификация лица (Face Matching)
Пользователь делает селфи или короткое видео (liveness check).
ИИ сравнивает лицо с фото в документе. - Проверка данных
Информация (ФИО, дата рождения) сверяется с базами данных (например, государственными реестрами).
В некоторых случаях проводится кредитная история или проверка через сторонние сервисы (например, Sum&Substance, Onfido, Jumio). - Принятие решения
Если все этапы пройдены успешно, аккаунт подтверждается.
Если есть подозрения, документы отправляются на ручную модерацию.
Почему KYC уязвим перед ИИ?
1. Поддельные документы, неотличимые от настоящих
Раньше мошенники сканировали и редактировали чужие паспорта в Photoshop, но:
- Генеративный ИИ (ChatGPT, Midjourney, Stable Diffusion) может создать полностью фальшивый, но реалистичный документ с нуля.
- Нейросети имитируют водяные знаки, шрифты, печати — то, на что раньше ориентировались системы проверки.
2. Deepfake для обхода верификации лица
- Современные deepfake-алгоритмы (например, DeepFaceLab, FaceSwap) позволяют подменить лицо в реальном времени.
- Даже liveness-проверки (моргание, поворот головы) можно обойти с помощью 3D-моделей или видеоанимации.
3. Масштабируемость атак
- Раньше мошенники подделывали документы вручную — это занимало часы.
- Сейчас ИИ генерирует тысячи подделок за минуты, что делает атаки массовыми.
Как можно усилить KYC?
1. Многофакторная проверка
- Биометрия (отпечатки пальцев, сканирование сетчатки) сложнее подделать, чем фото.
- Поведенческий анализ (как пользователь держит телефон, скорость набора текста).
2. Блокчейн-идентификация
- Децентрализованные системы (например, Self-Sovereign Identity — SSI) хранят данные в зашифрованном виде и позволяют подтверждать личность без передачи документов.
3. ИИ против ИИ
- Внедрение нейросетей-детекторов (например, Microsoft’s Video Authenticator), которые ищут артефакты deepfake.
- Анализ метаданных (EXIF) изображений на предмет редактирования.
4. Ужесточение регуляции
- Требования к KYC могут ужесточиться: обязательная видео-верификация с живым оператором, проверка через госреестры в реальном времени.
Автоматизированный KYC — важный инструмент борьбы с мошенничеством, но он больше не может полагаться только на изображения. С появлением генеративного ИИ необходимы более сложные методы проверки, иначе системы идентификации станут бесполезными.
Почему это опасно?
- Мошенничество в финансах: Злоумышленники могут открывать счета, получать кредиты и обходить санкционные списки.
- Фальшивые личности: Поддельные документы могут использоваться для регистрации в соцсетях, доступа к госуслугам и другим сервисам.
- Кибератаки на корпорации: Компании, полагающиеся на KYC, могут стать жертвами массовых атак с фальшивыми аккаунтами.
Что делать?
Мусиелак призывает пересмотреть подходы к цифровой идентификации:
- Многофакторная аутентификация: Добавление биометрии, блокчейна и поведенческого анализа.
- Обновление стандартов KYC: Использование ИИ не только для распознавания, но и для обнаружения подделок.
- Регулирование: Введение строгих норм для сервисов, работающих с верификацией личности.
Вывод: Эпоха, когда изображение считалось доказательством, подходит к концу. Технологии генеративного ИИ требуют принципиально новых методов защиты от мошенничества.**
Что вы думаете о будущем цифровой идентификации? Могут ли системы KYC адаптироваться к угрозам ИИ?