Согласно отчёту издания The Wall Street Journal, компании, использующие аудио- или визуальную идентификацию пользователей готовятся к стремительному росту числа мошеннических схем с применением технологий генеративного искусственного интеллекта.
По словам Билла Кэссиди, директора по информационным технологиям New York Life, мошеннические звонки были всегда, но с появлением генеративных нейросетей, способных в точности имитировать чужой голос, проблема выходит на совершенно новый уровень. Совсем недавно OpenAI рассказала о своей нейросети, способной скопировать голос человека буквально по 15-секундной записи. Именно из соображений безопасности компания не спешит выпускать её в массы.
Используя эти технологии, злоумышленники могут проходить голосовую аутентификацию в банковских приложениях для получения доступа к учётным записям пользователей. Например, в ходе эксперимента систему безопасности американского банка Chase Bank удалось обойти с помощью сгенерированного голоса. Правда, в банке заявили, что для проведения транзакций и других финансовых операций клиенты должны предоставлять дополнительную информацию.
По данным платформы проверки личности Sumsub, количество инцидентов с дипфейками в финансовом секторе за 2023 год выросло на целых 700% по сравнению с 2022-м. На фоне всех этих новостей компании работают над решениями, способными противостоять этим новым мошенническим схемам. В частности, группа венчурного капитала New York Life находится в поиске стартапов и новых технологий, специализирующихся на борьбе с дипфейками.
Билл Кэссиди отметил, что лучше всего противостоять генеративному ИИ может только другой генеративный ИИ. И такие случаи уже известны. Так банк Simmons Bank меняет свои протоколы проверки личности, поскольку ранее одним из этапов создания учётной записи в банке была загрузка человеком фотографий водительских прав. Теперь, когда такие изображения можно легко создавать с помощью нейросети, банк сотрудничает с компанией IDScan.net над совершенствованием процесса проверки данных. В частности, теперь клиенты должны фотографировать свои водительские права только через приложение банка, а затем делать селфи, вертя головой в кадре.