Кто сказал, что ИИ — это про оптимизацию, автоматизацию и помощь человечеству? Видимо, забыл упомянуть, кому именно он помогает. Пока корпорации жмут руки ChatGPT за рост производительности офисных клерков, по другую сторону экрана нейросети научились одной очень старой профессии — красть. Только делают это не в маске и с монтировкой, а через API и deepfake.
Вы когда-нибудь слышали, как звучит голос генерального директора, который просит “срочно перевести деньги на счёт партнёра”? А теперь представьте, что этот голос — не настоящий. Его создала ИИ-модель за 3 минуты. И кассир — не выдержал. Перевёл. Миллион долларов. За полчаса.
$6 миллиардов в год. Именно столько, по данным американского Совета по борьбе с финансовыми преступлениями (ACFCS), теряют банки США из-за ИИ-мошенников. И эта цифра растёт быстрее, чем курс Nvidia. Самый стремительный рост преступлений за последние 20 лет. Раньше так быстро росли только стартапы в эпоху доткомов — и то не все выжили.
Кто эти люди? Они — не хакеры с «анонимусами» на аватарках. Это стартаперы тьмы. Они делают свои генеративные модели, которые клонируют голоса, создают фальшивые документы, управляют бот-сетями и пишут письма, от которых у бухгалтера дрожит мышка. Они не грабят банки. Они заставляют банки отдать деньги добровольно. С улыбкой.
Примеры? Да пожалуйста.
– Банк в Гонконге: сотрудник получает звонок от якобы CFO — всё официально, всё знакомо. Переводит $35 млн. Только потом выясняется: голос был синтезирован, лицо — deepfake, документы — сгенерированы, эмоции — сыграны алгоритмом.
– Америка: банкоматы атакует армия цифровых клонов, каждый из которых знает PIN, паспорт и даже девичью фамилию матери. Как? Купили на даркнете, обработали, сшили.
И вот вам парадокс: пока мы спорим, сможет ли ИИ заменить художника или бухгалтера, он уже заменил мошенника. Причём, делает это быстрее, дешевле и... без стыда.
А что банки? Банки делают то, что умеют лучше всего — пишут отчёты. Предупреждают о рисках. Вводят “новые меры безопасности”. Только вот ИИ-алгоритм, которому дали доступ к открытым данным, обходит эти меры быстрее, чем ваш антивирус обновляется.
А что мы? Мы читаем эту статью, удивляемся, ставим смайлик. Кто-то кивает: “Ну да, прогресс”. Кто-то думает: “Меня-то это не коснётся”. А кто-то уже пишет свой маленький скрипт, чтобы попробовать.
Потому что ИИ, как зеркало. Он не делает нас лучше. Он просто показывает, кто мы есть на самом деле.
И, судя по $6 миллиардам — мы совсем неплохо адаптируемся.