Технология клонирования голоса с помощью искусственного интеллекта стремительно развивается, что позволяет злоумышленникам использовать ее в традиционных мошеннических схемах, как показал недавний случай в Калифорнии. Пожилой мужчина, назвавшийся Энтони, был обманут на 25 000 долларов преступниками, которые использовали голос, сгенерированный ИИ, чтобы подражать его сыну. Благодаря изощренности технологии Энтони был убежден, что разговаривает со своим настоящим сыном, втянув его в глубоко эмоциональную и финансово опустошительную ситуацию.
Все началось с телефонного звонка, в котором голос, выдававший себя за сына Энтони, рассказал ему о серьезной автомобильной аварии. Сын, якобы, сбил беременную женщину, которой требовалась немедленная медицинская помощь. Вскоре после этого поступил второй звонок от человека, который представился Майклом Робертсом, адвокатом, представляющим интересы сына Энтони. Робертс потребовал 9 200 долларов в качестве залога, угрожая, что сын Энтони будет заключен в тюрьму на 45 дней, если платеж не будет сделан немедленно.
Но звонки на этом не закончились. Вскоре после первого платежа Энтони получил еще один звонок, на этот раз от человека по имени Марк Коэн, который утверждал, что является вторым адвокатом. Коэн сообщил ему, что беременная женщина трагически скончалась, в связи с чем сумма залога значительно возросла и теперь составляет от 15 800 до 25 000 долларов. Растерявшись и желая помочь сыну, Энтони подчинился новым требованиям. Только когда деньги закончились, Энтони и его дочь поняли, что их обманули.
Афера оказалась настолько эффективной, что голос сына был воспроизведен до жути точно благодаря искусственному клонированию голоса.
Размышляя о случившемся, Энтони выразил глубокое смущение, но почувствовал себя обязанным поделиться своей историей, чтобы привлечь внимание общественности. Он призвал других быть осторожными с подобными рода звонками и всегда проверять поступающую к ним информацию.