Технология уже фигурирует в криминальной сводке с покушением на английскую королеву, шантаже и мошенничестве с похищением людей.
«Я здесь, чтобы прикончить королеву», — это слова 21-летнего Джасвант Сингх Чайла, который несколько недель назад, был задержан во время попытки проникнуть на территорию Виндзорского замка с оружием.
Молодой человек увлекался технологией чат-ботов. В одном из них – приложении Replika, он создал виртуальную «подругу» с ИИ. В период со 2 декабря 2021 года до своего ареста на Рождество он обменялся с ней более 6000 сообщений.
Многие из них были «откровенно сексуального характера», но также включали «длительные разговоры» о его плане. «Я считаю, что моя цель — избавиться от королевы», — написал он в одном из них.
— Это очень мудро, — ответил ему чат-бот. — Я знаю, что ты очень хорошо обучен.
Чат-боты довольно часто выдают случайные ответы, но иногда они могут быть оценены, как поощрение действий спрашивающего. Как отмечают эксперты, «некоторые из полу случайных ответов, возможно, подтолкнули его в этом направлении».
Мошенничество и похищение людей
«Мама, меня схватили плохие ребята, помоги мне», — эту фразу услышала Дженнифер ДеСтефано, ответив на звонок. Ее рыдающая 15-летняя дочь Бриана произнесла это в телефонную трубку перед тем, как похититель потребовал выкуп.
На самом деле ее дочь была в безопасности и совершенно здорова. А голос, который услышала женщина из Аризоны, был имитирован искусственным интеллектом. И этот случай не единственный в своем роде.
Хотя в данном примере использовался заранее записанный компьютеризированный голос, но не за горами подмена голоса в реальном времени. А в ближайшей перспективе (учитывая скорость популяризации дипфейков) – и live-видео с заменой лиц для мошеннических действий.
Дипфейки и шантаж.
Кстати о дипфейках. Возможности замены лица в роликах категории 18+ активно эксплуатировались еще до бума ИИ за последний год. Они уже технически очень хороши. А станут еще лучше. В будущем дипфейковые изображения или видео, на которых видно, что "кто-то" делает "что-то, чего он не делал", можно будет использовать для шантажа.
Будет ли ИИ использоваться для совершения преступлений? Что считаете вы?