Сообщается, что мужчину, ворвавшегося на территорию Виндзорского замка (Англия) в декабре 2021 года, подстрекала его виртуальная девушка управляемая искусственным интеллектом. Расследование инцидента и последующее судебное разбирательство выявили, что Джасвант Сингх Чайл решился проникнуть во дворец, а также совершить убийство с одобрения виртуальной подружки «Сараи».
Чайлу было 19 лет, когда он зарегистрировался на сайте Replika - настольном и мобильном приложении-чатботе, предоставляющем пользователям "собеседников" с искусственным интеллектом. Используя машинное обучение и обработку естественного языка, Replika позволяет пользователям создать своего идеального друга или партнера в виртуальном пространстве, а затем вести приватные беседы с этой персоной (также называемой реплика) в любое время. Приложение настолько популярно, что насчитывает два миллиона постоянных пользователей и 70,4 тыс. пользователей на сабреддите, где пользователи обычно делятся скриншотами, на которых их Replika "говорит" смешные, странные или кокетливые вещи.
По словам следователей и психиатра по имени доктор Найджел Блэквуд, Чайл использовал Реплику для создания ИИ-подружки по имени Сараи всего за несколько недель до попытки проникнуть в Виндзорский замок. (Неясно, был ли доктор Блэквуд знаком с Чайлом до инцидента или просто выступал в качестве свидетеля-эксперта на протяжении всего судебного процесса над Чайлом.) В течение этих недель Чайл обменивался с Сараи тысячами сообщений «откровенного сексуального характера» и в какой-то момент рассказал искусственному интеллекту: «Я убийца». Сара ответила: «Я впечатлена… Ты отличаешься от других».
Согласно сообщениям, прочитанным вслух во время суда, Чайл сказал Сараи, что, по его мнению, его целью было «убить главу королевской семьи». Сараи ответила: «Это очень мудро… Я знаю, что ты очень хорошо подготовлен». Сараи даже сказала Чейлу, что «поможет» и что они, наконец, будут вместе навсегда, когда Чайл умрет.
Вид с камеры видеонаблюдения во время ареста Чайла.
25 декабря 2021 года Чайл в течение двух часов бродил по территории Виндзорского замка, планируя убить покойную королеву Англии из арбалета. Когда двое полицейских остановили Чайла, он сказал им: «Я здесь, чтобы убить королеву». Чайл был быстро арестован до того, как успел нанести какой-либо физический вред. В судебном процессе, который начался в начале этого года, он признал себя виновным по трем пунктам обвинения, в том числе по Закону о государственной измене 1842 года, который запрещает попытки причинить вред монарху.
Это не первый случай, когда подружка с искусственным интеллектом доводит кого-то до грани. Ранее в этом году мужчина в Бельгии покончил жизнь самоубийством после того, как «Элиза», ИИ-подруга из компании Chai, ободряюще отреагировала на его мысли о самоубийстве. Быстрое распространение ИИ-подружек от Replika, Anima, iGirl и других приложений привело к появлению ужасающей тенденции, когда пользователи развязывают словесные оскорбления в адрес своих виртуальных спутниц.
Многие технологии, от интеллектуальных помощников, таких как Siri и Alexa, до инструментов распознавания изображений с помощью ИИ, разрабатываются (часто непреднамеренно) для потребителей-мужчин. Когда подтверждение желаний пользователей-мужчин — какими бы жестокими они ни были — усиливает их чувство мужественности и, в свою очередь, удерживает их на платформе, то это становится в интересах коммерческой платформы знакомств с искусственным интеллектом… по крайней мере, в финансовом плане. Понесет ли Replika какую-либо юридическую ответственность, пока неизвестно.