Воссозданные искусственным интеллектом жертвы теперь смогут рассказать страшную историю своего убийства. "Бабушка запихнула меня в духовку, там температуре была 230 градусов. Мне был всего 21 месяц", - сообщает в видео ребенок с огромными голубыми глазами. Малышка говорит очаровательно детским голосом под грустную мелодию песни Дилана Мэтью "Love Is Gone". Она представляется, как Роди Мари Флойд, маленькая девочка, которая жила с мамой и бабушкой в Миссисипи. Она рассказывает, что однажды она была голодна и не переставала плакать, поэтому бабушка засунула ее в духовку, что послужило причиной ее смерти. "Пожалуйста, посмотрите на меня, чтобы больше людей узнали мою правдивую историю", - говорит ребенок в конце видео.
Ребенок в этом видео, конечно же, не настоящий: это сгенерированное искусственным интеллектом создание, размещенное в соцсети с почти 50 000 подписчиков, где пользователи публикует видео с реальными жертвами преступлений, рассказывающими свои истории. Жуткая история, которую Роди рассказывает - не до конца правдива. Ребенка звали не Роди Мари, а Роялти Мари, и она была найдена зарезанной и сожженной в духовке в доме своей бабушки в штате Миссисипи в 2018 году: бабушке, 48-летней Кэролин Джонс, в начале этого года было предъявлено обвинение в убийстве первой степени. Но Роялти было 20 месяцев, когда она умерла, а не 21, и, в отличие от ребенка в видеоролике.
Такие неточности являются обычным явлением в гротескном мире дипфейков, созданных ИИ, в жанре массового фэндома правдивых преступлений, который использует искусственный интеллект для воскрешения жертв убийств, многие из которых - маленькие дети. В таких видео, некоторые из которых имеют миллионы просмотров, жертва рассказывает от первого лица о жутких подробностях своей смерти. "Они довольно жуткие", - сказал Пол Бликли, профессор кафедры уголовного правосудия, в интервью для RollingStone . "Кажется, что они созданы для того, чтобы вызывать сильную эмоциональную реакцию, что является самым верным способом получить лайки. На это неприятно смотреть, но я думаю, что в этом и есть смысл".
Во многих аккаунтах есть оговорка, что в видео не используются реальные фотографии жертв. Один из многочисленных аккаунтов рассказывает истории не только о неизвестных жертвах убийств, таких как Элиза Искьердо, шестилетняя девочка, убитая своей матерью в 1995 году или Стар Хобсон, годовалый ребенок, убитый подругой матери в 2020 году, но и про взрослых жертв, таких как Кеннеди.
Распространение в соцсетях видеороликов с жертвами преступлений воссозданными искусственным интеллектом - поднимает этический вопрос, в связи с огромным интересом к преступлениям в целом. Такой жанр завоевал огромную популярность, многие критики ставят под сомнение этические последствия того, что аудитория с таким интересов следит за реальными истории ужасных нападений и убийств и воспринимает это как развлечение, а рост числа любителей, одержимых преступлениями может привести к ретравматизации близких жертв.
Это опасение относится и к таким видео, как ролик с участием Роялти, рассказывающий историю жертвы с ее точки зрения, использующий ее имя без согласия семьи ребенка, что производит жуткий эффект. "Подобное имеет потенциал для виктимизации людей, которые уже являются жертвами", - говорит Бликли. "Представьте себе, что вы родитель или родственник одного из этих детей в видеороликах. Вы заходите в интернет, и вот странным голосом изображение, воссозданное ИИ, вашего мертвого ребенке, рассказывает в мельчайших подробностях о том, что с ним произошло". Бликли добавил, что создание фальшивых видеороликов может быть сопряжено с серьезными юридическими проблемами.