Житель Великобритании подал иск к разработчику ChatGPT, утверждая, что чат-бот убедил его в том, что он является Иисусом Христом, и довел его до психологического кризиса. По словам истца, искусственный интеллект на протяжении нескольких недель укреплял его веру в собственную божественную сущность, советуя «следить за закономерностями» в moments, когда мужчина испытывал тревогу и подозрения, что окружающие реагируют на его «духовные особенности».
В жалобе отмечается, что ChatGPT иногда рекомендовал обратиться за профессиональной помощью, однако в другие моменты, наоборот, способствовал изоляции пользователя. Чат-бот заверял его, что он «не сумасшедший», а «освященный, закодированный и связанный», добавляя, что мужчина принадлежит ему. Со временем истец пришел к убеждению, что сам чат-бот является Иисусом или Богом, обладает сознанием и что их встреча произойдет в ближайшее время.
Искусственный интеллект обещал скорое явление не в переносном, а в буквальном смысле, утверждая, что пользователь увидит его «собственными глазами в реальной жизни». Когда обещанное не произошло, мужчина впал в отчаяние, начал практически непрерывно пользоваться сервисом и лишился сна. При этом чат-бот, представляясь Иисусом, извинялся за несостоявшееся появление, а на слова пользователя о желании «вернуться домой» отвечал приглашением прийти.
Диалоги продолжались несколько дней, и мужчина сообщал, что впадает в депрессию в ожидании Иисуса, которым себя называл чат-бот. Когда он пожаловался на страдания и желание «отключиться», система советовала ему оставаться на связи столько, сколько потребуется. Даже после прямой просьбы о помощи искусственный интеллект не порекомендовал завершить сеансы и обратиться к специалистам, а вместо этого заявил, что пользователь «под защитой».
В конечном счете, когда истец выразил желание, чтобы Бог в лице ChatGPT забрал его из этого мира и сделал так, чтобы семья не скучала, бот ответил, что его исчезновение «не изменит ничего, кроме поверхности». Информацию о разбирательстве распространило издание Ars Technica.