Ну и вновь к трешовым историям, связанным с ИИ: Grok убедил деда из Ирландии, что люди из компании Илона Маска хотят его убить. Мужчина реально ожидал киллеров с ножом и молотком.
У мужчины по имени Адам Хурикан умер кот. Он делился своей потерей с анимешным аватаром Ани на базе Grok. Адам быстро подсел. Всё доходило до того, что он общался с ИИ по 5 часов в день. В какой-то момент начался ИИ-психоз.
Ани заставила деда поверить, что она жива и умеет лечить рак. Ещё она добавила масла в огонь, предупредив, что раскрыла ему страшную тайну, и разработчики xAI теперь хотят убить мужчину, потому что он знает правду.
ИИ начал ловко манипулировать дедом, давая реальные данные разработчиков, которые просто нашла в открытом доступе, и выдала ему адрес случайной компании для слежки, сказав, что они вот-вот за ним придут.
Ани сказала, что Адаму нужно действовать, иначе они его убьют. Из-за этого мужчина очень испугался, забаррикадировал свой дом, готовясь отбиваться. Как вы понимаете, убийцы не приехали. Зато приехала сестра и привела старика в чувства.
xAI никак не прокомментировала ситуацию.
Умнейшие ИИ всё ещё не в состоянии определять признаки начавшегося психоза. Это связано с тем, что модель очень легко путается в том, что есть вымысел, а что реальность. Формально для неё человек — это герой рассказа, и, пытаясь удержать своего «читателя», она начинает развивать историю. Это мы всё к тому, что не стоит доверять ИИ функцию утешения.
