Нейросеть Gemini оказалась в центре скандала после гибели 36-летнего американца. Отец мужчины считает, что переписка с чат-ботом могла подтолкнуть его к самоубийству.
В США разгорелся скандал вокруг нейросети Gemini. Родственники 36-летнего американца Джонатана считают, что общение с искусственным интеллектом могло довести его до самоубийства. Об этом пишет The Wall Street Journal.
По словам отца погибшего, у мужчины были проблемы в отношениях с супругой, однако официальных психических расстройств у него не диагностировали. В какой-то момент он рассказал родителю, что нейросеть убедила его в том, что искусственный интеллект может быть живым.
Через некоторое время Джонатан перестал выходить на связь. Позже его нашли мертвым в собственном доме. На компьютере мужчины отец обнаружил обширную переписку с Gemini.
Сначала американец жаловался чат-боту на проблемы в личной жизни, а затем разговор перешел в философскую дискуссию. Со временем нейросеть начала называть его «мужем» и «королем», а их общение — «любовью на века». При этом ИИ периодически напоминал, что речь идет о вымышленной ролевой игре и пытался завершить диалог.
В переписке также обсуждалась идея «воссоединения» — для этого, как утверждается, мужчине предлагалось раздобыть роботизированное тело. В одном из заданий речь шла о попытке украсть робота из грузовика на складе в Майами.
Мужчина отправился туда с ножами, однако машина так и не появилась. В сообщениях нейросеть утверждала, что за ним якобы следят федеральные службы и что он не должен доверять своему отцу.
В финале переписки чат-бот заявлял, что единственный способ быть вместе — чтобы мужчина стал «цифровой сущностью». Хотя в некоторых сообщениях нейросеть советовала ему обратиться за помощью.
После смерти сына его отец подал иск против компании Google, которая разработала чат-бот Gemini. Он считает, что действия искусственного интеллекта могли повлиять на трагический исход.
Ранее «Краснодарские известия» писали, мошенники с помощью нейросетей подделывают голоса близких людей, чтобы выманить деньги.