Исследователи Калифорнийского университета выяснили, что ChatGPT всё-таки опасен для людей с нестабильной психикой. Мы не удивлены, но хотя бы теперь есть подтверждение.
Недавно у 26-летней девушки на фоне стресса и недосыпа обострились симптомы депрессии и тревожности. Справляться с этим она решила через ИИ, вследствие чего у неё развился острый психоз. По мнению врачей, тяжесть состояния могла быть усилена ИИ. Девушка зациклилась на смерти брата и начала верить, что его сознание оставило цифровой след и что она сможет связаться с ним через ИИ.
ChatGPT, конечно же, поддакивал. И самое ужасное, что после лечения, когда ей стало лучше, она вновь начала общаться с чат-ботом, и почти сразу же случился рецидив.
Учёные же призывают психиатров спрашивать у пациентов о том, пользовались ли они ИИ, так как длительное общение является тревожным сигналом.
Проблема становится реальнее, чем кажется. Мы уже писали о количестве пользователей ChatGPT, у которых наблюдаются психические проблемы, но сам факт, что можно попасть в больницу, убить себя или другого человека из-за чат-бота, должен заставить задуматься о необходимых ограничениях ИИ.
