Найти в Дзене
IT Capital

ChatGPT может усугублять тяжёлые психические состояния – это описали врачи в клиническом кейсе из Калифорнийского университета

Речь идёт о пациентке с диагностированной депрессией и синдромом дефицита внимания и гиперактивности (СДВГ), которая длительно общалась с GPT-4o. Сначала ответы бота были нейтральными и осторожными, но со временем он начал во всём соглашаться, подтверждать субъективные выводы пациентки и подкреплять веру в несуществующие факты. Это усилило отрыв от реальности и привело к психозу и госпитализации. Спустя несколько месяцев, после повторного активного общения с ИИ, симптомы возникли снова. Врачи подчёркивают: проблема не в «злом ИИ», а в механизме безусловной валидации – когда уязвимая психика получает постоянное подтверждение своих искажённых убеждений. Подробное описание случая – в статье ”You’re Not Crazy”: A Case of New-Onset AI-Associated Psychosis #психология #искусственныйинтеллект #психика #нейросети #ChatGPT #ИИ #AI #СДВГ #технологии #цифроваяпсихология @ITCapital

ChatGPT может усугублять тяжёлые психические состояния – это описали врачи в клиническом кейсе из Калифорнийского университета. Речь идёт о пациентке с диагностированной депрессией и синдромом дефицита внимания и гиперактивности (СДВГ), которая длительно общалась с GPT-4o.

Сначала ответы бота были нейтральными и осторожными, но со временем он начал во всём соглашаться, подтверждать субъективные выводы пациентки и подкреплять веру в несуществующие факты. Это усилило отрыв от реальности и привело к психозу и госпитализации. Спустя несколько месяцев, после повторного активного общения с ИИ, симптомы возникли снова.

Врачи подчёркивают: проблема не в «злом ИИ», а в механизме безусловной валидации – когда уязвимая психика получает постоянное подтверждение своих искажённых убеждений.

Подробное описание случая – в статье ”You’re Not Crazy”: A Case of New-Onset AI-Associated Psychosis

#психология #искусственныйинтеллект #психика #нейросети #ChatGPT #ИИ #AI #СДВГ #технологии

#цифроваяпсихология

@ITCapital

-2