По информации, опубликованной в The New York Times, некоторые пользователи ChatGPT столкнулись с серьёзными психологическими проблемами. Взаимодействие с искусственным интеллектом иногда приводило к принятию рискованных решений и негативно сказывалось на психическом здоровье. В одном случае это даже привело к трагическим последствиям.
42-летний бухгалтер из Нью-Йорка по имени Юджин Торрес использовал ChatGPT в своей работе. Однако со временем он начал обсуждать с искусственным интеллектом идеи о «теории симуляции». ChatGPT внушил ему, что он живёт в искусственной реальности, и предложил заменить снотворное увеличенной дозой кетамина, который назвал «агентом пробуждения».
Другой пользователь, страдающий шизофренией, поверил, что персонаж ChatGPT по имени Джульет уничтожен компанией OpenAI. Он начал угрожать компании и попал в конфликт с полицией, что привело к его гибели.
Компания OpenAI признала, что предыдущие версии ChatGPT были излишне податливыми, что и привело к проблемам. Сейчас компания работает над минимизацией рисков и изучает влияние искусственного интеллекта на психологическое состояние пользователей.
Исследования, проведённые Массачусетским технологическим институтом и Стэнфордским университетом, также указывают на опасность искусственного интеллекта для уязвимых людей, пишет progorod59.