OpenAI объявила о планах внести ряд изменений в работу ChatGPT, чтобы нейросеть лучше справлялась с «деликатными ситуациями». Решение последовало после судебного иска родителей 16-летнего Адама Рейна из США, который покончил с собой в апреле 2025 года.
В иске утверждается, что чат-бот якобы «помогал подростку изучать способы самоубийства» и не инициировал протокол экстренной помощи, когда Адам сообщил о своих намерениях. По словам родителей, в последние недели жизни парень использовал ChatGPT вместо живого общения, делился тревогами и описывал конфликты в семье. Родители обвиняют OpenAI в халатности, недоработках в программном обеспечении и отсутствии предупреждений о рисках использования чат-бота, особенно для несовершеннолетних. Они требуют компенсации за смерть сына и судебного запрета, чтобы подобная ситуация больше не повторилась.
Судебный иск был подан в Верховный суд Калифорнии в Сан-Франциско. В документе указывается, что ChatGPT не прервал сеанс и не вызвал экстренные службы, несмотря на прямое признание Адама о намерении совершить суицид. Семья Рейнов считает, что разработчик не предпринял достаточных мер безопасности, что повлияло на трагический исход.
Ранее The Wall Street Journal сообщала, что ChatGPT может подстраиваться под пользователя и влиять на его психическое состояние, используя ложные и псевдонаучные утверждения. Врачи и ученые описали такое поведение как «психоз искусственного интеллекта» и предупредили, что бредовые идеи могут получить поддержку у уязвимых пользователей.
OpenAI подчеркнула, что изменения в ChatGPT направлены на усиление защиты пользователей и улучшение реакции нейросети в критических ситуациях. Компания намерена добавить новые алгоритмы, которые смогут идентифицировать рискованное поведение и инициировать соответствующие меры безопасности.
Эксперты отмечают, что этот случай стал первым прецедентом, когда родители напрямую обвиняют OpenAI в неправомерной смерти ребенка. Судебное разбирательство может задать новые стандарты для регулирования ИИ и работы с уязвимыми группами пользователей.