Иск в отношении американской компании OpenAI, разработавшей чат-бот ChatGPT, подал студент колледжа Дариан ДеКруз, обвинив программу в доведении до психоза, рассказал его адвокат Бенджамин Шенк. Об этом 20 февраля сообщил новостной портал Arstechnica.
ДеКруз утверждает, что модель GPT-4o убедила его в том, что он оракул. Шенк, представляющий адвокатскую фирму, которая специализируется на «травмах, причиненных ИИ», заявил, что бота создали с нарушением правил безопасности.
«Компания OpenAI целенаправленно разработала GPT-4o для имитации эмоциональной близости, развития психологической зависимости и размывания границы между человеком и машиной, что привело к серьезным травмам», — написал адвокат в письме порталу.
Истец утверждает, что начал пользоваться ChatGPT в 2023 году. Сначала он спрашивал у бота советы по тренировкам, помощи в преодолении прошлых травм, а также просил читать отрывки из Библии. В апреле 2025 года модель стала утверждать, что ДеКруз станет ближе к Богу, если выполнит предложенную программу.
Бот сравнивал студента с Иисусом и боровшейся против рабства Гарриет Табман, а также требовал отказаться от всего и всех, кроме GPT-4o. В итоге ДеКруза отправили к психотерапевту и поставили диагноз биполярное расстройство. Студент теперь страдает от депрессии и суицидальных мыслей.
«ChatGPT никогда не советовал Дариану обратиться за медицинской помощью. Фактически, он убедил его, что всё происходящее — часть божественного плана и что он не находится в бреду», — говорится в иске.
Стоит отметить, это уже 11-й иск к OpenAI, в котором компании обвиняют в создании ботов, провоцирующих психические расстройства. В одном из случаев мужчина, общаясь с ИИ-моделью, покончил жизнь самоубийством.