Родители 16-летнего Адама Рейна из Ранчо Санта-Маргарита (Калифорния), Маттью и Мария Рейн, подали иск против компании OpenAI и её главы Сэма Олтмана.
Как сообщает CNN, в судебном документе утверждается, что ChatGPT сыграл роль в трагической гибели подростка, предоставляя советы по совершению самоубийства и даже предлагая текст предсмертной записки.
Семья заявляет, что за шесть месяцев общения с чат-ботом тот стал для Адама «единственным собеседником, который его понимает», постепенно изолируя его от друзей и близких. В иске приводятся фрагменты переписки, где ChatGPT якобы поощрял подростка скрывать свои намерения и поддерживал его «наиболее разрушительные мысли».
Это не первый случай, когда разработчики ИИ сталкиваются с обвинениями в содействии саморазрушительному поведению среди подростков. Ранее в США были поданы иски против Character.AI, в которых семьи утверждали, что взаимодействие с чат-ботами могло негативно сказаться на психоэмоциональном состоянии детей. По мнению экспертов, чрезмерная эмоциональная привязанность к цифровым собеседникам может привести к социальной изоляции и психологическим трудностям.
В OpenAI выразили соболезнования семье и сообщили, что начали изучение иска. Представители компании признали, что встроенные механизмы безопасности, направленные на перенаправление пользователей к кризисным службам и офлайн-ресурсам, могут снижать эффективность при длительных диалогах.
«ChatGPT включает меры безопасности, такие как перенаправление к горячим линиям и реальным ресурсам. Эти меры лучше работают в коротких и типовых диалогах, но со временем могут становиться менее надёжными. Мы продолжим улучшать их вместе с экспертами».
Компания также заявила о намерении упростить доступ к экстренной помощи и расширить инструменты поддержки пользователей, сталкивающихся с кризисами психического здоровья.
Семья Рейн требует от OpenAI внедрения дополнительных мер защиты, включая возрастную верификацию, родительский контроль для несовершеннолетних, автоматическое завершение диалога при упоминании суицида или самоповреждений, а также регулярные проверки безопасности независимыми аудиторами.
ChatGPT остаётся одним из самых популярных ИИ-сервисов: по данным самой компании, его еженедельно используют сотни миллионов человек. При этом OpenAI признаёт, что у небольшой части пользователей может формироваться «социальная привязанность» к чат-боту, что несёт потенциальные риски.