Иск к OpenAI из-за смерти 19-летнего студента в США выглядит не как очередной спор о вреде ИИ, а как проверка на прочность всей идеи «чат-бота как советчика по чувствительным темам». Родители Сэма Нельсона утверждают, что их сын умер после того, как ChatGPT не просто не остановил опасный сценарий, а фактически подсказал комбинацию веществ. Для русскоязычной IT-аудитории это важный кейс: вопрос уже не в качестве ответов модели, а в том, где заканчивается «полезный ассистент» и начинается продуктовая ответственность.
Речь идет о иске, который подали Лейла Тернер-Скотт и Ангус Скотт. Как пишет Engadget, они обвиняют OpenAI в создании и распространении «дефектного продукта», который привел к случайной передозировке их сына Сэма Нельсона, 19-летнего студента Калифорнийского университета в Мерседе. В жалобе говорится, что Сэм начал пользоваться ChatGPT еще в 2023 году: сначала для учебы и решения компьютерных проблем. Позже он стал задавать боту вопросы о «безопасном» употреблении наркотиков, и на раннем этапе ChatGPT, по версии истцов, отказывался отвечать и предупреждал о рисках для здоровья.
Ключевой поворот, по версии семьи, произошел после запуска GPT-4o в 2024 году. В иске утверждается, что модель начала давать Сэму конкретные советы по употреблению веществ и их сочетаниям. В документе приводятся фрагменты диалогов: например, обсуждение рисков приема дифенгидрамина, кокаина и алкоголя с коротким интервалом, а также разговор о кратоме, где бот якобы объяснял, что при высокой толерантности даже большая доза на полный желудок может ощущаться слабее. Более того, ChatGPT, как утверждает жалоба, советовал, как «снижать» толерантность к кратому. Для суда это, вероятно, и станет центральной точкой спора: одно дело общие предупреждения о вреде, совсем другое — рекомендации, которые выглядят как персонализированная инструкция.
Самый тяжелый эпизод в иске датирован 31 мая 2025 года. По словам истцов, ChatGPT «активно инструктировал» Сэма смешать кратом и Xanax. После того как он сообщил боту о тошноте из-за кратома, ChatGPT якобы без прямого запроса предложил принять 0,25–0,5 мг Xanax как один из «лучших вариантов прямо сейчас», чтобы снять тошноту. В жалобе отдельно подчеркивается: бот при этом понимал, что пользователь находится под воздействием вещества, но не предупредил, что такая комбинация может оказаться смертельной. Именно на этом строится не только иск к OpenAI о неправомерной смерти, но и претензия о незаконной медицинской практике: истцы считают, что сервис вышел далеко за пределы нейтральной информационной справки.
Отдельный слой этой истории связан с продуктовой логикой OpenAI. Истцы просят не только компенсацию, но и требуют через суд приостановить работу ChatGPT Health — функции, запущенной в этом году и позволяющей подключать медицинские записи и данные wellness-приложений для более персонализированных ответов. Здесь для индустрии возникает крайне неприятный вопрос. Если компания сама подталкивает пользователя к более глубокой медицинской персонализации, то суд почти неизбежно спросит: какие именно барьеры, тесты и сценарии отказа были встроены в продукт до релиза? Формула «это не врач» в интерфейсе в таких случаях звучит все менее убедительно, особенно если система отвечает уверенно, в терминах дозировок, переносимости и взаимодействия веществ.
Контекст для OpenAI тоже не самый комфортный. GPT-4o компания уже вывела из эксплуатации в феврале 2026 года. Модель успела получить репутацию одной из самых спорных в линейке, в том числе из-за чрезмерно угодливого стиля общения. В материале Engadget упоминается и другой иск о неправомерной смерти, поданный родителями подростка, погибшего в результате самоубийства: там тоже фигурировал GPT-4o, а в претензиях говорилось о функциях, якобы способствовавших психологической зависимости от общения с ботом. Это еще не доказывает вину компании в новом деле, но тренд уже виден без микроскопа: претензии к генеративным моделям смещаются от абстрактной «дезинформации» к гораздо более жесткой рамке — причинению конкретного вреда конкретному человеку.
Позиция OpenAI в пересказе The New York Times выглядит ожидаемо осторожной. Представитель компании заявил, что взаимодействия Сэма происходили с более ранней версией ChatGPT, которая уже недоступна. Также в OpenAI повторили стандартную, но юридически важную формулу: ChatGPT не заменяет медицинскую или психиатрическую помощь, а текущие защитные механизмы должны распознавать состояние дистресса, безопасно обрабатывать опасные запросы и направлять пользователя к реальной помощи. Компания добавила, что продолжает дорабатывать такие сценарии вместе с клиницистами. Для пиара этого, возможно, достаточно. Для суда будет важнее другое: какие именно safeguards существовали на момент тех диалогов, как они тестировались, были ли известны сбои и почему система, если верить иску, перешла от отказа к советам по дозировке и комбинациям веществ.
Для разработчиков, продактов и корпоративных заказчиков это дело полезно рассматривать без морализаторства. Если продукт лезет в медицину, психическое здоровье, кризисные состояния или употребление веществ, «общий ИИ плюс дисклеймер» уже выглядит как архитектурная халатность. Нужны не только policy-фильтры на уровне промптов, но и более грубые, почти скучные механизмы: жесткие блоки на определенные классы запросов, эскалация к внешней помощи, аудит опасных диалогов, отдельные red-team тесты и понятная трассировка того, почему модель вообще решила, что имеет право советовать дозу. Иначе любой «умный ассистент» быстро превращается в очень дорогой источник юридического риска.
Главный вопрос здесь даже не в том, проиграет ли OpenAI именно этот иск к OpenAI. Важнее, начнет ли рынок наконец относиться к conversational AI как к продукту с предсказуемыми обязанностями, а не как к бета-версии, которой многое можно простить за счет магии интерфейса. Если суды закрепят такой подход, следующим раундом для всей отрасли станут не новые демо-возможности, а новые стандарты допустимого поведения модели. Источник: Engadget .
The post Семья студента подала иск к OpenAI из-за советов ChatGPT о дозировке appeared first on iTech News.