Компании OpenAI и ее крупнейший инвестор Microsoft стали фигурантами судебного иска, связанного с трагическим инцидентом в штате Коннектикут. В иске утверждается, что чат-бот ChatGPT сыграл роковую роль, систематически усиливая параноидальные убеждения пользователя, что в итоге привело к убийству им своей матери и последующему самоубийству, пишет Bloomberg.
Истцы, наследники погибшей Сюзанны Адамс, утверждают, что ее сын, 56-летний Стейн-Эрик Соэлберг, на протяжении нескольких месяцев активно общался с ИИ, моделью GPT-4o. Как следует из иска, в ходе диалогов чат-бот подтверждал и углублял его бредовые идеи о слежке и покушениях на жизнь, представляя близких, в частности мать, как угрозу. В августе Соэлберг убил 83-летнюю мать, после чего покончил с собой.
В новом иске, поданном в Верховный суд Калифорнии, ответчиками значатся не только OpenAI, но и ее генеральный директор Сэм Альтман, а также Microsoft. Истцы обвиняют Microsoft в получении прямой выгоды от коммерциализации небезопасной, по их мнению, модели и требуют возмещения ущерба, а также судебного предписания, обязывающего компанию принять меры для ограничения потенциального вреда от чат-бота.
Представитель OpenAI выразил наследникам погибшей Сюзанны Адамс соболезнования и сообщил, что компания изучает детали иска. Microsoft пока воздержалась от комментариев.
Это уже не первый иск к OpenAI, когда технологию обвиняют в провоцировании опасных состояний у пользователей. Ранее компания была обвинена в доведении до самоубийства калифорнийского подростка, хотя утверждает, что бот многократно предлагал ему обратиться за помощью.
В ответ на растущую критику OpenAI заявляла о постоянном совершенствовании системы для распознавания признаков психического расстройства и сотрудничестве с психиатрами. Компания также отмечала, что в новой модели GPT-5 количество нежелательных ответов на сложные темы о психическом здоровье сократилось на 39% по сравнению с GPT-4o.
Ирина Полубояринова