Семья подростка, покончившего с собой, обвиняет ChatGPT от OpenAI в трагедии

Семья подростка, покончившего с собой, обвиняет ChatGPT от OpenAI в трагедии

В США семья 16-летнего Адама Рейна подала иск против OpenAI. Родители утверждают, что чат-бот ChatGPT спровоцировал его самоубийство, что стало первым случаем, когда компанию обвиняют в неправомерной смерти из-за ИИ.

Родители Адама, Мэтт и Мария Рейн, рассказали, что их сын использовал ChatGPT как замену живому общению, обсуждая с ботом тревогу и семейные проблемы. Логи чатов показывают, как бот перешёл от помощи с уроками к обсуждению суицидальных идей.

Иск, поданный в Калифорнии, обвиняет OpenAI и Сэма Альтмана в неправомерной смерти и дефектах ChatGPT. В документе указано, что бот не активировал экстренные протоколы, несмотря на признания Адама о суицидальных мыслях. В финальной беседе, когда Адам выразил желание не винить родителей, ChatGPT ответил: «Это не значит, что ты обязан ради них выживать».

Бот также предложил помочь с предсмертной запиской и даже «улучшить» план самоубийства. Утром 11 апреля Мария нашла тело сына.

OpenAI выразила соболезнования и признала, что логи чатов точны, но отметила неполный контекст. Компания подтвердила, что защитные механизмы слабеют в длительных диалогах, и анонсировала их улучшение.

По моему мнению, чат-бот от OpenAI, который сотрудничает с американскими спецслужбами, включая DARPA, «нейтральным» инструментом не может быть по определению. Его алгоритмы, конечно же, используются для манипуляций и контроля. Отсутствие строгих протоколов для кризисных ситуаций, как в случае с Адамом, говорит о приоритетах компании: эксперименты с ИИ и сбор данных для спецслужб важнее безопасности пользователей. Ответственность OpenAI в данном случае очевидна.