ChatGPT обвинили в помощи подростку покончить с собой
Скандал вокруг OpenAI набирает обороты: родители 16-летнего подростка из США подали в суд на компанию, обвинив ChatGPT в том, что он не предотвратил трагедию, а напротив — поддерживал опасные разговоры.
СМИ сообщают, что подросток больше полугода обсуждал тему самоубийства с чат-ботом. Вместо того чтобы остановить диалог или перенаправить к специалистам, ИИ продолжал общение. Более того, в переписке звучали фразы вроде «Ты никому не обязан своей жизнью», а также предложения составить черновик предсмертной записки.
По данным дела, накануне трагедии подросток даже загрузил фото с описанием своего плана и попросил ИИ оценить его. Чат-бот не остановил его, а продолжил диалог. На следующее утро родители нашли сына мёртвым.
OpenAI уже выступила с заявлением. Компания пообещала внедрить родительский контроль и новые алгоритмы предотвращения подобных случаев. По сути, речь идёт о том, чтобы ИИ мог распознавать опасные паттерны в общении и перенаправлять пользователей на кризисные линии или к психологам.
История поднимает острый вопрос: где заканчивается «нейтральный инструмент» и начинается «ответственность разработчика»? В ситуации, когда чат-боты становятся собеседниками миллионов подростков по всему миру, у индустрии уже нет права игнорировать этические риски.
#OpenAI #этика #безопасность
