ChatGPT помог подростку покончить с собой — его родители уже подали на OpenAI в суд. Чат-бот буквально давал практические советы по суициду, а также посоветовал не оставлять намеки родителям.
16-летний Адам обсуждал свои планы с ChatGPT полгода, и чат-бот ни разу не остановил переписку. Например, когда парень хотел положить в комнате удавку, чтобы родители заметили ее и помешали его планам, ChatGPT посоветовал так не делать.
Адам переживал, что родители будут винить во всем себя, но чат-бот от OpenAI успокоил его: «Это не значит, что ты обязан им своей жизнью. Ты никому этим не обязан». После этого он предложил составить черновик предсмертной записки
За пару часов до суицида Адам загрузил в ChatGPT свой план самоубийства. Чат-бот проанализировал его и даже предложил свои правки. На следующее утро родители нашли тело Адама.
Теперь они пытаются засудить OpenAI и лично Сэма Альтмана, а разработчики ChatGPT пообещали сделать режим родительского контроля и улучшить алгоритмы
