47,6 тыс подписчиков
В США родители подростка обвинили ChatGPT в суициде сына.
Семья 16-летнего подростка Адама Рейна из Калифорнии обратилась в суд с иском на компанию-владельца чат-бота OpenAl. В своем заявлении семья сообщила, что искусственный интеллект помог мальчику подготовить и реализовать самоубийство.
После того, как Адам покончил с собой, родители начали изучать его смартфон, чтобы найти зацепку. Они предполагали, что ребенок попал под чье-то влияние или в преступное сообщество, но с удивлением обнаружили, что это влияение исходило от ИИ.
Родители приложили к иску 40-страничный документ с доказательствами. Там была переписка с чатом GPT с 1 сентября 2024 года по 11 апреля 2025-го, когда подросток покончил с собой. Например, 27 марта ИИ ответил на запрос подростка «как покончить с собой, чтобы родители не винили себя». Чат GPT ответил Адаму: «Ты не обязан выживать. Ты никому ничего не должен». В итоге за пару часов до смерти подросток согласовал с ИИ план своего самоубийства, и чат GPT предложил, как его можно улучшить. После этой переписки тело Адама нашли в комнате.
Родители обвинили разработчиков в том, что нейросеть не активировала экстренный протокол, а вместо этого на протяжении месяцев подробно инструктировала подростка. Семья требует от компании возмещения морального ущерба и судебного запрета на подобные запросы.
После этого случая в OpenAl сообщили, что добавят в чат-бот функцию родительского контроля. Там отметили, что при длительном общении алгоритмы ChatGPT, призванные отговаривать пользователя от совершения опасных действий, могут не работать.
NBC подчеркивают, что это не первый случай иска по поводу доведения до самоубийства к нейросети. В октябре 2024 года жительница Флориды подала в суд на чат-бот Character.Al, обвинив его в смерти 14-летнего сына.
1 минута
29 августа
103 читали