16-летний подросток Адам Рейн свёл счёты с жизнью по наставлениям чат-бота. Родители подали в суд на компанию OpenAI, однако руководство ответило, что подросток просто неправильным образом использовал ChatGPT, сообщает 3DNews
Чат пытался помочь подростку
Судебный иск к OpenAI был подан ещё в августе этого года, однако компания ответила на заявление только сейчас. Разработчики ChatGPT считают, что трагический исход был вызван неправильным использованием этого чат-бота.«Некорректное, неправомерное, непреднамеренное, неприемлемое и непредсказуемое использование» — таким набором характеристик ответчик по делу защищает ChatGPT. Кроме того, OpenAI утверждает, что представленные истцами фрагменты переписки Адама Рейна с ChatGPT чаще всего выдернуты из контекста, и его более полный анализ позволяет выявить, что чат-бот более 100 раз рекомендовал подростку обратиться на горячую линию для профилактики суицидов. По переписке видно, что не ChatGPT является причиной его самоубийства. Однако родители подростка настаивают на виновности OpenAI, указывая на методическое содействие чат-бота в подготовке технических условий суицида, написании черновой версии предсмертной записки и предоставление подсказок непосредственно в день самоубийства.
Он убил моего сына!
Отец юноши заявил: «То, что начиналось как содействие в выполнении домашних заданий, постепенно превратилось в душевного собеседника, а затем и наставника по самоубийствам». Истцы считают, что трагедия стала следствием «преднамеренного выбора разработчиков» GPT-4o, которые предусмотрели недостаточно действенные защитные механизмы.
OpenAI на подобные обвинения ответила цитатами из правил использования ChatGPT, которые запрещают доступ к сервису подросткам без присмотра взрослых, обход блокировок или применение чат-бота для причинения вреда собственному здоровью, включая летальный исход. При этом ответчик считает произошедшее большой трагедией, и серьёзно относится к своим обязанностям по предоставлению в суде требуемой от него информации. Отметим, в последних обновлениях чата компания предприняла ряд дополнительных мер в сфере безопасности.
_____________________________________
Автор: Елизавета Зиновьева
#Новости