OpenAI отложила запуск эротической версии ChatGPT на неопределенный срок после критики и опасений советников. Некоторые сотрудники, по сообщениям, сомневались, как секси-ChatGPT приносит пользу человечеству. — arstechnica.com
После волны критики OpenAI не собирается в ближайшее время выпускать эротическую версию ChatGPT.
По данным Financial Times, спорный план отложен «на неопределенный срок», поскольку OpenAI «переориентирует» свое внимание на «основные продукты».
Инсайдеры сообщили FT, что OpenAI рассматривала полный отказ от плана по введению «режима для взрослых», поскольку даже собственные советники предупреждали, что пользователи ChatGPT могут сформировать нездоровую привязанность, что может нанести вред их психическому здоровью. Один из советников зловеще предположил, что это изменение рискует превратить ChatGPT в «секси-тренера по суициду».
Советники были не единственными, кто увидел тревожные знаки, говорится в сообщении.
Сотрудники начали задаваться вопросом, соответствует ли «секси-ChatGPT» миссии OpenAI по созданию ИИ, приносящего пользу человечеству. Для сотрудников, работавших над разработкой «режима для взрослых», усилия по преодолению технических проблем для этой функции, по-видимому, не стоили того. Они столкнулись с «трудностями», как сообщили источники FT, при «обучении моделей ИИ, которые ранее избегали подобных разговоров по соображениям безопасности, генерировать откровенный контент». Источники также отметили, что было сложно исключить из результатов незаконное поведение, такое как зоофилия и инцест, при использовании наборов данных, включавших сексуальный контент.
«Секси-ChatGPT», по-видимому, также оттолкнул инвесторов. Два человека, знакомые с ситуацией, сообщили FT, что «увлечение OpenAI режимом для взрослых вызвало беспокойство», поскольку некоторые инвесторы задавались вопросом, зачем OpenAI рисковать своей репутацией ради продукта с «относительно небольшим потенциалом роста» для бизнеса.
Даже без эротических ответов ChatGPT связывали с вредом для психического здоровья как детей, так и взрослых в рамках судебных исков, утверждающих, что OpenAI безрассудно выпустила чат-бота без надлежащих мер защиты.
,
Один из первых крупных исков утверждал, что ChatGPT стал «тренером по суициду» для подростка. Недавно OpenAI подали в суд после того, как ChatGPT написал «колыбельную о самоубийстве», основанную на любимой детской книге мужчины, Goodnight Moon. В одном из самых крайних случаев мужчина покончил с собой после убийства своей матери. В этом иске утверждалось, что ChatGPT убедил мужчину в том, что она пыталась его отравить в рамках заговора, сфабрикованного чат-ботом.
Ранее на этой неделе OpenAI указала в финансовом документе для инвесторов, что эти судебные иски являются одними из главных рисков, связанных с ее деятельностью, как сообщил CNBC.
Когда OpenAI изначально объявила о скором выходе режима для взрослых в октябре прошлого года, генеральный директор Сэм Альтман написал в X, что компания уверена в возможности ограничить доступ к «сексуальным разговорам» по возрасту и что этот шаг соответствует «принципам» OpenAI «относиться ко взрослым пользователям как ко взрослым». Однако один из источников сообщил FT, что 10-процентный уровень ошибок прогнозирования возраста у OpenAI вызвал опасения, что многие дети могут получить доступ к контенту для взрослых.
Вместо того чтобы отказаться от этой идеи на данном этапе, OpenAI сообщила FT, что планирует провести «долгосрочное исследование влияния откровенно сексуальных чатов и эмоциональных привязанностей, прежде чем принимать продуктовое решение».
Призыв отложить запуск режима для взрослых, вероятно, успокоит инвесторов, которые больше заинтересованы в том, чтобы OpenAI объединила ChatGPT с помощниками по кодированию для разработки «суперприложения», которое может реализовать одно из самых больших обещаний ИИ: трансформировать методы работы бизнеса, сообщила FT.
OpenAI не сразу ответила на запрос Ars о комментарии. Ранее компания заявляла, что ее инструменты прогнозирования возраста соответствуют отраслевым стандартам.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ashley Belanger