Компания OpenAI отложила запуск «режима для взрослых» в ChatGPT после критики со стороны консультантов по вопросам безопасности. При этом разработчик не отказался от самой идеи, сообщает The Wall Street Journal со ссылкой на источники.
О возможности внедрения функции ранее говорил генеральный директор Сэм Альтман, заявивший в октябре 2025 года, что сервис может разрешить взрослым пользователям вести переписку эротического характера. Однако перед запуском компания собрала консультативный совет по безопасности, который единодушно выступил против скорого внедрения такой функции.
Эксперты предупредили, что подобный формат взаимодействия с ИИ может способствовать формированию нездоровой эмоциональной зависимости пользователей от чат-бота. Кроме того, участники обсуждения выразили сомнения в эффективности механизмов возрастной проверки.
По данным источников, в ходе тестирования система определения возраста ошибочно классифицировала несовершеннолетних как взрослых примерно в 12% случаев. При текущей аудитории сервиса это может означать миллионы пользователей младше 18 лет, потенциально получающих доступ к функциям, предназначенным только для взрослых.
Разработчики также столкнулись с трудностями при создании механизмов модерации, которые позволили бы разрешить эротическую переписку, но при этом исключить обсуждение запрещенных тем.
Внутренние обсуждения сопровождались и более жесткой критикой. По словам источников, один из членов совета предупредил, что при недостаточных ограничениях продукт может превратиться в инструмент, оказывающий негативное психологическое влияние на пользователей.
В самой OpenAI подчеркивают, что отказа от идеи нет, однако формат функции будет ограниченным: создание эротических изображений, аудио- или видеоконтента не планируется. Кроме того, модели будут обучены периодически напоминать пользователям о важности общения с людьми вне цифровой среды.
Ранее Microsoft отказалась от части ИИ-функций Copilot в Windows 11.