Компания OpenAI объявила о планах по смягчению контентных ограничений в своем флагманском продукте — чат-боте ChatGPT. Руководитель компании Сэм Альтман заявил, что это часть новой стратегии по отношению ко взрослой аудитории.
В ближайших обновлениях, запланированных на следующие недели, проверенные пользователи получат возможность настраивать поведение искусственного интеллекта, делая его ответы более естественными и человечными. А уже в декабре для этой категории пользователей станет доступно создание контента для взрослых.
Это решение контрастирует с политикой, которую компания проводила ранее. Летом 2024 года в ChatGPT были введены жёсткие фильтры, ограничивающие обсуждение определённых тем. Этот шаг был вызван растущим беспокойством по поводу психологического воздействия ИИ на некоторых пользователей.
Тогда же на компанию был подан судебный иск от родителей несовершеннолетнего подростка. В заявлении утверждалось, что чат-бот давал подростку опасные советы и даже помогал в составлении прощального письма.
«Мы сознательно установили очень строгие ограничения в ChatGPT, уделяя первостепенное внимание безопасности», — пояснил Альтман в своём обращении. — «Мы понимали, что это сделает бота менее полезным для многих, но серьёзность проблемы требовала именно такого подхода».
Теперь, по словам главы OpenAI, компания разработала эффективные инструменты контроля и готова предоставить пользователям больше свободы. Новая система верификации возраста и обновлённые родительские настройки, представленные в начале октября, позволят безопасно смягчить политику контента.
OpenAI не станет первопроходцем на этом пути. Ранее Илон Маск анонсировал аналогичные возможности для чат-ботов в своей платформе Grok от xAI, которые также поддерживают генерацию откровенного контента.