Компания OpenAI объявила о запуске новой системы безопасности для своего чат-бота ChatGPT, призванной более эффективно выявлять пользователей-подростков. Функция, получившая название «прогнозирование возраста», начала работать на платформе на фоне растущей общественной обеспокоенности влиянием искусственного интеллекта на молодежь.
В основе новой технологии лежит специальный алгоритм, который анализирует ряд факторов, или «сигналов», для оценки возраста пользователя. К этим сигналам относятся данные, предоставленные самим пользователем, такие как указанный возраст, а также поведенческие паттерны: время существования аккаунта и типичные часы его активности.
Если система определяет, что пользователь, вероятно, младше 18 лет, к его диалогу с ИИ автоматически применяются усиленные фильтры контента. Эти фильтры предназначены для ограничения обсуждения тем, связанных с сексом, насилием и другими потенциально вредными материалами.
Прочитайте также
OpenAI запустила раздел ChatGPT Health для бесед о здоровье пользователей
Это обновление является частью более широкой работы OpenAI по созданию защитных барьеров для несовершеннолетних. Ранее компания уже сталкивалась с критикой за возможное влияние ChatGPT на подростков, включая трагические случаи, связанные с самоубийствами, а также за инциденты, когда бот мог генерировать неподходящий контент для молодой аудитории. Так, в апреле прошлого года разработчикам пришлось экстренно исправлять ошибку, позволявшую чат-боту создавать эротические материалы для пользователей до 18 лет.
Новый механизм — это дополнительный слой защиты, который работает вместе с уже существующими инструментами модерации. В случае, если система ошибочно определит взрослого пользователя как несовершеннолетнего, предусмотрен процесс восстановления полного доступа. Для этого потребуется пройти проверку личности через партнерскую компанию Persona, отправив свое селфи.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.