OpenAI внедряет модель прогнозирования возраста для ChatGPT, чтобы отсекать несовершеннолетних от потенциально вредоносного контента. Это шаг на фоне судебных исков и давления регуляторов, стремящихся обезопасить молодёжь, одновременно монетизируя сервис через рекламу.
Компания OpenAI объявила о начале развёртывания модели прогнозирования возраста, предназначенной для определения, достигли ли пользователи ChatGPT совершеннолетия, необходимого для просмотра «чувствительного или потенциально вредоносного контента».
Чат-боты от OpenAI и её конкурентов уже стали причиной серии самоубийств, что спровоцировало судебные иски и слушания в Конгрессе. Таким образом, разработчикам ИИ есть веские причины сделать безопасность своих сервисов не просто предметом обсуждения, а приоритетом как для несовершеннолетних, так и для взрослой аудитории.
В свете этого OpenAI представила свой План обеспечения безопасности подростков (Teen Safety Blueprint) в ноябре 2025 года, а в следующем месяце — Принципы поведения модели для лиц до 18 лет.
OpenAI находится под давлением необходимости получения прибыли, знает, что её план по размещению рекламы должен соответствовать правилам маркетинга для несовершеннолетних, и имеет в разработке эротический контент для ChatGPT. Всё это обуславливает необходимость сегментирования аудитории и предотвращения её контакта с вредоносными материалами.
Частью плана OpenAI стало разработка системы прогнозирования возраста, чтобы ChatGPT мог автоматически предоставлять контент, соответствующий возрасту пользователя, по крайней мере, для тех несовершеннолетних, чьи родители не запретили им взаимодействие с чат-ботами.
С этими моделями взаимодействует множество молодых людей. На слушаниях подкомитета Сената 16 сентября 2025 года под названием «Изучение вреда ИИ-чат-ботов» Митч Принштейн, руководитель отдела психологии и интеграции в Американской психологической ассоциации, представил письменные показания, согласно которым более половины всех американских подростков старше 13 лет уже используют генеративный ИИ. Среди пользователей младше 13 лет этот показатель оценивается в 10–20 процентов.
По мнению Принштейна, этого не должно происходить. «Системы ИИ, разработанные для взрослых, по своей сути непригодны для молодёжи и требуют специальных мер защиты, учитывающих особенности развития», — заявил он.
Поэтому OpenAI занималась разработкой автоматизированной системы прогнозирования возраста, о которой компания сообщила в сентябре прошлого года. «Это непростая задача, и даже самые передовые системы иногда испытывают трудности с определением возраста», — отметила тогда компания.
Прогнозирование или вывод возраста отличается от верификации возраста (проверки государственных документов) и оценки возраста (использования биометрических сигналов, таких как анализ лица). Оно основано на выявлении фактов о человеке и выведении заключения на основе этих фактов. Для целей OpenAI это может включать анализ тем, обсуждаемых во время сессий ChatGPT, и других факторов, связанных с учётной записью, например, типичное время активности.
Во вторник компания представила отчёт о ходе работы, в котором описала, как ChatGPT использует модель прогнозирования возраста компании для определения, принадлежит ли учётная запись лицу младше 18 лет.
«Модель анализирует комбинацию поведенческих сигналов и данных учётной записи, включая срок существования аккаунта, типичное время активности, паттерны использования с течением времени и заявленный пользователем возраст», — пояснили в OpenAI, добавив, что глобальное развёртывание предиктивной модели затронет ЕС в течение нескольких недель.
При обнаружении пользователей, признанных несовершеннолетними, OpenAI активирует дополнительные настройки безопасности. Компания утверждает, что эти настройки снизят частоту появления графического насилия или шокирующего контента, вирусных челленджей, побуждающих к вредоносному поведению, ролевых игр сексуального, романтического или насильственного характера, изображений членовредительства, а также контента, пропагандирующего экстремальные стандарты красоты, нездоровое питание или бодишейминг.
«Ни одна система не идеальна», — признаёт OpenAI в своей справочной документации. «Иногда мы можем ошибаться. Если вам 18 лет или больше, и вас по ошибке отнесли к опыту для несовершеннолетних, вы можете подтвердить свой возраст».
Для этого пользователям ChatGPT необходимо взаимодействовать с Persona, сторонней компанией по проверке личности и возраста, предоставив либо селфи в реальном времени, либо загрузив фотографию удостоверения личности государственного образца. Те, кто не желает проходить систему верификации возраста OpenAI, также могут подтвердить свой возраст через Persona, которая заявляет, что не передаёт и не продаёт персональные данные, собранные для подтверждения возраста.
OpenAI идёт по пути, уже проторенному технологическими компаниями в Австралии, которым пришлось внедрять технологии проверки возраста для соблюдения правил, запрещающих использование социальных сетей лицам младше 16 лет.
До введения этого закона Австралийское испытание технологий подтверждения возраста (AAT) пришло к самоподтверждающемуся выводу [PDF] о технологиях проверки возраста: верификацию возраста можно осуществить, несмотря на сложности, со средней точностью 97,05 процента, хотя и с меньшей точностью «для пожилых людей, пользователей неевропеоидной расы и лиц с женственными чертами, находящихся около пороговых значений политики».
Когда Австралийская вещательная корпорация сообщила об предварительных результатах ATT в июне прошлого года, системы верификации возраста угадывали возраст людей с погрешностью в 18 месяцев лишь в 85 процентах случаев.
Общественные организации по-прежнему настроены скептически. Mozilla в прошлом месяце заявила: «Хотя существует множество технологий для верификации, оценки или вывода возраста пользователей, фундаментальные противоречия в отношении эффективности, доступности, конфиденциальности и безопасности остаются нерешёнными».
Алексис Хэнкок, директор по инженерии в Electronic Frontier Foundation, сообщила The Register по электронной почте: «Мы приветствуем меры безопасности, которые становятся доступными для всех пользователей больших языковых моделей (LLM), таких как ChatGPT. Однако OpenAI использует этот момент для дополнительного обучения модели прогнозирования возраста, где ложное предсказание вынудит пользователя предоставить личную информацию для дополнительной верификации возраста другой компании».
Хэнкок отметила, что такие факторы, как возраст учётной записи и паттерны использования, могут быть менее надёжными, учитывая, что ChatGPT существует всего четыре года. «Однако сама модель не обязана быть точной, и её решения нельзя оспорить», — добавила она.
Смещение фокуса на принудительное ограничение доступа по возрасту, а не на точную верификацию возраста, по её словам, становится развивающейся тенденцией и в других системах проверки возраста.
Ассоциация индустрии компьютеров и коммуникаций (Computer & Communications Industry Association), представляющая интересы технологических гигантов, таких как Amazon, Apple и Google, также не в восторге от перспективы того, что верификация возраста может стать обязательной в магазинах приложений. Технологии проверки возраста, по мнению группы в октябре прошлого года, «неработоспособны на практике».
Но пока ChatGPT способна вести пикантные диалоги и делать это параллельно с показом рекламы, OpenAI необходимо заставить технологию прогнозирования возраста работать. ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Thomas Claburn