👶 ChatGPT научился угадывать возраст пользователей
OpenAI внедрила в ChatGPT систему, которая пытается понять, есть вам 18 или нет. Смотрят на поведение: как давно создан профиль, в какое время суток пользователь активен, как меняется стиль использования со временем и какой возраст был указан при регистрации.
Если нейросеть решает, что пользователь может быть несовершеннолетним, включается «детский режим»: режется доступ к чувствительному контенту – насилию, опасным челленджам, самоповреждениям, бодишеймингу и т. д.
Нейросеть ошиблась? Можно подтвердить возраст через селфи с помощью сервиса Persona. В OpenAI говорят, что данные не идут в обучение моделей и обрабатываются по правилам GDPR.
Идея в том, чтобы лучше защищать подростков и не ограничивать взрослых без причины. Систему сейчас обкатывают, в ЕС она появится позже из-за регуляций.
