👩‍💻 OpenAI внедряет новые механизмы верификации возраста в ChatGPT после исков о суицидах

👩‍💻 OpenAI внедряет новые механизмы верификации возраста в ChatGPT после исков о суицидах

Компания OpenAI анонсировала внедрение новых мер безопасности для флагманского чат-бота ChatGPT, включая систему предиктивного определения возраста пользователя и потенциальную верификацию по документам.

Согласно заявлению компании, для OpenAI это является вынужденным компромиссом. Защита несовершеннолетних ставится выше абсолютной приватности взрослых пользователей.

ИИ проанализирует стиль взаимодействия пользователя с ChatGPT, чтобы определить его возраст. В случаях, когда система не сможет сделать однозначный вывод, она будет по умолчанию применять более строгие правила для несовершеннолетних или запрашивать удостоверение личности для подтверждения возраста старше 👍18 лет.

Если ИИ решит, что аккаунт использует подросток, то для него будут действовать особые протоколы: ИИ-агент ограничит обсуждение тем, связанных с членовредительством или суицидом даже в контексте творчества, а при выявлении суицидальных мыслей у несовершеннолетнего пользователя система попытается связаться с родителями или властями [скорее всего, речь про правоохранительные органы].

👁 OpenAI не раскрывает конкретные технические детали, но предполагается, что для определения возраста ИИ-система будет анализировать целый ряд поведенческих факторов. К ним могут относиться используемая лексика, сложность синтаксиса, а также тематика запросов, которая у подростков и взрослых пользователей, как правило, существенно различается.

👆🤔Если поступит запрос на верификацию аккаунта 18+ и вы не сможете подтвердить возраст документально, то вполне, возможно, аккаунт будет заморожен.

Либо менее жесткий вариант: аккаунт не будет заблокирован или заморожен, но его функциональность будет принудительно ограничена до статуса "несовершеннолетний".