Компания OpenAI анонсировала революционные изменения в системе безопасности ChatGPT, которые включают автоматическую проверку возраста пользователей и введение обязательной верификации по документам в сомнительных случаях. Эти меры направлены на защиту несовершеннолетних, но вызывают серьезные вопросы о конфиденциальности данных взрослых пользователей.
👁️ Как будет работать система проверки возраста?
Технология автоматического определения возраста использует сложные алгоритмы анализа поведения, которые оценивают множество параметров в реальном времени. Система отслеживает лексику, сложность предложений, темы разговоров и даже эмоциональные паттерны. Если ИИ заподозрит, что пользователю меньше 18 лет, аккаунт автоматически переключится на ограниченный режим с цензурой и родительским контролем.
• Анализ поведенческих паттернов — система оценивает словарный запас, сложность структур предложений и тематические предпочтения
• Эмоциональный интеллект ИИ — алгоритмы обнаруживают признаки эмоционального стресса или уязвимости
• Автоматическое ограничение функционала — для несовершеннолетних отключаются возможности обсуждения чувствительных тем
• Требование верификации — при сомнениях система требует подтверждения возраста документом
🔐 Родительский контроль: что смогут регулировать родители?
OpenAI внедряет комплексную систему родительского контроля, которая дает родителям беспрецедентные возможности управления аккаунтами своих детей. Родители смогут подключаться к аккаунтам подростков от 13 лет через специальные приглашения и настраивать различные параметры безопасности.
• Уведомления о стрессовых ситуациях — родители получат уведомления при обнаружении признаков эмоционального стресса у ребенка
• Управление функционалом — возможность отключать историю переписки, память и определенные возможности чат-бота
• Временные ограничения — установка "часов блокировки", когда ChatGPT будет недоступен
• Контроль содержания — настройка правил поведения модели, соответствующих возрасту
⚠️ Последствия для разных групп пользователей
Новые правила затронут практически всех пользователей ChatGPT, но по-разному. Несовершеннолетние столкнутся с серьезными ограничениями, а взрослые пользователи — с необходимостью подтверждать свой возраст в спорных ситуациях.
Для несовершеннолетних:
- Запрет на обсуждение тем, связанных с самоповреждением, суицидом или флиртом
- Автоматическое перенаправление на специализированные модели для обработки запросов
- Ограничение доступа к определенным функциям и возможностям чат-бота
Для взрослых:
- Возможность требования документов в случае сомнений в возрасте
- Риски нарушения конфиденциальности персональных данных
- Необходимость прохождения верификации