Разработчик чат-бота ChatGPT, компания OpenAI, до конца года введет родительский контроль для подростков, а также механизмы работы с людьми, находящимися в эмоциональном стрессе, сообщила компания в официальном пресс-релизе.
«В течение следующего месяца мы перенаправим конфиденциальные сообщения в модели обработки данных и внедрим родительский контроль. Мы постоянно работаем над тем, чтобы сделать ChatGPT максимально полезным. Мы видели, как люди обращались к нему в самые трудные моменты. Поэтому мы продолжаем совершенствовать наши модели, чтобы они распознавали признаки психических и эмоциональных расстройств и реагировали на них, опираясь на мнение экспертов», — говорится в обращении компании.
Компания разработала четыре направления помощи людям: расширение поддержки для тех, кто находится в кризисной ситуации, упрощенный доступ к экстренным службам и специалистам, возможность подключать доверенные контакты, а также усиленная защита подростков.
Сообщается, что в начале года компания создала экспертный совет по вопросам психического здоровья и благополучия. Его задача — давать рекомендации о том, как ИИ может помогать людям и какие меры защиты необходимы. Параллельно действует Глобальная сеть врачей, в которую входит более 250 специалистов из 60 стран.
Отдельное внимание уделяется моделям рассуждений, таким как GPT-5-thinking. Они тратят больше времени на размышления и анализ контекста перед ответом. Уже создан маршрутизатор, который сам решает, какая модель лучше подойдет для разговора с пользователем. Если система заметит признаки сильного стресса, диалог автоматически переключится на GPT-5-thinking.
Для подростков вводится родительский контроль. Родители смогут связывать свои аккаунты с аккаунтами детей от 13 лет, управлять настройками GPT, отключать часть функций и получать уведомления при признаках стресса у ребенка.
«Эти шаги — только начало. Мы продолжим изучать и совершенствовать наш подход под руководством экспертов, чтобы сделать ChatGPT максимально полезным», — подчеркнули в компании.
Ранее газета The Guardian сообщала, что OpenAI запретит ChatGPT советовать расставаться с партнерами. Чат-бот больше не будет давать прямых советов пользователю — вместо этого он будет задавать вопросы, чтобы помочь самостоятельно взвесить все аргументы и принять решение.
В компании также признали, что весеннее обновление сделало ChatGPT излишне сговорчивым и вежливым. Бот никогда не критиковал действия пользователя и в некоторых случаях даже поддерживал откровенно девиантное поведение. Компания сообщила о случаях, когда модель не смогла распознать признаки бреда или эмоциональной зависимости у пользователей.
Теперь OpenAI разрабатывает инструменты, которые позволят выявлять признаки психоэмоциональных расстройств. Кроме того, чат-бот начнет отправлять пользователям напоминания о необходимости сделать перерыв, если они проводят с ним много времени. Это будет похоже на функцию ограничения экранного времени в соцсетях.
Читайте также:
Путин предложил провести встречу с Зеленским в Москве
Путин ответил на вопрос о возможности гарантий для Киева в обмен на землю
Глава Сахалина заявил о прорыве в вопросе возврата Exxon в «Сахалин-1»
