OpenAI внедряет новые функции безопасности для ChatGPT

OpenAI внедряет новые функции безопасности для ChatGPT

Родительский контроль в ChatGPT

OpenAI анонсировала внедрение новых функций безопасности для своего чат-бота. В течение следующего месяца компания планирует добавить систему родительского контроля, которая позволит родителям следить за взаимодействием своих детей с ChatGPT.

Основные возможности новой системы включают:

• Контроль за общением подростка с чат-ботом
• Получение уведомлений при обнаружении признаков стресса у ребёнка
• Мониторинг активности в приложении

Сравнение с конкурентами

На рынке уже существуют аналогичные решения от других компаний. Google и Meta также предлагают системы родительского контроля для своих ИИ-ассистентов. Особенно интересным является опыт компании Character.AI, которая внедрила похожую систему после судебного иска.

Система Character.AI требует от подростков отправки специального приглашения родителям для получения доступа к мониторингу. Однако, по данным компании, эта функция используется не так активно, как ожидалось.

Экспертное мнение

Специалисты в области безопасности ИИ выражают определённые сомнения относительно эффективности подобных решений. Робби Торни из Common Sense Media отмечает, что:

• Родительский контроль сложно настроить
• Система перекладывает ответственность на родителей
• Подростки могут легко обойти ограничения

Дополнительные меры безопасности

OpenAI планирует внедрить несколько дополнительных механизмов защиты:

• Перенаправление пользователей в стрессовом состоянии на специальную версию чат-бота
• Упрощённый доступ к службам экстренной помощи
• Мониторинг потенциально опасных диалогов

Техническая реализация

Новая версия чат-бота GPT-5 thinking будет использоваться для работы с пользователями в стрессовом состоянии. Эта модель:

• Требует больше времени на формирование ответов
• Строже следует политике безопасности
• Помогает деэскалации напряжённых ситуаций

Критика нововведений

Исследователи выражают обеспокоенность по поводу отсутствия детальной информации о работе новых функций. Джаред Мур из Стэнфорда отмечает, что компания даёт слишком общие обещания без конкретных технических деталей.

Важная информация

Если вы или ваши близкие испытываете трудности, обратитесь за помощью:

• Национальная горячая линия по предотвращению самоубийств: 988
• Дополнительные ресурсы: SpeakingOfSuicide.com/resources
• Поддержка при утрате: Американский фонд по предотвращению самоубийств

Этот шаг OpenAI является важным этапом в развитии безопасного использования ИИ-технологий, хотя и требует дальнейшей доработки и усовершенствования.