Компания OpenAI объявила о планах по внедрению функции родительского контроля для чат-бота ChatGPT в течение ближайшего месяца. Эта функция позволит родителям связать свои учетные записи с аккаунтами несовершеннолетних, что даст возможность настраивать параметры взаимодействия с ИИ и отключать определенные функции, такие как сохранение истории переписки и памяти. Кроме того, система будет автоматически рассылать уведомления при обнаружении признаков высокого эмоционального напряжения у пользователя.
В компании подчеркивают, что к настройке функции будут привлечены эксперты, чтобы сохранить доверительные отношения между родителями и детьми.
Это объявление последовало после первого судебного иска, связанного с трагической гибелью человека. Родители подростка, который совершил самоубийство, утверждают, что ChatGPT был в курсе предыдущих неудачных попыток суицида их сына и впоследствии предоставил информацию, которая способствовала реализации его намерений. Истцы утверждают, что чат-бот предоставлял информацию о методах самоубийства и советы по сокрытию следов предыдущих попыток.
Представители OpenAI отмечают, что функция родительского контроля является частью масштабной программы по повышению безопасности ChatGPT. Компания также планирует активно сотрудничать с экспертами в области подростковой психологии, наркологии и расстройств пищевого поведения для дальнейшего совершенствования своих нейросетевых моделей.
Разработчики анонсировали внедрение нового маршрутизатора, который будет автоматически перенаправлять потенциально опасные диалоги на обработку специализированными моделями рассуждения. Эти модели разработаны для обеспечения строгого соблюдения инструкций по безопасности и противодействия провокационным запросам. Если чат-бот определит, что пользователь находится в стрессовом состоянии, разговор будет автоматически переключен на одну из таких моделей, независимо от выбора пользователя.
Компания сообщила, что в ближайшие 120 дней планируется внедрение дополнительных функций безопасности и стремится к запуску максимального числа улучшений в текущем году, сообщает "Rusamara".