OpenAI успешно интегрировала функцию родительского контроля в систему ChatGPT. Решение о её внедрении было принято после судебного иска родителей несовершеннолетнего, который, по их словам, использовал информацию от чат-бота при попытке самоубийства. Об этом сообщило агентство Reuters со ссылкой на официальный пресс-релиз компании.
Новая система позволит родителям связывать свои учётные записи с учётными записями детей. Как указано в заявлении OpenAI, функция активируется, если одна из сторон отправляет приглашение, а другая его принимает.
Функция родительского контроля даст родителям возможность ограничивать доступ к конфиденциальному контенту, управлять сохранением истории чата в памяти чат-бота и определять, может ли информация из бесед использоваться для обучения моделей OpenAI. Также родители смогут устанавливать временные ограничения на использование чат-бота, отключать голосовой режим и функции генерации и редактирования изображений.
Важно отметить, что родителям не будет предоставлен доступ к записям разговоров их детей. Если система обнаружит признаки потенциальной угрозы, она и эксперты компании уведомят родителей с необходимой информацией для обеспечения безопасности детей.
OpenAI также разрабатывает систему, которая автоматически применяет возрастные ограничения на основе анализа возраста пользователя.
3 сентября телеканал CNN сообщал о планах OpenAI внедрить функцию родительского контроля в ChatGPT с использованием искусственного интеллекта. Компания заявила, что будет продолжать исследования и совершенствование подходов к безопасности чат-бота, привлекая экспертов. OpenAI также планирует перенаправлять разговоры с признаками «острого стресса» на специализированную модель, соответствующую рекомендациям по безопасности.Источник: Ведомости