намерений. Разработка стала ответом на критику в адрес компании после инцидента в Канаде, где пользователь платформы, ранее заблокированный за экстремистские запросы, совершил нападение на школу. По данным Reuters, система призвана выявлять подозрительные паттерны в общении с ИИ-ассистентом. В феврале канадские власти не получили своевременного уведомления о потенциально опасной активности пользователя, что привело к трагическим последствиям. Новый механизм должен помочь предотвращать подобные ситуации, автоматически сигнализируя о тревожных запросах. Компания подчеркивает, что баланс между безопасностью и приватностью пользователей остается приоритетом, однако в условиях растущего давления со стороны регуляторов такие меры становятся необходимыми. Эксперты отмечают, что внедрение подобных систем ставит сложные вопросы о границах мониторинга и этических рамках использования искусственного интеллекта. Тем не менее, после серии инцидентов, связанных с ИИ-платформами, отрасль вынуждена
OpenAI представила новую систему мониторинга, которая будет анализировать запросы пользователей ChatGPT на предмет признаков экстремистских
7 апреля7 апр
1 мин