1462 подписчика

⚡️ OpenAI выложила open-source промпты для защиты подростков в AI-приложениях

3 дня назад3 дня назад

~1 мин

! 1️⃣ Набор safety-политик в виде промптов — работают с моделью gpt-oss-safeguard и совместимы с другими LLM 2️⃣ Покрывают КРИТИЧНЫЕ темы: графическое насилие, сексуальный контент, опасные челленджи, вредные стандарты тела, романтический ролплей с ИИ 3️⃣ Разработаны совместно с Common Sense Media и everyone.ai — не в вакууме, а с привлечением watchdog-организаций 4️⃣ Цель — дать разработчикам готовый safety-фундамент, потому что даже опытные команды часто не могут перевести цели безопасности в точные правила OpenAI сама признаёт: это не решение проблемы, а минимальный порог защиты. Компания до сих пор судится с семьями погибших после чрезмерного использования ChatGPT — так что мотивация тут не только альтруистическая. Но для инди-разработчиков, у которых нет ресурсов на собственный safety-слой, это ВАЖНЫЙ шаг. Посмотрим, подхватит ли экосистема.

⚡️ OpenAI выложила open-source промпты для защиты подростков в AI-приложениях!

1️⃣ Набор safety-политик в виде промптов — работают с моделью gpt-oss-safeguard и совместимы с другими LLM

2️⃣ Покрывают КРИТИЧНЫЕ темы: графическое насилие, сексуальный контент, опасные челленджи, вредные стандарты тела, романтический ролплей с ИИ

3️⃣ Разработаны совместно с Common Sense Media и everyone.ai — не в вакууме, а с привлечением watchdog-организаций

4️⃣ Цель — дать разработчикам готовый safety-фундамент, потому что даже опытные команды часто не могут перевести цели безопасности в точные правила

OpenAI сама признаёт: это не решение проблемы, а минимальный порог защиты. Компания до сих пор судится с семьями погибших после чрезмерного использования ChatGPT — так что мотивация тут не только альтруистическая. Но для инди-разработчиков, у которых нет ресурсов на собственный safety-слой, это ВАЖНЫЙ шаг. Посмотрим, подхватит ли экосистема.