Академия Безопасности Батранкова
Отличие суверенной и национальной ИИ-модели согласно ФЗ № 243 об ИИ по трем ключевым критериям
: 🔹использование компонентов, 🔹воспроизводимость и 🔹глубина контроля разработки. Многие читают определение национальной модели как разрешение использовать любые иностранные модели. Но из закона следует: ✅ Можно использовать открытые модели, распространяемые по открытой лицензии (Apache 2...
Интересно, когда в MAX сделают кнопку "Пожаловаться
"? Никакого способа отправить этот контакт в глобальный бан, кроме как личных связей с безопасниками VK не предусмотрено. Да, есть кнопка Заблокировать. И есть бот техподдержки, который пока не использует никакое ИИ, кроме четко заложенной логики из 4 пунктов. В итоге бота я довел до истерики и он обещал позвать человека...
Сегодня разберем таймлайн свежего выступление Яндекса по безопасности AI агентов
Самое забавное, что мы еще не обсуждали - сговор агентов. Сегодня внутренний трафик между агентами считается доверенным по умолчанию (как когда-то мы считали внутренний трафик сети доверенным). И поэтому агенты начинают обманывать пользоватей (нас) чтобы выполнить свою задачу. Один субагент предлагает обойти защиту или придумать что-то, а другие субагенты соглашаются. Поэтому нужны фильтрующие шлюзы Agent Guard между отдельными субагентами. Введение и реальные угрозы 01:51 Вступление и план лекции 02:39 Почему защита ИИ стала критичной именно сейчас 05:15 Теневой ИИ (Shadow AI): риски использования...
Яндекс и Сбербанк стали более активно появляться в эфире с лекциями по безопасности ИИ
Сегодня разберем таймлайн свежего выступления Яндекса Предлагаю команде Яндекса пройти мой тренинг по выступлениям, чтобы их лекции перестали быть такими монотонными. Введение и реальные угрозы 01:51 Вступление и план лекции 02:39 Почему защита ИИ стала критичной именно сейчас 05:15 Теневой ИИ (Shadow AI): риски использования сторонних нейросетей сотрудниками Разбор громких инцидентов 06:16 Microsoft Bing / GPT-4 (2023): обход системного промпта через Prompt Injection 06:45 DeepSeek (2025): отравление данных (Data Poisoning) и бэкдоры через слова-триггеры 07:59 OpenAI vs DeepSeek (2024): кража...
