SecureTechTalks

Разбор феномена сублиминального обучения Вы уже знаете, что если «дообучить» ИИ на новую задачу, то информация о старой все еще будет в "памяти" модели. На днях вышла статья на Хабр, которая хорошо раскрывает эту тему. Авторы докопались до того, почему модели действительно «помнят» скрытую информацию, даже когда мы её вроде бы удалили. 🧠 Вспомнить всё Когда мы дообучаем (fine-tune) нейросеть, чтобы адаптировать её к новой задаче, то это выглядит примерно так: 📌 есть модель, которая уже чему-то...

ИИ в кибербезопасности перестал быть помощником. За последние два года путь был довольно прямым: сначала LLM подсказывали пентестеру, затем начали автоматически выполнять задачи. Новая работа Alias Robotics фиксирует момент, когда, работающий ранее подход, перестаёт масштабироваться. Дальнейший прогресс упирается не в размер модели, а в то, как именно принимаются решения. Речь идёт не о «сверхразуме» в популярном смысле, а о системах, которые в отдельных классах задач стабильно превосходят человека по скорости и качеству стратегических решений...

📱 Иллюзия безопасности Есть удобное убеждение, что если приложение попало в App Store, то значит, его проверили. А если его проверили, то значит, ему можно доверять. Именно на этом ощущении безопасности держится экосистема iOS. Firehound показывает, насколько это доверие ошибочно. 🔍 С чего все началось? История началась без эксплойтов, исследователи решили внимательно посмотреть, как iOS-приложения хранят пользовательские данные и куда они реально уходят. Выяснилось, что backend многих приложений живёт за пределами витрины App Store...

Представьте, вы аналитик в виртуальной компании. Офис, переговорка, серверная. Значит где-то внутри уже зреет инцидент😁. ⏱ У вас есть час, чтобы: - найти реальные риски; - сопоставить фреймворки; - переписать политику безопасности. Если ошибётесь, то инфраструктура компании «упадет». Вот такое научное исследование было представлено на ISSOTL 2025. На наш взгляд это один из самых любопытных экспериментов в обучении ИБ за последнее время. 🎮 Escape room вместо лекций Авторы из UNSW превратили дата-гавернанс и политики безопасности в игру Escape room (помните такие?)...

🤖 LLM-агенты всё чаще получают доступ к реальным корпоративным системам: базам данных, файловым шарам, внутренним API, SOC-инструментам. Проблема в том, что почти вся эта инфраструктура обычно строится вокруг Active Directory и Kerberos, а агенты работают с JWT и OIDC. ⚠️ Где возникает проблема 🔑 JWT отлично подходит для: ➖API ➖микросервисов ➖облачных workload’ов При этом Kerberos-инфраструктура: ❌ не понимает JWT ❌ требует строгой идентичности ❌ строится вокруг принципала, билета и KDC Поэтому архитектура почти всегда деградирует до простого решения: 🧨 агенту выдают сервисный аккаунт...