Найти в Дзене
Лента материаловСтатьи
Покупайте СтеллыИ дарите их за контент
5 дней назад
 • Вы подписаны

По мотивам нашего доклада опубликовали статью о поверхности атаки на ИИ-агентов в разработке и подходах к их защите

Разобрали приоритетные риски вокруг LLM, RAG и MCP, модель «летального трио» и предложили базовые меры, чтобы спасти агента от него самого.

1 неделя назад
 • Вы подписаны

И ещё раз про безопасность ИИ-агентов в разработке

Год назад с Глебом обсуждали, как ИИ изменит разработку, и какие риски это принесёт. Завтра встречаемся снова, чтобы оценить масштаб изменений, которые натворили ИИ-агенты, и разобраться, что со всем этим делать. Ты тоже подключайся в 19:00.

2 недели назад
 • Вы подписаны

Зашёл в Shodan, чтобы поискать MCP-инструменты

Нашёл. 1699 MCP-серверов оказались доступными. Что-то из этого наверняка окажется ханипотом, но большая часть всё же имеет все признаки реальных ресурсов. MCP — это «руки» агента. Этими руками он взаимодействует с внешними системами и может читать логи, менять записи в БД, назначать встречи, работать с репозиториями и выполнять любые другие действия. Когда проводил исследование, собрал 148 поисковых запросов для Shodan, которые позволяют искать MCP-серверы. Если у такого сервера нет аутентификации и TLS, а среди опубликованных...

1 месяц назад
 • Вы подписаны

Объявляю неделю безопасности ИИ-агентов и зову всех на учёбу в школу

! В Школе анализа данных Яндекса мы запустили недельный интенсив "AI Agents Security Week". Будем учиться спасать новый дивный мир ИИ-агентов.

1 месяц назад
 • Вы подписаны

Про безопасность агентской разработки

Доклад на Saint HighLoad++ стал кульминацией исследования безопасности ИИ-агентов, которое мы провели вместе с Ратмиром и Андреем пока изучали технологии агентской разработки. Обратная связь от аудитории вывела доклад в лидеры и намекнула, что полученные результаты находят отклик у инженеров, которые внедряют агентов в свои процессы. Ключевые мысли: ✨ наблюдаемость событий в агентской разработке — база. А еще мы наблюдали события на своем ханипоте, который имитировал MCP-сервер и был открыт для внешнего мира...

1 месяц назад
 • Вы подписаны

Китайская мудрость гласит: если долго смотреть на анонсы инцидентов, в которых автономная атакующая ИИ-модель что-то сломала, то можно

дождаться маркетинговой коллаборации пострадавшей стороны с владельцем той самой модели.

Покупайте СтеллыИ дарите их за контент