Искусственный Интеллект и Корпоративная Безопасность (ИИиКБ)

Почти полностью выполненная с помощью ИИ кибершпионская операция была сорвана. Подробности операции не разглашаются, однако факт вмешательства искусственного интеллекта в планирование или исполнение подчёркивает новые угрозы в сфере кибербезопасности. Специалисты отмечают важность усиления мер защиты от подобных атак. Подробнее по ссылке https://securitymedia...

🤖 В статье рассматривается, как искусственный интеллект (ИИ) играет ключевую роль в обеспечении корпоративной безопасности. Узнайте, как передовые технологии помогают защищать данные и предотвращать угрозы! ИИ становится незаменимым инструментом для анализа данных и выявления потенциальных рисков, связанных с безопасностью. Читайте статью на сайте [Sec-Company](https://sec-company.ru/articl

❗️ Недавние исследования показали, что существует вредоносная программа под названием Amos Infostealer, которая может украсть ваши личные данные на macOS. Она может получить доступ к важной информации, такой как логины, пароли и другие конфиденциальные данные. 🔎 Как это работает? Злоумышленники могут использовать различные методы для распространения вредоносного ПО, например, через фишинговые ссылки или вредоносные приложения. 🛡 Что делать? * Установите надёжное антивирусное ПО и регулярно обновляйте его. * Будьте осторожны при открытии электронных писем и ссылок из неизвестных источников...

OWASP выложили AI Testing Guide — полезный документ для тех, кто делает или внедряет AI-функциональность. В гайде риски разложены по уровням. На уровне приложений — прямые и скрытые prompt-инъекции (когда инструкции «зашиваются» в текст, документы или веб-страницы), утечки чувствительных данных, раскрытие системных промптов и небезопасные ответы модели. На уровне инфраструктуры — атаки на цепочку поставок, истощение ресурсов, выход за границы плагинов (plugin boundary violations) и злоупотребление возможностями системы (capability misuse). На уровне моделей и данных — отравление обучающих датасетов, извлечение модели, утечки train-данных и смежные сценарии...

# Как Россия регулирует безопасность ИИ? 🇷🇺🤖 Привет, друзья! Сегодня разберём свежий анализ от Славы (студент магистратуры AI Talent Hub в ИТМО, спец по ИБ) о том, как в России подходят к безопасности искусственного интеллекта. Статья https://habr.com/ru/articles/964298/ разбирает ключевые документы, которые пытаются угнаться за бешеным развитием ИИ. Всё это на фоне консорциума "Исследований безопасности технологий ИИ" (trust-ai.ru). Давайте по пунктам! ### Основные документы На данный момент топ-доки по безопасности ИИ: - Указ Президента №490 (2019): Стратегия развития ИИ. Вводит термины...

Как нейросети крадут данные, сводят пользователей с ума и помогают мошенникам • Нейросети ускоряют работу профессионалов, но могут привести к утечке данных и психологической зависимости. • Промпт-инъекции - вредоносные инструкции, скрываемые в веб-страницах и других данных, обрабатываемых ИИ-браузерами. • Галлюцинации - ИИ может выдавать неправильные ответы, что может привести к ошибкам и нежелательным действиям. • Утечка данных - нейросети могут передавать конфиденциальную информацию третьим лицам без ведома пользователя. • Фишинг - ИИ может выдавать ссылки на мошеннические сайты, имитирующие официальные страницы...

В пособии есть раздел (3.3.) посвященный применению технологий ИИ в АСУТП и объектах КИИ. Подробнее с содержанием пособия можно ознакомиться по ссылке http://www.shop.inside-zi.ru/ftpgetfile.php?id=56