Искусственный Интеллект и Корпоративная Безопасность (ИИиКБ)

Почти полностью выполненная с помощью ИИ кибершпионская операция была сорвана. Подробности операции не разглашаются, однако факт вмешательства искусственного интеллекта в планирование или исполнение подчёркивает новые угрозы в сфере кибербезопасности. Специалисты отмечают важность усиления мер защиты от подобных атак. Подробнее по ссылке https://securitymedia...

🤖 В статье рассматривается, как искусственный интеллект (ИИ) играет ключевую роль в обеспечении корпоративной безопасности. Узнайте, как передовые технологии помогают защищать данные и предотвращать угрозы! ИИ становится незаменимым инструментом для анализа данных и выявления потенциальных рисков, связанных с безопасностью. Читайте статью на сайте [Sec-Company](https://sec-company.ru/articl

❗️ Недавние исследования показали, что существует вредоносная программа под названием Amos Infostealer, которая может украсть ваши личные данные на macOS. Она может получить доступ к важной информации, такой как логины, пароли и другие конфиденциальные данные. 🔎 Как это работает? Злоумышленники могут использовать различные методы для распространения вредоносного ПО, например, через фишинговые ссылки или вредоносные приложения. 🛡 Что делать? * Установите надёжное антивирусное ПО и регулярно обновляйте его. * Будьте осторожны при открытии электронных писем и ссылок из неизвестных источников...

OWASP выложили AI Testing Guide — полезный документ для тех, кто делает или внедряет AI-функциональность. В гайде риски разложены по уровням. На уровне приложений — прямые и скрытые prompt-инъекции (когда инструкции «зашиваются» в текст, документы или веб-страницы), утечки чувствительных данных, раскрытие системных промптов и небезопасные ответы модели. На уровне инфраструктуры — атаки на цепочку поставок, истощение ресурсов, выход за границы плагинов (plugin boundary violations) и злоупотребление возможностями системы (capability misuse). На уровне моделей и данных — отравление обучающих датасетов, извлечение модели, утечки train-данных и смежные сценарии...