В недавнем отчёте AuditBoard были проанализированы актуальные цифровые риски. В отчёте установлено, что 78% организаций отслеживают искусственный интеллект как возникающий риск, одновременно внедряя эту технологию самостоятельно. Более половины опрошенных предприятий сообщили об использовании ИИ для повышения эффективности и улучшения своей позиции по цифровым рискам.
Две трети организаций отдают приоритет оценке рисков ИИ с использованием существующих внутренних процессов (65%) и/или рекомендаций и передового опыта профессиональных организаций (63%). Ещё 55% говорят, что они используют действующие и находящиеся на рассмотрении законы/нормативные акты для определения приоритетов риска.
Более половины опрошенных организаций используют ИИ для повышения производительности команды (57%) и улучшения обнаружения угроз (56%). Почти половина говорят, что используют его для отчётности (48%) и автоматизации планов действий и реагирования (42%).
Почти половина респондентов характеризуют свою толерантность к риску, связанному с ИИ, как очень высокую (17%) или высокую (29%), в то время как только 12% сообщают о низкой (9%) или очень низкой (3%) толерантности к риску, связанному с ИИ.
Восемьдесят семь процентов компаний используют отчётные метрики для управления цифровыми рисками. Из этой группы 97% считают свои метрики эффективными, а 59% говорят, что используемые ими метрики очень эффективны.
По словам аналитиков AuditBoard, эффективность и безопасность больших языковых моделей (LLM), особенно в таких критических областях, как кибербезопасность, в значительной степени зависят от целостности и качества их обучающих данных. Постоянные попытки злоумышленников ввести ложную информацию создают значительные проблемы, потенциально ставя под угрозу выходные данные модели и, как следствие, безопасность тех, кто полагается на эти инструменты для получения информации и руководства. Это подчёркивает важность постоянного мониторинга, обновления и курирования источников, используемых в обучении LLM. Разработка надёжных механизмов для обнаружения и смягчения влияния неверной информации является ключевой.
Полная версия отчёта представлена по ссылке.
Оригинал публикации на сайте CISOCLUB: "AuditBoard: 78% организаций отслеживают риски ИИ".
Смотреть публикации по категориям: Новости | Мероприятия | Статьи | Обзоры | Отчеты | Интервью | Видео | Обучение | Вакансии | Утечки | Уязвимости | Сравнения | Дайджесты | Прочее.
Подписывайтесь на нас: VK | Rutube | Telegram | Дзен | YouTube | X.