📰 ИИ не ломает безопасность. Ломает сложность: как гикам выжить в новом мире угроз
В современном мире, где технологии развиваются с бешеной скоростью, а искусственный интеллект (ИИ) становится неотъемлемой частью нашей жизни, вопрос безопасности выходит на первый план. Но, как выясняется, винить во всех киберугрозах именно ИИ – это большая ошибка. По данным VentureBeat, настоящая проблема кроется в излишней сложности самих систем.
Безопасность – это не про сложность, а про простоту
История корпоративной безопасности часто напоминает гонку вооружений: появляется новая угроза – добавляется новый контроль. Итог? Пользователи начинают обходить систему, потому что она становится слишком неудобной. Автор статьи подчеркивает, что люди редко игнорируют безопасность, потому что им на нее плевать. Они делают это, потому что безопасный путь кажется им более трудным, чем небезопасный.
В эпоху ИИ этот урок становится еще более актуальным. ИИ расширяет поверхность атаки и повышает планку для злоумышленников, что делает упрощение безопасности критически важным. Системы безопасности, требующие усилий или создающие неудобства, неизбежно игнорируются. Люди находят обходные пути. Ответ прост: нужно сделать безопасный путь самым легким.
Когда безопасность работает, оставаясь незаметной
Безопасность работает лучше всего, когда она не мешает. Когда пользоваться безопасным путем проще, чем его избегать, люди начинают его использовать. Вспомните, как долго внедрялась двухфакторная аутентификация. Главной проблемой была не сама технология, а неудобство: остановка работы, поиск телефона, запуск VPN, ввод кодов – все это прерывало рабочий процесс.
Массовое принятие двухфакторной аутентификации произошло не благодаря политике или обучению, а благодаря простоте. Теперь, когда это так же легко, как отпечаток пальца или сканирование лица, люди используют ее без колебаний.
Тот же принцип привел к тому, что разработчики браузеров сделали безопасность более наглядной и интуитивно понятной. Вместо того чтобы заставлять пользователей вручную проверять URL-адреса, современные браузеры явно помечают небезопасные сайты (не HTTPS) как таковые, направляя пользователей к более безопасному поведению по умолчанию. Безопасность стала сильнее отчасти потому, что безопасный путь стал проще и очевиднее.
Где сложность проявляется в ИИ
Примером того, как это проявляется в системах ИИ, служат разрешения для агентов. Сотрудники накапливают множество разрешений со временем: доступ к одному проекту, затем к другому, роль, которая так и не была отозвана после смены команды. Человек понимает, какой доступ релевантен задаче, даже если система этого активно не контролирует.
Агенты лишены такого суждения. Агент, которому поручена задача, будет исследовать каждый доступный путь. Если он может получить доступ к 12 системам, а задача требует только две, он может изучить и остальные десять. Это просто тщательность, но результат – потенциальная поверхность атаки намного больше, чем требовалось для выполнения задачи.
Возникает соблазн держать человека в курсе, уведомляя о значительных действиях и запрашивая одобрение перед их выполнением. Но на практике агент может запросить у человека одобрение глубоко технического действия без достаточного контекста для оценки его уместности. В большинстве случаев люди одобрят его, просто чтобы не останавливать рабочий процесс. Это лишь добавляет трение и создает ложное чувство контроля....
🔗 Полный текст статьи читайте у нас на сайте: Читать на TechLoot
📢 ТехноЛут
