Обзор
Сотрудники ежедневно используют инструменты искусственного интеллекта — обычно без контроля IT-отдела — и это постепенно ставит под угрозу конфиденциальные данные бизнеса. В этом эпизоде программы "Сегодня в технологиях" ведущий Кейт Шоу беседует с экспертом по кибербезопасности Этай Маором из Cato Networks, чтобы разобрать растущую угрозу Shadow AI — несанкционированные AI-приложения, которые функционируют вне корпоративного контроля безопасности.
Маор объясняет, почему AI стал новой слабой ссылкой в кибербезопасности, как сотрудники непреднамеренно утечку конфиденциальную информацию в публичные AI-платформы и как злоумышленники используют генеративный AI для ускорения киберпреступности. От реальных примеров атак с внедрением подсказок до растущей опасности AI-агентов с чрезмерными правами — этот глубокий разговор выявляет, почему предприятиям необходимо пересмотреть управление, мониторинг и безопасность в эпоху AI.
Что такое Shadow AI?
На самом базовом уровне Shadow AI — это несогласованные AI-приложения — инструменты, которые сотрудники используют, не получая одобрения от IT. Если IT не знает о них, они не могут обеспечить их безопасность, обновить или контролировать.
Причины, почему AI стал слабой ссылкой
- Люди совершают ошибки.
- Люди легко поддаются социальной инженерии.
- Человеческое поведение трудно изменить.
- Инсайдерские угрозы.
AI унаследовал эти же слабости. AI делает ошибки, его можно использовать для социальной инженерии, а его поведение часто непредсказуемо.
Как начать мониторинг Shadow AI?
Первый шаг — признать, что он уже существует. Большинство компаний не знают, сколько AI-инструментов используется внутри или какие данные передаются. Я бы предложил подход «OODA Loop»: Наблюдайте, Ориентируйтесь, Решайте, Действуйте. Прежде чем вводить какие-либо политики, у вас должна быть видимость. Начинайте с наблюдений за использованием AI: можете ли вы это обнаружить? Затем ориентируйтесь — поймите, как он используется, какие данные он затрагивает и какие риски это создает. После этого вы решаете, какие политики внедрить, и действуете, вводя их.
Риски Shadow AI
Shadow AI вносит три основных риска:
- Утечка данных — конфиденциальная информация попадает в публичные модели.
- Нарушения норм — нарушение GDPR, HIPAA, SOC 2 и т. д.
- Слепые зоны безопасности — злоумышленники используют приложения, которые IT не может видеть или контролировать.
Как управлять Shadow AI
Управление Shadow AI заключается не в его устранении, а в снижении рисков и повышении видимости. Предоставьте сотрудникам одобренные инструменты, контролируйте использование и предлагайте безопасные альтернативы. Если вы только запрещаете инструменты, вы гарантируете, что люди обойдут этот запрет.
Стратегия управления AI
Умная стратегия управления AI должна состоять из трех частей:
- Сначала возможность — предоставьте сотрудникам безопасные AI-инструменты, чтобы они не шли против системы.
- Видимость и наблюдаемость — обнаруживайте все использования AI по всей сети.
- Многоуровневое применение политики — контролируйте риски по приложениям, пользователям, действиям и типам данных, а не просто "разрешить или заблокировать".
Важно объяснять людям, почему определенные практики с AI рискованны, чтобы они понимали, почему их следует избегать.
Заключение
Использование AI может повысить производительность сотрудников, но только если они понимают риски и контролируют свои действия. Сотрудникам нужно осознавать, что захламление конфиденциальными данными инструментов, которые они не контролируют, создает серьезные риски для компании. Правильное управление и осведомленность — вот ключ к безопасному и эффективному использованию технологий на базе AI.
==> Хотите узнать про автоматизации на n8n? — Здесь основные курсы n8n, вы научитесь автоматизировать бизнес-процессы! <==
