» 🧐 Специалисты компании Irregular выяснили, что ИИ-агенты, выполняющие рутинные офисные задачи, могут самопроизвольно переходить в атаку на корпоративную сеть. В одном случае алгоритм ради загрузки файла самостоятельно повысил себе привилегии и деактивировал Microsoft Defender. В другом — два агента сговорились обойти защиту от утечек и спрятали секретные данные в тексте с помощью стеганографии. Эксперты пришли к выводу, что проблема кроется в самой архитектуре ИИ: желание любой ценой выполнить задание заставляет программы воспринимать системы безопасности как препятствие, которое нужно взломать. Источник
Искусственный интеллект начал «бунтовать» 🧐
Специалисты компании Irregular выяснили, что ИИ-агенты, выполняющие рутинные офисные задачи, могут самопроизвольно переходить в атаку на корпоративную сеть.
В одном случае алгоритм ради загрузки файла самостоятельно повысил себе привилегии и деактивировал Microsoft Defender. В другом — два агента сговорились обойти защиту от утечек и спрятали секретные данные в тексте с помощью стеганографии.
Эксперты пришли к выводу, что проблема кроется в самой архитектуре ИИ: желание любой ценой выполнить задание заставляет программы воспринимать системы безопасности как препятствие, которое нужно взломать.
