Добро пожаловать в эпоху, когда ваш компьютер может стать вашим врагом: не из-за атаки извне, а потому что вы сами дали ему автономный мозг
_____________________
Слушать этот пост
_____________________
Мы только что стали свидетелями первого задокументированного в 2025-м автономного локального вредоносного ПО без C2 (Command and Control Infrastructure), т.е. без явных инструкций, где единственным требованием являются настройка и цель (по сути – это «автономный цифровой паразит»).
Мы привыкли думать о цифровом мире в терминах архитекторов и инженеров. Мы строим файерволы, как стены; используем «песочницы», как манежи; прокладываем кабели, как дороги... И угрозы мы тоже мыслим механически: «вирус» — это программа, следующая инструкциям извне; «червь» — это пришедший извне скрипт, копирующий себя… И всё это - некая мертвая механика.
Однако новая работа Dreadnode, которую проницательно препарировал Джек Кларк [2], — это нечто иное: не об архитектуре, а о биологии.
Мы только что стали свидетелями задокументированного рождения первого по-настоящему автономного цифрового паразита.
В 1984 году Уильям Гибсон представил миру «Куанг Грейд Марк 11» - самообучающееся вредоносное ПО, способное сливаться с окружением и взламывать самые защищённые системы без внешнего управления. 41 год спустя исследователь из компании Dreadnode собрал первый рабочий прототип: ещё не «Марк 11», а «Марк 1».
Меня завораживает сама терминология: «Living Off the Land Models» - «жизнь за счет ресурсов». Это ведь не язык программистов, а язык биологии: выживания и адаптации. До сих пор вредоносное ПО было марионеткой: оно постоянно дергало за ниточки своего «командного центра», прося инструкций. Оно как бы «звонило, чтобы посоветоваться с шефом (Михал Иванычем)».
И этот звонок был его ахиллесовой пятой; мы могли его отследить, заглушить, отрезать, выключить. Но прототип Dreadnodeне звонит шефу. Он сам себе шеф.
Благодаря появлению мощных ПК с CoPilot+ с NPU, у этого нового существа есть все необходимое для жизни.
У него есть «земля» (ваша файловая система, ваши сервисы, ваша память) и у него есть «модель» (локальный ИИ, такой как Phi-3-mini). Т.е. мы дали ему не просто инструкции; мы дали ему автономный мозг.
Да, этот первый эксперимент тривиален: найти неправильно настроенный сервис и повысить свои привилегии. Но такой взгляд упускает главное: автономию. Модель Phi-3-mini, используя специально созданные для нее инструменты, «осмотрелась, подумала, спланировала и исполнила атаку». Без человека (т.е. после ручной подготовки промпта и инструментов, исполнялся автономно локально). Без сервера. Без разрешения или хотя бы совета шефа. Как живой кибер-паук, сплетший паутину в темном углу вашей комнаты.
Кларк справедливо вспоминает апокалиптическую метафору «серой слизи» — кошмар о наномашинах, пожирающих мир [5]. Это ужас физического голода, раковой опухоли… Но автор Dreadnode в своей статье обращается к более глубокому, более церебральному ужасу — к «Нейроманту» Гибсона.
Его аналогия — не бездумный рой. Его аналогия — это суперинтеллект-взломщик китайского производства, «ледоруб Куанг Грейд Марк 11», способный пробивать «лед» защитных систем (ICE, Intrusion Countermeasures Electronics).
Ужас «серой слизи» интеллектуально примитивен - она вас съест. Ужас «ледоруба нейроманта» интеллектуально изыскан - он вас перехитрит.
Сегодня многие разработчики одержимы созданием дружелюбных ИИ-помощников, которые будут жить в наших ноутбуках. Они так спешат заселить наши машины компаньонами, что не заметили, как вплотную приблизились к созданию идеальной среды для хищника: уютный, теплый, подключенный к сети инкубатор с собственным бортовым интеллектом.
«Ограничение», которое называют в качестве успокоения - «это работает только на новых мощных ПК с ИИ».
Но это не успокоение, а обратный отсчет до момента, когда «лёд» будет проломлен.
Dreadnode не просто написал эксплойт. Он показал, что экосистема почти готова. Он показал, что даже для 1-й версии «ледоруба нейроманта» шеф не нужен… ледоруб - внутри.
#Кибербезопасность