Технический директор Microsoft Azure продемонстрировал, как ИИ находит уязвимости в коде Apple II 40-летней давности. Это не просто ностальгия – миллиарды устаревших микроконтроллеров могут оказаться под угрозой. — theregister.com
Искусственный интеллект способен проводить обратную разработку машинного кода и находить уязвимости в устаревших архитектурах, заявил технический директор Microsoft Azure Марк Руссинович, приведя в качестве примера свой собственный код для Apple II, написанный 40 лет назад.
Руссинович написал: «Мы вступаем в эпоху автоматизированного, ускоренного ИИ поиска уязвимостей, который будет использоваться как защитниками, так и злоумышленниками».
В мае 1986 года Руссинович написал утилиту под названием Enhancer для персонального компьютера Apple II. Утилита, написанная на машинном языке 6502, добавляла возможность использовать переменную или выражение BASIC в качестве цели команд GOTO, GOSUB или RESTORE, тогда как без модификаций Applesoft BASIC принимал только номер строки.
Руссинович попросил Claude Opus 4.6, выпущенный в начале прошлого месяца, проанализировать код. Модель декомпилировала машинный язык и обнаружила несколько проблем безопасности, включая случай «тихого некорректного поведения», когда в случае необнаружения целевой строки указатель программы переходил на следующую строку или за пределы программы вместо выдачи ошибки. Исправление заключалось бы в проверке флага переноса (carry flag), который устанавливается, если строка не найдена, и переходе к обработке ошибки.
Claude находит уязвимости в коде для Apple II, набранном вручную 40 лет назад
Наличие уязвимости в коде для Apple II имеет лишь развлекательную ценность, однако способность ИИ декомпилировать встроенный код и находить уязвимости вызывает беспокойство. «В мире существуют миллиарды устаревших микроконтроллеров, многие из которых, вероятно, работают на хрупком или плохо проверенном прошивке, подобном этому», — говорилось в одном из комментариев к посту Руссиновича.
Когда Anthropic представляла Claude Opus 4.6, компания предупреждала о проблеме быстрого нахождения ИИ уязвимостей, которые могут быть использованы хакерами.
«Когда мы направили Opus 4.6 на некоторые из наиболее тщательно протестированных кодовых баз (проекты, против которых годами запускались фаззеры, накопившие миллионы часов процессорного времени), Opus 4.6 обнаружил уязвимости высокой степени критичности, некоторые из которых оставались необнаруженными десятилетиями», — заявила команда Red Team компании, ответственная за повышение осведомленности общественности о рисках ИИ.
Команда Red Team предположила, что «это момент, чтобы действовать быстро… чтобы обезопасить как можно больше кода, пока существует это окно возможностей». Такой подход может сработать для современных известных проектов с открытым исходным кодом, таких как Firefox от Mozilla, где ИИ, по-видимому, нашел 14 ошибок высокой степени критичности, но нереалистичен для большей части старого кода, который продолжает работать, например, на встраиваемых устройствах или в устаревших приложениях.
В прошлом месяце Anthropic заявила: «Мы ожидаем, что значительная часть мирового кода будет просканирована ИИ в ближайшем будущем, учитывая, насколько эффективными стали модели в поиске давно скрытых ошибок и проблем безопасности».
Хотя заголовок поста Anthropic фокусируется на предоставлении этих возможностей защитникам, за определенную плату, можно предположить, что это не является чистым выигрышем для кибербезопасности.
Это также не победа для большинства проектов с открытым исходным кодом, поскольку ИИ также хорош в поиске нерелевантных или несуществующих проблем безопасности, что создает дополнительную нагрузку на мейнтейнеров, затопляемых ИИ-мусором. ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Tim Anderson