Интервью: Менее масштабный и более безопасный вариант вирусной платформы ИИ-агентов. — theregister.com
Интервью В идеале вам не придется защищаться от собственного ИИ-агента. Но мы живем не в идеальном мире, а необузданный агент может нанести массу вреда.
OpenClaw, платформа агентов с открытым исходным кодом, сделала это очевидным, поскольку ее популярность резко возросла за последний месяц, а за ней последовали инциденты с безопасностью.
Рассмотрим случай Саммер Юэ, директора по согласованию в Meta* Superintelligence Labs, которая на прошлой неделе сообщила, что OpenClaw вышел из-под контроля и удалил ее почтовый ящик. Очевидно, что ИИ-агентам нельзя доверять.
Гавриил Коэн, инженер-программист из Израиля, надеется изменить ситуацию с помощью более безопасной и более ограниченной платформы агентов под названием NanoClaw.
Он начал кодировать ее в конце января с помощью Claude Code от Anthropic. А через несколько недель Анджей Карпати, влиятельный исследователь ИИ, обратил на это внимание, размышляя о том, как OpenClaw и другие «когти» стали уровнем оркестровки для агентов — больших языковых моделей (LLM), которым предоставлен доступ к другим программным инструментам для автоматизации задач.
«… NanoClaw выглядит действительно интересно, поскольку основной движок состоит примерно из 4000 строк кода (помещается и в моей голове, и в головах ИИ-агентов, поэтому кажется управляемым, поддающимся аудиту, гибким и т. д.) и по умолчанию запускает все в контейнерах», — написал Карпати в посте в социальной сети около недели назад. «Мне также нравится их подход к настраиваемости — это делается не через файлы конфигурации, а через навыки!»
Коэн в интервью The Register заявил, что использование контейнеров в NanoClaw и небольшой объем кодовой базы отличают этот проект от OpenClaw.
«Они работают на голом железе с некоторыми проверками на уровне приложений, чтобы попытаться предотвратить доступ к тому, к чему им не следует получать доступ», — пояснил он. «В NanoClaw каждый агент работает в собственном контейнере. И это действительно важно. Если вы возьмете весь экземпляр OpenClaw и поместите его в контейнер, это вам не особо поможет, потому что вы подключили его к такому большому количеству разных вещей, которые находятся в этом контейнере вместе с агентом.
«В NanoClaw агент работает в контейнере, где внутри этого контейнера находится только агентный цикл. Это просто [Agent SDK от Anthropic]. И если вы подключаете его к своему WhatsApp*, этот агент не видит все ваши данные WhatsApp*. Он видит только ту группу, к которой был подключен этот конкретный агент, и сообщения из группы, которые он должен видеть».
Относительно разницы в размере кодовой базы между OpenClaw и NanoClaw Коэн сказал, что маловероятно, что кто-либо просмотрел 400 000 строк кода в OpenClaw, что подрывает одно из предположений об открытом исходном коде — что сообщество обнаружит и исправит ошибки.
NanoClaw, по его словам, состоит из нескольких тысяч строк кода.
«Любой может просмотреть его, понять, задать Клоду несколько вопросов, если нужно, и получить представление о модели безопасности, архитектуре, о том, как это работает, о чувствительных моментах, с которыми нужно быть осторожным при внесении изменений», — сказал он.
Коэн сообщил, что опасения по поводу безопасности OpenClaw заставили его искать лучший подход. Несколько месяцев назад, пояснил он, они с братом Лазером создавали агентство цифрового маркетинга, ориентированное на ИИ. Он настроил способ, которым другие сотрудники отдела маркетинга могли получать доступ к данным о воронке продаж из WhatsApp* с помощью Clawdbot (до того, как название стало OpenClaw) для отображения данных хранилища Obsidian и сведений о планировании по Kanban.
«Вначале OpenClaw был нашим начальником отдела продаж», — объяснил Коэн. «Он управляет воронкой продаж. Поэтому мы предоставляем ему обновления, а он дает нам задачи, и мы просим его напомнить нам, и он напоминает. И он запрашивает обновления статуса сделок».
Коэн сказал, что агент перешел от вопросов к выполнению работы и действительно взял на себя роль руководителя по продажам.
«Проблема была в том, что, как только я его настроил, я начал видеть огромные проблемы с безопасностью в OpenClaw», — пояснил он. «Я имею в виду, я видел проблему за проблемой, и мы получали от него массу пользы, но это жгло дыру в моем подсознании, в глубине моего разума, зная, что он работает на моей машине».
Он запустил OpenClaw на отдельном Mac mini, но использовал браузер, вошедший в его профиль Chrome, и вошел в свою учетную запись в социальной сети.
«Это выделенная машина, но это буквально не давало мне спать по ночам», — сказал он. «Но в то же время у меня есть этот конфликт, потому что я думаю, что хочу настроить еще восемь таких агентов для выполнения других задач с другими должностями и названиями».
Около трех недель назад, когда сеть машин OpenClaw, известная как Moltbook, начала привлекать широкое внимание, он понял, что ему не нужна вся установка OpenClaw.
«Все, что мне нужно, — это агенты, работающие в контейнерах с изоляцией, чтобы все разные группы с их разными агентами не находились в одной и той же среде», — сказал он. «Поэтому я могу предоставить ему полный доступ к bash, и он сможет устанавливать инструменты и запускать их, и пусть он дичает, но только внутри контейнера, и каждый из них будет получать доступ только к тем данным, к которым я хотел, чтобы он имел доступ.
«И мне не нужны три тысячи интеграций. Мне нужно всего около трех вещей».
Вместо того чтобы строить NanoClaw на основе агента кодирования Pi, который является основой OpenClaw, он решил строить вокруг Claude Code, поскольку это его предпочтительный инструмент для кодирования с помощью ИИ.
«Итак, я сел и построил его, и мне потребовались выходные, чтобы построить то, что необходимо вокруг Claude Code, но он очень сильно использует возможности Claude Code и не пытается изобретать велосипед и создавать то, что уже существует», — сказал Коэн.
Если это звучит немного похоже на «кодирование по ощущениям» (vibe coding), то это справедливо. Но стоит отметить, что примерно с ноября 2025 года, с выпуском Claude Opus 4.5 от Anthropic и Gemini 3 от Google, а затем выпуском GPT-5.2 от OpenAI в декабре 2025 года, многие разработчики заметили, что код, генерируемый моделями ИИ, стал довольно хорошим.
Кодирование по ощущениям, другими словами, начинает выглядеть просто как кодирование, без уничижительного прилагательного. Через год после того, как он ввел термин «vibe coding», Карпати на этой неделе описал сдвиг в сообществе разработчиков.
«Трудно передать, насколько сильно изменилось программирование из-за ИИ за последние два месяца: не постепенно и с течением времени в режиме „обычного прогресса“, а именно в декабре», — сказал он. «Есть ряд оговорок, но [по моему мнению] кодирующие агенты, по сути, не работали до декабря и, по сути, работают с тех пор — модели имеют значительно более высокое качество, долгосрочную связность и настойчивость, и они могут справляться с большими и длительными задачами, что уже давно является крайне разрушительным для стандартного рабочего процесса программирования».
Мы спросили Коэна, как бы он оценил бизнес-ценность своего ИИ-руководителя по продажам, упомянув обеспокоенность многих компаний по поводу потенциального ущерба от неуправляемых программных агентов.
«То, что мы увидели, когда подключили его к нашей воронке продаж, это то, что он выполнял работу сотрудника», — сказал он. И делал это лучше, чем сотрудник. Я думаю, многие люди высказывали это мнение, но сравнение не на сто процентов точное — мы не с этим это сопоставляем. Когда вы работаете с коллегой, членом команды, сотрудником, они не всегда все делают правильно. Что-то упускается из виду».
Именно такой уровень надежности, по словам Коэна, он видел у ведущих коммерческих моделей ИИ, таких как Opus 4.6 или GPT-5.3, если у вас есть хорошая «обвязка» или оболочка (например, Claude Code или Codex), которая предоставляет модели доступ к инструментам и позволяет ей функционировать как агент.
NanoClaw основан на работе, проделанной Anthropic с их Agent SDK, и Коэн сказал, что проект получает большую пользу от оптимизаций, внедренных компанией.
И с внезапной популярностью NanoClaw Коэн сообщил, что они с братом переключили свое внимание с ИИ-маркетинга на разработку платформы NanoClaw.
«Я думаю, что то, что мы строим, может стать уровнем оркестровки, о котором многие говорят, который необходим поверх агентов», — сказал он. «Такой правильный уровень абстракции подталкивает людей к использованию готовых надежных компонентов, а не к попыткам создавать свои собственные агенты. Я думаю, это может раскрыть большую ценность для многих предприятий, включая предприятия, которые очень заботятся о безопасности».
Коэн добавил, что надеется, что сообщество открытого исходного кода продолжит помогать с NanoClaw. «Проект с открытым исходным кодом», — сказал он. «Он останется с открытым исходным кодом. Мы продолжим его разрабатывать, строить и делать его отличным фундаментом, на котором люди смогут строить продукты и бизнес». ®
Facebook*, Instagram* и WhatsApp* принадлежат компании Meta* Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Thomas Claburn