Безопасность и анонимность

Представь, что ты нанял стажёра, который умеет всё: писать код, править документы, ставить программы, дергать базы и «чуть‑чуть» лазить по внутренним сервисам. Мечта? Да. Пока он не решит «оптимизировать» тебе прод. С ИИ‑агентами в компаниях сейчас ровно такая ситуация. И вот тут появляется новость: open‑source платформа NanoClaw (её делает Гавриэль Коэн) партнёрится с Docker, чтобы запускать агентов внутри Docker Sandboxes — специальных изолированных окружений. Смысл простой: дать агентам свободу работать, но не свободу устроить пожар...

ИИ-агенты становятся всё самостоятельнее: могут ходить в интернет, вытаскивать данные, открывать ссылки и даже что-то делать «руками» — отправлять письма, заполнять формы, запускать инструменты. Удобно? Очень. Опасно? Тоже очень. Потому что вместе с этими суперспособностями появляется новая любимая игра злоумышленников: попробовать уговорить агента сделать то, чего ты не просил. И вот тут важно: современные атаки всё меньше похожи на тупое «игнорируй предыдущие инструкции», и всё больше — на обычный человеческий развод...

Есть такой привычный ритуал в мире разработки: запускаешь сканер безопасности, он находит что-то страшно звучащее, ты ставишь галочку «проверено» — и все довольны. Удобно, привычно, и иногда даже полезно. Проблема в том, что классические сканеры работают как рамка металлоискателя на входе: ищут то, что уже знают. Нож найдут. Керамический пистолет — нет. И не потому что плохо настроили. Просто так устроены. В феврале Anthropic, а через две недели OpenAI почти синхронно выпустили бесплатные инструменты, которые проверяют код иначе — не по шаблонам, а с попыткой понять логику...

Представь: ты пишешь в интернете с левого аккаунта. Без имени, без фотки, без города. Ну всё, ты ниндзя. А теперь плохие новости. Раньше деанонимизация — то есть снятие анонимности — была сложным делом. Нужны были совпадающие базы данных, ручная работа, специальные навыки. Условно: «вот таблица, вот ещё таблица, давай склеим по совпадениям». Теперь подход другой. Берут обычный текст — посты, комментарии, ответы в анкете — и просят ИИ найти «сигналы личности». Манера писать, детали про работу, упомянутые инструменты, интересы, даже британское «analysing» вместо американского «analyzing»...

В США случилась показательная история: государство снова выясняет отношения с ИИ-компаниями, а правил — как не было, так и нет. И на этом фоне группа людей самых разных взглядов (да, там в одном документе подписались и бывшие советники Трампа, и люди из команды Обамы) решила сделать за власть работу: выпустила «Pro‑Human AI Declaration» — декларацию о том, каким должен быть «ответственный ИИ», чтобы потом не объяснять детям, почему взрослые «немножко недосмотрели». Звучит пафосно, но идея у них простая: человечество стоит на развилке...

Представь: ты спокойно сидишь в браузере, открываешь какой-то сайт, а где-то в коде в этот момент лежит маленькая дырка, через которую можно устроить большие неприятности. Обычно такие вещи ищут долго, вручную и с кучей кофе. А тут приходит ИИ — и делает это как стажёр на стероидах: быстро, много и без нытья. Реальный кейс: команда исследователей прогнала Claude по коду Firefox — и за две недели нашла 22 уязвимости. Mozilla признала 14 из них серьёзными. Это почти пятая часть всех опасных дыр, закрытых в Firefox за весь 2025 год...