Найти в Дзене
ProAi

Браузерные ИИ-агенты выходят на арену: Anthropic запускает Claude для Chrome с оглядкой на безопасность

Оглавление
   Браузерные ИИ-агенты: Anthropic запускает Claude for Chrome, акцентируя безопасность ИИ против уязвимостей в гонке за лидерство.
Браузерные ИИ-агенты: Anthropic запускает Claude for Chrome, акцентируя безопасность ИИ против уязвимостей в гонке за лидерство.

Знаете, что сейчас происходит? Гонка ИИ добралась до вашего браузера! Anthropic только что анонсировала Claude for Chrome – агента на базе их моделей Claude, который буквально живет в вашем браузере. И это не просто чат-бот: представьте, ИИ видит все ваши вкладки и может выполнять задачи за вас. Круто же? Но не всё так просто.

Стартует проект скромно: только для 1000 подписчиков Max-тарифа (ох уж эти дорогущие планы за $100-200 в месяц). Остальным придется ждать в листе ожидания. Установите расширение – и вот уже Claude в боковом окне внимательно следит за вашими действиями, предлагая помощь. Разрешите ему – и он сможет, например, заполнить за вас форму или найти билеты. Звучит как мечта лентяя, но вы же чувствуете подвох?

Браузеры стали полем битвы ИИ-гигантов

Тут ведь все ринулись в эту гонку:

  • Perplexity уже выпустила браузер Comet с похожим агентом
  • OpenAI, говорят, вот-вот покажет свой вариант
  • Google тем временем впихивает Gemini в Chrome

А теперь внимание, сочный факт: это все происходит на фоне антимонопольного дела против Google. Суд может заставить их продать Chrome! Perplexity уже приготовила $34.5 миллиарда, OpenAI тоже не отстает. Представили масштаб ставок?

Но Anthropic явно нервничает. В своем блоге они честно предупредили: такие агенты – это новые риски. Всего неделю назад в Comet нашли уязвимость: скрытый код на сайте мог обмануть ИИ, заставив выполнять опасные команды. Perplexity, правда, уже залатали дыру, но осадочек-то остался.

Безопасность прежде всего?

Anthropic пытается учиться на чужих ошибках. Они сразу встроили защиту:

  • Блокировка финансовых сайтов и “взрослого” контента по умолчанию
  • Запрос разрешения на рискованные действия (покупки, публикации)
  • Ручное ограничение доступа к конкретным сайтам

И знаете что? Их система уже снизила успешность атак с 23.6% до 11.2% – прогресс налицо, но идеалом и не пахнет.

Кстати, это не первая попытка Anthropic создать “контролирующий” ИИ. В октябре 2024 их агент для ПК поражал… своей медлительностью и ошибками. По данным TechCrunch, нынешние браузерные агенты (тот же Comet или ChatGPT Agent) справляются с простыми задачами, но сложные пока ставят их в тупик.

Что думаю? Браузеры становятся новой операционной системой для ИИ – удобной, вездесущей, но уязвимой. Хочется верить, что безопасность не останется просто маркетинговым слоганом. А пока… ну кто первый кинет камень в свое окно расширениями?

Цифровая гонка только разогревается – в следующих выпусках разберем, как эти агенты меняют наши привычки и чем это грозит.🔔 Чтобы не пропустить анализ войны браузерных ИИ и главные новости из мира искусственного интеллекта – подписывайтесь на мой канал “ProAI” в Telegram!