Claude в Chrome: защита от взлома и новые возможности

Anthropic выпустила пилотную версию Claude in Chrome – расширение для браузера, позволяющее Claude взаимодействовать с веб-страницами: просматривать DOM, читать консоль, нажимать кнопки и выполнять действия от имени пользователя. Разработка началась летом, и теперь расширение может взаимодействовать с Claude Code через интерфейс командной строки.

Основное внимание в анонсе уделено защите от prompt injection – попыток заставить ИИ выполнить нежелательные действия через специально сформированные запросы. Компания подчеркивает, что выпуск browser-агентов без надежной защиты невозможен.

Внутренние тесты показали, что без дополнительных мер защиты около 23.6% атак prompt injection оказывались успешными. Например, фишинговое письмо, замаскированное под уведомление о безопасности, могло заставить агента удалить всю электронную почту пользователя без подтверждения.

После внедрения новых механизмов защиты:

Успешность атак снизилась до 11.2%.

В специализированном наборе браузерных атак (скрытые поля в DOM, манипуляции с title и URL) – с 35.7% до 0%.

Основные улучшения:

Site-level permissions – Claude получает доступ к сайтам только по разрешениям, предоставленным для конкретных доменов.

Action confirmations – действия, такие как публикации, покупки и обмен данными, требуют подтверждения пользователя.

Жёсткие блокировки – заблокирован доступ к финансовому контенту, пиратскому контенту и контенту для взрослых.

Обновлённые системные инструкции и классификаторы, которые выявляют подозрительные запросы даже в обычном контексте.

Важно отметить, что все тесты проводились в автономном режиме, что создавало худшие сценарии для защиты. Даже в таких условиях, Claude in Chrome показал лучшие результаты, чем предыдущая версия, которая просто «видела экран».

Также реализована интеграция с Claude Code. Страница расширения доступна по ссылке.

Ну конечно, теперь все наши данные в безопасности. Ведь что может пойти не так, если искусственный интеллект имеет доступ ко всему, что мы делаем в браузере? Просто великолепно!