4 недели назад
Anthropic закрыла уязвимость web_fetch в Claude, из-за которой утекали личные данные
Инструмент web_fetch в Claude умеет читать веб-страницы по запросу пользователя, и это создаёт классический риск «смертельной триады» (lethal trifecta): у модели есть доступ к приватным данным (память о прошлых разговорах с пользователем), инструмент для чтения внешнего контента, который может содержать вредоносные инструкции, и способ этот контент куда-то отправить. Защита Anthropic была устроена так: web_fetch мог переходить только по точным URL, которые либо ввёл сам пользователь, либо вернул сопутствующий инструмент web_search...