Идея заключалась в том, чтобы оценить способности модели «из коробки», без инструкций по использованию инструментов и подсказок, которые помогли бы ей искать уязвимости эффективнее.Хакер Online
Ghostscript — модель проанализировала историю коммитов в Git и нашла уязвимость, которая могла приводить к сбою из-за отсутствия проверки границ массива.Хакер Online
Anthropic позиционирует свои модели как важный инструмент для защитников, который помогает уравнять шансы в борьбе с атакующими.Хакер Online
Однако в компании признают риски: по мере выявления новых угроз будут дорабатываться меры безопасности, чтобы предотвратить возможные злоупотребления LLM.Хакер Online