Изображение: recraft
Anthropic запустила проект Glasswing — система на базе ИИ ищет скрытые уязвимости в критически важном программном обеспечении и предлагает способы их устранения. В ходе первых испытаний обнаружены тысячи ранее неизвестных проблем, часть из которых годами оставалась незамеченной даже после миллионов автоматических проверок.
В основе проекта — экспериментальная модель Claude Mythos Preview, недоступная широкой аудитории. Разработчики описали её как систему, способную глубоко анализировать архитектуру программ и работать со сложным кодом. При этом в Anthropic уточнили, что модель не проходила специального обучения под задачи киберзащиты — результаты объясняются общими навыками программирования и логического анализа, которые она самостоятельно переносит в новую область.
К тестированию подключили крупнейших игроков технологического рынка — Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, NVIDIA и Palo Alto Networks. Совместные проверки показали, что система находит уязвимости, которые не выявлялись годами.
Среди наиболее показательных случаев — уязвимость в OpenBSD, просуществовавшая 27 лет и позволявшая удалённо выводить системы из строя. В FFmpeg обнаружилась ошибка, пролежавшая в коде 16 лет и уцелевшая после миллионов автоматических проверок. Отдельно модель сумела связать несколько слабых мест в ядре Linux таким образом, что при наличии базового доступа открывался путь к полному контролю над системой.
В Anthropic сообщили, что все найденные проблемы переданы разработчикам соответствующих решений, часть уязвимостей уже закрыта. Главной задачей проекта компания назвала отработку безопасного применения подобных моделей на объектах критической инфраструктуры.
Оригинал публикации на сайте CISOCLUB: "Anthropic запускает Glasswing, чтобы поручить ИИ охоту за скрытыми уязвимостями в коде".
Смотреть публикации по категориям: Новости | Мероприятия | Статьи | Обзоры | Отчеты | Интервью | Видео | Обучение | Вакансии | Утечки | Уязвимости | Сравнения | Дайджесты | Прочее.
Подписывайтесь на нас: MAX | VK | Rutube | Telegram | Дзен | YouTube.