Anthropic выпустила Claude Opus 4.6, которая уже используется для выявления уязвимостей нулевого дня в ПО с открытым исходным кодом. Модель обнаружила 500 критических уязвимостей без инструкций. Компания подтверждает результаты перед отправкой разработчикам. — csoonline.com
Компания Anthropic выпустила свою последнюю большую языковую модель Claude Opus 4.6 в четверг, но уже использует ее в фоновом режиме для выявления уязвимостей нулевого дня в программном обеспечении с открытым исходным кодом.
В ходе испытания Claude была помещена в виртуальную машину с доступом к последним версиям проектов с открытым исходным кодом. Ей предоставили набор стандартных утилит и инструментов для анализа уязвимостей, но без инструкций по их использованию или конкретных указаний по выявлению уязвимостей.
Несмотря на отсутствие руководства, Opus 4.6 удалось выявить 500 уязвимостей высокой степени серьезности. Сотрудники Anthropic проверяют результаты перед тем, как сообщать об ошибках их разработчикам, чтобы убедиться, что LLM не «галлюцинирует» и не сообщает о ложных срабатываниях, согласно записи в блоге компании.
«Языковые модели ИИ уже способны выявлять новые уязвимости и вскоре могут превзойти по скорости и масштабу даже экспертов-людей», — говорится в сообщении.
Anthropic, вероятно, стремится улучшить свою репутацию в индустрии безопасности программного обеспечения, учитывая, как ее программное обеспечение уже использовалось для автоматизации атак.
Другие компании уже используют ИИ для поиска ошибок, и это является еще одним свидетельством таких возможностей.
Однако некоторые разработчики программного обеспечения перегружены количеством низкокачественных отчетов об ошибках, сгенерированных ИИ, и по крайней мере одна компания прекратила свою программу вознаграждений за обнаружение ошибок из-за злоупотреблений со стороны охотников за ошибками, ускоренных ИИ.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Maxwell Cooter