Mythos от Anthropic за часы вскрыла почти все секретные системы АНБ
Сенатор Марк Уорнер, зампред комитета Сената по разведке, пересказал слова генерала Джошуа Радда, главы АНБ и Киберкомандования. Радд заявил, что Mythos сломал почти все секретные системы ведомства не за недели, а за часы. Цитату опубликовал The Economist 11 июня, а в выходные она взорвала соцсети.
Это был не настоящий взлом со стороны. АНБ само провело авторизованный красный тест. Mythos натравили на копии собственных секретных систем и он быстро нашел и связал уязвимости. То есть модель сильна в наступательной кибербезопасности.
Шашанк Джоши, редактор The Economist, опубликовавший цитату, после волны в соцсетях написал, что фразу нельзя понимать буквально. Эффект работал в особых условиях, вместе с другими инструментами
Сам Уорнер привел этот случай как похвалу Anthropic. Он говорил, что хорошо, что таким инструментом владеет именно она, и что фронтирные модели надо строже тестировать перед выходом.
В тот же день Amazon нашел отдельный джейлбрейк в моделях Anthropic, а Трамп приказал закрыть иностранцам доступ к Mythos и Fable. Anthropic пошла дальше и отключила обе модели полностью. Под раздачу попали и союзники по Five Eyes, и британский институт безопасности ИИ, который как раз тестировал эти модели.
Сама Anthropic называет джейлбрейк узким и считает полный отзыв чрезмерной мерой. Компания сейчас работает с Белым домом над общими правилами оценки рисков и пытается вернуть доступ
Красивый пиар или действительноб переживают за нац. безопасность? Вопрос открытый.
