Минфин США организовал встречу с руководителями банков и председателем ФРС Джеромом Пауэллом из-за новой модели ИИ Claude Mythos. На встрече присутствовали главы Citigroup, Morgan Stanley, Bank of America, Goldman Sachs и Wells Fargo, не смог прийти только руководитель JPMorgan. Паника поднялась из-за того, что новая модель ИИ якобы несет угрозу и киберриски для финансового сектора
Новинка Anthropic — одна из самых продвинутых моделей искусственного интеллекта Claude Mythos, о запуске которой компания объявила только 7 апреля. Доступна она не всем, а только порядка 50 крупных компаний, многие из которых участвовали в ее тестировании.
Еще до запуска в Anthropic утверждали, что Claude Mythos обнаружила уязвимости во всех основных операционных системах и браузерах, которые до этого никто не замечал более десяти лет.
Это обстоятельство стало причиной экстренного совещания в Минфине США с главами крупнейших банков Америки: в министерстве посчитали, что разработка Anthropic несет слишком много киберрисков, говорит корреспондент Bloomberg Аврил Хонг:
«Встречу руководителей банков с главой Минфина Скоттом Бессентом и председателем ФРС Джеромом Пауэллом из-за новой модели ИИ Claude Mythos организовали спешно, что говорит о крайней степени их обеспокоенности. На встрече присутствовали главы Citigroup, Morgan Stanley, Bank of America, Goldman Sachs и Wells Fargo. Кажется, на встречу не смог прийти лично только руководитель JPMorgan. И Минфин, и ФРС признают эти финорганизации системно значимыми, потому их стабильная работа — приоритет правительства. Там полагают, что новая модель ИИ от Anthropic, которую компания представила только во вторник, несет угрозу и киберриски для финансового сектора. По словам разработчика, она значительно превосходит все, что делали Anthropic до этого, по целому ряду стандартов. Но тревогу правительства вызвало то, что Claude Mythos, помимо прочего, способна выявлять уязвимости в софте, и человек при соответствующих командах может использовать эту информацию. Возможно, поэтому Anthropic и решила сделать новый продукт лимитированным — лишь для небольшого числа компаний, которые участвовали в тестировании Claude Mythos. Это, в частности, Amazon, Apple и JPMorgan. Полагаю, действия разработчика свидетельствуют о том, что компания осторожничает и берет в расчет возможные киберриски. Что в свою очередь может говорить о новой гонке в сфере ИИ: если раньше компании пытались превзойти друг друга с помощью быстрых релизов, то сейчас на первый план выходит кибербезопасность, которую могут разработчики предложить пользователям и бизнесу».
Как отмечает Financial Times, релиз новой модели ИИ от Anthropic последовал после скандала — до запуска в Сеть утекли связанные с Claude Mythos документы и исходный код, в результате чего у многих возникли вопросы к безопасности продукции компании. В Anthropic причиной утечки назвали человеческий фактор.
Присоединяйся к MAX-каналу «Бизнес FM»