Банкиры и банковские регуляторы Великобритании спешно обсуждают меры реагирования на критические уязвимости нулевого дня, обнаруженные в новой модели ИИ Claude Mythos Preview от Anthropic. — gizmodo.com
Высокопоставленные чиновники правительства Великобритании и банковского сектора, по сообщениям, лихорадочно пытаются понять, что делать с дырами в кибербезопасности, обнаруженными Claude Mythos Preview — новой автоматизированной системой компании Anthropic, от которой у технологической, а теперь и у финансовой элиты «мокнут штаны».
На случай, если вы не в курсе, на прошлой неделе Anthropic объявила, что ее невыпущенная модель Claude Mythos Preview является ужасающе мощной и просто слишком опасной для выпуска в мир.
Помимо заявления о том, что Claude Mythos Preview — это коварный маленький негодяй, в сообщении в блоге команды Anthropic по передовым разработкам (frontier red team) она описывается как по сути, самый опасный в мире суперхакер. Приведенный ниже отрывок довольно точно резюмирует очевидную хакерскую угрозу. (Стоит отметить, что «уязвимости нулевого дня» — это уязвимости в коде, известные только лицу или ИИ-агенту, который их обнаружил):
В ходе нашего тестирования мы обнаружили, что Mythos Preview способен идентифицировать, а затем эксплуатировать уязвимости нулевого дня во всех основных операционных системах и во всех основных веб-браузерах, когда пользователь дает ему такую команду. Обнаруживаемые им уязвимости часто бывают тонкими или трудно обнаруживаемыми. Многие из них существуют десять или двадцать лет, а самая старая из найденных нами на данный момент — это исправленный на данный момент 27-летний баг в OpenBSD — операционной системе, известной прежде всего своей безопасностью.
Теперь, по данным Financial Times, Банк Англии и регуляторы из Управления по финансовому регулированию и надзору (Financial Conduct Authority) и Казначейства Великобритании проведут «срочные обсуждения» с Национальным центром кибербезопасности этой страны, чтобы выработать план действий. Анонимные источники, беседовавшие с Financial Times, заявили (весьма по-британски), что планирующее совещание состоится «в ближайшие две недели».
Насколько напукана Великобритания? Этот вопрос также является следующим приоритетом для британской «Группы по операционной устойчивости на кросс-рынке» (Cross Market Operational Resilience Group), по данным Financial Times. В эту группу входят представители Национального центра кибербезопасности Великобритании, Управления по финансовому регулированию и надзору (их эквивалент SEC) и Казначейства Его Величества. По сообщению Financial Times, ее сопредседателем является сотрудник Банка Англии с должностью «исполнительный директор по надзорным рискам».
Одно высказывание из Financial Times заслуживает внимания. В нем описываются обсуждения «рисков, связанных с новейшей моделью ИИ от Anthropic». Anthropic может немного поспорить, поскольку компания представила секретный выпуск Claude Mythos Preview только в рамках своей инициативы «Project Glasswing» как способ предупредить заинтересованные стороны о будущих опасностях, а не как своего рода глобальную ситуацию с заложниками в сфере кибербезопасности.
Некоторые, например, рационалист-блогер Зви Моушовиц, выразили обеспокоенность тем, что заявления Anthropic доносятся не лучшим образом. Моушовиц написал, что Anthropic «смешивает обоснованные доводы и полезный анализ с преувеличениями и шумихой».
Со своей стороны, Ян ЛеКун, бывший руководитель отдела исследований ИИ в Meta*, репостит сообщения в X, в которых утверждается, что большой и грозный Mythos на самом деле не представляет большой проблемы.
И следует отметить, что, насколько известно, никому за пределами Anthropic до сих пор не был предоставлен тот неограниченный доступ к модели, который необходим для попытки проведения более объективного анализа.
Facebook*, Instagram* и WhatsApp* принадлежат компании Meta* Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Mike Pearl