Банки вызваны регуляторами: новейшая модель искусственного интеллекта выявила тысячи уязвимостей в ПО. — computerweekly.com
Ведущие британские банки ведут переговоры с регуляторами, а также с организациями в сфере финансов и национальной безопасности, поскольку новейшая модель искусственного интеллекта (ИИ) от Anthropic обнаружила уязвимости, существовавшие десятилетиями. Одновременно Anthropic анонсировала Project Glasswing, который предоставляет отобранной группе организаций доступ к модели, известной как Claude Mythos Preview AI, чтобы они могли разработать защиту от ее неправомерного использования. Способность модели ИИ выявлять недостатки безопасности в программном обеспечении, которые оставались незамеченными годами, несмотря на постоянные поиски со стороны таких организаций, как банки, является предупреждением о том, что может сделать ИИ в чужих руках. Угроза коснется не только банковского сектора, если эта технология попадет в руки преступников: риску подвергнется любая организация. По данным Anthropic, ее Claude Mythos Preview AI «уже обнаружила тысячи уязвимостей высокой степени критичности, в том числе в каждой крупной операционной системе и веб-браузере». Компания добавила, что, учитывая темпы прогресса ИИ, скоро такие возможности распространятся, потенциально выходя за пределы структур, стремящихся безопасно их применять. Последствия — для экономики, общественной безопасности и национальной безопасности — могут быть серьезными. В публикации в блоге, анонсирующей Project Glasswing, которую компания описала как «срочную попытку направить эти возможности на оборонительные цели», Anthropic сообщила, что будет работать с отобранной группой компаний, которым будет предоставлен доступ к модели ИИ. Было заявлено, что Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Linux Foundation, Microsoft, Nvidia и Palo Alto Networks будут «использовать Mythos Preview в рамках своей работы по оборонительной безопасности». «Anthropic поделится тем, что мы узнаем, чтобы вся отрасль могла извлечь выгоду», — заявила фирма, занимающаяся ИИ. В своем блоге Крис Скиннер, эксперт финтех-индустрии и генеральный директор The Finanser, отметил, что этот момент ощущается как раннее предупреждение. «Даже если Anthropic будет строго ограничивать Mythos, аналогичные возможности появятся в других местах — и, вероятно, раньше, чем многие ожидают», — сказал он. «Настоящая проблема не в том, существует ли эта технология», — добавил Скиннер. «А в том, смогут ли институты достаточно быстро адаптироваться, чтобы работать в мире, где ИИ может как защищать, так и атаковать основы финансов. «Мы говорим о системе ИИ, которая обнаружила уязвимости нулевого дня, существовавшие десятилетиями, о которых никто, включая специалистов, не подозревал»». Специалист по ИТ-безопасности в банковском секторе Великобритании, пожелавший остаться анонимным, заявил: «Всегда существовала возможность находить уязвимости и устранять их, но скорость, с которой ИИ может их обнаружить, означает, что если он попадет не в те руки, люди смогут очень быстро найти недостатки и использовать их до того, как владельцы программного обеспечения смогут исправить проблему». В Великобритании Банк Англии, Управление по финансовому регулированию и надзору, а также правительство ведут переговоры с Национальным центром кибербезопасности о потенциальных уязвимостях в ключевых ИТ-системах. По данным The Financial Times, регуляторы также планируют встречи с финансовыми компаниями, чтобы предупредить их о рисках, связанных с моделью ИИ. Издание сообщило, что это последовало за вызовом министра финансов США Скотта Бессента крупнейших банков США для обсуждения способности модели ИИ обнаруживать уязвимости в области кибербезопасности, которые могут быть использованы».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Karl Flinders