Если вы думали, что западная банковская система — это оплот консерватизма, где до сих пор молятся на Excel и боятся обновлять Windows, то тут созрела новость. Свежая, с душком большой политики и очень больших денег.
Bloomberg подкинул на вентилятор: администрация Трампа начала мягко «прогревать» крупнейшие банки, чтобы те активно внедряли в свои системы новую модель Mythos от Anthropic (Mythos — мифы, англ.).
Это та самая нейронка, которую сами создатели поначалу побоялись выпускать в паблик. Якобы она «слишком умная» и «представляет потенциальную опасность». Типа, бережём мир от сверхразума (в общем пчёлы против мёда).
В чем прикол этого «мифического» и почему у меня от этой новости начинает подёргиваться глаз?
Препарируем
Что за зверь этот Mythos и на кой он банкирам?
Ребята из Anthropic всегда строили из себя «хороших парней» — этика и безопасность понимаешь ли. Но Mythos — это инструмент другого порядка. Это, по сути, легальный кибер-хакер.
Его главная фича не в написании стихов и поздравлений, а в поиске уязвимостей в коде (тех самых Zero-day) на таких скоростях, которые кожаному мозгу и не снились (находит «дыры» быстрее, чем разработчик успевает допить свой латте на миндальном).
В чём профит государства?
Логика простая:
Натравите эту сволочь на свои внутренние системы. Пусть найдёт все косяки в защите раньше, чем это сделают китайские и северокорейские «партнёры».
ИИ делает такой стресс-тест за считанные минуты. В то время, как ИБ (инфо. безопасники) «делают мозги» руководству, сдвигая дедлайны вправо из-за «сложности инфраструктуры».
Тут всё четко: запустил, нашёл, испугался.
Причем тут Трамп?
Дерегуляция и «сделаем банкиров Great Again». Белый дом хочет, чтобы американская финансовая система стала цифровой крепостью №1. И если ради этого нужно пустить лису в курятник, чтобы та показала, где тут самый дохлый петух — они это сделают.
Если Mythos поможет найти критические дыры в безопасности раньше конкурентов — братишек из Китая, — то на такие «мелочи», как прозрачность алгоритмов или этика, просто забьют болт. В большой гонке не до сантиментов.
В чем подвох?
Вот несколько моментов, от которых попахивает:
1. Пустить кота за рыбный прилавок. Если модель обучена находить дыры в защите, значит, она автоматически умеет их и вскрывать. Давая ИИ полный доступ к «кишкам» банковской системы, мы создаем риск, что при любой программной ошибке вся финансовая «херабора» схлопнется, как карточный дом. Это уже не «облачные технологии», а обезьяна с гранатой.
2. «Черный ящик» на страже денег. Представим: Mythos в ходе теста решит, что твой аккаунт — это подозрительная «аномалия» или ты похож на «дропера-мошейника». Счёт заморозят до лучших времён и устанешь доказывать что-то ИИ-техподдержке. Банк просто пожмёт плечами: «Ай-ай-ай... А кто это сделал? Мы бы рады.. Но модель...».
3. Политический костыль. Трамп раньше называл Anthropic угрозой и ненадёжным поставщиком для своей госухи, а теперь подсаживает Wall Street на их иглу. Тот, кто контролирует самую мощную «хакерскую» модель, фактически контролирует правила игры в мировой экономике.
Что в итоге?
Мы официально входим в эру, когда безопасность твоей кредитки и стабильность банка будет проверять «мифическая» ИИ-модель, а подталкивать её в спину будут парни в красных галстуках из Вашингтона (под улюлюканье, что «это отличная сделка»).
Стоит ли доверять безопасность своих денег модели, которую сами создатели маркируют «небезопасной»? Или в цифровой войне все средства хороши? Пишите, обсудим этот киберпанк.
Подписывайтесь. Здесь препарируют технологии так, как они того заслуживают — без «душного» пафоса, диссертаций и рекламной шелухи.