Модель ИИ отключили после того, как она за считанные часы обнаружила уязвимости в системах АНБ
Согласно сведениям, всплывшим в Сенате США, модель «Mythos» компании Anthropic сумела выявить критические уязвимости практически во всех засекреченных компьютерных системах Агентства национальной безопасности (АНБ) и Кибернетического командования США, причем сделала это всего за несколько часов.
Тревогу забил сенатор-демократ Марк Уорнер во время слушаний в Комитете по разведке. Уорнер подробно рассказал, что сам генерал Джошуа Радд, глава обоих ведомств, лично признался ему в масштабах этого открытия. Согласно отчетам, опубликованным The Economist, сенатор заявил, что этот инструмент «взломал почти все наши засекреченные системы не за недели, а за часы».
Хотя официальные источники позже уточнили агентству Associated Press, что модель выявила пробелы в безопасности в ходе контролируемого теста и не пыталась использовать их во вред, паника быстро распространилась по коридорам Белого дома.
Радикальное «отключение», оставившее в темноте даже союзников
Реакция администрации Трампа была жесткой и незамедлительной. 12 июня правительство приказало Anthropic ограничить использование двух своих самых мощных моделей — Fable 5 и Mythos 5 — исключительно гражданами США после того, как был обнаружен метод обхода системы безопасности (джейлбрейк).
Столкнувшись с технической невозможностью проверки гражданства каждого пользователя в реальном времени, Anthropic была вынуждена принять радикальное решение: полностью отключить обе модели для всех пользователей в мире, оставив в неведении даже своих ближайших международных союзников.
Эта внезапная блокировка без предварительного уведомления напрямую затронула партнеров по разведывательному альянсу «Five Eyes» (Великобританию, Канаду, Австралию и Новую Зеландию). Более того, эта мера помешала Институту безопасности ИИ Великобритании продолжить оценки рисков, которые он активно проводил в отношении этих систем.
Последствия приостановки работы крайне серьезны из-за поразительной производительности этих технологий. Те, кто использовал Fable 5, отмечают, что модель была способна автономно выполнять сложные задачи программирования в течение 20 минут, исправляя собственные логические ошибки и с первого раза выдавая рабочее программное обеспечение.
Что касается Mythos, чей публичный доступ был запрещен и ограничен примерно 200 избранными партнерами в рамках так называемого «Проекта Glasswing» — где участвуют такие гиганты, как Apple, Google, Microsoft и Nvidia, — то он уже продемонстрировал свою мощь, обнаружив скрытую уязвимость в OpenBSD, одной из самых безопасных операционных систем в мире, которая существовала 27 лет.
Трещины в техническом сообществе и тревога в Европе
Резкий маневр американского правительства расколол сообщество специалистов по кибербезопасности и вызвал тревогу в Европе. С одной стороны, более сотни экспертов из таких компаний, как Adobe и Nvidia, направили в Белый дом письмо с требованием отменить директиву. Они утверждают, что Mythos и Fable 5 являются важнейшими инструментами для киберзащиты, и их изъятие ослабляет исследователей перед лицом иностранных противников, которые продвигаются вперед с головокружительной скоростью.
С другой стороны, в Старом Свете растет обеспокоенность по поводу технологической зависимости. Такие страны, как Италия, и такие органы, как ENISA, с подозрением наблюдают за тем, как односторонние решения Вашингтона могут отключить критически важные сервисы в одночасье. Дискуссия теперь вращается не только вокруг суверенитета данных, но и вокруг «аналитического суверенитета» — способности управлять сверхчувствительной аналитикой, которую эти ИИ генерируют в отношении глобальной критической инфраструктуры.
Пока эта история продолжает развиваться, становится очевидным, что искусственный интеллект трансформирует кибербезопасность из дисциплины, управляемой людьми, в сферу, управляемую алгоритмами. Реальное стратегическое преимущество больше не будет заключаться в ручном поиске уязвимостей, а в способности управлять ими и автоматизировать их в больших масштабах с помощью систем, которые развиваются гораздо быстрее, чем законы, пытающиеся их регулировать.
- Уважаемые читатели! Мы продолжаем радовать вас интересными и поучительными фактами. А чтобы не пропустить новые публикации канала, подписывайтесь на нашу страницу в Телеграм. Там мы публикуем всё самое необычное, таинственное и загадочное.