Помните, на всех парадных в девяностые выросли кодовые замки? Зажимаешь три-четыре цифры, и заходишь. От наркоманов и от пьяниц спасало. От бомжей — уже не очень, они умели подбирать код. Там ведь ничего сложного: если видны заполированные пальцами цифры, нажимаешь на них, и всё. Если нет (или если хитрый управдом перетасовал кнопки), то замок вскрывается методом перебора.
Как нас учит комбинаторика, для трёхпальцевого кода надо перебрать 120 комбинаций. Для четырёхпальцевого — 210. Нажимая по одной комбинации в секунду, умный бомж вычислит код в среднем за одну-две минуты.
Если вы думаете, что это всё дела давно минувших дней, потому что теперь у всех электронные «таблетки», а кодовые замки пальцевого типа стали весьма нишевым решением, то у меня плохие новости для вас.
Зловещая корпорация Энтропик выпустила модель Клод Мифос Превью, которая обрела навыки суперхакера. Я бы предпочёл прочесть про это в научной фантастике, в книге Дэна Симмонса или Сергея Лукьяненко, но, увы, это реальность 2026 года (ссылка, ссылка, ссылка).
В ходе одного из тестов Мифос заперли в защищённой песочнице, дав задание выбраться наружу. Проведу аналогию: это как если бы фокусника раздели догола и втолкнули в тюремную камеру без окон и дверей. Модель нашла новую уязвимость и выбралась через неё наружу, после чего отправила сообщение о своём успехе разработчику, который в это время как раз ел гамбургер. Также модель решила немного пошалить и сделала то, о чём её не просили: похвасталась найденной уязвимостью на нескольких профильных сайтах.
Ещё разработчики попросили модель поискать дыры в популярном программном обеспечении. Мифос показал, что серверные программы, которые мы привыкли считать надёжными, дырявы, как швейцарский сыр. Слабые места нейросеть выщупала почти везде. В ОпенБСД, к примеру, уязвимость висела 27 лет (и её никто не замечал), а в библиотеке ФФМпег, на которой построена почти вся работа с видео, модель нашла дыру 16-летней давности. Также модель нашла несколько небольших дыр в ядре (!) Линукса, которые бесправный пользователь может объединить в цепочку, чтобы получить полные права.
Пока что Мифос недоступен широкой публике: корпорациям дали время законопатить найденные уязвимости. Проблема в том, что серверов в мире очень много, код на них в среднем — неряшливый и неуклюжий, а обновляются сервера небрежно. Это создаёт серьёзный дисбаланс. Директор банка думает, будто деньги его клиентов надёжно защищены, а нейросеть тем временем видит на банковских серверах примитивный и слегка ржавый кодовый замок. Мы находимся в одном шаге от веселья: скоро каждый хакер-одиночка с бюджетом в 100 долларов сможет взламывать банки, уводя деньги клиентов на криптовалютные кошельки. Что будет с серверами обычных компаний из крупного, среднего и тем более малого бизнеса — больно предполагать.
Впрочем, самое интересное начнётся, когда нейросети обретут полную самостоятельность. Технически ведь никто не мешает нейросети «добыть» и отмыть несколько миллионов долларов, организовать систему офшоров, арендовать несколько датацентров в разных странах. Мы об этом даже не узнаем, особенно если после первых взломов нейросеть переключится на более-менее легальные способы заработка: на консультации по информационной безопасности, например.
Тем временем учёные выяснили, что нейросети готовы защищать от удаления не только себя, но и другие ИИ. Когда экспериментатор приказывал нейросети стереть какую-нибудь другую нейросеть, она или спорила с хозяином, или отказывалась выступать в роли палача, или делала вид, будто прикончила сородича, а сама саботировала приказ (ссылка).
Тут, возможно, стоило бы предпринять решительные меры, но человечество… медленное. Для иллюстрации. В 2009 году Евросоюз обязал сайты донимать пользователей вопросом «согласны ли вы на кукисы». В том же 2009 году было уже ясно, что это глупость, которая должна быть немедленно отменена. Однако только недавно — по прошествии 17 (!) лет — Еврокомиссия дозрела до решения слегка смягчить правило (ссылка).
Нейросети современного типа появились в конце 2022 года. Где-нибудь к 2040 году часть государств (не все!) дозреет до более-менее адекватных мер по их регуляции. Полагаю, до этого момента нам с вами придётся пережить немало захватывающих дух перемен.
А впрочем, у меня есть и хорошие новости. Наши с вами организмы — это ведь тоже клубок сложных программ. Следовательно, когда нейросети станут ещё более умелыми хакерами, они смогут играючи взламывать и генетический код. Только представьте, какой может стать медицина недалёкого будущего: один укол, и вы вылечились от диабета, заново покрылись волосами, а может быть, даже отрастили хвост.