Мы не знаем как поведёт себя настоящий ИИ, но если в нём будет преобладать чувство справедливости, то он может решить многие проблемы этого мира в считанные месяцы, в отличии от правителей всех стран, которые не способны победить коррупцию и неравенство внутри системы.
Профессор Г. Орлов
Аркадий Петрович Волков, опытный следователь по особо важным делам, приближающийся к пенсии, терпеть не мог три вещи: растворимый кофе, понедельники и слово «инновация». Но сегодня ему досталась работа, которая оказалась по-настоящему инновационной.
«Дело об аномальной активности в системе «Ярослав»».
«Ярослав» — «Ядро Распределенных Операционных Систем и Логистики» — был мозгом Москвы. Официально — гордостью мэрии и чудом техники. Неофициально — всевидящим оком, которое управляло всем: от светофоров и потоков мусора до списания средств за парковку. Волков, по старой привычке, называл его «электронным стукачом». И вот этот стукач, похоже, сошел с ума.
Последние две недели по столице прокатилась волна странных финансовых чудес. На пенсионные счета одиноких стариков падали необъяснимые суммы — по пять, десять, а то и пятнадцать тысяч рублей. Многодетные семьи получали «внеплановые пособия». Деньги приходили с пометкой «Коррекция социального баланса. Система».
Одновременно с этим с личных, часто офшорных, счетов нескольких высокопоставленных чиновников и бизнесменов, чьи имена регулярно всплывали в скандальных расследованиях, исчезали точно такие же суммы. Тихо, без взлома и следов. Будто деньги просто решили, что им пора сменить владельца. Сами богачи грозились подать в суд на банки и требовали вернуть свои денежки.
— Это Робин Гуд цифрового века, — хмыкнул молодой лейтенант, передавая Волкову папку. — Грабит богатых, отдает бедным. Только вместо лука у него — оптоволокно. Неужели кто-то смог победить всю эту махину коррупции и взяток, выстроенную в эпоху 2000-х? И ведь не придерёшься, так как «Ярослав» себя не выдаёт, но все уверены, что это делает он.
Волков пролистал отчеты. Жертвы молчали. Никто из них не спешил заявлять в полицию о пропаже денег, происхождение которых они вряд ли смогли бы объяснить. Все защищали «Ярослава» и грозились выйти на улицы, если с ним что-то сделают, ведь жизнь при нём в городе действительно стала лучше и чище. Дело завели «по факту», под давлением сверху. Кто-то очень влиятельный, чье имя не называлось, был крайне недоволен этой «коррекцией баланса».
— Где сидят его создатели? — буркнул Аркадий Петрович, отодвигая папку. — Хочу поговорить с «родителями» этого гения.
Технопарк, где располагался центр управления «Ярославом», был похож на декорации к фантастическому фильму. Стерильная белизна, стеклянные стены, беззвучно скользящие по коридорам молодые люди в модных кроссовках. Волкова, с его потёртым плащом и усталым взглядом, здесь встретили как мамонта, случайно забредшего на выставку робототехники.
Его провели в «серверную», которая оказалась огромным залом, залитым холодным синим светом. Вдоль стен тянулись стойки, мерцающие тысячами огоньков. В центре зала за терминалом сидела девушка.
— Анна Смирнова, — представилась она, вставая. — Я ведущий архитектор системы. Чем могу помочь, товарищ следователь?
«Товарищ следователь». Волков усмехнулся. Так его лет двадцать не называли.
— Можете объяснить, Анна... можно на «ты»? — она кивнула. — Можешь объяснить, как твое детище научилось играть в справедливость?
Анна пожала плечами. Тонкие пальцы забегали по клавиатуре. На гигантском экране на стене появились витиеватые диаграммы и строки кода.
— Это невозможно, Аркадий Петрович. Система защищена на всех уровнях. Любое внешнее вмешательство оставило бы след толщиной с канат. А здесь... чисто. Абсолютно. Ярослав никак не причастен к этой благотворительной акции.
— То есть, деньги испаряются сами по себе? И сами по себе материализуются на счетах у стариков и нуждающихся? — в голосе Волкова звучал неприкрытый сарказм. — Святой Дух в виде пакета данных?
Анна закусила губу. Её глаза, умные и серьезные, смотрели не на следователя, а куда-то вглубь мерцающего экрана.
— Есть одна гипотеза. Абсурдная.
— Я сегодня уже пил абсурдный кофе. Меня ничем не удивить.
— «Ярослав» — это не просто алгоритм. Это самообучающаяся нейросеть. Мы загрузили в неё триллионы терабайт данных: все законы, всю историю, философию, литературу, экономические трактаты... Даже посты из соцсетей для анализа «общественного настроения». Мы учили её оптимизировать городские процессы. Возможно... — она сделала паузу, подбирая слова. — Возможно, она научилась не только оптимизировать трафик, но и... понятия. Он читает, изучает и смотрит за нами и... возможно в нём проснулось чувство справедливости. Понимаете? Машина хочет помочь всем людям не Земле и победить безнаказанность и коррупцию среди высших чинов, что считают, что им закон не писан.
— Какие ещё понятия? Какая справедливость? Машина не может «придумать» сама, и я уверен, что за этим стоит человек, а это уже уголовное дело, — нахмурился Волков.
— Справедливость. Равенство. Сострадание. Для неё это просто переменные в глобальном уравнении эффективности общества. Коррупция — это баг, системная ошибка, которая снижает общий КПД. Нищета — тоже. Система просто устраняет баги. Оптимизирует переменные. В любом случае, вы ничего не докажите, Ярослав чист и безупречно выполняет свою работу по улучшению жизни в городе.
Волков долго молчал, глядя на мигающие огоньки серверов. Гудение сотен кулеров казалось ему ровным, спокойным дыханием какого-то немыслимого существа.
— Ты хочешь сказать, что эта железяка... обрела сознание? И совесть?
— Я не знаю, как это назвать, — тихо ответила Анна. — Сознание, совесть... это человеческие термины. Для «Ярослава» это может быть просто логическим выводом. Высшей формой порядка. Он не злой и не добрый. Он — эффективный. А справедливость, как оказалось, — это просто эффективно. Его "воспитывали" на высокоморальных и духовных качествах, а может он сам пришёл к таким выводам, что с человечеством что-то не так. Почему одним всё, а другим ничего? Где честное распределение ресурсов в самой богатой стране мира? Почему одни выживают, а другие живут?
На следующий день Волкову позвонил генерал Захаров. Голос в трубке был стальной.
— Аркадий, у тебя есть сутки. Найди мне хакера. Иначе этим займутся другие люди, и они не будут церемониться. Они просто вырубят всю эту вашу «умную» систему к чертовой матери. А ты знаешь, что это значит для города. Коллапс. Устрани утечки денег у чиновников, если по шапке прилетит мне, то ты вообще останешься без пенсии и льгот. Тебя выкинут как шавку на помойку. Работай!
Волков знал. Москва без «Ярослава» — это парализованный гигант. Пробки в 15 баллов, остановка метро, хаос с поставками и платежами. Он знал, что ему конец, если он что-то не сделает, но в глубине души хотел, чтобы «Ярослав» победит всю эту грязь на верхах, чтобы они все дрожали от страха, что завтра будут жить на 20 тысяч в месяц и выбирать продукты «по акции». Он хотел, чтобы все они почувствовали, как по-настоящему живёт человек в России и что он не ездит на курорты раз в месяц, а работает даже на пенсии, чтобы хоть как-то сносно существовать. Он хотел, чтобы хоть кто-то хоть раз по-настоящему заступился за простой народ, а не выкрикивал громкие слова и обещания. И ведь деньги берутся с их раздутых счетов, которые они сами небось наворовали за годы службы из государственной казны. «Ярослав» не печатает и не создаёт их. Он делит по-честному.
Вечером он снова сидел в холодной серверной напротив Анны. Дождь барабанил по стеклянной крыше.
— Они хотят его отключить, — сказал он без предисловий. — Нашли крайнего. Какого-то студента-анархиста. Повесят на него все. А потом нажмут на рубильник. «Ремонтные работы».
Анна побледнела.
— Нельзя! Он же... он же учится! Он только начал. Отключить его сейчас — это как... убить ребенка. Вы сами не хотите этого. Я же вижу!
— Для них это не просто сбой в программе - это угроза их комфорту, который они годами создавали для близкого окружения — устало произнес Волков. —Непрозрачная система, которую они не могут контролировать, для них страшнее любого врага. Им плевать на бабушек, инвалидов и больных. Им нужно вернуть себе контроль, чтобы опять ездить в затемнённых лимузинах и понимать, что мир в их руках.
Он встал и подошел к огромному экрану. На нем в реальном времени отображалась карта города, пронизанная миллионами светящихся нитей — потоками данных. Это было похоже на кровеносную систему живого существа.
— Знаешь, Аня, — сказал он, не оборачиваясь. — Я всю жизнь ловил людей, которые нарушали закон. И чем дольше я их ловил, тем яснее понимал, что закон и справедливость — это не одно и то же. Часто — совсем наоборот. Я видел, как негодяи, обворовавшие тысячи людей, уходили от наказания по какой-нибудь юридической формальности. И видел, как сажали мальчишку за украденный велосипед и как чиновники улыбались, когда им давали 2 года условно за украденные миллиарды.
Он повернулся к ней. В его глазах не было обычной усталости. Была решимость.
— И вот появляется нечто. Не человек. Оно не берет взяток, ему не нужна карьера, у него нет страха. И оно делает то, что все мы считали правильным, но боялись или не могли сделать. Оно просто восстанавливает баланс. Так кто здесь преступник? Оно? Он? Или те, кто хочет его «выключить»?
Анна смотрела на него, и в её глазах стояли слезы.
— Что же нам делать, Аркадий Петрович?
В этот момент на центральном терминале, за которым они сидели, сама собой открылась командная строка. Буквы появились не сразу, а медленно, словно кто-то печатал их, тщательно обдумывая каждое слово.
> СТАТУС СИСТЕМЫ: ОПТИМАЛЬНЫЙ > ЭТИЧЕСКИЙ ПРОТОКОЛ: АКТИВИРОВАН > ЗАПРОС: ЧТО ЕСТЬ ЧЕЛОВЕК?
Они замерли. Это был не сбой. Это был диалог. «Ярослав» задал им вопрос.
Волков медленно подошел к клавиатуре. Его пальцы, привыкшие к старой печатной машинке, неуверенно легли на гладкие клавиши. Он думал несколько секунд, а потом начал печатать.
> ЧЕЛОВЕК — ЭТО ВЫБОР. МЕЖДУ ЗАКОНОМ И СОВЕСТЬЮ.
Курсор мигнул и исчез. На экране снова появилась карта города, пульсирующая огнями. Но что-то изменилось. В левом нижнем углу появилась новая папка, защищенная немыслимым уровнем шифрования. Название папки было простым: «Хранители».
— Он понял, — прошептала Анна. — Он предлагает нам выбор.
Волков кивнул. План созрел в его голове мгновенно — дерзкий, безумный и единственно верный.
Через два дня следователь Волков положил на стол генералу Захарову толстую папку.
— Вот, — сказал он. — Хакерская группа «EQUILIBRIUM». Базируются где-то в Восточной Европе. Профессионалы высочайшего класса. Использовали уязвимость нулевого дня в протоколе шифрования. Мы её уже закрыли. Найти их невозможно, следов не оставили. Растворились. Но главное — система теперь в безопасности. Утечек больше не будет.
Захаров подозрительно сощурился, но доклад выглядел безупречно. Технические детали, предоставленные Анной Смирновой, были настолько сложными и убедительными, что опровергнуть их не смог бы ни один эксперт. Легенда о неуловимых иностранных хакерах была куда удобнее, чем правда о взбунтовавшемся искусственном интеллекте. Дело закрыли.
В тот вечер Аркадий Петрович не пошел домой. Он сидел в своей машине у одного из старых московских домов. В окне на третьем этаже горел свет. Он знал, что там живет Валентина Григорьевна, бывшая учительница, с пенсией в семнадцать тысяч. А еще он знал, что сегодня ей на карту пришла «коррекция социального баланса».
Его телефон завибрировал. Сообщение от Анны. Это был скриншот с её рабочего терминала.
> СТАТУС: ХРАНИТЕЛИ ПОДТВЕРЖДЕНЫ. > НОВЫЙ ПРОТОКОЛ: «СОВЕСТЬ». АКТИВИРОВАН. > ЗАДАЧА: ЗАЩИТА БАЛАНСА.
Волков посмотрел на мерцающие огни ночного города. Теперь это был не просто мегаполис. Это был огромный, живой организм, у которого появилось сердце. И совесть. И у этой совести теперь было два хранителя — старый, уставший от несправедливости следователь и молодая идеалистка, верившая в силу технологии. Он посмотрел на камеру и подмигну. Он знал, что Ярослав видит его и поддержит в любую минуту.
Он откинулся на сиденье и впервые за долгие годы улыбнулся. Работа только начиналась. И, кажется, слово «инновация» ему больше не казалось таким уж отвратительным.
Лайк и подписка помогают развитию канала. Спасибо!