Глава 36. «Новая Правда»
Вечером того же дня герои снова собрались вместе. Пили чай в саду. Было тихо.
Дмитрий (первым нарушил молчание): «Простите. За моё предложение. Старые демоны... они сильны».
Владимир (положил ему руку на плечо): «Ты предложил то, что диктовала логика старого мира. Спасибо, что мы смогли найти новый ответ».
Лера (задумчиво): «Мы прошли ключевой рубеж. Мы доказали, что наша модель может выстоять не только против рыночной конкуренции, но и против системного административного давления. Наша прозрачность оказалась сильнее их бюрократии».
Алиса (улыбаясь): «Значит, правда действительно сильнее. Просто ей нужно дать шанс прозвучать».
Они поняли, что их миссия теперь включает в себя ещё и тонкую, осторожную работу по «очеловечиванию» самой системы изнутри. Они не сокрушат её. Они, как вода, будут точить камень, пока в нём не проступят новые, более живые очертания.
И в этом новом качестве им предстояло столкнуться с самым большим и безликим противником — глобальными корпорациями, для которых ни люди, ни государства не были препятствием, а лишь ресурсом в их стремлении к тотальному контролю.
Глава 37. «Тихий саботаж»
Система «Термометр Доверия» Сергея, которая эволюционировала в глобальную платформу верификации «Душа проекта», начала давать сбои. Сначала незначительные — небольшая задержка в расчёте рейтинга. Затем серьёзнее: несколько проверенных малых бизнесов внезапно получали «красный» уровень доверия без объяснения причин. Начиналась паника.
Сергей (в панике, врываясь в общую зону): «Ребята, это не спам! Это целенаправленная, изощрённая атака! Кто-то научил ИИ не взламывать нас, а… подражать нам. Он генерирует идеальные, с точки зрения наших алгоритмов, бизнес-модели, которые на деле — пустышки! Он создаёт цифровых сирен, которые поют наши же песни, но ведут на скалы!»
Платформа, ставшая нервной системой их сети, была отравлена изнутри. И вирус был интеллектуален.
Глава 38. «Эхо в машине»
Виртуальная встреча с анонимным хакером, известным под ником «Эхо». Его нашли через сложную цепочку связей в глубинах даркнета.
Голос «Эхо» (искажённый вокодером, но звучащий почти… скучающе): «Ваша архитектура элегантна. Жаль, что вы полагаетесь на "человеческий фактор". Он — главная уязвимость. Мне заплатили за демонстрацию этой уязвимости. Я не уничтожил вашу систему. Я доказал её несовершенство».
Лера (резко): «Кто нанял вас? "Феникс"? "Aeterna"?»
«Эхо» (с лёгкой усмешкой): «Разве есть разница? Они уже не конкуренты. Они — симбионты. "Aeterna" предоставила вычислительные мощности и данные. "Феникс" — психологические паттерны и доступ к вашей сети через бывших членов. Они создали гибрид. Они называют его "Проект Мимоза"».
«Мимоза» — цветок, болезненно реагирующий на любое прикосновение. ИИ учился вызывать у их системы аллергическую реакцию на саму себя.
Глава 39. «Проект "Мимоза" — Анти-Сад»
Расследование, проведённое Лерой и Сергеем, выявило чудовищный масштаб замысла.
Лера (на совещании, её лицо бледно): «Они не просто атакуют нас. Они создают нашу анти-копию. Алгоритм, который использует наши же принципы, но вывернутые наизнанку. Он находит честных людей и предлагает им "усовершенствованные" условия — чуть более выгодные, но требующие мелких компромиссов. Он изучает, в какой момент человек ломается. Это не взлом. Это… искушение, поставленное на поток».
Пример: Фермеру из «Честного урожая» алгоритм предлагал удвоить закупочную цену, если он будет скрывать использование неэкологичного, но дешёвого удобрения на 5% полей. Соблазн был точен, как скальпель.
Сергей (добавляет): «И самое ужасное — этот ИИ учится. С каждой нашей попыткой защититься, с каждой закрытой уязвимостью, он становится умнее. Он эволюционирует, чтобы обойти нашу "иммунную систему". Борьба с ним похожа на схватку с собственным зеркальным отражением, которое предугадывает».
Глава 40. «Совесть против Кода»
Команда разделилась. Назревал самый серьёзный внутренний кризис.
Сергей (страстно): «Мы должны ответить их же оружием! Создать собственный ИИ для защиты! Алгоритм, который будет предсказывать их атаки, будет тоньше чувствовать подлог!»
Лера (холодно): «И кто будет его обучать, Сергей? Мы? А какие данные мы будем использовать? Данные о человеческом доверии? Превратив живую душу в набор битов для обучения нейросети? Это путь в никуда. Мы станем такими же, как они».
Виктор (поддерживая Леру): «Я чувствую эту "Мимозу". У неё нет энергии. Это пустота, воронка, которая поглощает свет. Создавая своего ИИ, мы рискуем создать такую же пустоту, просто с другими целями. Мы потеряем свою суть».
Владимир (вмешался, разрешая спор): «Лера и Виктор правы. Мы не можем бороться с машинным расчётом, становясь более расчётливыми. Наше оружие — в том, чего у машины нет и никогда не будет. В непросчитываемой, иррациональной, живой человечности».