Добавить в корзинуПозвонить
Найти в Дзене

Я увидел, как алгоритм сломал жизнь моей мамы. И понял: мы стали просто датасетом

— Слушай, а это безопасно? — спросила мама, держа в руках белый браслет с голубым логотипом «Здоровье-2031». Мы сидели на её кухне в Химках. За окном — первый снег, в чайнике — кипяток, на столе — инструкция из тридцати двух страниц. — Мам, там же пишут: раннее выявление, предсказание инфарктов за недели, всё сертифицировано, — я показал ей скриншот с презентации. — Смотри, вот пенсионерка из Омска. Ей браслет вовремя подсказал — и она живёт. — А если не подскажет? — она посмотрела на меня поверх очков. — Или подскажет не то? Я засмеялся: — Ты что, не веришь технологиям? Это ж прогресс! Она помолчала. Потом надела браслет. — Ладно, — сказала она. — Только ты мне потом объяснишь, что там пишут эти их уведомления. Я в этом вашем приложении ничего не понимаю. Я пообещал. И забыл. Первые два месяца всё казалось идеальным. Маме приходили уведомления: «Давление в норме», «Сон восстановлен», «Продолжайте прогулки». Она даже гордилась — показывала соседкам в подъезде: — Вот, видите, у меня теп
Оглавление

— Слушай, а это безопасно? — спросила мама, держа в руках белый браслет с голубым логотипом «Здоровье-2031».

Мы сидели на её кухне в Химках. За окном — первый снег, в чайнике — кипяток, на столе — инструкция из тридцати двух страниц.

— Мам, там же пишут: раннее выявление, предсказание инфарктов за недели, всё сертифицировано, — я показал ей скриншот с презентации. — Смотри, вот пенсионерка из Омска. Ей браслет вовремя подсказал — и она живёт.

— А если не подскажет? — она посмотрела на меня поверх очков. — Или подскажет не то?

Я засмеялся:

— Ты что, не веришь технологиям? Это ж прогресс!

Она помолчала. Потом надела браслет.

— Ладно, — сказала она. — Только ты мне потом объяснишь, что там пишут эти их уведомления. Я в этом вашем приложении ничего не понимаю.

Я пообещал. И забыл.

Январь 2031. Уведомления

Первые два месяца всё казалось идеальным.

Маме приходили уведомления: «Давление в норме», «Сон восстановлен», «Продолжайте прогулки». Она даже гордилась — показывала соседкам в подъезде:

— Вот, видите, у меня теперь врач в запястье!

Я звонил ей раз в неделю. Она отчитывалась, я записывал. Всё выглядело как успех.

А потом позвонил Сашка. Мой друг из детства, работал системным администратором в одном из региональных центров обработки данных.

— Слушай, — он говорил тихо, почти шёпотом, — ты ж журналист?

— Ну да. Что случилось?

— Тут... блин, тут странное творится. Мы заметили косяк в модуле интерпретации.

— Какой косяк?

— Система массово завышает риски. Особенно у пожилых. Что-то с алгоритмом скоринга — он берёт данные из разных источников и... ну, короче, путает. Я уже написал в техподдержку федеральную.

— И что?

— Говорят, знают, работают. Патч выкатят на следующей неделе. Всё будет чётко.

Я повесил трубку и позвонил маме:

— Мам, слушай, если тебе вдруг придёт какое-то тревожное сообщение — сразу мне звони, ладно? Не паникуй, не беги в больницу. Просто позвони.

— Что случилось? — она напряглась.

— Да ничего, профилактика. Всё исправят.

Мы тогда поверили. Как всегда.

Февраль. Когда зелёная галочка стала красной

Звонок разбудил меня в три часа ночи.

— Сынок, — голос мамы был дрожащий, — мне пришло. «Критический риск сердечной недостаточности. Срочно обратитесь в травмпункт».

Я вскочил:

— Ё-моё. Мам, не двигайся, я сейчас приеду.

— А если это правда? — она задыхалась. — А если мне плохо станет?

— Тебе не плохо. Ты же говорила, чувствуешь себя нормально.

— Но алгоритм показывает...

Эта фраза. «Алгоритм показывает». Я впервые услышал её вживую. И она меня поразила. Не «врач считает». Не «по анализам». А именно — показывает.

Я примчался через час. Мама сидела в прихожей, уже одетая, с сумкой.

— Я вызвала такси, — сказала она. — Надо ехать. Они же предупредили.

— Мам, стоп. Давай сначала позвоним Лиде Михайловне. Твоя участковая.

Я позвонил. Лидия Михайловна, врач с двадцатилетним стажем, взяла трубку через десять звонков. Звучала измученной.

— Да, вижу в системе, — сказала она. — Высокий риск. Надо госпитализировать для обследования.

— А вы сами что думаете? — спросил я. — Она жаловалась на сердце?

Тишина.

— Сынок, — тихо сказала Лидия Михайловна, — я думаю, что у неё всё в порядке. Но я не могу так написать. У меня в кабинете висит протокол: при получении сигнала высокого риска от федеральной платформы — обязательная госпитализация. Иначе я отвечаю.

— Отвечаете за что? За то, что не отправили здорового человека в больницу?

— Отвечаю за невыполнение цифрового протокола, — она звучала безнадёжно. — Это новые KPI. Не выполнишь — аудит, штрафы, могут и лишить лицензии.

Мама смотрела на меня. Я смотрел на неё.

— Мам, — сказал я, — мы едем. Но не в травмпункт. К частному кардиологу. Мой знакомый. Он посмотрит без всяких алгоритмов.

Март. Конвейер страха

Частный кардиолог, доктор Рыбаков, смотрел результаты обследования мамы и хмурился.

— Здоровый человек, — сказал он. — Небольшая тахикардия от стресса. Ну, от вашего уведомления, очевидно. А всё остальное — в норме.

— А почему система показала критический риск? — спросил я.

Он развёл руками:

— Потому что данные склеились криво. Видите, здесь — показания браслета за неделю. Здесь — старые записи из поликлиники 2029 года. Здесь — данные её соседки по палате, которая действительно болела сердцем. Система подумала, что это всё одна история. И выдала вердикт.

— И никто не проверяет?

— Кто проверит? — он усмехнулся горько. — Врач в поликлинике видит только финальный скоринг. Зелёный — отпускаем. Красный — госпитализируем. Жёлтый — наблюдение. Всё. Алгоритм решил за нас.

Мама сидела и молчала. Потом спросила:

— А если бы я поехала в тот травмпункт?

— Вас бы положили, — сказал Рыбаков. — Неделю держали под капельницами. Сделали бы коронарографию — «на всякий случай». Нашли бы что-нибудь «подозрительное» — потому что у пожилого человека всегда что-то подозрительное найдётся. И либо отправили бы домой с кучей лекарств, либо...

— Либо?

— Либо на стол. Для профилактики.

Мама побелела.

Я позвонил Сашке. Он сказал, что патч так и не выкатили. «Приоритеты изменились», «ресурсы перераспределены», «не критично».

Не критично.

Я смотрел на маму и думал: а сколько таких, как она? Кто не позвонил сыну? Кто поверил зелёной галочке? Кто лёг под нож, потому что «алгоритм показывает»?

Апрель. Лавина

Истории посыпались как снег в апреле — неожиданно и мокро.

В соцсетях, в чатах, на кухнях. Везде, где ещё можно было говорить без риска модерации.

Знакомая рассказала про мужа: система выдала «преддиабетическое состояние», его гнали по маршруту три месяца, потом оказалось — датчик глючил от перегрева.

Сосед по лестничной клетке — молодой парень, тридцать два года. Система пометила как группу риска по онкологии. Биопсия, стресс, потеря работы. Потом — извинения, «временное расхождение данных».

Бабушка из второго подъезда получила уведомление о «критической сосудистой угрозе» в пять утра. Инфаркт от страха — реальный. Госпитализация — тоже. Потом выяснилось, что она просто неправильно надела браслет после душа.

И в каждой истории — одно и то же.

«Алгоритм показывает».

И никто не спрашивает: а что вы сами чувствуете?

Май. Врачи на грани

Я пришёл к Лидии Михайловне в поликлинику. Хотел снять материал — как врач видит эту систему изнутри.

Она выглядела на десять лет старше, чем полгода назад.

— Знаете, что самое страшное? — сказала она, закрыв дверь кабинета. — Я перестала доверять себе.

— Как это?

— Раньше я смотрела на пациента. Видела цвет лица, слышала дыхание, чувствовала... ну, не знаю, интуицию, опыт. А теперь я сначала смотрю на экран. Если там красное — я уже не врач. Я исполнитель. Я должен отправить, назначить, госпитализировать. Иначе...

— Иначе?

— Иначе система пометит меня как «недобросовестного поставщика». У меня упадут рейтинги. Могут перевести на участок хуже. Или вообще — под предлогом «недостаточной цифровой дисциплины».

Она показала мне свой внутренний чат врачей. Там были фразы: «опять красный скоринг, а человек здоров», «не могу отменить направление, система не даёт», «помогите, что делать с ложноположительным триггером».

— Мы просили, — говорила она. — Писали в техподдержку. Просили вернуть право врачебного сомнения. Нам ответили: «Эффективность системы выше при полном следовании протоколу».

Эффективность.

Я спросил:

— А если пациент реально болен, а система показывает зелёное?

Она посмотрела на меня:

— Тогда он умрёт дома. Потому что я уже не умею смотреть без экрана. Меня этому не учили. Меня учили кликать.

Июнь. Когда нас сделали датасетом

Протесты начались не с лозунгов о свободе.

Они начались с плаката у здания Минздрава: «Я не баг в базе».

Я стоял в толпе. Рядом — Сашка, который уволился из ЦОДа после того, как его предупредили «не распространять непроверенную информацию».

Рядом — мама. Впервые в жизни на митинге. Держала табличку: «Верните врача, а не робота».

Люди кричали разное. Но суть была одна:

Мы не против технологий. Мы против того, чтобы нас считали за сигналы. Мы против конвейера, где страх заменяет диагноз, а галочка заменяет мозг.

И знаете, что было самое ужасное?

Власти отвечали: «Отдельные технические инциденты». «Погрешность модели». «Пользователи некорректно носят устройства».

То есть мы виноваты. Мы неправильно дышим. Неправильно спим. Неправильно надеваем браслеты. И поэтому deserve ложных диагнозов, лишних операций, унижения.

Август. Раскол внутри

К лету система начала течь по швам.

Не технически — технически она работала. А морально.

Сашка принёс мне документы. Анонимно, ночью, в парке.

— Смотри, — он развернул планшет. — Это внутренние переписки. Видишь даты? За два дня до массового запуска они знали о проблеме склейки данных. И залили патч. Но не тот, что исправляет. А тот, что маскирует.

— Маскирует?

— Делает так, чтобы ошибки выглядели реже. Не устраняет — сглаживает статистику. Чтобы в отчётах было красиво.

Я смотрел на даты, подписи, строчки кода. Это было не «технический сбой». Это было решение. Сознательное. Циничное.

— Почему ты это дал мне?

Сашка посмотрел на свои руки:

— Потому что моя мама тоже получила красное уведомление. И поверила. И легла в больницу. И ей сделали операцию, которую, по мнению частного врача, можно было избежать. Я сидел в ЦОДе и думал: а вдруг это из-за моего кода? Вдруг я часть этого?

Он замолчал.

— Я не хотел быть частью. Я хотел быть человеком.

Октябрь. Точка невозврата

Осенью доверие просело до дна.

Я сидел с мамой на той же кухне, где год назад она надевала браслет. Она уже не носила его. Лежал в ящике, разряженный, с трещиной на экране.

— Знаешь, — сказала она, — я вспомнила, как раньше ходила к Лидии Михайловне. Без записи, без приложений. Просто приходила, и она меня смотрела. Спрашивала про внучку, про огород. А потом говорила: «Ничего у вас, Антонина Петровна, проживёте всех».

— И ты верила?

— Верила. Потому что она меня видела. Не сигналы — меня.

Она посмотрела на меня:

— А теперь я думаю: а вдруг мне реально станет плохо? И я не поверю. Потому что уже однажды меня обманули через эту штуку. И я не знаю, когда верить, а когда нет.

Это было страшнее любого диагноза. Когда технология ломает не тело — а способность доверять.

2032. Люди заставили слушать

Изменения пришли не из щедрости. Из страха потерять остаток легитимности.

Открыли часть кода. Создали право врачебного вето — формально, с бюрократией, но всё же. Ввели мораторий на алгоритмические решения без второго мнения.

Мама снова ходит к Лидии Михайловне. Теперь с бумажной картой — «аналоговой», как шутят в поликлинике. И врач снова смотрит на неё, а не на экран.

Сашка открыл курсы цифровой грамотности для пожилых. «Чтобы не нажимали на всё подряд», — говорит он.

Я пишу этот текст.

Мораль для тех, кто дочитал

Если вы думаете, что это история про плохой браслет — нет.

Это история про то, как легко заменить врача на скоринг. Как удобство для системы превращается в унижение для человека. Как «эффективность» становится оправданием для конвейера страха.

Медицина не может работать по модели «зелёный — живи, красный — ложись». Потому что между этими цветами — миллионы оттенков человеческой жизни. И только врач, который имеет право сомневаться, может их различить.

Технологии нужны. Но как помощники. Не как хозяева. Не как оправдание для безответственности. Не как способ сделать людей датасетом, а потом сказать: «Вы просто некорректно носили устройство».

Берегите своих близких. И не бойтесь быть «аналоговыми» в цифровом мире — иногда это единственный способ остаться человеком.

А вы бы доверили алгоритму решение о вашем здоровье? Или всё ещё верите, что врач должен смотреть на пациента, а не на зелёную галочку? Расскажите в комментариях — сколько нас осталось, кто помнит запах кабинета участкового терапевта.