Я, конечно, подозревал, что интернет — это временное явление, поскольку слишком он свободный, слишком наглый, слишком много там всего происходило без спроса, печатей и согласований. И вот наконец мечта сбылась: интернет решили не просто регулировать, а делать это по-современному. Не по-дедовски, не по бумажке и звонку, а с помощью машинного обучения. Судя по планам, РКН решил сыграть по-крупному, и создать «Бога Интернета» всерьёз. Потому что если уж кого-то и можно поставить следить за всем интернетом, так это бездушную математическую модель за пару миллиардов рублей.
Источник: https://www.forbes.ru/tekhnologii/553640-algoritmiceskie-upraznenia-rkn-budet-fil-trovat-trafik-s-pomos-u-masinnogo-obucenia
Не просто кнопка «запретить сайт», а целая умная машина, которая сама посмотрит, сама подумает и сама решит, кому жить в сети, а кому выйти вон (причём желательно навсегда).
Примечание: ни одна организация, какой бы огромной она не была, не в силах контролировать подобный объем информации вручную!
Человек, как выясняется, в этом процессе лишний. Он слишком медленный, сомневается, задаёт вопросы и иногда читает то, что блокирует. А машина — она не читает, она классифицирует. Это гораздо удобнее.
Схема, если по-простому, такая: весь трафик проходит через специальные железки. Эти железки уже стоят у операторов, называются красиво, грозно и очень официально. Они смотрят в каждый пакет данных, как таможенник в чемодан, только быстрее и без объяснений. Раньше они работали по принципу «вот список плохих адресов, режь всё, что совпадает». Теперь же решили, что этого мало. Потому что адреса меняются, зеркала плодятся, VPN прыгают, как тараканы под ногами. И тут на сцену выходит машинное обучение — универсальная мухобойка XXI века.
Машинное обучение в понимании регулятора — это когда система учится сама. Учится, правда, на том, что ей покажут. А покажут ей, разумеется, всё плохое. Хорошее показывать некогда. Поэтому в голове у такой системы формируется простой и логичный мир:
- Если что-то похоже на запрещённое, значит, это запрещённое.
- Если похоже на обход блокировки — значит, виноват.
- Если текст напоминает что-то подозрительное — на всякий случай заблокировать.
- Ошибиться не страшно, главное — не пропустить!
И вот здесь начинается самое интересное. Потому что машинное обучение не понимает смысл. Оно не знает, что такое шутка, цитата, стеб, сарказм, юмор, обсуждение или критика. Оно знает паттерны. Слова. Частоты. Совпадения. И если раньше условный оператор мог хотя бы на секунду задуматься, то теперь думать будет модель, обученная на миллионах примеров «как нельзя». А всё, что не укладывается в её картину мира, будет автоматически отправляться в цифровое небытие.
Примеры таких технологий вообще не нужно далеко искать, в мире их используют давно. Видеохостинги годами блокируют ролики по жалобам и алгоритмам. Музыку удаляют за три секунды, потому что алгоритм «услышал» похожий аккорд. Соцсети банят людей за слова, вырванные из контекста. Форумы закрывают треды, потому что система решила, что обсуждение проблемы — это пропаганда проблемы. И это всё в коммерческих компаниях, где хотя бы есть интерес не переборщить, чтобы пользователи не разбежались.
А теперь представим это в масштабе всей страны, да ещё и без задачи «понравиться пользователю». Тут наоборот: чем больше заблокировал, тем лучше по отчётам. Идеальный сотрудник: не спорит, не уходит в отпуск, не сомневается. Система сказала — значит, так и надо.
Особенно трогательно звучат планы бороться с VPN.
Это вообще отдельный вид магии. VPN — это, по сути, зашифрованный трафик. Машинное обучение будет «угадывать», что за трафик идёт внутри.
Угадывать!!!
Не знать, не видеть, а именно угадывать. По косвенным признакам, по ритму пакетов, по размеру, по частоте. И если вдруг система решит, что ваш рабочий VPN — это «что-то не то», то привет. Отвалится доступ к корпоративной сети, банковским сервисам, зарубежным сайтам, а иногда и к чему-нибудь совершенно неожиданному.
Подобные истории уже были. В других странах, с другими системами. Когда под борьбу с анонимностью попадали онлайн-игры. Когда вместе с VPN ложились сервисы обновлений. Когда блокировали облака, потому что кто-то через них раздавал что-то запрещённое. И каждый раз говорили одно и то же: «Это ошибка, мы исправим». Потом исправляли (иногда). Частично.
Но здесь фокус в другом. Когда решение принимает человек, у него есть ответственность. Когда решение принимает алгоритм, ответственность размазывается. «Это не мы, это система так решила». А система — она бездушная. У неё нет ни стыда, ни жалости, ни понимания последствий. Она просто оптимизирует метрику. Сегодня метрика — количество заблокированных ресурсов. Завтра — скорость реакции. Послезавтра — процент «покрытия».
Но РКН что-то запаздывает. На Дзене и РуТубе эти "умные машины" (очень глупые на самом деле!) давно выносят "вердикты". Так происходит блокировка материалов на Дзене и роликов на РуТубе.
Раз - и "заблокировано".
И так и будет висеть "заблокировано", пока ТЫ САМ не "опротестуешь" эту блокировку. И вот что интересно:
- НИКТО не будет проверять правомерность блокировки без твоего ПРОТЕСТА на блокировку!!!
А после жалобы 95-97% ответов на блокировку приходят вот такие:
Ответ Дзена:
Ответ РуТуба:
Особый восторг вызывает идея искать запрещённый контент по словам, выражениям и предложениям. Это вообще мечта любого цензора. Потому что слова имеют привычку встречаться в самых разных местах. Можно написать запрещённое, чтобы осудить. Можно процитировать, чтобы обсудить. Можно привести пример. Но алгоритму всё равно. Он видит совпадение. А дальше — автоматическое сито. Проскочил — молодец. Не проскочил — извините.
В Китае, на который любят ссылаться, такие системы работают давно. И там регулярно блокируют вполне безобидные вещи, потому что контекст не совпал с ожиданиями машины. В Южной Корее в своё время автоматические фильтры по ошибке ограничивали доступ к образовательным материалам и новостям. В Европе алгоритмы борьбы с пиратством блокировали сайты университетов, потому что на них лежали лекции с фрагментами фильмов. Это всё реальность, а не страшилки.
А теперь добавим к этому ещё и деградацию трафика. Это когда не блокируют напрямую, а делают так, что «само не работает». Видео грузится по чайной ложке, мессенджер отваливается, сайт открывается через раз. Формально — ничего не запрещено. Фактически — пользоваться невозможно. И попробуй докажи, что это не у тебя интернет плохой.
Самое смешное, что всё это подаётся под соусом эффективности и экономии. Мол, автоматизация снижает затраты, ускоряет процессы, помогает операторам сосредоточиться на сложных задачах. Только забывают сказать, что сложные задачи никуда не деваются.
Просто вместо одного ошибочного решения в день мы получаем тысячи автоматических ошибок в минуту. И разгребать их уже некому!!!
В итоге мы приходим к очень простому будущему. Интернет превращается в лабиринт с автоматическими дверями. Где каждая дверь решает сама, пускать вас или нет. Где правила меняются без предупреждения. Где сегодня всё работает, а завтра — нет, потому что модель дообучилась. И никто толком не знает, на чём именно.
И самое прекрасное в этом всём — иллюзия контроля. Кажется, что если поставить умную систему, то хаос исчезнет. Но на практике появляется новый хаос, просто более технологичный. Старый был понятный: вот запрет, вот список, вот причина. Новый — это когда вам говорят:
- «Алгоритм решил»!
Почему решил? По каким критериям? Где ошибка? Ответов нет.
Так что да, интернет, конечно, станет чище. Стерильнее. Тише. Без лишних разговоров, лишних мыслей и лишних соединений. Зато с гордым отчётом о внедрении машинного обучения. Потому что если уж что-то и блокировать, то обязательно с ИИ. Или хотя бы с тем, что так называется в документах.
А там уже как повезёт. Если алгоритм решит, что вы — это тоже трафик нежелательный, значит, просто не вписались в паттерн. Ничего личного. Машина так решила. Бог Интернета так решил!
Только раньше это происходило только внутри самого Дзена или РуТуба, но мы не боимся легких путей! Мы теперь ВЕСЬ ИНТЕРНЕТ покроем сетью своего надзора!!!
Продолжение статьи: https://dzen.ru/a/aXdSPuW1dDr9Q0Yp