Игорь Ашманов: «Цифровизация полезна в промышленности, на фронте, но когда нам предлагают соцрейтинги – это чистый сатанизм»
Ведущий IT-специалист России, президент компании «Крибрум», член СПЧ Игорь Ашманов на сессии «Технологический паритет. Новый баланс сил на глобальных рынках» форума «Открытые инновации» за 20 минут разнес в пух и прах главные направления цифровизации от Правительства и Германа Грефа сотоварищи.
«Евангелисты цифровизации нам рассказывают одно и то же, какие будут тренды. Это довольно смешно. Я профессиональный разработчик искусственного интеллекта, а не прогнозов, и я понимаю, что там ничего спрогнозировать нельзя даже примерно на пять лет. Те, кто сегодня рассказывает, как нейросети меняют мир, пять лет назад ничего не знали о СhatGPT, были прогнозы по Agile и так далее. Что там можно спрогнозировать, мне непонятно.
Мы не знаем, что через три года произойдет, скорее всего, будем воевать с НАТО. При чем здесь глобальные рынки, паритет какой-то? Нам нужно не проиграть на поле боя, а там технологии станут решать, сверхбыстрое, сверхумное оружие, дроны-камикадзе и прочее.
Весь арабский восток управляется „Твиттером“. Вплоть до принцев все пишут в нем. Естественно, там гуляет вражеская пропаганда, слежка и все что хочешь. Страны хотят доступа к технологиям, обучаться, и кооперироваться с ними можно. Сейчас есть потребность отцепиться от глобализации, чтобы хотя бы чуть-чуть контролировать свое технологическое и цифровое пространство. Это, наверное, можно делать в рамках БРИКС.
Цифровизация полезна в промышленности, на фронте, где выигрывает тот, у кого дрон действует без общения с оператором. Но как только цифровизацию и ИИ, всякие социальные рейтинги внедряют в социальную сферу, это катастрофа. Это прямой сатанизм! А ведь люди это совершенно не стесняясь произносят, как что-то хорошее!
Говорят, что нужно оценивать учителей с помощью искусственного интеллекта, уже эксперименты пошли, хотят оценивать, как педагог формулирует мысли. Будем оценивать учеников и строить им образовательные траектории. Это так же, как со словом „паритет“, подмена термина, чтобы он не был таким страшным. Траектория человека — это его судьба! Кто-то хочет с помощью технологий управлять судьбой людей.
Я видел несколько попыток внедрения этой идеи в массовое сознание. Ну а что плохого? Хороших вознаграждать, оценивать их хорошие дела, плохих наказывать. Как вы думаете, у сисадмина социального рейтинга какой будет рейтинг? А у его жены, племянника? А у чиновника, который начальник этого сисадмина? Как только у тебя появляется никем не ограниченная власть управлять судьбами людей, траекториями, она тут же будет коррумпирована. Конечно, эти вещи нужно ограничивать.
Если взять ту цифровизацию, которую мы видим, — камеры на улицах, смартфоны в руках и так далее, это абсолютно дикий капитализм, начальная стадия накопления цифрового капитала. Те, у кого по факту — не по закону, а по факту — есть доступ к персональным данным, накапливают цифровой капитал. Понятие добавочной стоимости заменилось на поведенческий излишек. Люди его монетизируют либо используют для получения цифровой власти над нами. Возникает новый цифровой класс. Он почувствовал эту власть, как кобель течную сучку, и его ничто не может остановить!
В свое время я с командой по поручению президента РФ в свое время написал концепцию защиты прав граждан в цифровой среде. Был расчет на то, что она будет преобразована в цифровой кодекс, но пока все осталось на уровне концепции, в которой прописано, что любая программа, любой закон, которые касаются цифровизации и внедрения искусственного интеллекта, должны иметь разделы рисков с категорическим запретом программам ИИ принимать автономные решения о людях. И эти вопросы нужно решать сейчас!
Никто не должен иметь доступа к персональным данным, кроме тех, кто давал присягу, у кого погоны и кто очень серьезно ответит за утечку. Все это надо обсуждать с обществом, но пока с ним никто ничего не обсуждает, мы видим только безудержный маркетинг и пропаганду».