Вячеслав Сатеев

Коллега Дмитрий Игоревич Земцов опубликовал недавно Манифест кентавра, который так-то похож на учение Ленина - которое как известно всесильно, потому что верно. Тезиса если дистиллировать два - 1) Кентавр человек+ИИ - основная единица будущего которая может выиграть у просто ИИ и просто человека. 2) Для того, чтобы кентавров эффективно создавать и совершенствовать нужно сообщество практиков в области познания, то есть в первую очередь академическая среда. По каждому из тезисов можно много чего сказать, но конструктивно оспорить сложно. Тезис про эффективность кентавра вытекает из разорванной природы «интеллекта» LLM и отсутствия у нее картины мира, а подкрепляется теорией эволюции. Нет ни одного вектора естественного отбора который давит на ИИ, в направлении появления «функционального аналога воли», или на человека как вид, способствуя в третьем десятилетии 21 века процветанию особей луддитов. По второму тезису интереснее. Будто бы бизнес более способен удержать, динамично внедрить, догнать и обогнать, чем какая-то «академическая среда», но как-то так получается, что линейная оптимизация по прибыли идет вразрез с долгосрочными стратегиями адаптации. Проще говоря - майндсет академической среды более способствует тому, чтобы практики этого сообщества имели роскошь играть, теоретизировать, тратить лишнее, не связанное с прибылью время на поиск новых, невиданных доселе поз применения, использования и прочие интеллектуальные игры, которые в конечном счете могут оказаться эффективными в неизвестном для нас будущем. Бизнес же, в своей бесконечной подстройке под известное ему настоящее, конечно со своим ресурсом может не только вовремя апроприировать наиболее перспективное из науки, но и в своей развитой форме акселерации и фронтирных инвестиций науку двигать вперед получше иных академий, однако такой инновационный бизнес будучи кадрово и идейно укоренен как раз в академической среде без нее и ее фокуса на теме будет сильно беднее идейно. На без малого трехчасовом семинаре клуба мышления, посвященной оппозиции манифесту, на который нелегкая меня недавно занесла было сказано очень много вокруг и поверх самого манифеста, родилось несколько локальных мемов и, уверен, сильно продвинулось вперед мышление об ИИ в отдельно взятой стране, но ни одного внятного опровержения тезисов коллеги Земцова не прозвучало. К упомянутому манифесту горячо присоединяюсь, и вам советую, чоуж. ЗЫ: Ну и в манифесте может не написано ТАКИМИ БУКВАМИ, но очевидно, что наш с вами соперник не сильный искусственный интеллект со скайнетом (если бы), а вражеский кентавр. И вот тут как раз давление естественного отбора очевидно и совершенно понятна цена неадаптации. Так что вопрос только в том, как правильно этого кентавра собирать, чем оснащать и как запрягать. А разуму, привычному быть возницей в колеснице и править ретивыми мыслями железной рукой должно быть все равно сколько из них укоренены в кремнии и электричестве а сколько в хрупких углеродных соединениях бренного тела.

Абсолютно очевидный, но от этого не менее неприятный эффект широкого доступа к ИИ - называется - эффект ИИ Даннинга-Крюгера. Напомню, что обычный эффект ДК на бытовом уровне формулируется так: «дураки не в состоянии понять что они дураки, потому что они дураки». ИИ добавляет к привычному поведению новый аспект - точно также они не могут понять, что вместе с ИИ они все еще дураки. На практике бесконтрольный доступ к большим языковым моделям во первых лишил меня привычного фильтра - «классная идея, можешь ее на пару страниц расписать и прислать и тогда обсудим?». Теперь они возвращаются. Во вторых породил исполненные глубокого смысла (нет) ИИ сгенерированные фидбэки на приемке продуктов. Беда в том, что для того, чтобы написать 50 абсолютно бессмысленных вне контекста конкретного проекта пунктов обратной связи нужен запрос вида «вот репозитарий, к чему бы здесь докопаться», а чтобы объяснить почему 49 из этого списка не применимо здесь и сейчас нужно дать модели нефигово высококонтекстуального знания. Бесплатность же итераций общения для принимающей стороны и полезность для ее ЧСВ и одобряемого начальниками следа в ЭДО побуждает длить этот пингпонг произвольное время.

Три урны на блокчейне. Часть 2: партийная система и что всё это значит В первой части описаны две государственные системы: Москва расшифровывает каждый бюллетень, федеральная складывает голоса, не открывая. Теперь о третьей, которую я строил сам. Партийная: проверь себя У «Единой России» две системы, по моделям праймериз. ПГ1 — открытая: голосует любой гражданин с избирательным правом на территории, это региональные и федеральные кампании. ПГ4 — закрытая: голосуют выборщики от отделений партии, это муниципальные выборы, где избирателей меньше 50 тысяч. Обе на блокчейне, на разных платформах, работают одновременно. В 2021-м году поставили мировой рекорд в 6,5 млн голосов. В этом году рекорд обновили, в ПГ зарегистрировались больше 10 млн. ПГ1 построена на Multichain. Ключ делят хранители, бюллетени расшифровываются по одному, переголосования нет. Особенности две. Первая: избиратель может сгенерировать собственный ключ. Он создаётся на его компьютере, не уходит в сеть и не виден организатору. После расшифровки этим ключом можно найти свой бюллетень и убедиться, что он учтён так, как вы голосовали. Проверка своими руками, а не вера на слово системе. В Москве проверить свой голос тоже можно, отличие в том, что здесь ключ рождается у самого избирателя. Вторая: голоса не лежат в одной цепочке, они распределены по отдельным блокчейнам, примерно по десять тысяч голосов. Все создаются, публикуются и расшифровываются одновременно. Каждая цепочка проверяется отдельно, поэтому сбой или атака на одну не разрушат систему в целом. Самое сильное возражение против ПГ1 обратная сторона той же проверки. Если я могу показать себе, как голосовал, я могу показать это и тому, кто меня заставил или заплатил. Криптографы называют это «квитанцией» и считают врагом тайного голосования. Для добровольного внутрипартийного отбора мы сочли, что проверяемость важнее. Для государственных выборов баланс пришлось бы считать заново. ПГ4 устроена иначе, здесь анонимность даёт не шифрование, а кольцевая подпись. Каждый бюллетень подписан от имени всего кольца — списка выборщиков. Проверяющий видит, что голосовал кто-то из списка, но не может установить, кто именно, а повторный голос того же человека при этом выдаёт себя. Сами бюллетени тоже шифруются, но ключ по умолчанию не делят между хранителями, хотя такая возможность в системе есть и решение за региональным оргкомитетом. Цена схемы — размер: чем больше кольцо, тем тяжелее подпись, а в маленьком кольце прятаться негде. Поэтому схема работает там, где список закрыт и невелик. Что в итоге Сначала главное: все три системы работают. В этом году только на государственных платформах онлайн проголосовали больше 7 млн человек, больше 10 млн зарегистрировались на праймериз. Три независимые команды построили три разные криптографические схемы и довели их до промышленной эксплуатации — вместе с ГАС «Выборы», электронными списками и терминалами это очень высокий уровень автоматизации выборов. Спор идёт уже не о том, можно ли голосовать электронно, а о том, какой баланс тайны и проверяемости выбрать. Три системы — три ставки. Москва ставит на процедуру: всё можно вскрыть, вопрос — кто и что покажет. Федеральная — на математику: вскрыть нельзя ничего, зато и подсмотреть нельзя. Партийная — на избирателя: в открытой модели каждый проверяет себя; в закрытой защита в кольцеовм списке. Блокчейн гарантирует, что записанное не перепишут. Остальное гарантирует система законодательства, избиркомов и оргкомитетов. И это тоже киберпанк, который мы заслужили: математика честнее человека, но голосуют (слава богу) всё ещё люди.

Три урны на блокчейне. Часть 1: Москва и федеральная система В России три системы электронного голосования на блокчейне: московская, федеральная и партийная. Это передовой опыт и результат высокой цифровизации госуправления. В них до сих пор путаются даже профессионалы-технологи, поэтому решился на небольшой ликбез. Со стороны системы одинаковы — участие через «Госуслуги», электронный бюллетень и «ваш голос учтён». Внутри это три разных ответа на вопрос: чему доверяет избиратель? Что делает блокчейн Он решает узкую задачу: по сути, это журнал, который нельзя украдкой переписать задним числом. Зашифрованные бюллетени объединяются в цепочку блоков и хранятся на множестве узлов, подмена одной записи ломает всю последующую цепочку. Бюллетень шифруется на устройстве избирателя. Секретный ключ делят между хранителями и собирают только после закрытия голосования. Блокчейн не знает кто на самом деле получил бюллетень, не заражён ли телефон избирателя и не стоит ли за спиной начальник. Москва: вскрыть каждый конверт Систему правительства Москвы создавал с 2019 года городской департамент ИТ, в разные годы дорабатывала «Лаборатория Касперского», сейчас развивает департамент смарт-проектов. Работал в разные годы на двух известных промышленных платформах — Ethereum и Exonum. Сейчас Ethereum. Код полностью публиковали в 2019 и 2021 гг. На президентских 2024-го 3,7 млн голосов, на выборах в Госдуму в этом году 3,45 млн. Это самая массовая система из трёх, и за ней рекорд реальной нагрузки: миллион бюллетеней за первые три часа президентских выборов. После голосования ключ собирают и расшифровывают каждый бюллетень отдельно. Личность и бюллетень лежат в разных цепочках. Плюс схемы — все голоса можно выложить и пересчитать. А избиратель может проверить свой: до конца голосования он видит зашифрованную транзакцию, после расшифровки — за кого подан голос. Слабые места были. В 2019 году криптограф Пьерик Годри взломал первое шифрование за двадцать минут: ключи были короче 256 бит. Исправили сразу. В 2021-м работало переголосование, защита от давления: проголосовал при начальнике, вечером исправил дома. Но учитывала его вторая, непубличная цепочка; наблюдатели требовали её раскрыть, публично расшифровали за 10 часов, и в 2022-м от переголосования отказались. Москва первой стёрла границу между онлайном и участком. Есть единый электронный список избирателей (с 2022 года): бюллетень, выданный любым способом, мгновенно блокирует остальные, голосовать можно на любом участке, комиссии меньше ошибаются. С 2023-го на участках стоят терминалы: скан паспорта, выбор на экране, голос уходит в ту же цепочку, что и онлайн. Это позволило вынести участки туда, где люди и так бывают, — в торговые центры и МФЦ. На выборах мэра электронно проголосовали 2,7 млн из 3,3 млн. ЦИК собирается тиражировать терминалы на страну. Возражение критиков: принтер спрятан внутри, избиратель не видит, что напечатано. Федеральная: считать, не открывая Система ЦИК построена «Ростелекомом» на блокчейне Waves Enterprise. Первый запуск в 2020 году, 30 тысяч избирателей. В этом году 32 региона, 3,65 млн избирателей и 12,2 млн бюллетеней: система вела около тысячи кампаний всех уровней, от федеральной до муниципальных. Ключ делят отдельно для каждого часового пояса, так как участки закрываются не одновременно. На нагрузочных тестах система принимает 1650 голосов в секунду. Ключевые слова — гомоморфное шифрование. У схемы Эль-Гамаля на эллиптических кривых есть свойство: сложив два зашифрованных числа, получаешь зашифрованную сумму. Система складывает бюллетени, не открывая ни одного, и расшифровывает только итог. Отдельный голос не читает никто и никогда, а что в бюллетене одна галочка, а не тысяча, подтверждает доказательство с нулевым разглашением. Анонимность даёт слепая подпись. Это самая сильная защита тайны из трёх и самая строгая криптография. Но зато бюллетени нельзя выложить для пересчёта, только проверить математику итога. И нет переголосования, сложно вычесть старый голос из зашифрованной суммы, не нарушив анонимность.