Вячеслав Сатеев

Коллега Дмитрий Игоревич Земцов опубликовал недавно Манифест кентавра, который так-то похож на учение Ленина - которое как известно всесильно, потому что верно. Тезиса если дистиллировать два - 1) Кентавр человек+ИИ - основная единица будущего которая может выиграть у просто ИИ и просто человека. 2) Для того, чтобы кентавров эффективно создавать и совершенствовать нужно сообщество практиков в области познания, то есть в первую очередь академическая среда. По каждому из тезисов можно много чего сказать, но конструктивно оспорить сложно. Тезис про эффективность кентавра вытекает из разорванной природы «интеллекта» LLM и отсутствия у нее картины мира, а подкрепляется теорией эволюции. Нет ни одного вектора естественного отбора который давит на ИИ, в направлении появления «функционального аналога воли», или на человека как вид, способствуя в третьем десятилетии 21 века процветанию особей луддитов. По второму тезису интереснее. Будто бы бизнес более способен удержать, динамично внедрить, догнать и обогнать, чем какая-то «академическая среда», но как-то так получается, что линейная оптимизация по прибыли идет вразрез с долгосрочными стратегиями адаптации. Проще говоря - майндсет академической среды более способствует тому, чтобы практики этого сообщества имели роскошь играть, теоретизировать, тратить лишнее, не связанное с прибылью время на поиск новых, невиданных доселе поз применения, использования и прочие интеллектуальные игры, которые в конечном счете могут оказаться эффективными в неизвестном для нас будущем. Бизнес же, в своей бесконечной подстройке под известное ему настоящее, конечно со своим ресурсом может не только вовремя апроприировать наиболее перспективное из науки, но и в своей развитой форме акселерации и фронтирных инвестиций науку двигать вперед получше иных академий, однако такой инновационный бизнес будучи кадрово и идейно укоренен как раз в академической среде без нее и ее фокуса на теме будет сильно беднее идейно. На без малого трехчасовом семинаре клуба мышления, посвященной оппозиции манифесту, на который нелегкая меня недавно занесла было сказано очень много вокруг и поверх самого манифеста, родилось несколько локальных мемов и, уверен, сильно продвинулось вперед мышление об ИИ в отдельно взятой стране, но ни одного внятного опровержения тезисов коллеги Земцова не прозвучало. К упомянутому манифесту горячо присоединяюсь, и вам советую, чоуж. ЗЫ: Ну и в манифесте может не написано ТАКИМИ БУКВАМИ, но очевидно, что наш с вами соперник не сильный искусственный интеллект со скайнетом (если бы), а вражеский кентавр. И вот тут как раз давление естественного отбора очевидно и совершенно понятна цена неадаптации. Так что вопрос только в том, как правильно этого кентавра собирать, чем оснащать и как запрягать. А разуму, привычному быть возницей в колеснице и править ретивыми мыслями железной рукой должно быть все равно сколько из них укоренены в кремнии и электричестве а сколько в хрупких углеродных соединениях бренного тела.

Абсолютно очевидный, но от этого не менее неприятный эффект широкого доступа к ИИ - называется - эффект ИИ Даннинга-Крюгера. Напомню, что обычный эффект ДК на бытовом уровне формулируется так: «дураки не в состоянии понять что они дураки, потому что они дураки». ИИ добавляет к привычному поведению новый аспект - точно также они не могут понять, что вместе с ИИ они все еще дураки. На практике бесконтрольный доступ к большим языковым моделям во первых лишил меня привычного фильтра - «классная идея, можешь ее на пару страниц расписать и прислать и тогда обсудим?». Теперь они возвращаются. Во вторых породил исполненные глубокого смысла (нет) ИИ сгенерированные фидбэки на приемке продуктов. Беда в том, что для того, чтобы написать 50 абсолютно бессмысленных вне контекста конкретного проекта пунктов обратной связи нужен запрос вида «вот репозитарий, к чему бы здесь докопаться», а чтобы объяснить почему 49 из этого списка не применимо здесь и сейчас нужно дать модели нефигово высококонтекстуального знания. Бесплатность же итераций общения для принимающей стороны и полезность для ее ЧСВ и одобряемого начальниками следа в ЭДО побуждает длить этот пингпонг произвольное время.

Три урны на блокчейне. Часть 2: партийная система и что всё это значит В первой части описаны две государственные системы: Москва расшифровывает каждый бюллетень, федеральная складывает голоса, не открывая. Теперь о третьей, которую я строил сам. Партийная: проверь себя У «Единой России» две системы, по моделям праймериз. ПГ1 — открытая: голосует любой гражданин с избирательным правом на территории, это региональные и федеральные кампании. ПГ4 — закрытая: голосуют выборщики от отделений партии, это муниципальные выборы, где избирателей меньше 50 тысяч. Обе на блокчейне, на разных платформах, работают одновременно. В 2021-м году поставили мировой рекорд в 6,5 млн голосов. В этом году рекорд обновили, в ПГ зарегистрировались больше 10 млн. ПГ1 построена на Multichain. Ключ делят хранители, бюллетени расшифровываются по одному, переголосования нет. Особенности две. Первая: избиратель может сгенерировать собственный ключ. Он создаётся на его компьютере, не уходит в сеть и не виден организатору. После расшифровки этим ключом можно найти свой бюллетень и убедиться, что он учтён так, как вы голосовали. Проверка своими руками, а не вера на слово системе. В Москве проверить свой голос тоже можно, отличие в том, что здесь ключ рождается у самого избирателя. Вторая: голоса не лежат в одной цепочке, они распределены по отдельным блокчейнам, примерно по десять тысяч голосов. Все создаются, публикуются и расшифровываются одновременно. Каждая цепочка проверяется отдельно, поэтому сбой или атака на одну не разрушат систему в целом. Самое сильное возражение против ПГ1 обратная сторона той же проверки. Если я могу показать себе, как голосовал, я могу показать это и тому, кто меня заставил или заплатил. Криптографы называют это «квитанцией» и считают врагом тайного голосования. Для добровольного внутрипартийного отбора мы сочли, что проверяемость важнее. Для государственных выборов баланс пришлось бы считать заново. ПГ4 устроена иначе, здесь анонимность даёт не шифрование, а кольцевая подпись. Каждый бюллетень подписан от имени всего кольца — списка выборщиков. Проверяющий видит, что голосовал кто-то из списка, но не может установить, кто именно, а повторный голос того же человека при этом выдаёт себя. Сами бюллетени тоже шифруются, но ключ по умолчанию не делят между хранителями, хотя такая возможность в системе есть и решение за региональным оргкомитетом. Цена схемы — размер: чем больше кольцо, тем тяжелее подпись, а в маленьком кольце прятаться негде. Поэтому схема работает там, где список закрыт и невелик. Что в итоге Сначала главное: все три системы работают. В этом году только на государственных платформах онлайн проголосовали больше 7 млн человек, больше 10 млн зарегистрировались на праймериз. Три независимые команды построили три разные криптографические схемы и довели их до промышленной эксплуатации — вместе с ГАС «Выборы», электронными списками и терминалами это очень высокий уровень автоматизации выборов. Спор идёт уже не о том, можно ли голосовать электронно, а о том, какой баланс тайны и проверяемости выбрать. Три системы — три ставки. Москва ставит на процедуру: всё можно вскрыть, вопрос — кто и что покажет. Федеральная — на математику: вскрыть нельзя ничего, зато и подсмотреть нельзя. Партийная — на избирателя: в открытой модели каждый проверяет себя; в закрытой защита в кольцеовм списке. Блокчейн гарантирует, что записанное не перепишут. Остальное гарантирует система законодательства, избиркомов и оргкомитетов. И это тоже киберпанк, который мы заслужили: математика честнее человека, но голосуют (слава богу) всё ещё люди.