Мастерская смыслов и систем

О ЧЕМ БЫ ЛЮДИ НИ ГОВОРИЛИ, ОНИ ВСЕГДА ГОВОРЯТ О ДЕНЬГАХ. Поклонение золотому тельцу. Это про что вообще? Я пришла к выводу, что это не про «приоритет духовного над материальным» или «общественного над личным», это вообще не про приоритеты. Поклонение золотому тельцу я рассматриваю как состояние общества, при котором главенствующим и часто единственным способом удовлетворения потребностей человека, сообщества, государств становится купля-продажа за деньги. Из всех доступных человеку ипостасей главенствующей становится роль покупателя, вниманием которого надо завладеть и которого надо склонить к приобретению чего-то ему, скорее всего, ненужного...

Если человеческий коллектив работает благодаря архитектуре верификации, задача с ИИ формулируется не как «сделать его понятным», а как встроить его в такую же архитектуру разделённого эпистемического труда. Тогда ИИ перестаёт быть внешним «оракулом» и превращается в ещё одного участника коллективного мышления.​​ ИИ хорошо делает то, что плохо даётся людям: Люди лучше делают то, что плохо даётся ИИ: С точки зрения разделения эпистемического труда ИИ должен стать специалистом по вычислительным и сценарным задачам внутри уже существующего коллектива, а не заменой ему...

На фоне всего сказанного парадокс доверия становится менее загадочным. Мы не боимся того, что коллектив непрозрачен. Мы боимся того, что ИИ непрозрачен и при этом не встроен в привычную нам архитектуру верификации. 4.1 ИИ как «чужой» чёрный ящик Современные модели ИИ во многом повторяют ситуацию с коллективом: Снаружи это выглядит как ещё один «бредогенератор». Но, в отличие от человеческого коллектива, у ИИ нет своих социальных и институциональных механизмов проверки: Поэтому там, где человеческий...

Человеческий коллектив остаётся для отдельного участника столь же непрозрачным, как и ИИ‑модель. Тем не менее он систематически выдаёт решения, которые мы считаем достаточно надёжными, чтобы доверять им в вопросах войны, инфраструктуры, медицины, экономики. Ключ к этому — не в «ясности логики», а в том, как устроена архитектура верификации вокруг коллективного знания.​ Современное общество живёт в условиях, когда ни один человек принципиально не может знать всего, что требуется для сложных решений...

Сделаю перепаковку под Дзен: подзаголовки, короткие абзацы, списки, без повторов. Смысл и глубину сохраню. Если посмотреть на человеческий коллектив и систему ИИ со стороны, они удивительно похожи. И там, и там мы видим чёрный ящик: сложная внутренняя динамика, множество шагов, которые нельзя полностью восстановить. На выходе — суждение или решение. Ни один руководитель не в состоянии подробно воспроизвести, как его штаб пришёл к итоговому плану. Точно так же ни один пользователь не может до конца понять внутреннюю работу крупной модели...

Мы до сих пор живём по логике 1941 года. Те же штабы, те же совещания, те же таблицы. Разница только в том, что экранов стало больше. Телефоны, мессенджеры, красивые отчёты. Но главный вопрос другой: используем ли мы цифровые двойники и ИИ, которые могут просчитать последствия решений до того, как мы их подпишем? Сегодня в 9 из 10 организаций «планирование» — это вручную забитые таблицы. Сроки ставятся «от обратного»: надо к февралю, значит, к февралю. Зависимости между работами не прорисованы...