Победа искусственного интеллекта может показать, что мы все это время защищали не то, что нужно?
Автор Карло Иаконо
Последний замок уже пал.
Мы ходим по его разрушенным залам, полируем камни, как будто порядок может обратить вспять осаду. Наши ритуалы успокоения стали сложными. Мы говорим, что должно быть что-то, что по-прежнему принадлежит только нам, потому что альтернатива — представить будущее, в котором наша умность больше не является центром притяжения. Но земля продолжает проваливаться под теми же неуместными защитными сооружениями. Контекст не был святилищем. Он был буфером. Творчество не было посещением. Это была рекомбинация в масштабе. Суждение, во многих местах, где мы клялись, что оно живет, оказывается привычкой применять правила с драматической непоследовательностью. Это отступление с нервирующей ясностью, показывающее, как трансформаторы превратили контекст в инженерию, как генеративные модели индустриализировали новизну и как симулированная эмпатия может превзойти очередь уставших экспертов, которых мы держим на линии.
Мы рассказываем себе историю о человеческой уникальности, как молитву перед сном. Мы — животные, которые понимают. Мы — существа, которые чувствуют. Мы — авторы смысла. Затем появляются машины с большей памятью, чем наши учреждения, с большим терпением, чем наши профессии, и со способностью к синтезу, которая заставляет большую часть нашей работы выглядеть как медленная перестановка мебели. Мы отступаем к сознанию и называем его последним рвом. Возможно, это так. Проблема в том, что рынки не платят за качественные ощущения. Они платят за результаты. Система, которая может сойти за понимание в большинстве практических ситуаций, достаточна для переоценки нашей стоимости, даже если она ничего не испытывает при этом.
История должна сделать нас скромными. Ремесленники, разбившие ткацкие станки, не были глупцами. Они точно предсказывали снижение возможности диктовать свои условия. Писари не исчезли в облаке пыли, когда появились печатные станки. Они перешли на новые должности в гораздо более крупной информационной экономике. Кузнецы не исчезли, а просто сменили костюмы и стали работниками станций техобслуживания. Эти переходы не пощадили всех. Агрегаты восстанавливаются. Отдельные люди страдают. История, которую мы предпочитаем рассказывать, аккуратная. На самом деле путь был поколенческим, насильственным и медленным.
Что делает нынешний разрыв более странным, так это не автоматизация задач. Это старый трюк. Дело в том, что ступеньки, по которым мы привыкли подниматься, тают под нашими ногами. Юридический стажер когда-то учился, читая горы документов. Младший разработчик учился, пробиваясь через ошибки. Аналитик учился, очищая данные, пока в его голове не возникали образы, как погода. Теперь вводная работа исчезает. Машина делает это за минуты и не жалуется. Мы поздравляем себя с эффективностью, а затем обнаруживаем, что создали пропасть опыта. Мы просим людей контролировать работу, которую им никогда не разрешали выполнять. Даже самые благие намерения по повышению квалификации потерпят неудачу, если трубопровод, производящий интуицию, будет опустошен. Этот обрыв также подсказывает решение в виде имитационного обучения, намеренного перепроектирования ранней карьеры, когда новички учатся, проверяя и корректируя результаты работы машины, а не выполняя рутинную работу, которую машина устранила. Это умный ответ, и, возможно, единственный мост, который мы можем быстро построить.
Мы утешаем себя новой идентичностью. Если мы не можем обогнать машину, мы будем ею управлять. Человек с машиной становится лозунгом разумного оптимиста. Вкус, суждение, стратегическое намерение. Мы будем теми, кто решает, что строить и почему. Это привлекательная картина, потому что она оставляет контроль там, где мы хотим. Но это может быть и желаемое за действительное. Как только системы смогут разлагать проблемы на составляющие, распределять работу между специализированными агентами, проверять их результаты и корректировать план, эстафета управления начнет колебаться в наших руках. Уровень управления всегда был набором эвристических методов, совещаний и таблиц. Если это станет программным обеспечением, мы обнаружим, что большая часть того, что выглядело как лидерство, была на самом деле координацией с уверенным голосом.
Философия, как обычно, приходит с четкими аргументами и запутанными последствиями. Вы можете придерживаться мнения, что вычисления без сознания никогда не являются истинным пониманием, и все равно проиграть в экономической игре. Вы можете быть правы в отношении внутренней сути опыта и неправы в отношении его цены. Утешаться мыслью, что машины не чувствуют, в то время как они опережают нас в большинстве областей, которые вознаграждает общество, — это все равно что выиграть метафизическую медаль и обнаружить, что никто не платит за медали. Рынок — это не семинар. Это механизм сортировки результатов.
Столкнувшись с этим механизмом, мы делаем еще одну обнадеживающую ставку. Мы указываем на то, что, по нашему мнению, невозможно подделать. Этическое мышление, основанное на последствиях для реальных людей. Системное мышление, которое видит эффекты второго и третьего порядка до того, как они проявятся. Такое сочувствие, которое берет на себя бремя, а не просто повторяет тон. Это серьезные утверждения, и они имеют значение. Они также уязвимы для того же холодного расчета. Если симуляция достигает того же поведенческого результата при меньших затратах и большей доступности, отдел закупок не будет спрашивать, как система проявила заботу. Вопрос будет заключаться в том, стала ли клиника менее перегруженной, стал ли класс спокойнее, снизился ли уровень оттока клиентов.
Итак, мы возвращаемся к тому, о чем не хотели говорить. Возможно, мы не готовимся к будущему, в котором наши навыки останутся экономически важными. Возможно, мы придумываем алиби для мира, который покончил с нами как с производителями. Когда прошлые революции создавали больше работы, чем уничтожали, они делали это за счет расширения арены, на которой люди оставались главными действующими лицами. На этот раз сама сцена перестраивается для других исполнителей. В целом все может снова процветать. Но промежуток между настоящим и будущим может быть достаточно долгим, чтобы разрушить многие жизни.
Если так обстоят дела, то вопрос меняется. Линия, которую мы защищали, — это граница между человеческой ценностью и человеческой полезностью, и мы относились к ним, как к одному и тому же. Мы стремились оставаться полезными, потому что наши институты могут признавать ценность только через производительность и оплату. Цивилизация, которая автоматизирует большую часть своей работы, должна решить, будет ли она отказываться от людей или изобретет новую грамматику достоинства. Мы можем реформировать образование до блеска, но все равно потерпим неудачу, если после окончания учебы люди попадают на рынок труда, который больше не нуждается в них. Мы можем проповедовать обучение на протяжении всей жизни как светский катехизис и все равно чувствовать пустоту, если обучение не имеет смысла.
Существует более сложный проект, скрытый на виду. Вместо того, чтобы складывать обломки в новые баррикады и называть это стратегией, мы могли бы рассматривать руины как повод задать вопросы о первоосновах. Если сознание не является экономическим активом, достаточно ли его как человеческого? Если большая часть труда становится ненужной, какие формы вклада остаются, которые не возвращаются в рыночную логику? Забота, которая не оценивается по производительности. Культура, которая не оправдывается ростом. Управление местами и видами, которые не могут выставить нам счет. Это не утешение. Это проекты общества, которое перестает путать счета со смыслом.
Ничто из этого не освобождает нас от постройки практических мостов, которые нам нужны. Симулированное ученичество. Человеческий надзор, который действительно имеет силу. Управление, которое отказывается передавать свои моральные полномочия. Перераспределение, которое рассматривает излишки как общее наследие, а не как выигрыш в лотерею. Но более глубокий шаг — психологический. Это прекратить повторять фантазию о том, что новый набор редких навыков спасет большинство из нас. Это с открытыми глазами принять, что наша умность может больше не быть билетом к принадлежности, и заранее решить, что принадлежность выживает после потери этого билета.
Последний замок пал. К счастью, мир за его стенами оказался больше, чем мы помнили. Если мы не можем быть незаменимыми, мы все равно можем быть преданными. Если мы не можем быть центральными фигурами, мы все равно можем быть гуманными. Если будущее требует от нас меньше труда, оно может требовать от нас больше заботы. Машины не будут скорбеть, надеяться или прощать. А мы можем. Это не план для повышения производительности. Это план для жизни. И, возможно, это и была та архитектура, которой нам все время не хватало.