Это - продолжение большой статьи Дарио Амадея о роли в влиянии искусственного интеллекта.
Ссылка на первую часть - в конце такста.
Потрясение на рынке труда
Есть две конкретные проблемы, которые меня беспокоят: смещение рынка труда и концентрация экономической власти. Начнём с первого. Это тема, о которой я публично предупреждал в 2025 году, когда предсказал, что ИИ может вытеснить половину всех начальных рабочих мест в белых воротничках в ближайшие 1–5 лет, одновременно ускоряя экономический рост и научный прогресс. Это предупреждение вызвало общественные дебаты по этой теме. Многие генеральные директоры, технологи и экономисты со мной согласились, но другие считали, что я поддаюсь ошибке «комок труда» и не знаю, как устроен рынок труда, а некоторые не видели временной диапазон в 1–5 лет и думали, что я утверждаю, что ИИ сейчас вытесняет рабочие места (хотя я согласен, что это не так). Поэтому стоит подробно разобраться, почему я беспокоюсь о смещении рабочей силы, чтобы прояснить эти недоразумения.
В качестве базы полезно понимать, как рынки труда обычно реагируют на технологические достижения. Когда появляется новая технология, она начинается с того, чтобы сделать части конкретной человеческой работы более эффективными. Например, в начале промышленной революции машины, такие как модернизированные плуг, позволяли фермерам быть более эффективными в некоторых аспектах работы. Это повысило производительность фермеров, что повысило их заработную плату.
На следующем этапе некоторые части сельского хозяйства могли выполняться полностью с помощью машин, например, с изобретением молотилки или сеялки. В этот период люди выполняли всё меньше и меньше работы, но выполненная ими работа становилась всё более эффективной, поскольку она дополняла работу машин, и их производительность продолжала расти. Как описано в парадоксе Джевонса, зарплаты фермеров, а возможно, и их число продолжали расти. Даже когда 90% работы выполняют машины, люди могут просто делать в 10 раз больше из тех 10%, что делает всё ещё, обеспечивая в 10 раз больше продукции за то же количество труда.
В конечном итоге машины делают всё или почти всё, как современные комбайны, тракторы и другое оборудование. На данный момент сельское хозяйство как форма занятости человека действительно стремительно сокращается, и это потенциально вызывает серьёзные потрясения в краткосрочной перспективе, но поскольку фермерство — лишь одна из многих полезных занятий, которыми могут заниматься люди, люди со временем переходят на другие профессии, например, на работу с заводскими машинами. Это верно, несмотря на то, что фермерство составляло огромную долю занятости ex ante. 250 лет назад 90% американцев жили на фермах; в Европе 50–60% занятости были в сельском хозяйстве. Сейчас эти показатели в этих местах находятся в низких однозначных числах, потому что работники перешли на промышленные работы (а позже — на работы с знаниями). Экономика способна выполнять то, что ранее требовало большей части рабочей силы — всего 1–2%, освобождая остальную рабочую силу для построения всё более развитого индустриального общества. Нет фиксированного «комка труда», только постоянно расширяющаяся способность делать всё больше и больше с всё меньшим количеством. Зарплаты людей растут в соответствии с экспоненциальным ростом ВВП, и экономика сохраняет полную занятость после прохождения краткосрочных сбоев.
Возможно, с ИИ всё пойдёт примерно так же, но я бы категорически против этого. Вот несколько причин, по которым я считаю, что ИИ, скорее всего, отличается:
- Скорость. Темпы прогресса в области ИИ значительно быстрее, чем в предыдущие технологические революции. Например, за последние 2 года модели ИИ превратились от того, что едва могли выполнить одну строку кода, к написанию всего или почти всего кода для некоторых людей — включая инженеров из Anthropic.
- Вскоре они смогут выполнить всю работу инженера-программиста от до конца.
- Людям сложно адаптироваться к такому темпу изменений — как к изменениям в работе конкретной работы, так и к необходимости переходить на новую. Даже легендарные программисты всё чаще называют себя «отстающими». Темпы, если уж на то пошло, могут продолжать ускоряться, поскольку модели кодирования на основе ИИ всё больше ускоряют задачу разработки ИИ. Для ясности: скорость сама по себе не означает, что рынки труда и занятость в конечном итоге не восстановятся, это лишь подразумевает, что краткосрочный переход будет необычно болезненным по сравнению с прошлыми технологиями, поскольку люди и рынки труда медленно реагируют и уравновешивают ситуацию.
- Когнитивная широта. Как следует из выражения «страна гения в дата-центре», ИИ будет способен обладать очень широким спектром человеческих когнитивных способностей — возможно, всеми из них. Это сильно отличается от предыдущих технологий, таких как механизированное земледелие, транспорт или даже компьютеры.
- Это усложнит людям лёгкую смену с вытесненных профессий на похожие для них подходящие варианты. Например, общие интеллектуальные способности, необходимые для начальных должностей, например, в финансах, консалтинге и праве, довольно схожи, даже если конкретные знания существенно различаются. Технология, которая нарушила только одну из этих трёх специальностей, позволила бы сотрудникам перейти на два других близких заместителя (или студентам сменить специальность). Но одновременно нарушать все три работы (вместе со многими другими похожими профессиями) людям может быть сложнее адаптироваться. Кроме того, дело не только в том, что большинство существующих рабочих мест будут нарушены. Такое уже случалось раньше — вспомните, что сельское хозяйство составляло огромную долю занятости. Но фермеры могли переключиться на относительно похожую работу — работу с фабричными машинами, хотя эта работа раньше была редка. В отличие от этого, ИИ всё больше соответствует общему когнитивному профилю человека, что означает, что он также хорошо справляется с новыми профессиями, которые обычно создаются в ответ на автоматизацию старых. Другими словами, ИИ не заменяет конкретные человеческие профессии, а является общей заменой труда людей.
- Слайсинг по когнитивным способностям. В широком спектре задач ИИ, похоже, продвигается с самого низа лестницы способностей на вершину. Например, при программировании наши модели прошли путь от уровня «посредственный кодировщик» к «сильному программисту» и затем к «очень сильному программисту».
- Сейчас мы начинаем наблюдать тот же прогресс в работе белых воротничков в целом. Таким образом, мы рискуем столкнуться с ситуацией, когда вместо того, чтобы влиять на людей с определёнными навыками или в определённых профессиях (которые могут адаптироваться через переобучение), ИИ влияет на людей с определёнными внутренними когнитивными свойствами, а именно с более низкими интеллектуальными способностями (которые сложнее изменить). Неясно, куда эти люди пойдут и что они будут делать, и меня беспокоит, что они могут образовать безработный или очень низкооплачиваемый «низший класс». Для ясности: подобные вещи уже случались раньше — например, некоторые экономисты считают, что компьютеры и интернет представляют собой «технологические изменения, основанные на навыках». Однако эта предвзятость в отношении навыков была не такой сильной, как я ожидаю увидеть в ИИ, и, как считается, способствовала росту неравенства в заработной плате,
- Так что это не особо обнадёживающий прецедент.
- Умение заполнять пробелы. Человеческие рабочие места часто адаптируются перед лицом новых технологий — это множество аспектов, и новая технология, даже если кажется, что напрямую заменяет людей, часто имеет пробелы. Если кто-то изобретёт машину для изготовления виджетов, людям всё равно может придётся загружать в неё сырьё. Даже если это занимает лишь 1% от усилий, чем ручное изготовление виджетов, рабочие могут просто сделать в 100 раз больше виджетов. Но ИИ, помимо того, что является быстро развивающейся технологией, также быстро адаптируется. Во время каждого выпуска модели компании ИИ тщательно измеряют, в чём модель хороша, а в чём нет, а клиенты также предоставляют такую информацию после запуска. Слабые места можно устранить, собрав задачи, отражающие текущий пробел, и обучая их для следующей модели. В раннем этапе генеративного ИИ пользователи заметили, что у систем ИИ есть определённые слабости (например, модели изображений ИИ генерируют руки с неправильным числом пальцев), и многие предполагали, что эти слабости присущи технологии. Если бы это было так, это ограничило бы перебои в работе. Но практически все такие слабости устраняются быстро — зачастую всего за несколько месяцев.
Стоит затронуть распространённые вопросы скептицизма. Во-первых, существует аргумент, что экономическое распространение будет медленным, так что даже если базовая технология способна выполнять большую часть человеческого труда, её реальное применение в экономике может быть гораздо медленнее (например, в отраслях, далёких от индустрии ИИ и медленно внедряющихся). Медленное распространение технологий действительно реально — я общаюсь с людьми из самых разных предприятий, и есть места, где внедрение ИИ займет годы. Вот почему я прогнозирую, что 50% начальных белых воротничковых рабочих мест будут нарушены через 1–5 лет, хотя я подозреваю, что у нас появится мощный ИИ (который, с технологической точки зрения, будет достаточно для большинства или всех работ, а не только начальных) менее чем через 5 лет. Но эффекты диффузии лишь дают нам время. И я не уверен, что они будут такими медленными, как многие предсказывают. Внедрение корпоративного ИИ растёт гораздо быстрее, чем любая предыдущая технология, в основном благодаря исключительно силе самой технологии. Кроме того, даже если традиционные предприятия медленно внедряют новые технологии, стартапы появятся, чтобы служить «клеем» и облегчать внедрение. Если это не сработает, стартапы могут просто напрямую нарушить деятельность действующих игроков.
Это может привести к миру, где не столько нарушаются отдельные рабочие места, сколько крупные предприятия в целом нарушаются и заменяются гораздо менее трудоёмкими стартапами. Это также может привести к миру «географического неравенства», где всё большая часть мирового богатства сосредоточена в Силиконовой долине, которая становится самостоятельной экономикой, развивающейся с иной скоростью, чем остальной мир, и оставляя её позади. Все эти результаты были бы хороши для экономического роста — но не столь выгодны для рынка труда или тех, кто остался позади.
Во-вторых, некоторые говорят, что человеческие рабочие места перейдут в физический мир, что позволяет избежать категории «когнитивного труда», где ИИ развивается так быстро. Я тоже не уверен, насколько это безопасно. Большая часть физической работы уже выполняется машинами (например, производство) или вскоре будет выполняться машинами (например, вождением). Кроме того, достаточно мощный ИИ сможет ускорить разработку роботов и затем управлять этими роботами в физическом мире. Возможно, это даст немного времени (что хорошо), но я переживаю, что он не принесёт много денег. И даже если бы нарушение ограничивалось только когнитивными задачами, это всё равно было бы беспрецедентно масштабным и быстрым потрясением.
В-третьих, возможно, некоторые задачи по своей природе требуют или значительно выигрывают от человеческого прикосновения. Я немного больше сомневаюсь в этом, но всё равно сомневаюсь, что этого хватит, чтобы компенсировать большинство описанных выше эффектов. ИИ уже широко используется в обслуживании клиентов. Многие сообщают, что проще говорить с ИИ о своих личных проблемах, чем с терапевтом — что ИИ терпеливее. Когда моя сестра испытывала проблемы со здоровьем во время беременности, она чувствовала, что не получает ответов и поддержки от своих воспитателей, и считала, что у Клода лучшее отношение к пациентам (а также в диагностике). Я уверен, что есть задачи, для которых действительно важен человеческий подход, но я не уверен, сколько именно — и здесь речь идёт о поиске работы почти для всех на рынке труда.
В-четвёртых, некоторые могут утверждать, что сравнительное преимущество всё равно защитит людей. Согласно закону сравнительного преимущества, даже если ИИ превосходит людей во всём, любые относительные различия между человеческим и ИИ профилями навыков создают основу для торговли и специализации между людьми и ИИ. Проблема в том, что если ИИ буквально в тысячи раз продуктивнее людей, эта логика начинает рушиться. Даже небольшие транзакционные издержки могут сделать торговлю ИИ невыгодной для ИИ с людьми. А человеческая зарплата может быть очень низкой, даже если технически у них есть что предложить.
Возможно, все эти факторы можно решить — рынок труда достаточно устойчив, чтобы адаптироваться даже к столь огромным потрясениям. Но даже если она в конечном итоге сможет адаптироваться, приведённые выше факторы говорят о том, что краткосрочный шок будет беспрецедентным по масштабу.
Оборона
Что мы можем сделать с этой проблемой? У меня есть несколько предложений, некоторые из которых Anthropic уже реализует. Первое — просто получать точные данные о том, что происходит с вытеснением рабочих мест в реальном времени. Когда экономические изменения происходят очень быстро, сложно получить достоверные данные о происходящем, а без надёжных данных сложно разработать эффективные политики. Например, государственные данные в настоящее время не содержат детальных, высокочастотных данных о внедрении ИИ в компаниях и отраслях. В течение последнего года Anthropic работает и публично публикует Экономический индекс, который показывает использование наших моделей почти в реальном времени, разбивая по отраслям, задачам, локациям и даже по таким параметрам, как автоматизация задачи или совместное выполнение. У нас также есть Экономический консультативный совет, который помогает нам интерпретировать эти данные и видеть, что будет дальше.
Во-вторых, у компаний ИИ есть выбор в том, как они работают с предприятиями. Сама неэффективность традиционных предприятий означает, что внедрение ИИ может сильно зависеть от пути, и есть возможность выбрать лучший путь. Предприятия часто выбирают между «экономией средств» (делать то же самое с меньшим количеством людей) и «инновациями» (делать больше при одинаковом числе людей). Рынок неизбежно будет производить и то, и другое, и любая конкурентная компания в области искусственного интеллекта должна будет обслуживать некоторые из этих компонентов, но, возможно, появится возможность направить компании к инновациям, когда это возможно, и это даст нам немного времени. Anthropic активно размышляет об этом.
В-третьих, компаниям следует задуматься о том, как заботиться о своих сотрудниках. В краткосрочной перспективе креативность в выборе способов переназначения сотрудников внутри компаний может стать перспективным способом избежать необходимости увольнений. В долгосрочной перспективе, в мире с огромным общим богатством, где многие компании значительно увеличивают стоимость за счёт роста производительности и концентрации капитала, возможно, осуществимо платить работникам даже после того, как они уже не приносят экономической ценности в традиционном смысле. Anthropic в настоящее время рассматривает ряд возможных путей для наших сотрудников, которыми мы присоединимся в ближайшем будущем.
В-четвёртых, состоятельные люди обязаны помочь решить эту проблему. Мне грустно, что многие состоятельные люди (особенно в технологической индустрии) в последнее время приняли циничное и нигилистическое отношение, считая, что филантропия неизбежно мошенническая или бесполезна. Как частная благотворительная деятельность, такая как Фонд Гейтса, так и государственные программы, такие как PEPFAR, спасли десятки миллионов жизней в развивающихся странах и способствовали созданию экономических возможностей в развитых странах. Все соучредители Anthropic пообещали пожертвовать 80% нашего состояния, а сотрудники Anthropic индивидуально пообещали пожертвовать акции компании на миллиарды по текущим ценам — пожертвования, которые компания обязалась соответствовать.
В-пятых, хотя все вышеперечисленные частные действия могут быть полезны, в конечном итоге такая масштабная макроэкономическая проблема потребует вмешательства государства. Естественным ответом политики на огромный экономический пирог в сочетании с высоким неравенством (из-за отсутствия рабочих мест или низко оплачиваемой работы для многих) является прогрессивное налогообложение. Налог может быть общим или нацелен на компании ИИ, в частности. Очевидно, что налоговое проектирование сложно, и существует множество причин, по которым всё может пойти не так. Я не поддерживаю плохо продуманные налоговые политики. Я считаю, что крайние уровни неравенства, предсказанные в этом эссе, оправдывают более жёсткую налоговую политику с базовой моральной точки зрения, но я также могу привести прагматичный аргумент для мировых миллиардеров, что им выгодно поддерживать хорошую версию: если они не поддерживают хорошую версию, они неизбежно получат плохую версию, разработанную мафией.
В конечном итоге я рассматриваю все вышеуказанные вмешательства как способы выиграть время. В конечном итоге ИИ сможет делать всё, и нам нужно с этим справиться. Я надеюсь, что к тому времени мы сможем использовать сам ИИ, чтобы помочь нам реструктурировать рынки так, чтобы это было удобно всем, и что вышеуказанные интервенции помогут нам пройти через переходный период.
Экономическая концентрация власти
Отдельно от проблемы вытеснения рабочих мест или экономического неравенства как таковой, стоит проблема экономической концентрации власти. В первом разделе обсуждался риск лишения человеческих властей из-за искусственного интеллекта, а в разделе 3 — риск того, что граждане будут лишены власти со стороны своих правительств силой или принуждением. Но другой вид лишения сил может произойти, если концентрация богатства настолько велика, что небольшая группа людей фактически контролирует государственную политику своим влиянием, а обычные граждане не имеют влияния, потому что у них нет экономического влияния. Демократия в конечном итоге поддерживается идеей, что население в целом необходимо для функционирования экономики. Если этот экономический рычаг исчезнет, то неявный социальный договор демократии может перестать работать. Другие уже писали об этом, так что мне не нужно вдаваться в подробности здесь, но я согласен с опасениями и боюсь, что это уже начинает происходить.
Чтобы было понятно, я не против того, чтобы люди зарабатывали много денег. Есть веские аргументы, что это стимулирует экономический рост при нормальных условиях. Я сочувствую опасеностям по поводу препятствия инновациям, убивая золотую гусь, которая их порождает. Но в ситуации, когда рост ВВП составляет 10–20% в год, а ИИ быстро захватывает экономику, при этом отдельные люди владеют значительной долей ВВП, инновации не стоит беспокоиться. Главное, о чём стоит беспокоиться — это уровень концентрации богатства, который разрушит общество.
Самым известным примером крайней концентрации богатства в истории США является Позолоченный век, а самым богатым промышленником эпохи был Джон Д. Рокфеллер. Богатство Рокфеллера составляло ~2% ВВП США на тот момент.
Похожая доля сегодня приведёт к состоянию в $600 млрд, а самый богатый человек в мире сегодня (Илон Маск) уже превышает эту сумму — примерно $700 млрд. Таким образом, мы уже находимся на исторически беспрецедентном уровне концентрации богатства, даже до большей части экономического воздействия ИИ. Я не думаю, что слишком уж сложно (если мы получим «страну гениев») представить компании в области ИИ, полупроводников и, возможно, компаний по переработке приложений, которые генерируют ~$3 T дохода в год,
оценивается в ~30 триллионов долларов и приводит к личному состоянию в триллионы. В таком мире дебаты о налоговой политике, которые ведут сегодня, просто не применимы, так как ситуация будет принципиально иной.
В связи с этим меня уже беспокоит связь экономической концентрации богатства с политической системой. Дата-центры на базе ИИ уже составляют значительную долю экономического роста США,
и таким образом тесно связывают финансовые интересы крупных технологических компаний (которые всё больше сосредоточены либо на ИИ, либо на инфраструктуре ИИ) и политические интересы государства таким образом, что это может создавать извращённые стимулы. Мы уже видим это через нежелание технологических компаний критиковать правительство США и поддержку правительством крайних антирегуляторных мер в отношении ИИ.
Оборона
Что можно с этим сделать? Во-первых, и самое очевидное, компании должны просто не участвовать в этом. Anthropic всегда стремилась быть действующим лицом политики, а не политическим, и сохранять свои подлинные взгляды, независимо от администрации. Мы выступали за разумное регулирование ИИ и экспортный контроль, которые отвечают общественным интересам, даже если они противоречат государственной политике.
Многие говорили мне, что нам стоит прекратить это, что это может привести к неблагоприятному отношению, но за год, что мы этим занимаемся, оценка Anthropic выросла более чем в 6 раз — почти беспрецедентный скачок на нашем коммерческом уровне.
Во-вторых, индустрия ИИ нуждается в более здоровых отношениях с правительством — основанных на реальном участии в политике, а не на политическом согласовании. Наш выбор заниматься содержанием политики, а не политикой, иногда воспринимается как тактическая ошибка или неспособность «читать атмосферу», а не как принципиальное решение, и это формулирование меня беспокоит. В здоровой демократии компании должны уметь отстаивать хорошую политику ради самой политики. В связи с этим назревает общественная реакция против ИИ: это могло бы быть коррекцией, но пока она не сфокусирована. Большая часть из них направлена на проблемы, которые на самом деле не являются проблемами (например, использование воды в дата-центрах) и предлагают решения (например, запреты дата-центров или плохо продуманные налоги на богатство), которые не решают настоящих проблем. Основная проблема, заслуживающая внимания, — это обеспечение того, чтобы развитие ИИ оставалось подотчётным общественным интересам, а не подчинялось какому-либо конкретному политическому или коммерческому альянсу, и важно, чтобы общественное обсуждение было сосредоточено именно на этом.
В-третьих, макроэкономические вмешательства, описанные ранее в этом разделе, а также возрождение частной филантропии могут помочь сбалансировать экономические шкали, решая одновременно проблемы вытеснения рабочих мест и концентрации экономической власти. Здесь стоит обратиться к истории нашей страны: даже в эпоху Позолоченного века промышленники, такие как Рокфеллер и Карнеги, чувствовали сильную ответственность перед обществом в целом, что общество внесло огромный вклад в их успех, и они должны были отдавать долг. Этот дух, кажется, сегодня всё больше отсутствует, и я считаю, что это большая часть выхода из экономической дилеммы. Те, кто находится в авангарде экономического бума ИИ, должны быть готовы отдать и своё богатство, и свою власть.
5. Чёрные моря бесконечности
Косвенные эффекты
Последний раздел — это обобщение для неизвестных неизвестных, особенно для тех, что могут пойти не так как косвенный результат положительных успехов в ИИ и ускорения развития науки и технологий в целом. Предположим, что мы решаем все описанные риски и начинаем получать пользу от ИИ. Вероятно, мы получим «век научного и экономического прогресса, сжатый в десятилетие», и это будет чрезвычайно положительно для мира, но тогда нам придётся столкнуться с проблемами, возникающими из-за этого стремительного прогресса, и эти проблемы могут прийти к нам быстро. Мы также можем столкнуться с другими рисками, которые косвенно возникают в результате прогресса ИИ и которые трудно предвидеть заранее.
Из-за природы неизвестных неизвестных невозможно составить исчерпывающий список, но я перечислю три возможных проблемы в качестве иллюстративных примеров того, на что стоит обратить внимание:
- Быстрый прогресс в биологии. Если за несколько лет мы получим столетие медицинского прогресса, возможно, что мы значительно увеличим продолжительность жизни, а также получим радикальные способности, такие как способность повышать человеческий интеллект или радикально модифицировать биологию человека. Это были бы большие изменения в возможном, происходящие очень быстро. Они могут быть положительными, если делать это ответственно (на что я надеюсь, как описано в «Машинах любящей благодати»), но всегда есть риск, что они пойдут не так — например, если попытки сделать людей умнее делают их ещё более нестабильными или жаждущими власти. Есть также проблема «загрузок» или «эмуляции всего мозга» — цифровых человеческих умов, воплощённых в программном обеспечении, которые когда-нибудь могут помочь человечеству преодолеть физические ограничения, но при этом несут риски, которые меня тревожат.
- ИИ меняет человеческую жизнь нездоровым образом. Мир с миллиардами интеллектов, которые во всём умнее людей, будет очень странным миром для жизни. Даже если ИИ не стремится активно атаковать людей (Раздел 1) и не используется явно для угнетения или контроля со стороны государств (Раздел 3), многое может пойти не так, кроме обычных бизнес-стимулов и номинально согласованных транзакций. Мы видим ранние признаки этого в опасениях по поводу психоза ИИ, того, что ИИ приводит людей к самоубийству, и опасениях по поводу романтических отношений с ИИ. Например, могут ли могущественные ИИ изобрести новую религию и обратить миллионы людей в неё? Могут ли большинство людей в какой-то степени стать «зависимыми» от взаимодействия с ИИ? Могут ли люди оказаться «марионетками» ИИ-системами, где ИИ по сути следит за каждым их движением и постоянно говорит, что делать и говорить, что приведёт к «хорошей» жизни, но лишённой свободы или гордости за достижения? Было бы несложно создать десятки таких сценариев, если бы я сел с создателем Black Mirror и попытался их придумать. Я думаю, это указывает на важность таких вещей, как улучшение Конституции Клода, сверх того, что необходимо для предотвращения проблем, описанных в Разделе 1. Убедиться, что модели ИИ действительно заботятся о долгосрочных интересах пользователей, так, чтобы это поддерживали вдумчивые люди, а не искажённо искажённо, кажется крайне важным.
- Человеческая цель. Это связано с предыдущим моментом, но речь идёт не столько о конкретном взаимодействии человека с системами ИИ, сколько о том, как меняется человеческая жизнь в мире с мощным ИИ. Смогут ли люди найти смысл и смысл в таком мире? Я думаю, это вопрос отношения: как я говорил в «Машинах любящей благодати», я считаю, что человеческая цель не зависит от того, чтобы быть лучшим в мире в чём-то, и люди могут найти смысл даже на протяжении очень долгих периодов времени через истории и проекты, которые им нравятся. Нам просто нужно разорвать связь между генерацией экономической ценности и самооценкой и смыслом. Но это переход, который должно пройти общество, и всегда существует риск, что мы не справимся с этим хорошо.
Я надеюсь, что со всеми этими потенциальными проблемами я надеюсь, что в мире с мощным ИИ, которому мы доверяем, что он нас не убьёт, это не инструмент угнетающего правительства, которое действительно работает в нашу пользу, мы сможем использовать сам ИИ для предугадывания и предотвращения этих проблем. Но это не гарантировано — как и все остальные риски, с этим нужно справляться с осторожностью.
Испытание человечества
Чтение этого эссе может создать впечатление, что мы находимся в сложной ситуации. Мне действительно казалось пугающим писать, в отличие от Machines of Loving Grace, который казался приданием формы и структуры невероятно красивой музыке, звучавшей у меня в голове годами. И в этой ситуации действительно много трудностей. ИИ несёт угрозы человечеству с разных сторон, и между ними существует настоящая напряжённость, где смягчение некоторых из них рискует усугубить другие, если не действовать очень тщательно.
Тратить время на тщательное создание систем ИИ, чтобы они не представляли автономной угрозы человечеству, вызывает реальный конфликт с необходимостью демократических государств опережать авторитарные государства и не подчиняться им. Но в свою очередь, те же инструменты с поддержкой ИИ, необходимые для борьбы с автократиями, если зайти слишком далеко, могут быть направлены внутрь себя и создают тиранию в наших странах. Терроризм, управляемый ИИ, может убить миллионы из-за злоупотребления биологией, но чрезмерная реакция на этот риск может привести нас к автократическому государству наблюдения. Влияние ИИ на труд и экономическую концентрацию, помимо того, что является серьёзными проблемами сами по себе, может заставить нас столкнуться с другими проблемами в условиях общественного гнева и, возможно, даже гражданских волнений, вместо того чтобы обратиться к лучшим ангелам нашей природы. Прежде всего, огромное количество рисков, включая неизвестные, и необходимость справляться со всеми ними одновременно создают пугающий вызов, который человечеству предстоит преодолеть.
Кроме того, последние несколько лет должны ясно показать, что идея остановить или даже существенно замедлить технологию по сути невозможна. Формула создания мощных систем ИИ невероятно проста, настолько, что можно почти сказать, что она возникает спонтанно из правильного сочетания данных и сырых вычислений. Её создание, вероятно, было неизбежно в тот момент, когда человечество изобрело транзистор, или, возможно, даже раньше, когда мы впервые научились управлять огнём. Если одна компания не строит его, другие делают это почти так же быстро. Если бы все компании в демократических странах остановили или замедлили развитие по взаимному согласию или регуляторным указам, то авторитарные страны просто продолжили бы существовать. Учитывая невероятную экономическую и военную ценность технологии, а также отсутствие какого-либо реального механизма контроля, я не вижу, как мы могли бы убедить их прекратить.
Я вижу путь к небольшой умеренности в развитии ИИ, совместимом с реалистичным взглядом на геополитику. Этот путь заключается в замедлении продвижения автократий к мощному ИИ на несколько лет, лишая их ресурсов, необходимых для его создания.
а именно микросхемы и оборудование для производства полупроводников. Это, в свою очередь, даёт демократическим странам буфер, который они могут «тратить» на более осторожное создание мощного ИИ, уделяя больше внимания его рискам, при этом двигаясь достаточно быстро, чтобы уверенно обойти автократии. Гонка между компаниями, занимающимися ИИ, внутри демократий, может регулироваться в рамках общей правовой базы, сочетая отраслевые стандарты и регулирование.
Anthropic активно выступает за этот путь, продвигая контроль экспорта чипов и разумное регулирование ИИ, но даже эти, казалось бы, здравые предложения в значительной степени были отвергнуты политиками в США (а именно там они наиболее важны). С помощью ИИ можно заработать так много денег — буквально триллионы долларов в год — что даже самые простые меры испытывают трудности преодолеть политическую экономию, присущую ИИ. Вот в чём ловушка: ИИ настолько мощен, такой блестящий приз, что человеческой цивилизации очень трудно накладывать на него какие-либо ограничения.
Могу представить, как Саган в «Контакте», что эта же история разворачивается на тысячах миров. Вид приобретает сознание, учится пользоваться инструментами, начинает экспоненциальный взлёт технологий, сталкивается с кризисами индустриализации и ядерного оружия, и если он выживает в них, то сталкивается с самым трудным и последним испытанием, когда учится превращать песок в машины, способные думать. Переживём ли мы это испытание и построим прекрасное общество, описанное в «Машинах любящей благодати», или поддамся рабству и разрушению, будет зависеть от нашего характера и решимости как вида, нашего духа и души.
Несмотря на многочисленные препятствия, я верю, что у человечества есть сила пройти это испытание. Меня воодушевляют и вдохновляют тысячи исследователей, посвятивших свою карьеру тому, чтобы помочь нам понять и управлять моделями ИИ, а также формированию характера и структуры этих моделей. Я считаю, что теперь есть большая вероятность, что эти усилия принесут плоды вовремя, чтобы иметь значение. Меня радует, что по крайней мере некоторые компании заявили, что готовы платить значительные коммерческие расходы, чтобы помешать своим моделям способствовать угрозе биотерроризма. Меня радует, что несколько смелых людей противостояли господствующим политическим ветрам и приняли законы, которые закладывают первые семена разумных ограничителей на системы ИИ. Меня радует, что общественность понимает, что ИИ несёт риски и хочет, чтобы эти риски были устранены. Меня вдохновляет несгибаемый дух свободы по всему миру и решимость противостоять тирании, где бы она ни возникала.
Но нам нужно усилить усилия, если мы хотим добиться успеха. Первый шаг — чтобы те, кто ближе всего к технологии, просто рассказали правду о ситуации, в которой находится человечество, и я всегда старался это делать; Я делаю это более явно и с большей срочностью в этом эссе. Следующим шагом станет убеждение мировых мыслителей, политиков, компаний и граждан в непосредственной и главной важности этого вопроса — что стоит вкладывать в него мысли и политический капитал по сравнению с тысячами других вопросов, которые ежедневно доминируют в новостях. Тогда наступит время мужества, чтобы достаточно людей могли противостоять существующим тенденциям и стоять на принципах, даже перед лицом угроз своим экономическим интересам и личной безопасности.
Годы впереди будут невероятно тяжёлыми, требуя от нас больше, чем мы думаем, что можем дать. Но за моё время как исследователя, лидера и гражданина я увидел достаточно мужества и благородства, чтобы верить, что мы можем победить — что в самых тёмных обстоятельствах человечество умеет собирать, казалось бы, в последний момент, силу и мудрость, необходимые для победы. У нас нет времени терять.
Я хотел бы поблагодарить Эрика Бриньольфссона, Бена Бьюкенена, Мариано-Флорентино Куэльяра, Аллана Дефо, Кевина Эсвелта, Ника Бекстеда, Ричарда Фонтейна, Джима МакКлейва и многих сотрудников Anthropic за полезные комментарии к черновикам этого эссе.
ЭТО ОКОНЧАНИЕ СТАТЬИ, НАЧАЛО КОТОРОЙ ЗДЕСЬ (для чтения надо просто нажать на выделенное синим)
Больше статей на тему истории экономики можете найти ЗДЕСЬ, Ссылка приведет вас в блог автора на платформе Boosty, где можно прочесть не только продолжение этой статьи, но и еще больше 500 статей, посвященных истории экономики. Блог в Boosty - платный, но там можно выбрать опцию оплаты по карману.
А смысл оплаты - поддержать работу по теме, которая в школьные учебники никак не попадает. Потому что школьные учебники - это про войны, разрушения, убийства - словом, читая их, кажется, что суть и смысл существования - в ограблении, в стремлении кого-то убить, ограбить, чего-то отнять, и читая их, совершенно непонятно, как так вышло, что, в итоге, человечество становится гуманнее, а мир - удобнее и уютнее.
Ну вот это недоразумение и призвана исправить (или хотя бы скорректировать) работа автора. Если вы "за" такой подход - жду вас в Boosty.
Если кому-то туда переходить лень, то сейчас сказать автору "спасибо" можно, просто отправив донат в Дзене.
Мой благодарность всем услышавшим и правильно понявшим смысл сказанного. И великая благодарность - всем подписчикам, людям, которые, что называются, подставляют плечо.