Вам, вероятно, знакома теория мёртвого интернета: большая часть того, с чем вы сталкиваетесь в сети, теперь генерируется ботами для ботов, а люди сводятся к сокращающейся аудитории машинного шума. В прошлом году более половины нового контента в интернете было создано искусственным интеллектом. Люди всё ещё там, пролистывают ленту, но то, что они пролистывают, стало представлением, устроенным машинами для аудитории, которая ещё не поняла, что шоу не для неё.
Это совершенно иссушает, когда заходишь в сети в поисках живого ума, чтобы сразиться и подумать вместе, а находишь неумолимый поток хлама. Нам обещали эру сверхсвязанности, но мы позволили нашим общим физическим пространствам увядать, только чтобы обнаружить, что наши обещанные цифровые общественные пространства представляют собой один большой рекламный щит, который всё чаще читается и создаётся ботами.
Это и так достаточно плохо. Я хочу поговорить о чём-то худшем. Назовём это теорией мёртвой экономики.
У индустрии искусственного интеллекта проблема с цифрами.
ОпенАй, Антропик, Гугл ДипМайнд, Мета Ай, Майкрософт: совокупные инвестиции в крупномасштабную инфраструктуру искусственного интеллекта сейчас исчисляются сотнями миллиардов долларов, с прогнозами до триллионов в течение следующего десятилетия. Только ОпенАй оценивается более чем в восемьсот миллиардов долларов. Антропик, который ещё не получил ни одного года прибыли, имеет оценку в той же стратосфере. Эти цифры нуждаются в достаточно большом адресном рынке, чтобы их оправдать.
Есть только один такой большой рынок: глобальный рынок труда.
В то время как мы волнуемся о том, как использовать файлы клод.эмди в Совместной работе, индустрия предлагает другую реальность. Каждая презентация для инвесторов агента искусственного интеллекта, который «делает работу десяти аналитиков», говорит вам об одном и том же: продукт — это замена труда. Более мягкий язык («второй пилот», «помощник», «расширение») — это маркетинг. Финансовая модель, лежащая в основе, требует устранения центров затрат на человеческий труд в цивилизационном масштабе. Если этого не произойдёт, эти компании станут самыми переоценёнными активами в истории капитализма. Люди, выписывающие чеки, не привыкли поджигать триллионы долларов ради лучшего автодополнения и бесконечного размножения всё более длинных служебных записок, которые никто не читает.
Компании, занимающиеся искусственным интеллектом, теперь создают свои собственные контрольные показатели, чтобы доказать это. Контрольный показатель ОпенАй под названием !!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!ВВПВал измеряет, насколько хорошо модели работают в сорока четырёх профессиях, от риэлтора до аналитика новостей. Индекс продуктивности искусственного интеллекта оценивает модели по четырём конкретным профессиональным ролям: аналитик инвестиционного банка, консультант по управлению, младший юрист крупной юридической фирмы, врач общей практики. Это прицельные метки, направленные на профессиональный класс. Как сказал «Нью-Йорк таймс» руководитель отдела оценки ОпенАй, модели теперь достигают «более 80 процентов выигрыша по сравнению с людьми-профессионалами» в задачах, которые несколько месяцев назад не могла выполнить ни одна модель. Бывший банкир в исследовательской группе «продолжает удивляться тому, как много из её старой работы могут делать модели».
Итак, давайте поверим им на слово. Предположим, что технология работает так, как рекламируется, что системы искусственного интеллекта становятся способными выполнять большую часть когнитивного труда за долю стоимости человеческих работников. Что произойдёт дальше?
Проследуем за деньгами через три поворота.
Поворот первый: компания лицензирует искусственный интеллект, чтобы заменить значительную часть своей рабочей силы. Затраты падают. Маржа растёт. Цена акций идёт вверх. Все на конференции о доходах счастливы. Когда Джек Дорси из компании Блок в марте уволил почти половину своего персонала, сославшись на агентов по написанию кода на основе искусственного интеллекта, инвесторы отреагировали ростом цены акций на двадцать пять процентов на следующих торгах. Рынок вознаградил устранение человеческого труда немедленной, масштабной передачей стоимости акционерам.
Поворот второй: уволенные работники перестают получать доход. Они сокращают расходы. Предприятия, которые они раньше посещали, видят снижение выручки. Некоторые из этих предприятий также внедряют искусственный интеллект, чтобы сократить расходы, что усугубляет замещение. Потребительский спрос сокращается по всей экономике.
Поворот третий: компания, которая уволила своих работников, чтобы сэкономить деньги, обнаруживает, что её клиентами были, в совокупности, работники других компаний. Рост выручки останавливается. Подписка на искусственный интеллект, которая должна была быть инвестицией в эффективность, оказывается вкладом в разрушение собственного рынка.
Экономисты Бретт Хеменуэй Фолк и Джерри Цукалас из Уортонской школы бизнеса недавно описали эту динамику в статье, которую они назвали «Ловушка увольнений из-за искусственного интеллекта». На конкурентных рынках автоматизирующая фирма получает полную экономию затрат от замены работников, но несёт лишь часть вызванного этим уничтожения спроса. На рынке с двадцатью конкурентами каждая фирма чувствует одну двадцатую того спроса, который она уничтожает. Остальное приходится на соперников. Это создаёт дилемму заключённого: каждая фирма рационально автоматизирует сверх социально оптимального уровня, потому что индивидуальный стимул сократить затраты на труд всегда перевешивает диффузное, общее последствие устранения потребительских расходов. Улучшение искусственного интеллекта усугубляет это. Повышенная производительность увеличивает разрыв в прибыли от автоматизации быстрее, чем ваши конкуренты, обостряя гонку вооружений в направлении коллективной гибели.
Иногда увольнения происходят до того, как руководители даже знают, справится ли искусственный интеллект с работой. Зоэ Хитциг, экономист, ранее работавшая в OpenAI, сказала «Таймс»: «Когда генеральные директора говорят, что сокращают рабочие места из-за искусственного интеллекта, другие чувствуют, что они тоже должны это делать. Эта динамика может заставить изменения произойти быстрее, чем того требует эффективность». Стадное поведение, одетое в язык инноваций.
Генри Форд понимал, возможно, апокрифически, но в принципе правильно, что его работники должны зарабатывать достаточно, чтобы покупать его автомобили. Экономика искусственного интеллекта устраняет работников и ожидает, что автомобили будут продолжать продаваться, за исключением того, что программное обеспечение имеет почти нулевую предельную стоимость, так что всё ценностное предложение заключается в устранении центра затрат на человека. Продукт — это удаление клиентской базы.
Оптимисты скажут вам, что это просто рост производительности. Экономика переваривала автоматизацию и раньше; занятость в сельском хозяйстве упала с девяноста процентов американской рабочей силы до двух процентов, и цивилизация продолжилась. Дэвид Аутор из Массачусетского технологического института показал, что примерно шестьдесят процентов сегодняшних рабочих мест не существовало в 1940 году. Новые технологии создают новые категории работы. Это правда. Но есть разница между наблюдением о прошлом и законом природы, и оптимисты последовательно путают эти два понятия. Сельскохозяйственный переход занял сто сорок лет. Карл Бенедикт Фрей из Оксфорда задокументировал, что Промышленной революции потребовалось семьдесят лет, прежде чем заработная плата и занятость восстановились для вытесненных ею работников. В промежуточный период заработная плата стагнировала, доля труда в доходе резко упала, прибыль резко возросла, неравенство взлетело до небес, а политические последствия включали чартистское движение и широкомасштабные социальные потрясения. Как выразился Фрей: «Большинство экономистов признают, что технический прогресс может вызвать некоторые проблемы адаптации в краткосрочной перспективе. Редко отмечается, что краткосрочная перспектива может длиться целую жизнь».
Сравните это с тем, над которым работает индустрия искусственного интеллекта. Бхарат Рамамурти, бывший заместитель директора Национального экономического совета, провёл параллель с «китайским шоком» — волной потери рабочих мест в обрабатывающей промышленности, которая изменила американскую политику, когда производство переместилось за границу. «Китайский шок разворачивался в течение нескольких лет, тогда как это может произойти в течение двух лет», — сказал он «Таймс». «Эти компании потратили так много денег на разработку моделей, что на них будет огромное давление с целью получения дохода путём быстрого внедрения».
Предыдущая автоматизация заменяла конкретные задачи внутри рабочих мест. Механический ткацкий станок заменил ручное ткачество, электронная таблица заменила ручные вычисления и т. д. В каждом случае технология была узкой. Искусственный интеллект общего назначения угрожает когнитивному труду всеобъемлюще, одновременно, во всех отраслях. Экономист Василий Леонтьев предвидел это в 1983 году, когда сравнил человеческий труд с лошадьми. Популяция лошадей в США выросла с девяти миллионов в 1840 году до двадцати одного миллиона к 1900 году, казалось бы, невосприимчивая к технологическим изменениям. В течение шестидесяти лет после появления двигателя внутреннего сгорания популяция сократилась на восемьдесят восемь процентов. Лошадей выводили из эксплуатации не из злобы. Их содержание стало экономически невыгодным. Мысль Леонтьева заключалась в том, что не существует экономического закона, предотвращающего то же самое с людьми.
Дарон Аджемоглу, получивший Нобелевскую премию по экономике в 2024 году и являющийся самым авторитетным голосом в этой теме, обнаружил, что в период с 1987 по 2017 год «эффект вытеснения новых технологий намного перевешивал их влияние на производительность и эффект восстановления». Новые задачи не материализовались достаточно быстро, чтобы поглотить вытесненных работников. Его оценка искусственного интеллекта ещё более резкая: фирмы внедряют то, что он называет «чрезмерной автоматизацией», используя искусственный интеллект для уничтожения рабочих мест без существенного снижения производственных затрат, навязывая при этом значительные социальные издержки. Во многих приложениях технология недостаточно хороша, чтобы оправдать вызываемое ею вытеснение. Автоматизация ради цены акций, а не ради подлинной производительности.
Кто является клиентом, когда клиент — это та вещь, которую вы устранили?
Экономика, которая не нуждается в человеческом труде, является политическим кризисом такого рода, с которым демократические системы никогда не сталкивались.
Демократическое управление основывается на сделке, настолько старой, что мы забыли, что это вообще сделка. Управляемые имеют то, что нужно управляющим: труд, налоговые поступления, военную службу, потребительские расходы. Эта зависимость является источником демократического рычага. Вся система функционирует потому, что власть распределена, и она распределена потому, что люди наверху нуждаются в чём-то от людей внизу.
Уберите труд из этого уравнения и посмотрите, что произойдёт.
Когда стоимость генерируется системами искусственного интеллекта, принадлежащими горстке корпораций, которые уже являются мировыми лидерами в оптимизации налогов, каждый фискальный механизм демократического управления голодает одновременно. Налоговая база разрушается. Коллективные переговоры становятся рудиментарными (работодатели, которым не нужны сотрудники, не ведут с ними переговоров). Потребительские расходы, которые зависят от трудового дохода, сокращаются. Двигатель концентрации богатства, ускоряется, потому что искусственный интеллект разрывает последнюю связь между накоплением капитала и необходимостью в человеческом труде как факторе производства. Без перераспределения, как выразился один аналитик этой структуры, «примерно всё в конечном итоге будет принадлежать тем, кто был самым богатым на момент перехода».
И общественность профинансировала исследования, которые сделали это возможным. Архитектура трансформера, крупномасштабные методы обучения, достижения в области полупроводников — всё это было профинансировано публично или квазипублично через университеты, Управление перспективных исследовательских проектов Министерства обороны США и национальные лаборатории. Общественность несла риск. Частные компании захватили вознаграждение. Это ослепительно часто встречается в технологическом прогрессе за последние шестьдесят лет. Как выражается Маццукато, «искусственный интеллект рискует стать ещё одним двигателем извлечения ренты, а не создания стоимости». Мы субсидировали революцию, и теперь нам говорят, что мы должны принять вытеснение как цену прогресса, от которого кто-то другой получает прибыль.
Вы всё ещё можете голосовать (и, пожалуйста, голосуйте за людей, которые понимают это дерьмо и готовы попытаться остановить его). Но то, по поводу чего вы голосуете, — это распределение сокращающегося пула ресурсов, в то время как реальная экономика действует в параллельной системе, на которую вы всё меньше и меньше влияете.
Люди, создающие эти системы, прекрасно это понимают. Дарио Амодеи, генеральный директор Антропик, сказал это открыто: «Баланс сил демократии основан на том, что обычный человек обладает рычагами влияния, создавая экономическую ценность. Если этого нет, я думаю, ситуация становится довольно страшной». Генеральный директор одной из трёх ведущих компаний в области искусственного интеллекта говорит вам, что технология, которую он создаёт, подорвёт материальную основу демократического управления. Он видит проблему. Он создаёт то, что её вызывает. Его компания не поддержала ни одного законопроекта для её решения.
Питер Тиль написал в 2009 году, что больше не верит в совместимость свободы и демократии. Логика такова: демократические системы производят регулирование, перераспределение и подотчётность, всё это создаёт трение для способности исключительных людей перестраивать мир. Если вы считаете, что строите самую преобразующую технологию в истории человечества, демократический надзор является препятствием. Примечание: он говорит не о вашей или моей свободе. Мы не имеем значения.
Этот взгляд только приобрёл сторонников. Политические расходы, приобретения медиа, дипломатия суверенных фондов, где Сэм Альтман путешествует по Ближнему Востоку, заключая сделки на вычислительные мощности с автократическими правительствами: рациональное поведение для людей, которые пришли к выводу, что демократическое управление — это унаследованный институт, который следует обходить, когда он мешает.
Автократии являются лучшими клиентами для этой технологии, чем демократии, что именно является причиной того, почему «бролигархия» быстро сместила свою поддержку на Трампа и движение «Сделаем Америку снова великой». Демократическое правительство, которое использует искусственный интеллект для замены своей рабочей силы, сталкивается с электоральными последствиями. Авторитарное правительство не сталкивается с такими ограничениями и получает дивиденды в виде наблюдения и контроля в дополнение к экономической эффективности. Саудовская Аравия, Объединённые Арабские Эмираты, Сингапур: огромный капитал, централизованное принятие решений, отсутствие избирателей, перед которыми нужно отчитываться, и активный интерес к технологиям контроля. Это один из мотивирующих факторов того, почему Кремниевая долина ухватилась за Трампа: он и его приспешники могут быть куплены, и, что не менее важно, у них нет лояльности к демократии. Экономические стимулы для компаний искусственного интеллекта указывают на субъекты с наименьшими механизмами демократической подотчётности.
Каждое предложенное решение проблемы массового вытеснения искусственным интеллектом рассматривает её как проблему распределения ресурсов. Безусловный базовый доход. Программы переподготовки. «Экономика досуга». Предполагается, что если людям будут слать чеки, они найдут смысл в хобби и сообществе. Они будут рисовать. Они будут садовничать. Они наконец напишут тот роман.
Это антиисторическая чушь.
Нам не нужно гадать, что происходит, когда экономическая функция исчезает из сообществ. Исследование Энн Кейс и Ангуса Дитона о «смертях от отчаяния» отслеживает растущую волну самоубийств, смертности от передозировки наркотиков и алкогольной болезни печени, сосредоточенную в менее образованных, ранее зависящих от обрабатывающей промышленности группах населения. Механизм заключается не только в бедности. Мы теряем любое ощущение экономической цели, а вместе с ним социальный статус и воспринимаемое будущее. Сообщества, организованные вокруг отраслей, которые ушли, где то, что заменило рабочие места, стало опиоидами, домашним насилием и ожидаемой продолжительностью жизни снижающейся год за годом в самой богатой стране на земле.
Молли Киндер из Брукингского института явно провела эту связь в статье в «Нью-Йорк таймс»: «Наша экономика необычайно выросла, и цены снизились, но были явные проигравшие». Нарративы компаний искусственного интеллекта об изобилии повторяют те же обещания глобализации. На этот раз проигравшие не будут ограничены городами обрабатывающей промышленности в глубине страны. «Я взяла интервью у очень многих студентов колледжей, которые очень боятся того, что готовит будущее, — сказала Киндер «Таймс», — и их нарратив точно такой же, как у тех представителей рабочего класса в глубине страны». Двадцатипятилетний разработчик программного обеспечения в Сан-Франциско и уволенный заводской рабочий в Огайо смотрят на один и тот же вопрос: что происходит, когда рынок решает, что мои навыки ничего не стоят?
Работа Гая Стэндинга о «прекариате» добавляет структурное измерение. Психологические последствия постоянной экономической нестабильности разрушают социальную сплочённость независимо от того, оплачена ли аренда. Четыре десятилетия неолиберальной политики плюс цифровое ускорение уже создали этот класс. Ускорение искусственного интеллекта расширяет его, включая специалистов с высшим образованием, которые думали, что они в безопасности.
Пикетти, отнюдь не консерватор, утверждал, что безусловный базовый доход не решает коренных структурных проблем: «неравный доступ к образованию и здравоохранению, низкооплачиваемые и низкопроизводительные рабочие места, неэффективные рынки, коррупция и регрессивные налоговые системы». Данные опросов Дэвида Шора подтверждают это с другой стороны: безусловный базовый доход непопулярен среди американских избирателей; федеральная гарантия рабочих мест имеет перспективы. Люди не хотят чека. Они хотят работы. Они хотят цели.
Собственное исследование Антропик задокументировало нечто худшее, чем вытеснение: активное снижение квалификации. Младшие инженеры, которые полагались на агентов написания кода на основе искусственного интеллекта, не выполняли задачи намного быстрее и хуже понимали свою работу, когда их опрашивали позже. Технология ухудшает опыт следующего поколения работников в то же время, когда конкурирует с ними за их рабочие места. Аргумент о переподготовке предполагает, что люди могут развить новые навыки, чтобы оставаться актуальными. Доказательства предполагают, что инструменты вообще мешают им развивать навыки.
В масштабе, необходимом этим компаниям для оправдания своих оценок, вы смотрите на социальную нестабильность, которая делает текущий популистский момент безобидным. Десятки миллионов людей в их продуктивные годы, не имеющие экономической функции, чёткого пути к ней и остро осознающие, что люди, которые сделали это с ними, являются самыми богатыми людьми из когда-либо живших. Стиглиц указывает, что искусственный интеллект ударит по «рутинной работе белых воротничков», офисной работе людей с высшим образованием, которая казалась защищённой от разрушений в обрабатывающей промышленности. Бухгалтеры, аналитики, младшие юристы, радиологи, разработчики программного обеспечения. Профессиональный класс, составляющий основу политической стабильности в развитых демократиях.
Самое честное, что можно сказать о насилии, это то, что никто его не хочет, но условия, которые его порождают, создаются с чрезвычайной эффективностью людьми, которые, по-видимому, никогда не открывали учебник истории. Это происходит. В апреле кто-то попытался забросать дом Сэма Альтмана коктейлями Молотова. Другой нападающий нацелился на члена городского совета Индианаполиса, который утвердил проект местного центра обработки данных. Алекс Карп, генеральный директор Палантир, недавно сказал на панельной дискуссии: «Самая большая проблема для искусственного интеллекта в этой стране — это политические беспорядки. Если бы я сидел здесь наедине со своими коллегами, я бы сказал им, что страна может взорваться политически и никто из нас не заработает никаких денег, когда страна взорвётся». Карп, к его чести, говорит это вслух. Большинство его коллег ограничивают такие наблюдения чатами Сигнал с исчезающими сообщениями, где, как сообщила Жасмин Сан, технические руководители хвастаются ролями, которые они планируют автоматизировать.
В кремниевой долине, от стипендии Тиля до блогов рационалистов и движения эффективного альтруизма, распостранено направление мысли, которое относится к своей интеллектуальной структуре с серьёзностью полученного откровения. Это люди, которые верят, что действуют на передовом крае человеческой мысли.
Они действуют на уровне ознакомительного курса философии второго курса, вооружённые огромной уверенностью и без осознания контраргументов.
Начнём с Ницше, потому что Долина обожает Ницше, вернее, версию Ницше, от которой он сам потерял бы рассудок и наал обнимать лошадей гораздо быстрее, чем от сифилиса. Сверхчеловек выставляется напоказ как оправдание для исключительного основателя, провидца, который выходит за рамки обычной морали, потому что он действует на более высоком уровне. Ницше диагностировал кризис смысла после крушения метафизической определённости, а не писал философию управления для людей, разбогатевших на продаже рекламных технологий. Сверхчеловек касается отношения личности к созданию смысла в безбожной вселенной. Это не имеет ничего общего с тем, должен ли Питер Тиль быть освобождён от демократической подотчётности. Ницше классифицировал бы этих людей как последних людей, тех, кто моргает, говорит «мы изобрели счастье» и принимает комфорт и оптимизацию за человеческое процветание. Он бы их чертовски ненавидел.
Шаблон повторяется. Эффективный альтруизм — это утилитаризм, заново изобретённый людьми, которые, по-видимому, никогда не сталкивались с Бернардом Уильямсом, или с мучительными размышлениями самого Дерека Парфита о последствиях консеквенциалистского мышления, или с двухвековой философской литературой, объясняющей, почему наивные расчёты ожидаемой ценности дают чудовищные результаты при применении без ограничивающих принципов. Движение эффективного альтруизма привело себя к катастрофе Сэма Бэнкмана-Фрида, потому что приняло моральную структуру, не понимая режимов её отказа. Это то, что происходит, когда вы пропускаете курс и идёте прямо к выпускному экзамену.
Лонгтермизм, философский двигатель ускорения искусственного интеллекта, признают это его сторонники или нет, является переработанным Парфитом без строгости. Аргумент (что мы должны оптимизировать благосостояние триллионов гипотетических будущих существ и что сегодняшние издержки приемлемы во имя этой цели) — это структура, которую любой компетентный этик может разобрать за один день. У него нет ограничивающего принципа. Он не может отличить подлинную моральную срочность от самоугодного вывода о том, что то, что говорящий уже делал, имеет космическое значение. На практике это машина для создания оправданий концентрации власти людьми, которые решили, что они лучше всех подготовлены к тому, чтобы управлять будущим вида. Как удобно.
Рационалистическое сообщество заново открывает байесовскую эпистемологию и относится к ней как к откровению, по-видимому, не подозревая, что философия науки прорабатывает эти вопросы с 1920-х годов. Сообщения в блогах рассматриваются как основополагающие тексты. Люди, которые никогда не читали Куна, или Лакатоса, или Фейерабенда, конструируют эпистемологию с нуля, восхищаются тем, что построили, и используют её как интеллектуальные строительные блоки для решений, которые затрагивают миллиарды людей. Уверенность обратно пропорциональна глубине. Даннинг-Крюгер в масштабе.
Интеллектуальная бедность распространяется и на экономику. Аджемоглу обнаружил, что только 4,6% задач в экономике в настоящее время являются экономически эффективными для автоматизации с помощью искусственного интеллекта. Его оценка общего влияния искусственного интеллекта на производительность в течение следующего десятилетия: 0,66 процента. Голдман Сакс прогнозировал семь процентов в 2023 году, до того как мы начали видеть форму этой штуки. Маккинзи прогнозирует от 0,5 до 3,5 процента в год. Кто-то катастрофически ошибается, и люди, которые тратят деньги, не являются обладателями Нобелевской премии. Более девяноста процентов опрошенных фирм в 2025 году сообщили об отсутствии измеримого влияния на занятость или производительность, несмотря на четверть триллиона долларов инвестиций в искусственный интеллект. Торстен Слок: «Искусственный интеллект везде, кроме поступающих макроэкономических данных». Это люди, которые решили, как выглядит будущее, и тратят чужие деньги, чтобы воплотить его в жизнь.
Эти ублюдки всегда выдают себя. OpenAI опубликовала в апреле аналитическую записку под названием «Промышленная политика для эпохи интеллекта», полную радикально прогрессивных предложений: 32-часовая рабочая неделя, более высокие налоги на корпорации и прирост капитала, «публичный фонд благосостояния», предоставляющий всем гражданам долю в капитале компаний искусственного интеллекта. В тот же период президент ОпенАй помог финансировать политический комитет действия, который потратил более двух миллионов долларов на рекламу против Алекса Борес, кандидата в Конгресс от Нью-Йорка, чьим преступлением было введение регулирования безопасности для крупных разработчиков искусственного интеллекта и предложение облагать налогом искусственный интеллект для финансирования прямых выплат американцам. Компания сняла ограничение на прибыль, которое ранее ограничивало доходность инвесторов стократным размером их первоначальных инвестиций. Крис Лихейн, главный лоббист ОпенАй, систематически снижал приоритет внутренних исследований, которые могли бы дать нелестные результаты. «Всякий раз, когда кто-то писал статью, в которой говорилось о каком-либо негативном аспекте искусственного интеллекта, — сказал «Таймс» коллега, — он говорил: „Мы не будем публиковать что-то о проблеме, пока у нас не будет её решения“». Собственная характеристика Лихейна: «Мы хотим заниматься прикладной физикой, а не теоретической физикой». Рассказывайте историю, которая помогает нам, а не ту, которая правдива.
Студент философии, неправильно прочитавший Ницше, пишет плохую работу и получает тройку. Миллиардер, неправильно прочитавший Ницше, строит политическую философию на основе неправильного прочтения и финансирует её валовым внутренним продуктом небольшой страны. Это чертовски безумно.
Это не серьёзные люди. Они серьёзно относятся к накоплению и к победе. Они не серьёзно относятся к вопросам, которые имеют значение для того, что они строят: что мы должны друг другу, что делает жизнь достойной жизни и что происходит с цивилизацией, когда вы удаляете материальную основу человеческой самостоятельности. Эти вопросы занимали лучшие умы в истории человечества на протяжении тысячелетий. Участие Долины в них сводится к чтению краткого содержания во время трансатлантического перелёта и прибытию с убеждённостью, что вы освоили канон.
И они хотят перестроить цивилизацию.
Альбер Камю разошёлся с Жан-Полем Сартром и французскими левыми по самому конкретному политическому вопросу: можно ли рассматривать ныне живущих людей как приемлемые потери в стремлении к лучшему будущему?
Сартр и марксисты сказали да. У истории есть направление. Революция требует жертв. Камю сказал нет. Любая система мысли, которая подчиняет живущих людей гипотетическому будущему, уже совершила фундаментальную моральную ошибку. Как только вы принимаете эту логику, нет ограничивающего принципа. Любое зверство становится оправданным. Любое количество настоящего страдания может быть рационализировано как необходимый вклад в великолепный результат.
Это структура аргумента в пользу ускорения искусственного интеллекта. Технология в конечном счёте принесёт пользу человечеству (триллионы будущих людей, жизнь изобилия и смысла, которую мы едва можем себе представить), поэтому нынешнее разрушение терпимо. Вытесненные работники, опустевшие сообщества, эрозия демократических рычагов, концентрация власти в руках горстки частных игроков, которые освободили себя от последствий собственного проекта: прискорбно, но необходимо. Расчёт ожидаемой ценности сходится.
Основатели компании Механизайз, чья заявленная миссия состояла в том, чтобы «обеспечить полную автоматизацию экономики», сделали логику явной: «единственный реальный выбор — это либо ускорить эту технологическую революцию самим, либо ждать, пока другие начнут её в наше отсутствие». Технологический детерминизм как моральное отпущение. Будущее предопределено. Наш единственный выбор — построить его первыми. Следовательно, ничто из того, что мы делаем на этом пути, не требует оправдания, потому что пункт назначения никогда не был в наших руках. Они используют тот же аргумент, что и марксисты, отправлявшие диссидентов в ГУЛАГ.
Камю поставил своё интеллектуальное наследие на утверждение, что человек, стоящий перед вами, не является входом в функцию полезности. Его страдание не искупается будущим положением дел, которого он, возможно, никогда не увидит. Его достоинство не подлежит обмену на прогнозируемые результаты. Человек, который существует сейчас (у которого есть работа, которую он вот-вот потеряет, семья, которую он содержит, сообщество, которое зависит от функционирующей местной экономики), является единицей учёта. Не человечество в абстракции. Не триллионы будущих существ, которых лонгтермисты вызывают, чтобы выиграть свои расчёты ожидаемой ценности.
Как только этот принцип отброшен, открывается дверь для каждой формы рационализированной жестокости, на которую двадцатый век потратил сто миллионов жизней, пытаясь научить нас её отвергать.
Весь проект ускорения искусственного интеллекта основан отказе от него. Он просит нынешних людей нести издержки ради будущих выгод, которых они, возможно, никогда не увидят, распределяемых среди людей, которые ещё не существуют, управляемых самоназначенным классом, который полностью изолировал себя от последствий. Предложение Альтмана о «универсальном базовом вычислении» признаёт, если присмотреться, что будущее, которое он строит, требует нового механизма распределения. Это также предложение, в котором он оказывается тем, кто это распределяет. Феодализм с лучшим брендингом.
Жасмин Сан недавно сообщила, что источники в технологической индустрии «выражали более серьёзную обеспокоенность по поводу влияния искусственного интеллекта на рынок труда в частных беседах, но внезапно становились оптимистами, как только я включала микрофон». Они знают, что строят. Они знают, что это сделает. Они демонстрируют оптимизм на публике, потому что альтернативой является признание того, что то, на что они поставили свои карьеры и состояния, сделает значительную часть человечества несчастной, и они всё равно это делают. Амодеи написал, что Антропик «в настоящее время рассматривает ряд возможных путей для наших собственных сотрудников», подразумевая, что даже люди, создающие технологию, могут быть излишними для её требований. Он назвал это сострадательным. Прочитайте это снова как генеральный директор, говорящий своей рабочей силе, что их рабочие места тоже временны.
Я не хочу зацикливаться на том, может ли искусственный интеллект делать то, что утверждают эти компании. Возможно, он и может, хотя текущие данные свидетельствуют о том, что разрыв между презентацией и продуктом огромен, а серьёзные экономисты считают, что рост производительности составляет лишь долю от того, что прогнозирует индустрия. Но ключевой вывод Аджемоглу заключается в том, что искусственному интеллекту не нужно быть революционным, чтобы быть разрушительным. «Так себе» автоматизация (технология, которая посредственно заменяет работников, но достаточно дёшева, чтобы делать это всё равно) по-прежнему вызывает массовое вытеснение, обеспечивая при этом неутешительную производительность. Худшим результатом может быть не сверхразумный искусственный интеллект. Это может быть адекватный искусственный интеллект, агрессивно внедряемый компаниями, преследующими цены акций, устраняющий рабочие места, которые он на самом деле не может хорошо заменить, потому что квартальные стимулы требуют этого.
Думал ли кто-либо из тех, кто обладает властью формировать этот переход, серьёзно о том, что это значит для ныне живущих людей, которые не голосовали ни за что из этого?
Чёрта с два.
Окно для изменения этого не бесконечно. Захват регулирования уже продвинут: инвестиции, связанные с искусственным интеллектом, составили тридцать девять процентов экономического роста США в первые три квартала 2025 года, что даёт федеральному правительству заинтересованность в поддержании бума. Сам Амодеи признаёт, что это приводит к «нежеланию технологических компаний критиковать правительство США и поддержке правительством крайних антирегуляторных мер в отношении искусственного интеллекта». Регулятор и регулируемый слились в единый интерес. Асимметрия экспертных знаний между законодателями и отраслью, которую они должны контролировать, непреодолима. Петля обратной связи (системы искусственного интеллекта, консультирующие по вопросам управления системами искусственного интеллекта) замыкается.
Вмешательства, которые могли бы иметь значение, известны. Доли государственной собственности в инфраструктуре искусственного интеллекта. Агрессивное антимонопольное регулирование. Подлинный налоговый режим для автоматизированного труда. Рецепт Бранко Милановича характерно прям: шире распределять собственность на капитал, более агрессивно облагать налогом самые высокие доходы от капитала. Ни одно из этих решений не является технологически сложным. Все они требуют функционирующих демократических институтов с волей бросить вызов самым богатым компаниям в истории человечества. Компании, которые должны быть обложены налогом, тратят миллионы, чтобы победить политиков, которые предлагают это.
Мёртвая экономика — это не та, где ничего не происходит. Многое будет происходить. Валовой внутренний продукт может даже вырасти; инвестиции, связанные с искусственным интеллектом, уже поддерживают его. Мёртвая экономика — это та, где многое происходит, и ничего из этого не требует вас. Где производительная способность цивилизации была захвачена системой, в которой у вас нет доли, нет влияния, нет права голоса. Где люди, которые её построили, сказали вам, что не думают, что у вас должен быть голос. Где они выражают тревогу о последствиях в частном порядке и оптимизм на публике. Где они публикуют аналитические записки с призывом к радикальному перераспределению, в то же время финансируя политические комитеты действия для уничтожения политиков, которые это предлагают.
Это перевод статьи Оуэна МакГрэнна. Оригинальное название: "The Dead Economy Theory".