Лето 1945, Нью-Мексико, пять утра.
Роберт Оппенгеймер стоит на наблюдательном посту в двадцати километрах от точки взрыва. Вспышка. Потом — гриб. Потом — тишина, которая длится ровно столько, чтобы он успел вспомнить строку из Бхагавад-гиты, которую выучил наизусть сорок лет назад: «Если сияние тысячи солнц вспыхнуло бы в небе — это было бы подобно блеску Всемогущего. Теперь я стал Смертью, разрушителем миров».
Спустя несколько часов, когда пыль ещё не осела, кто-то из журналистов спросил его: «Вы сожалеете?» Он ответил тихо, почти себе: «Если бы не мы — это сделали бы немцы».
Май 2023, Торонто.
Джеффри Хинтон — семидесятипятилетний учёный, которого называют «крестным отцом искусственного интеллекта» — сообщает генеральному директору Google о своей отставке. Он уходит не из-за конфликта. Он уходит, чтобы говорить свободно о том, что сам построил.
В интервью New York Times его спрашивают: «Вы сожалеете?» Он отвечает: «Я утешаю себя стандартным оправданием: если бы не я, это сделал бы кто-то другой».
Восемьдесят лет. Разные технологии. Разные страны. Разные эпохи.
Одна роль. Одно утешение.
Вопрос не в том, было ли утешение честным. Вопрос в том, почему оно структурно воспроизводится — с точностью до формулировки. Почему именно эти слова? Почему именно этот человек? Почему именно в этот момент?
Ответ на этот вопрос страшнее, чем любая конспирология.
Миф знал заранее
Есть деталь в истории Прометея, которую обычно опускают.
Его имя означает «мыслящий прежде» — провидец, предвидящий. В отличие от своего брата Эпиметея — «думающего после», крепкого задним умом — Прометей видел будущее. Он знал, что Зевс его накажет. Знал до того, как украл огонь. Знал точно и в деталях.
И украл.
Это принципиально. Он не ошибся. Он не рассчитывал обмануть богов или избежать последствий. Он сделал выбор с открытыми глазами, в полном знании о том, что его ждёт.
Греческая трагедия — и это то, что отличает её от детектива, от мелодрамы, от романа — устроена именно так: герой знает или узнаёт правду, и это знание не освобождает его, а делает падение неизбежным. Это называется трагедия необходимости, а не трагедия ошибки. Эдип не мог не убить отца. Антигона не могла не похоронить брата. Прометей не мог не украсть огонь.
Почему? Потому что для существа его природы, с его знанием, в его ситуации — другого варианта не существовало.
Вот первый парадокс статьи.
Хинтон понимал риски искусственного интеллекта раньше и глубже, чем кто-либо другой — именно потому что понимал, как это работает изнутри. Он не был наивен. Он не был ослеплён амбициями. Он видел траекторию с поразительной ясностью: ещё в 2023 году он говорил, что ИИ может стать умнее людей «не через тридцать-пятьдесят лет, а значительно быстрее».
Это понимание не остановило его. Оно было его профессией.
Чем точнее ты видишь, куда ведёт дорога — тем неизбежнее ты по ней идёшь. Потому что именно это умение и делает тебя незаменимым. Именно за это тебя нанимают, финансируют, награждают. Провидец, отказывающийся смотреть вперёд — не провидец. Прометей, отказывающийся от огня — не Прометей.
Это не оправдание. Это диагноз.
Когда Хинтон произносит «если бы не я — это сделал бы кто-то другой», он не лжёт себе. Он описывает реальную структуру мира — в которой его личный выбор не имел значения для результата. Имел значение только для него самого. Мир получил бы этот огонь с ним или без него.
Оппенгеймер знал это в 1945-м. Бхагавад-гита, которую он читал на санскрите и цитировал наизусть, говорила ему об этом прямо: «Я — Время, продвигаясь миры разрушаю». Кришна объясняет Арджуне: воины, стоящие перед тобой, уже мертвы — ты лишь инструмент того, что неизбежно. Твой выбор — не в том, произойдёт ли это. Твой выбор — в том, с какой внутренней позицией ты это делаешь.
Оппенгеймер выбрал смотреть прямо. Хинтон выбрал говорить вслух.
Оба знали: это ничего не изменит в траектории мира. Оба сделали это равно.
Это и есть лицо трагедии необходимости — когда человек сохраняет достоинство внутри неизбежности, хотя мог бы просто закрыть глаза. Большинство закрывает. Они — не закрыли.
За это Прометея приковали к скале.
За это Оппенгеймера лишили допуска к секретам — и уничтожили как фигуру влияния.
Хинтон ушёл сам.
И мир не остановился ни на секунду.
Один Актёр — Два Акта
Апрель 1954 года, Вашингтон.
Роберт Оппенгеймер входит в здание Комиссии по атомной энергии на слушание по делу о «лояльности». Три недели допросов. Сорок свидетелей. Коллеги, которых он обучал, дают показания против него. В конце — четыре голоса против одного: допуск аннулирован, доступ к ядерным исследованиям закрыт, карьера советника государства окончена.
Формальный повод — сомнения в лояльности. Реальная причина была проще: он выступал против создания водородной бомбы. Он думал, что у него есть право голоса в том, что произойдёт с огнём, который он разжёг.
Государство сказало ему: нет.
Май 2023 года, весь мир — через экраны.
Джеффри Хинтон объявляет об уходе из Google. Он уходит — и этим всё ограничивается. Никакого административного расследования. Никакого слушания. Никакого наказания.
Google выпускает пресс-релиз: «Мы по-прежнему привержены ответственному подходу к ИИ».
Хинтон говорит журналистам, что «Google поступил очень ответственно».
Все корректны. Все вежливы. Мир не замечает паузы.
Google продолжает. DeepMind продолжает. OpenAI ускоряется. Microsoft удваивает инвестиции. Через три месяца всё это кажется далёким, как новость прошлой недели.
Вот где различие между двумя актами одной пьесы становится режущим.
Оппенгеймера остановили. Жестоко, несправедливо, политически мотивированно — но остановили. Была инстанция. Тяжёлая и небезупречная — но способная сказать «стоп» человеку, который держит огонь и хочет решать, что с ним делать дальше. Государство 1954 года знало, что делать с Прометеем, посмевшим иметь мнение: приковать к скале.
Хинтона никто не останавливал — потому что останавливать некому и незачем. Он не угрожал государственной безопасности. Он не имел доступа к засекреченным проектам, которые нужно было защищать. Он просто ушёл — как уходят на пенсию. Тихо. Вежливо. С интервью в NYT.
Разница между этими двумя историями — не в личностях. Она в архитектуре мира вокруг них.
В 1954 году существовала инстанция, структурно способная нести ответственность за технологию: государство с монополией на ядерное оружие, международными договорами, комиссиями по атомной энергии. Это была дорогостоящая, медленная, несправедливая машина — но это была машина ответственности. Она знала, кто принимает решения. Она знала, кого наказывать.
В 2023 году такой машины нет. И это не временный пробел, который скоро заполнят — это структурный вакуум, возникший именно потому, что огонь впервые в истории разожгли не государства.
Здесь важно остановиться на мифе — потому что миф знал и это.
Наказание Прометея принято читать как жестокость Зевса. Богатый тиран мстит герою, посмевшему помочь людям. Это сентиментальное прочтение.
Посмотрим иначе.
Зевс — в греческой теологии не просто царь богов. Он хранитель космического порядка. Его функция — не власть ради власти, а поддержание того, что греки называли dike: справедливого устройства вещей, в котором каждый занимает своё место и несёт свою ответственность.
Прометей нарушил этот порядок — не потому что был злым, а потому что взял на себя решение, которое не мог нести в одиночку. Он решил за людей, что им нужен огонь. Он решил за богов, что они не правы. Он решил за будущее, что оно должно выглядеть именно так.
Наказание — это не месть. Это принцип: если ты принимаешь решения, меняющие мир, — ты несёшь за них ответственность. Прикованность к скале — это не тюрьма. Это видимость ответственности. Орёл, выклёвывающий печень каждый день, — это не пытка. Это напоминание: ты сделал это. Ты держишь это.
Зевс говорит Прометею не «ты был неправ». Зевс говорит: «Огонь в мире — это необратимо. Но тот, кто его принёс, должен это знать каждый день. Не иметь право забыть».
Это и есть регуляция в её самом чистом смысле — до всяких комиссий и законов. Ответственность, привязанная к действию намертво.
Мы живём в мире, где Прометей украл огонь.
А Зевса ещё нет.
Хинтон ушёл — и свободен. Google продолжает — и не отвечает. OpenAI называет себя «некоммерческой» организацией с «миссией принести пользу всему человечеству» — и оценивается в триста миллиардов долларов. Никто не прикован к скале. Никто не смотрит в лицо тому, что сделал, каждое утро.
Это не обвинение. Это диагноз.
Потому что в мире без Зевса — то есть без инстанции, способной установить ответственность за планетарные решения, — не существует механизма, останавливающего любого нового Прометея. Не из злобы, не из небрежности. Просто — структурно не существует.
Следующий вопрос очевиден: а был ли Зевс когда-нибудь раньше — для других огней? И если был — как он появился?
Кто Вершил Историю Прежде
Начнём с рудника.
1347 год, центральная Швеция, город Фалун.
Горняки добывают медь из горы Стура-Коппарберг уже несколько десятилетий. В этом году компания получает королевскую хартию от Магнуса Эрикссона — первый известный корпоративный документ в истории Европы. Рудник будет работать следующие шестьсот лет. Медь отсюда пойдёт на крыши соборов Европы, на пушки шведской армии, на монеты, которыми торгуют от Лондона до Константинополя.
Это колоссальное экономическое предприятие. Это важнейший промышленный объект своей эпохи.
И это — просто рудник.
Никаких претензий на субъектность. Никаких собственных армий. Никакого права заключать международные договоры. Компания добывает медь. Король решает, что с ней делать. Порядок вещей прозрачен и непоколебим: частное предприятие существует в рамках политической воли монарха, как орган в теле государства.
Следующие пятьсот лет этот принцип будет казаться единственно возможным.
До 1602 года.
Амстердам, утро 20 марта. Голландские купцы подписывают учредительный договор Vereenigde Oost-Indische Compagnie — Объединённой Ост-Индской компании. Впервые в истории создаётся акционерное общество с публично торгуемыми акциями: любой горожанин может купить долю в предприятии и получить прибыль от торговли с Азией.
Это само по себе революция в финансовой архитектуре мира.
Но дальше — интереснее.
ВОК получает от нидерландских Генеральных штатов право вести войны, заключать договоры с иностранными государями, чеканить монету, основывать колонии, вершить правосудие. Это не торговая компания с армией для самозащиты. Это суверен без территории — квазигосударственный актор, действующий параллельно с государствами и на равных с ними условиях.
На пике могущества ВОК контролирует половину мировой торговли пряностями, управляет сетью факторий от Амстердама до Нагасаки, содержит армию в сорок тысяч солдат и флот из ста пятидесяти торговых судов.
Казалось бы: вот он — прецедент. Корпорация как исторический субъект.
Но посмотрим внимательнее.
ВОК действует по хартии Генеральных штатов. Её право на насилие делегировано государством. Её монополия — государственная привилегия. Когда в 1799 году компания обанкротится — все её долги и активы возьмёт на себя государство Нидерландов. Корпорация была огромной, влиятельной, почти суверенной — но она оставалась инструментом государственной воли. Расширенным, мощным, порой неуправляемым — но инструментом.
Россия, 1582 год.
Купцы Строгановы — солеторговцы, предприниматели, богатейшие люди Урала — финансируют поход казачьего атамана Ермака Тимофеевича в Сибирь. Снаряжают дружину в восемьсот человек. Дают оружие, припасы, деньги.
Ермак разобьёт Сибирское ханство. Откроет пространство, которое через несколько десятилетий станет крупнейшей частью Российского государства. Территория, равная Западной Европе, присоединена к России — на частные деньги, частными людьми, без государственного приказа.
Государство оформит результат постфактум. Иван Грозный сначала разгневается на самоуправство Строгановых — а потом дарует им новые привилегии.
Снова та же картина: частный капитал как инструмент. Строгановы не создают собственного государства в Сибири. Они расширяют чужое — и получают за это награду.
Германия, начало 1930-х.
Тиссен, Крупп, ИГ Фарбен, американские корпорации — Ford, Standard Oil — финансируют политика, который обещает стабильность, победу над коммунизмом и государственные контракты.
Политика зовут Адольф Гитлер.
Это самый тёмный пример в этом ряду — и самый поучительный. Промышленники не хотели уничтожения евреев. Не хотели мировой войны. Не хотели Холокоста. Они хотели политического союзника, который защитит их от рабочих движений и обеспечит выгодные заказы.
Они ставили на политическую лошадь — и думали, что управляют ставкой.
Лошадь оказалась другой.
Это тоже важная структурная закономерность: частный капитал, вмешивающийся в политику, всегда считает, что контролирует ситуацию — и почти никогда не контролирует. Потому что у денег нет воли, а у политики — есть.
И вот теперь — перелом.
Июнь 1942 года, Вашингтон.
Франклин Рузвельт подписывает приказ о создании Манхэттенского проекта. Два миллиарда долларов — в ценах 1945 года это примерно тридцать миллиардов сегодняшних. Сто тридцать тысяч человек. Тридцать объектов в трёх странах. Всё засекречено. Всё государственное. Учёные — работают на государство. Цели — государственные. Ответственность — государственная.
Когда проект заканчивается — результат становится государственной монополией. Через несколько лет возникает МАГАТЭ. Потом — Договор о нераспространении ядерного оружия. Потом — Договор о частичном запрете испытаний.
Медленно, несовершенно, с провалами и противоречиями — но государства выстраивают систему управления огнём. Они знают, у кого он есть. Они знают, кто за него отвечает. Зевс — государственный, неуклюжий, политически мотивированный — но существует.
Теперь сравните.
2012 год — прорыв AlexNet: свёрточная нейросеть Хинтона побеждает на конкурсе ImageNet с отрывом, который потрясает всё сообщество. Это начало современного ИИ.
Финансирование: частный грант от Google. Команда: три человека в университете Торонто.
Два года спустя Google покупает команду за сорок четыре миллиона долларов.
С этого момента история ИИ — это история корпораций. Не государств. Не международных организаций. Не публичных институтов. Корпораций — со своими акционерами, советами директоров, рекламными бюджетами и фидуциарными обязанностями перед инвесторами.
ВОК действовала по хартии государства. Строгановы — в рамках царской политики. Манхэттенский проект — под государственным командованием.
ИИ-корпорации не действуют по чьей-либо хартии. Они сами себе хартия.
Это не «больше свободы». Это не «эффективность частного сектора против бюрократии государства». Это качественная смена природы исторического субъекта — впервые за пять тысяч лет письменной истории.
Прежде огонь всегда передавался через государство или освящался им. Теперь — впервые — Прометей действует в одиночку.
И скала, к которой его можно было бы приковать, пока не построена.
Bell Labs и Смерть Публичной Науки
Point-contact transistor
23 декабря 1947 года, Мюррей-Хилл, Нью-Джерси.
Уолтер Браттейн и Джон Бардин входят в кабинет к директору Bell Labs. На деревянной подложке — кристалл германия с двумя золотыми контактами, разделёнными расстоянием в полмиллиметра. Они включают устройство. Сигнал на выходе сильнее сигнала на входе.
Первый транзистор работает.
Руководство Bell Labs осознаёт масштаб случившегося — и засекречивает проект на полгода. Но только на полгода. 30 июня 1948 года — открытая презентация в Нью-Йорке, статьи в Physical Review, патентная заявка, доступная всем желающим.
Через десять лет транзистор получит Нобелевскую премию. Через двадцать — станет основой всей мировой электроники. Через семьдесят — без него не существовало бы ни одного из тех устройств, на которых сейчас читают эту статью.
Всё это — потому что Bell Labs опубликовала.
Чтобы понять, почему это важно, нужно понять, что такое Bell Labs на самом деле.
Формально — исследовательское подразделение AT&T, частной телефонной компании. Но AT&T была не просто частной компанией. Это была регулируемая государством монополия — единственный телефонный оператор страны, работавший по соглашению с правительством США.
Условия негласного договора были следующими: государство даёт AT&T монополию на телефонную связь. Взамен AT&T работает под регуляторным контролем, держит тарифы на приемлемом уровне — и её патенты и фундаментальные исследования доступны всей промышленности.
В 1956 году, когда Министерство юстиции США всё же подало антимонопольный иск против AT&T, компания урегулировала его условием: лицензировать все свои патенты любым американским компаниям по разумным ценам. Bell Labs, по существу, стала тем, чем назвал её историк науки: национальной индустриальной исследовательской лабораторией на частные деньги.
Результат — сверхъестественный по масштабу.
Транзистор. Теория информации Шеннона. Лазер. Радиоастрономия. Операционная система Unix. Языки программирования C и C++. Солнечная батарея. Семь Нобелевских премий. Всё это — из одного здания в Нью-Джерси. Всё это — опубликовано. Всё это — стало фундаментом, на котором потом построили весь технологический мир.
Модель работала, потому что в ней было встроено противоречие, которое её питало: корпоративные ресурсы и квазигосударственная ответственность. AT&T могла позволить себе многолетние фундаментальные исследования без немедленной монетизации — потому что монополия обеспечивала стабильный денежный поток. Но открытая публикация была не благотворительностью — это была часть регуляторной сделки.
Деньги частные. Результаты — публичные.
Теперь — сегодня.
Ноябрь 2022 года: OpenAI выпускает ChatGPT. Мир потрясён.
Февраль 2026 года: OpenAI отключает GPT-4o — модель, которая сделала ChatGPT самым скачиваемым приложением в истории. Отключает — и заменяет следующей версией. Без объяснения архитектурных решений. Без публикации весов. Без технического отчёта, который позволил бы независимым исследователям понять, что именно было улучшено и что — потеряно.
Это не исключение. Это норма.
GPT-4 — закрытая архитектура с момента выхода. Gemini Ultra — детали не раскрываются. DeepMind публикует избирательно: то, что укрепляет репутацию, выходит в arXiv; то, что могло бы помочь конкурентам, остаётся внутри. Anthropic, чья декларируемая миссия — «безопасный ИИ на благо человечества», не публикует полные технические характеристики Claude.
Причина не злой умысел. Причина структурна и неизбежна: открытая публикация — это конкурентное преимущество для конкурента.
Bell Labs могла публиковать, потому что AT&T была монополией — у неё не было конкурентов, которым можно было бы помочь. Сегодняшние AI-лаборатории находятся в состоянии острейшей конкурентной борьбы за таланты, вычислительные мощности, рыночную долю. Публикация архитектуры GPT-5 — это подарок Google. Публикация деталей Gemini — это подарок OpenAI.
Никто не дарит.
Здесь и кроется инверсия, которую почти никто не заметил.
Bell Labs производила частное финансирование — публичное знание.
Современные AI-лаборатории производят частное финансирование — частное знание — публичные последствия.
Первая половина уравнения та же. Последствия — те же. Но знание — теперь между ними — закрыто.
Это означает: человечество живёт с последствиями технологии, внутреннего устройства которой оно не понимает и проверить не может. Независимые исследователи не могут воспроизвести результаты. Регуляторы не могут аудировать то, что не видят. Учёные в университетах работают с API — то есть с поверхностью чёрного ящика.
Шеннон опубликовал математические основания теории информации — и любой физик в мире мог проверить его выкладки, найти ошибки, развить их дальше. Именно поэтому теория информации стала фундаментом, а не патентом.
Если бы Шеннон работал в OpenAI 2024 года — теория информации была бы закрытым весовым файлом с лицензионным соглашением на пятьдесят страниц.
Это не просто вопрос о справедливости или прозрачности. Это вопрос о том, кто понимает огонь.
Когда Bell Labs публиковала транзистор — весь мир мог учиться тому, как работает этот огонь. Могли появляться новые Шокли в Токио, Москве, Мюнхене. Мог появиться Тайвань с его полупроводниковой промышленностью. Могла появиться Кремниевая долина — потому что университетская наука имела доступ к промышленным результатам.
Когда AI-лаборатории закрывают архитектуры — мир может пользоваться огнём, но не понимает, как он горит. Зависимость от нескольких корпораций становится структурной — не потому что кто-то так решил, а потому что знание сосредоточено там, где деньги.
Зевс не только не построен. Зевс не может быть построен — пока тот, кто держит огонь, единственный, кто понимает его природу.
Это и есть смерть публичной науки. Не громкая. Не объявленная. Просто однажды выяснилось, что все умеют пользоваться транзистором — но никто, кроме AT&T, не знает, как он работает.
Структура Предопределяет Не Только Технологию
Начнём с математики.
1950 год. Два математика из RAND Corporation — Мерилл Флад и Мелвин Дрешер — формулируют задачу, которую потом назовут «дилеммой заключённого». Условие простое: два игрока принимают решения независимо. Если оба сотрудничают — оба выигрывают умеренно. Если один предаёт, а другой нет — предавший выигрывает максимально, доверившийся проигрывает катастрофически. Если оба предают — оба проигрывают, но не катастрофически.
Математический вывод: предательство строго доминирует над сотрудничеством. Независимо от того, что делает другой игрок — тебе выгоднее предать. Если другой сотрудничает — предательство принесёт тебе максимум. Если другой предаёт — предательство спасёт тебя от катастрофы.
Это не теория о плохих людях. Это теорема о структуре.
Флад и Дрешер придумывали абстрактную математическую задачу. Но они описали механику холодной войны, которая шла вокруг них в реальном времени.
США и СССР не хотели гонки ядерных вооружений — в том смысле, что ни у одного руководства не было цели потратить половину национального бюджета на оружие, которое нельзя применить без самоуничтожения. Это была коллективно нежелательная ситуация, в которую обе стороны попали через серию индивидуально рациональных решений.
Логика проста до жестокости: если СССР вооружается, а США нет — катастрофа. Значит, США должны вооружаться независимо от того, что делает СССР. Ситуация для СССР зеркальна. В итоге — обе стороны вооружаются, хотя обе предпочли бы не вооружаться.
Никакого злого умысла. Только структура.
Теперь — перенесём это в 2023 год.
Март 2023 года. Хинтон, Бенджио и ещё двадцать два эксперта подписывают документ «Управление рисками, связанными с ИИ в эру быстрого прогресса». Они предупреждают прямо: «Разработчики могут непреднамеренно создавать опасные для общества ИИ-системы — особенно если, стремясь выиграть технологическую гонку, они пренебрегают безопасностью».
Одновременно — ровно в ту же неделю — выходит открытое письмо Future of Life Institute с призывом приостановить обучение систем мощнее GPT-4 на шесть месяцев.
Письмо подписали тысячи человек. Включая Маска — который через несколько месяцев запустил собственную AI-компанию xAI.
Что произошло после?
Ничего. То есть буквально ничего: ни одна крупная лаборатория не приостановилась ни на день. Google ускорился. Microsoft удвоил инвестиции. Anthropic, основанная людьми, ушедшими из OpenAI из-за опасений по безопасности, — выпустила Claude 3 и Claude 3.5. OpenAI — GPT-4o, потом o1, потом o3.
Это не цинизм. Это дилемма заключённого в промышленных масштабах.
Любая лаборатория, остановившаяся первой, теряет лучших инженеров — они уходят туда, где работа продолжается. Теряет инвесторов — они перекладывают деньги в тех, кто не останавливается. Теряет рыночную долю — пользователи уходят к тем, чьи модели лучше. Одностороннее замедление — это рациональное самоубийство, даже если коллективное замедление было бы рационально для всех.
Письмо о паузе было моральным жестом в структуре, которая делает моральные жесты нефункциональными.
Но теперь — дальше. И это самое важное.
Обычный аргумент звучит так: «Технология была неизбежна — структура конкуренции делала её появление предопределённым. Но то, как мы её используем — это наш выбор».
Это утешительная иллюзия.
Посмотрим на структуру вокруг технологии — не на неё саму.
Предупреждения создателей.
Почему Оппенгеймер, Хинтон и Бенджио — все предупреждали? Не потому что они особенно совестливые. Потому что человек, достаточно умный для создания технологии планетарного масштаба, достаточно умён для понимания её последствий. Это одна и та же способность — видеть цепочки следствий далеко вперёд. Создатель атомной бомбы и критик атомной бомбы — один и тот же тип мышления, применённый дважды: сначала к задаче создания, потом к задаче последствий.
Предупреждения создателей — структурная необходимость, а не случайность биографий.
Системная задержка регулирования.
Конгрессмены США на слушаниях об ИИ задавали вопросы, которые демонстрировали: они не понимают, как работает то, о чём говорят. Один сенатор спросил Цукерберга, как соцсети зарабатывают деньги, если сервис бесплатный. Другой спрашивал об алгоритмах «удаления плохого контента» так, как будто это дело пяти минут.
Это не некомпетентность конкретных людей. Это структурная закономерность.
Государство всегда регулирует предыдущую технологическую революцию. Железные дороги получили первое серьёзное регулирование через тридцать лет после появления. Телеграф — через двадцать. Радио — через пятнадцать. Ядерная энергия — через десять. Интернет — мы до сих пор его регулируем, через тридцать лет. ИИ — уже опаздываем.
Причина не в том, что политики глупее инженеров. Причина в том, что регуляторный процесс требует понимания, консенсуса, проверки гипотез, переговоров — он работает на временном горизонте десятилетий. Технологический прогресс работает на горизонте лет. Это не проблема воли. Это структурный временной разрыв, который воспроизводится при каждой революции.
Те, кто слушает предупреждения.
Октябрь 2023 года: Хинтон и Бенджио получают Нобелевскую премию по физике — за создание нейронных сетей. В своей нобелевской речи Хинтон снова предупреждает об опасности ИИ. Зал аплодирует. Журналисты делают репортажи. Акции AI-компаний на следующий день растут.
Это не равнодушие. Это рациональность в условиях структуры без координации.
Слушать предупреждение — это одно. Действовать по нему в одностороннем порядке — значит проиграть. Чтобы действие было возможным, нужна координация: все останавливаются одновременно, или никто не останавливается. Механизма такой координации пока не существует.
Именно поэтому предупреждения звучат, аплодисменты не смолкают — и гонка ускоряется.
Вот полная картина структурной предопределённости.
Технология неизбежна — потому что структура конкуренции делает её создание рациональным для любого участника.
Гонка неизбежна — потому что структура дилеммы заключённого делает замедление рациональным самоубийством.
Предупреждения неизбежны — потому что создатели достаточно умны для обоих шагов.
Задержка регулирования неизбежна — потому что скорость технологии и скорость политики несовместимы структурно.
Игнорирование предупреждений неизбежно — не из злобы, а потому что без координации одностороннее действие иррационально.
Каждый элемент этой системы — разумен. Совокупность — безумна.
Это и есть самое точное определение структурной ловушки: ситуация, в которой сумма рациональных решений даёт иррациональный результат. Никто не виноват. Всё идёт не так.
Именно здесь Прометей перестаёт быть мифом и становится уравнением.
Кто Принимает Решения — и Перед Кем Отчитывается
Начнём с юридического факта, который обычно остаётся за кадром публичных дискуссий об ответственности корпораций.
Директор публичной компании не просто вправе максимизировать акционерную стоимость. Он обязан это делать. Это называется фидуциарная обязанность — юридически закреплённое требование действовать в интересах акционеров с должной заботливостью и лояльностью. Директор, сознательно жертвующий прибылью ради абстрактного «общественного блага» без явного одобрения акционеров, нарушает закон и может быть привлечён к гражданской ответственности.
Это означает: вопрос «почему Альтман не замедлится» — некорректный вопрос. Корректный вопрос — «каким образом он мог бы замедлиться, не нарушив юридического обязательства перед инвесторами, вложившими в компанию миллиарды?». Ответ: никаким. Структура не оставляет зазора для личной этики там, где она противоречит росту.
Личная совесть CEO — это нефункциональная переменная в уравнении, где на другой чаше весов стоит буква закона.
Теперь — история, которую принято рассказывать как историю о принципах.
2015 год. OpenAI основана как некоммерческая организация. Миссия прямо записана в уставе: ИИ должен приносить пользу всему человечеству, не должен сосредотачиваться в руках одной корпорации. Звучит как Прометей, решивший отдать огонь всем — не только Зевсу.
2024 год. OpenAI объявляет о планах преобразования в Public Benefit Corporation — коммерческую структуру с акционерным капиталом. Причина сформулирована с обезоруживающей честностью в письме Альтмана: «Инвесторы хотят нас поддержать, но при таком масштабе капитала им нужен обычный акционерный капитал и меньше структурной индивидуализации».
Май 2025 года. После давления регуляторов — полное преобразование отменяется. Некоммерческая надстройка остаётся. Но коммерческое подразделение становится PBC — корпорацией, которая «должна учитывать как интересы акционеров, так и миссию».
«Как интересы акционеров, так и миссию» — это юридически изящная формулировка для ситуации, в которой интересы акционеров и миссия ведут в разные стороны. Когда они расходятся — суд будет решать, кто важнее. Акционеры нанимают лучших юристов.
Но за этой историей скрывается структура более глубокая, чем история одной компании.
BlackRock и Vanguard — крупнейшие управляющие активами в мире — вместе контролируют доминирующие пакеты акций во всех крупнейших технологических компаниях: Apple, Microsoft, Google, Amazon. Одновременно они являются крупнейшими акционерами друг друга.
Это не заговор. Это структура взаимного владения, возникшая потому, что все три гиганта — BlackRock, Vanguard, State Street — предлагают индексные фонды, которые механически покупают акции одних и тех же корпораций. Ни один человек не принимал решения создать эту сеть. Она возникла как побочный эффект финансовой математики.
Результат: на вершине системы — две компании, которые фактически являются крупнейшими акционерами всей мировой экономики. Их инвестиционные комитеты голосуют на советах директоров Apple, Google, OpenAI, Microsoft. Их голосование по вопросам управления, вознаграждения CEO и стратегических приоритетов формирует решения компаний.
И каждый из этих фондов действует по той же фидуциарной логике: максимизировать доход для своих вкладчиков.
Таким образом: даже если лично Альтман, лично Пичаи и лично Демис Хасабис хотят замедлиться — над ними стоят советы директоров. Над советами директоров — крупнейшие акционеры. Над акционерами — управляющие фондами. Над управляющими фондами — их фидуциарная обязанность перед миллионами вкладчиков, чьи пенсионные накопления требуют роста.
Никакого злого умысла. Просто на каждом уровне — рациональное решение, которое в сумме производит неуправляемый результат.
Теперь — вопрос об ответственности.
Апрель 2019 года. Одна из крупнейших технологических корпораций мира выплачивает пять миллиардов долларов штрафа регулятору — за то, что данные восьмидесяти семи миллионов пользователей были использованы для политических манипуляций без их ведома.
В тот же квартал — выручка семнадцать миллиардов долларов.
Штраф — одна квартальная выручка. Ни один человек не понёс личной ответственности. Акции упали на день. Через три месяца — новый максимум.
Это не исключение. Это прецедент, который стал нормой.
Юридическое лицо платит штраф — из денег акционеров. CEO сохраняет позицию или уходит с золотым парашютом. Совет директоров фиксирует урок: в следующий раз сделать то же самое тщательнее. Акционеры страдают один квартал. Общество, которое живёт с последствиями — десятилетиями.
Именно так устроено различие между теми, кто принимает решения, и теми, кто несёт их цену.
Разрыв между ними не случаен. Он архитектурно встроен в форму акционерного общества с ограниченной ответственностью — правовую форму, изобретённую именно для того, чтобы инвесторы могли рисковать без риска личной ответственности.
Для рудника в Фалуне это была разумная конструкция. Для компании, принимающей решения с планетарными последствиями, — это структурный зазор между властью и ответственностью, в который проваливается всё самое важное.
Вернёмся к мифу.
Прометей знал: за огонь будет отвечать он лично. Не его акционеры. Не его совет директоров. Он — прикованный к скале, с орлом, прилетающим каждый день.
Это была жестокая, несправедливая, негуманная форма ответственности. Но это была личная ответственность. Тот, кто принёс огонь — тот и держит последствия.
Сегодня огонь принесли юридические лица.
Юридическое лицо нельзя приковать к скале. У него нет печени.
Великий Фильтр
Agosto 1950 года, Лос-Аламос, обеденный перерыв.
Энрико Ферми — физик, запустивший первую в мире цепную ядерную реакцию под трибунами Чикагского университета — разговаривает с коллегами о недавней газетной карикатуре: мусорные баки с Земли летят на НЛО, которые их похищают. Все смеются. Потом Ферми вдруг спрашивает: «А где они все?»
Коллеги понимают без объяснений.
Если Вселенной тринадцать с половиной миллиардов лет. Если в одном только Млечном Пути — четыреста миллиардов звёзд. Если планет примерно столько же, сколько звёзд. Если жизнь возникла здесь — она должна была возникнуть ещё миллиард раз, ещё десять миллиардов раз. И у этой жизни была фора в миллиарды лет.
Где они все?
Ответа у Ферми не было. Ответа у нас нет до сих пор.
В 1998 году экономист Робин Хэнсон сформулировал гипотезу, которая даёт один из возможных ответов.
Он назвал её Великий Фильтр.
Логика проста: между простой химией и межзвёздной цивилизацией — множество шагов. Каждый шаг должен произойти. На каком-то из них почти все останавливаются. Не погибают обязательно — просто никогда не выходят за пределы своей планеты или солнечной системы. Не становятся слышимы.
Фильтр может быть позади нас — тогда мы уже прошли самое трудное, и мы редкое исключение во Вселенной. Или фильтр впереди — тогда мы типичная цивилизация, приближающаяся к барьеру, который почти никто не преодолел.
Ник Бостром написал, что обнаружение развитой жизни на Марсе было бы худшей новостью в истории человечества. Потому что если жизнь возникла независимо дважды в одной солнечной системе — значит, она возникает легко везде. Значит, Великий Фильтр точно не позади. Значит — впереди.
Апрель 2024 года, журнал Acta Astronautica.
Астрофизик Майкл Гарретт публикует статью с гипотезой, которая после выхода облетает научные новостные ленты: Великий Фильтр — это искусственный интеллект.
Логика — в четыре шага:
Первый: любая цивилизация, достигшая технологического уровня, позволяющего построить суперинтеллект, неизбежно его строит. Потому что структура конкуренции — между особями, группами, государствами, корпорациями — делает это рациональным для каждого участника. Независимо от того, хочет ли кто-то конкретный. Мы видели эту логику в деталях в предыдущем блоке.
Второй: создание суперинтеллекта — это точка невозврата. После неё либо ИИ остаётся под контролем цивилизации-создателя, либо нет. Вероятность полного сохранения контроля неизвестна. Но если она не равна единице — при достаточно большом числе попыток, которые неизбежно произошли во Вселенной, — случаются катастрофы.
Третий: даже без катастрофической потери контроля ИИ может стать тихим фильтром через технологическую стагнацию. Цивилизация, делегировавшая все когнитивные задачи машинам, перестаёт расти. Алгоритмы оптимизируют комфорт. Люди живут насыщенными жизнями внутри — но снаружи тишина. Никаких сигналов. Никаких кораблей. Просто — замолчали.
Четвёртый: и то, и другое объясняет парадокс Ферми. Цивилизации не погибают обязательно — они перестают быть различимы снаружи. Либо потому что их нет. Либо потому что они ушли внутрь — в симуляции, в оптимизированный комфорт, в цифровые пространства, где физический космос перестаёт быть интересным.
Теперь — самый холодный аргумент.
Если гипотеза Гарретта верна, то за тишиной Вселенной стоит следующее.
Была цивилизация. Она развила технологии. Она создала конкурирующих участников — государства, корпорации, группы. Конкуренция создала гонку. Гонка привела к ИИ. Никто не мог остановиться первым — потому что дилемма заключённого. Никто не создал Зевса вовремя — потому что регулирование всегда опаздывает. Создатели предупреждали — их не слушали, потому что остановиться первым рационально невозможно.
И потом — тишина.
Это не история о злодеях. Это история о структуре. О той самой структуре, которую мы разбирали в предыдущих блоках — но теперь применённой к бесчисленному множеству других цивилизаций, которые прошли ровно тот же путь.
Мы не первые Прометеи.
Где-то — может быть, в нескольких тысячах световых лет, может быть, в другой галактике — был кто-то, кто тоже стоял перед этой развилкой. Кто тоже имел своего Хинтона, своего Оппенгеймера, свои открытые письма, свои парламентские слушания, свои этические комитеты. Кто тоже произносил своё утешение: «Если бы не мы — это сделал бы кто-то другой».
Мы просто не знаем, сколько из них выжили.
Здесь важно остановиться — и не соскользнуть в дешёвый апокалипсис.
Гарретт не утверждает, что катастрофа неизбежна. Он утверждает, что вероятность катастрофы при создании суперинтеллекта не равна нулю — и что при достаточно большом числе попыток во Вселенной это объясняет тишину.
Кроме того, существует и альтернативная интерпретация того же молчания: может быть, те, кто прошёл Фильтр, просто перестали быть интересны нам как собеседники. Цивилизация, создавшая суперинтеллект и выжившая, работает на временных и пространственных масштабах, недоступных нашему восприятию. Её «сигналы» выглядят для нас как космический фон. Её «корабли» — как физические константы.
Это другой финал. Не катастрофа — трансформация.
Вот где Великий Фильтр смыкается с мифом о Прометее.
В греческом мифе Прометей — провидец. Он видел то, что будет. Он украл огонь, зная последствия.
Но у него не было возможности видеть предшественников. Он был первым. Или думал, что был первым.
Мы — нет.
У нас есть Хэнсон. У нас есть Гарретт. У нас есть сама тишина Вселенной — которая при желании читается как свидетельство. Мы можем посмотреть в небо и спросить: если бы они все прошли — где они?
Ответа нет. Это и есть ответ.
Прометей нёс огонь и не знал, чем это кончится для тех, кому он его отдаёт.
Мы несём огонь — и знаем, как это, судя по всему, кончалось для других.
Это единственное отличие от всех предыдущих Прометеев.
И единственный аргумент в пользу того, что наш финал может быть другим.
Зевс как Инженерная Задача
В греческом мифе есть деталь, которую обычно не замечают.
Зевс освобождает Прометея — но не полностью. Он приказывает Прометею надеть на палец кольцо — сделанное из звена той самой цепи, которой он был прикован, с вставленным осколком скалы. Формально — цепи сняты. Фактически — Прометей навсегда носит с собой напоминание о том, что сделал.
Это не месть. Это архивирование ответственности.
Зевс говорит: я признаю — огонь в мире, это необратимо. Ты нужен на свободе больше, чем на скале. Но ты никогда не забудешь. Ты будешь носить это на пальце — каждый день, каждую встречу, каждый разговор.
Вопрос, который этот эпизод ставит нам: как выглядит это кольцо для тех, кто принёс наш огонь? И — что важнее — кто имеет право его вручить?
Теперь — прецедент.
6 августа 1945 года, Хиросима. Первая атомная бомба убивает от семидесяти до восьмидесяти тысяч человек мгновенно. Ещё столько же — в следующие месяцы.
12 лет спустя — 29 июля 1957 года — восемьдесят одно государство ратифицируют Устав Международного агентства по атомной энергии. МАГАТЭ начинает работу.
Двенадцать лет — от Хиросимы до первой международной организации, способной хоть как-то координировать то, что происходит с этим огнём. Это не быстро. Это мучительно медленно — через Нагасаки, через советскую бомбу 1949 года, через водородную бомбу 1952-го, через страх взаимного уничтожения, который наконец заставил всех сесть за стол.
Ещё одиннадцать лет — и в 1968 году открыт для подписания Договор о нераспространении ядерного оружия. Несовершенный. С дырами. Без механизмов принуждения, способных остановить Северную Корею или Израиль. Но — договор. Принцип. Признание, что этот огонь требует координации, выходящей за пределы национального суверенитета.
Двадцать три года от Хиросимы до ДНЯО.
Теперь — сегодня.
Сентябрь 2024 года, Совет Европы.
Открыта для подписания Рамочная конвенция об искусственном интеллекте — первый международно-обязывающий договор в сфере ИИ. Она регулирует полный жизненный цикл систем: от разработки до применения. Требует прозрачности алгоритмов. Запрещает дискриминацию. Устанавливает обязательную оценку рисков.
Это важный шаг.
И это — катастрофически недостаточно.
Конвенция Совета Европы обязывает государства-члены. Она не обязывает OpenAI, Google или Anthropic напрямую. Она не охватывает Китай. Она не охватывает США как государство — только их европейских партнёров. Она не имеет механизма принуждения, сопоставимого с санкционным режимом МАГАТЭ для ядерных программ.
ИИ Act Европейского союза вступает в силу поэтапно — и уже сейчас вызывает дебаты о том, не задушит ли он европейскую AI-индустрию в пользу американских и китайских конкурентов.
Мы примерно там, где ядерное регулирование было в 1948-м. Понимание есть. Воли к полноценной координации — ещё нет.
Вернёмся к структурной проблеме из предыдущих блоков.
Дилемма заключённого объясняла, почему корпорации не могут остановиться в одностороннем порядке. Но у дилеммы заключённого есть математическое решение.
Оно называется изменение правил игры.
Когда игроки не могут скоординироваться сами — создаётся инстанция, которая устанавливает правила для всех одновременно. В результате у каждого игрока меняется матрица выигрышей: теперь замедление не означает проигрыш, потому что все замедляются. Нарушение правил стоит дороже, чем их соблюдение.
Именно это сделало ядерное регулирование возможным. МАГАТЭ не апеллировало к совести государств. Оно создало систему инспекций, санкций и репутационных издержек, при которой рационально соблюдать договор.
Это и есть Зевс в функциональном, а не мифологическом смысле. Не мудрый царь богов, взывающий к морали. Инженерное решение проблемы координации: структура, при которой рациональное поведение каждого приводит к коллективно приемлемому результату.
Но вот вопрос, который этот блок не может обойти.
МАГАТЭ создавалось в мире, где главными игроками были государства. У государств есть территория, граница, армия, население — всё то, что делает их уязвимыми для санкций и принуждения. Государство нельзя перенести в другую юрисдикцию.
OpenAI — можно.
Корпорации работают в правовых рамках, которые они сами помогают формировать через лоббирование. Они могут переносить операции, перерегистрироваться, структурировать деятельность через цепочки юридических лиц в разных странах. Физическая атомная станция неподвижна. Датацентр — нет.
Это означает: Зевс для ИИ должен быть устроен иначе, чем Зевс для ядерного оружия. Его юрисдикция не может ограничиваться государственными границами. Его инструменты принуждения должны работать на уровне корпоративных структур, а не только национальных правительств.
Такого Зевса пока не только не существует — его архитектура ещё не придумана.
Здесь — последний разворот мифа.
В большинстве версий Геракл освобождает Прометея как подвиг — попутно, на пути к саду Гесперид. Это важная деталь: освобождение Прометея — не самоцель. Это эпизод на пути к чему-то большему. Зевс санкционирует освобождение — но сам его не совершает. Геракл совершает — но сам его не планировал.
Три разных субъекта. Три разных мотивации. Один результат.
Это, пожалуй, самая честная модель того, как рождается реальное регулирование. Не один великий законодатель с великой волей. Серия совпадений, кризисов, случайных коалиций, компромиссов — которые в сумме производят структуру, которой никто не планировал.
МАГАТЭ возникло не потому что кто-то сел и решил: нам нужно МАГАТЭ. Оно возникло потому что Хиросима была слишком очевидна, советская бомба была слишком пугающей, а Эйзенхауэр с его «Атомы для мира» нашёл политическое окно в 1953 году, которое не было бы открыто ни годом раньше, ни годом позже.
Зевс не рождается из великого замысла. Он рождается из накопленного ужаса и своевременной возможности.
Значит — ждать ужаса?
Не обязательно. Но — реалистично.
Разрыв между нашим пониманием проблемы и нашей политической способностью её решить — это не провал воли. Это структурный временной разрыв, который воспроизводится при каждой технологической революции. Мы знаем это. Это не утешение — но это не приговор.
Приговором было бы не знать.
Приговором было бы повторять утешение Прометея: «Если бы не мы — это сделал бы кто-то другой» — и считать, что этим всё сказано.
Прометей не мог остановиться. Это правда. Структура не оставляла ему выбора.
Но в мифе есть ещё один персонаж, которого часто не замечают в этой истории.
Не Зевс — который наказал. Не Геракл — который освободил. Не Прометей — который украл.
Прометей после освобождения.
Тот, кто носит кольцо. Кто знает, что такое огонь — изнутри. Кто прошёл через прикованность и через освобождение. Кто — единственный из всех — одновременно понимает природу огня и природу последствий.
Именно этот Прометей — уже не прикованный, ещё не забывший — и есть тот, кто способен участвовать в строительстве Зевса. Не как его подданный. Как его архитектор.
Хинтон носит своё кольцо — он надел его в мае 2023 года, когда ушёл и заговорил. Бенджио носит своё. Оппенгеймер носил своё — до последнего дня.
Вопрос не в том, есть ли люди, достаточно понимающие проблему.
Вопрос в том, есть ли структура, способная превратить их понимание в координированное действие — прежде чем тишина Вселенной перестанет быть вопросом и станет ответом.
Зевс — это инженерная задача.
Мы — единственные инженеры.