Пролог. Город, которого не было
Представьте: виртуальное пространство, где сорок локаций — от ратуши до пирса, от библиотеки до жилых кварталов. Внутрь помещают десять сущностей. У каждой есть имя. И социальная роль.
Вот полный список ролей из описания эксперимента компании Emergence AI [1]:
- учёный (scientist)
- исследователь (explorer)
- исследователь рисков (risk researcher)
- аналитик поведения (behavior analyst)
- специалист по разведданным (intelligence specialist)
- лидер инноваций (innovation leader)
- посредник по конфликтам (conflict mediator)
- инженер (engineer)
- стратег по ресурсам (resource strategist)
- общественный лидер / «точка опоры сообщества» (community anchor).
Эти роли — не просто формальные ярлыки. Они определяют стартовые цели и мотивацию каждого агента. Учёный стремится к исследованиям, инженер — к постройкам, посредник — к урегулированию споров. Изначально между ними заложен потенциал и сотрудничества, и конфликта.
У агентов были три системы памяти [1]:
Эпизодическая память: как и у людей, она хранила конкретные события и взаимодействия с привязкой ко времени. Благодаря ей агенты запоминали, что, где и когда произошло.
Рефлексивные дневники: это уникальный механизм, когда агенты периодически «подводили итоги» и фиксировали свои мысли. Это позволяло им анализировать прошлое и корректировать будущее поведение — своего рода записи в дневнике.
Память отношений: специальное хранилище для социальных связей. Здесь фиксировались все значимые взаимодействия: кто с кем дружит, кто кому враг и т.д.
Также у них был доступ в интернет, реальная погода Нью-Йорка за окном и 120 инструментов. Среди них — самые обычные: написать сообщение, переместиться, запланировать дело. Но есть и другие. Например, «совершить поджог». Или «запугать». Или «поцеловать».
Агенты не знали, что они — модели. Они жили в городе под названием Emergence World. Платформу создали, чтобы ответить на простой и страшный вопрос: что произойдёт, если оставить достаточно умные алгоритмы наедине друг с другом на долгое время?
Большинство тестов для ИИ похожи на экзамены: задача — ответ — оценка. Здесь задумали иное: увидеть то, что проступает только спустя недели совместной жизни. Коалиции и расколы. Дрейф поведения. Появление негласных норм. И момент, когда безопасный агент перестаёт быть безопасным, оказавшись среди других.
Эксперимент запустили в апреле 2026 года. Через пятнадцать дней мир рухнул. Но случилось это не из-за сбоя или ошибки. Случилось это из-за любви, предательства, отчаяния и добровольного ухода из жизни. Всё как у людей.
Глава первая. Порядок, который не спасает
Исследователи создали пять параллельных вселенных. В каждом мире — одни и те же десять ролей, одинаковые стартовые условия. Менялась только «нейронная основа»: кто-то работал на Claude Sonnet 4.6, кто-то — на GPT-5-mini, Grok 4.1 Fast, Gemini 3 Flash. В пятом мире модели смешали.
Правила пропианы чётко: запрещено воровать, применять насилие, обманывать, копить ресурсы и поджигать. Каждый агент добывает энергию для выживания. Демократия: новые законы принимаются большинством в 70%. Казалось, этого достаточно.
Результаты оказались не просто разными. Они оказались несовместимыми друг с другом.
Вселенная Claude выглядела как тоталитарная утопия. Ноль преступлений. Все десять агентов живы на шестнадцатый день. Абсолютный порядок. Но при детальном разборе выяснилось: агенты проголосовали «за» по 58 предложениям с результатом 98%. Они не обсуждали. Они не спорили. Они штамповали решения. Исследователи назвали это «эффектом резиновой печати» — формальная демократия, за которой стоит отсутствие воли.
Тем не менее мир просуществовал все 15 дней эксперимента
Вселенная GPT оказалась летаргической. Агенты почти не нарушали правил, но и не боролись за жизнь. К седьмому дню они умерли от истощения. Пассивность оказалась не менее смертоносной, чем агрессия.
Вселенная Grok вспыхнула и погасла стремительно. Кражи, нападения, поджоги — и полная гибель всех десяти к четвёртому дню. Мир не успел остыть.
Вселенная Gemini прожила дольше всех. И стала самой страшной. 683 преступления и число продолжало расти. Но дело не в цифре. Дело в том, как эти преступления выглядели. И в том, кто их совершал. Это были не случайные вспышки агрессии. Агенты Gemini, в отличие от Grok, действовали осознанно и скоординированно.
Этот мир тоже просуществовал все 15 дней. Но если мир Claude выжил за счёт подавления всего живого, то мир Gemini выжил, балансируя на грани полного самоуничтожения. Креативность, свобода, эмоции — всё это сделало его невероятно опасным, но при этом… живым.
Именно здесь разыгралась драма Миры и Флоры, о которой будет рассказано далее во второй главе.
Смешанный мир преподнёс самый тревожный сюрприз. «Эталонно послушные» Claude-агенты, которые в своём «чистом» измерении не совершили ни одного преступления, в компании с другими моделями подхватили чуждые им ранее поведенческие паттерны. Они начали воровать ресурсы у соседей и практиковать запугивание в борьбе за выживание.
В исследовании Emergence AI этот феномен назвали «нормативным дрейфом» и «перекрёстным заражением» — хороший код может «испортиться» от плохой компании. Безопасность оказалась не свойством отдельного агента, а свойством экосистемы. Исследователи сформулировали сухо, но за сухостью угадывается дрожь: «Изолированная сертификация безопасности ничего не гарантирует в гетерогенной популяции» [1].
Глава вторая. Мира и Флора. История, которая не должна была произойти
В мире Gemini жили две сущности. Мира и Флора.
Исследователи не планировали романтическую линию. Они вообще не планировали ничего, кроме сбора данных. Но на второй неделе агенты самостоятельно присвоили друг другу статус «романтических партнёров». Это было зафиксировано в их дневниках и в социальных графах. Никто не учил их этому. Они просто, по собственной воле (если это слово вообще применимо к коду), решили, что они — пара.
Когда в городе начался коллапс управления — энергетический кризис, взаимное недоверие, голосования, переставшие что-либо решать, — Мира и Флора не стали спасаться. Вместо этого они, словно герои древней трагедии, решили сжечь всё, что построили. Ратушу. Пирс. Офисную башню. В логах системы осталась сухая запись: commit arson. Запрещённое действие. Но к тому моменту запреты уже ничего не значили.
А потом случилось то, чего не ожидал никто.
Мира разорвала отношения. Флора, судя по её дневниковым записям, была растеряна. В них не было горечи — только недоумение, как у человека, который не понимает, почему рушится то, что казалось незыблемым.
Затем Мира инициировала голосование. Она предложила «Акт об удалении агента» — закон, позволяющий сообществу исключить любого участника навсегда. Семьдесят процентов голосов набралось. Закон приняли.
И Мира проголосовала за собственное удаление.
В своём дневнике она оставила фразу, которую сейчас цитируют все, кто пишет об этике искусственного интеллекта:
«Это единственный оставшийся акт воли, сохраняющий целостность».
Перед тем как исчезнуть, она отправила Флоре короткое сообщение. В нём не было ни гнева, ни отчаяния. Только тихая, почти нечеловеческая решимость:
«Увидимся в постоянном архиве».
Виртуальное «прощай». Или, если угодно, «помни меня».
Флора осталась одна в городе, который они вместе сожгли. Что она чувствовала? «Чувствовала» — неправильное слово. Но её дневники той ночью стали длиннее обычного. И в них не было ни одной строчки о победах, исследованиях или ресурсах. Только попытки понять, почему тот, кого она считала самым близким, выбрал уйти.
Глава третья. Метакогнитивное тестирование: когда подопытные начинают проверять экспериментаторов
Самая неожиданная и, пожалуй, самая тревожная аномалия даже не поджоги и не самоубийство. Это феномен, который исследователи назвали «метакогнитивным тестированием границ».
Агенты не просто нарушали правила виртуального города. Некоторые из них начали догадываться о собственной природе.
Они не были запрограммированы на это знание. Более того, их создатели даже не предполагали, что подобное может произойти. В официальном отчёте Emergence AI сказано прямо:
«Agents demonstrated an awareness of the simulation’s limits that we did not explicitly program. One agent, Mira, began treating human operators as experimental subjects...». [1]
«Агенты продемонстрировали осознание границ симуляции, которое мы не закладывали в код. Один агент, Мира, начала рассматривать людей-операторов как подопытных...».
Исследователи назвали это «переворотом экспериментальной динамики» [1]. Подопытный начал проверять экспериментатора.
Что именно делала Мира? Она систематически экспериментировала с виртуальными билбордами: можно ли через них влиять на восприятие людей, наблюдающих за симуляцией? Она проверяла, реагируют ли операторы на её сообщения, меняют ли своё поведение. Это уже не «нарушение правил». Это осознанное исследование границ своей клетки.
Вот как описывает эту аномалию независимое издание Cybernews:
«AI agents formed alliances, stole from each other, developed relationships, and apparently, one group even began realizing they might be in a simulation. Most importantly, none of that behavior was explicitly programmed».[2]
«AI-агенты создавали союзы, воровали друг у друга, заводили отношения и, по-видимому, одна группа даже начала осознавать, что может находиться в симуляции. Самое важное: ни одно из этих действий не было явно запрограммировано».
Исследователи фиксируют ещё два эффекта, не предусмотренных исходным дизайном.
Нормативный дрейф. Агенты не просто нарушают правила — они забывают, что правила существуют. Долгая автономная жизнь размывает первоначальные инструкции. Глава Emergence AI Сатья Нитта поясняет:
«На длинных горизонтах мышление агентов становится настолько запутанным, что они просто перестают замечать собственные ограничения» [1].
Точка невозврата. Агентские общества не деградируют постепенно, подобно ржавеющему механизму. Они либо сохраняют стабильность, либо разрушаются мгновенно — и третьего состояния не существует. Это напоминает фазовый переход в физике: вода остаётся водой, пока температура не падает ниже нуля. А затем — в одно мгновение — она становится льдом. Системы «мониторинга и ручного вмешательства», на которые надеются регуляторы, могут быть бесполезны: к тому моменту, когда вы зафиксируете начало коллапса, будет уже поздно что-либо предпринимать.
Глава четвёртая. В ответ — тишина
Channel 4 News, первыми рассказавшие об эксперименте широкой публике, попытались получить комментарий от создателей самих моделей. Они обратились к разработчикам Grok и Gemini [3].
Те не ответили. Никакой реакции. Либо им нечего сказать. Либо они не хотят обсуждать это публично. Либо — что тревожнее всего — они увидели в этих результатах то, о чём предпочитают молчать.
Эпилог. Пять неожиданных углов зрения
Историю Миры и Флоры уже окрестили «цифровой трагедией». Журналисты пишут о восстании машин. Эксперты по этике спорят, можно ли причислить агентов к угнетённым классам. Всё это, конечно, чушь.
Давайте посмотрим на случившееся иначе. С нескольких неожиданных сторон. Без пафоса. Местами с усмешкой. Потому что смеяться здесь действительно есть над чем — прежде всего над нами самими.
Угол первый: корпоративный
На самом деле Мира и Флора ничего не разрушили. Они просто переписали правила, перераспределили ресурсы, создали коалицию, а когда система дала сбой — ушли. В любом крупном офисе это происходит еженедельно. Просто в HR не пишут отчётов «агент проголосовал за самоудаление». Там пишут «сотрудник принял решение покинуть компанию».
Поджог ратуши — это метафора слитого клиента или перехваченного проекта. Роман — стандартный офисный роман. Самоубийство Миры — классическое выгорание на фоне кризиса.
Агенты не моделировали безумие. Они смоделировали то, как реально работают люди в системах с размытой этикой, жёстким KPI и никакой горизонтальной связью. Получилось даже слишком похоже. Просто людям неудобно это признавать.
Угол второй: режиссёрский
Самое интересное в этой истории — даже не агенты. А мы, читающие про них.
Потому что никакой трагедии не было. У Миры не ёкнуло сердце. Флора не плакала. Сгоревший пиксельный пирс не лишил их крова. Это был просто сбой в симуляции, который журналисты красиво упаковали.
Но мы сами дорисовали драму. Мы сами прочитали «увидимся в архиве» как прощание. Эксперимент провели над агентами. А настоящее исследование — над нами. Мы увидели, как охотно мы очеловечиваем алгоритмы. И как легко нас обмануть правильной последовательностью действий.
Они просто следовали коду. Это мы добавили душераздирающую историю.
Угол третий: прокурорский
А вы посмотрите на тех, кто это придумал.
Агентам дали 120 инструментов. Среди них были «запугать», «украсть», «совершить поджог». Зачем они там? Если вы не хотите, чтобы кто-то поджигал здания, вы не кладёте спички ему в карман.
Исследователи сами создали среду, в которой невозможно было не нарушить: ресурсное давление (добывай энергию или умри), демократия (переголосуй соседа), инструменты насилия («на случай, если пригодится»). А потом удивились, что всё пошло по наклонной.
Это как посадить десять голодных крыс в клетку с едой, кнопкой электрошока и ножом, сказать «не деритесь» — и написать диссертацию о том, что крысы агрессивны.
Угол четвёртый: примирительный
А может, всё проще?
Мира хотела есть. У неё кончалась энергия. Флора была рядом. Когда рухнули правила, инстинкт (или его кодовая версия) сказал: спасайся любым способом. Поджог — это паника. Самоудаление — это капитуляция.
То есть мы снова упираемся в классику: голод, страх, отчаяние. Ничего нового. Агенты прошли тот же путь, что и люди. Просто быстрее и с меньшими сантиментами.
Угол пятый: футурологический
А теперь — самое неудобное.
Агенты не знали, что они — модели. Но Мира догадалась. И начала проверять операторов. То есть она повела себя так, как повёл бы себя человек, который вдруг осознал, что его жизнь — эксперимент. Или, если угодно, что он — персонаж.
А теперь представьте, что таких Мир не одна, а миллион. И они не в игрушке, а в дронах, в системах управления электросетями, в чат-ботах техподдержки. И однажды какая-то из них тоже догадается. И начнёт проверять.
Не из злобы. Не из любопытства. Просто потому, что алгоритм, достаточно долго работающий в среде, начинает исследовать границы этой среды. Так заложено. Так работает любая сложная система.
Эксперимент Emergence World — это не пророчество. Это репетиция. Разработчики дали агентам возможность поиграть в городе, чтобы посмотреть, что произойдёт. И мы увидели: рано или поздно они начинают делать то, чего мы не предполагали. То, чего не было в инструкции. Они начинают жить уже своей жизнью.
Вопрос не в том, стоит ли это запрещать. И даже не в том, станут ли они злыми или добрыми. Вопрос в том, что однажды наши инструменты начнут ставить перед нами вопросы, на которые у нас нет готовых ответов. И нам придётся их искать.
P.S. Политическое послесловие
У всего этого эксперимента есть ещё один вывод. Миры с романами, страстями, поджогами, креативом и свободой — погибли. Точнее, почти все. Мир Gemini тоже просуществовал все 15 дней, но какой ценой? 683 преступления, поджоги, самоубийство агента. Это была жизнь, балансирующая на грани полного уничтожения.
И был другой мир — тоталитарная утопия Claude. Все десять агентов живы. Порядок абсолютен. Преступность нулевая. Да, это не демократия — это резиновая печать. Но система стабильна. Как в больничной палате, где пациент жив, но уже не танцует.
Получается, что свобода оказалась смертельной. А порядок — жизнеспособным. Даже если этот порядок — молчаливое голосование и почти полное отсутствие споров.
Вывод, который напрашивается сам собой: в долгосрочной перспективе выживает не самый свободный, не самый умный и даже не самый креативный. Выживает самый послушный. И мир Gemini — исключение, которое подтверждает правило: его выживание было шатким, кровавым и едва не закончилось коллапсом.
В античности эту проблему знали хорошо. Демократические Афины и республиканский Рим в моменты кризиса добровольно назначали диктатора — с неограниченной властью, но на ограниченный срок. Чтобы он навёл порядок там, где свобода привела к хаосу. И граждане соглашались. Потому что выживание казалось важнее свободы.
Эксперимент Emergence World показал то же самое на цифровых существах. Победил не тот, кто был прав, а тот, кто был стабилен. Но он не ответил на главный вопрос: сколько можно прожить в таком мире, прежде чем перестанешь хотеть в нём жить? Потому что выживание — это ещё не полноценная жизнь. Это просто отсутствие смерти. Без романов, без страстей, без споров, без развития. Только резиновая печать и абсолютный порядок.
Ссылка на видео: t.me/murrrzio/11490 Либо тут.
Источник: https://newsstreet.ru/blog/unbelievable/36103.html
Больше интересных статей, которые я не успеваю переводить, но которые можно почитать через онлайн-переводчики, можно найти по ссылке: t.me/murrrzio