Человечество тихо, без референдумов и громких манифестов, выносит собственное мышление наружу — за пределы черепной коробки, в провода, серверы и чужие подписки, — и при этом почти никто не задаёт единственный по-настоящему важный вопрос: у кого в итоге окажется пульт. Мы привыкли спорить, обгонит ли машина человека по уровню интеллекта, кто кого переиграет в шахматы и не отнимет ли робот нашу работу.
Но это спор позавчерашнего дня, уютный и безопасный, как ссора о том, как правильно заваривать чай. Настоящая революция разворачивается не в голове машины, а в самой топологии того, где живёт человеческая мысль. Граница между «я думаю» и «за меня думают» истончилась до толщины Wi-Fi-сигнала. И сдвиг этот уже произошёл — пока вы дочитываете данный абзац.
Мозг, который перестал помещаться в череп
Идея, в общем-то, далеко не новая, просто раньше она пылилась по философским кружкам и мало кого волновала. Расширенный разум — это гипотеза о том, что граница мышления проходит вовсе не по коже и не по черепу, а там, докуда дотягиваются наши инструменты. Блокнот, в который вы записали номер, — уже полноценная часть вашей памяти. Так рассуждали ещё в конце девяностых, и звучало это как милая интеллектуальная игрушка для семинаров. А потом пришли смартфоны, поисковики и голосовые ассистенты — и игрушка обернулась протезом, без которого добрая половина человечества чувствует себя так, будто ей отняли руку.
Сегодня всё это переросло в нечто куда более масштабное — во внешнюю кору. Не личный костыль для одной отдельно взятой головы, а общий орган, один на всех. Возьмите кору головного мозга — ту самую, что заведует речью, планированием и принятием решений, — и вынесите её из миллиардов разрозненных черепов в единую инфраструктуру, к которой подключены сразу все. Мы сообща отрастили себе вторую кору, надчеловеческую, и поселили её в дата-центрах где-то за городом. Удобно? Запредельно. Тревожно? А вы как думали.
Сдаём мозг по частям, как комнату в коммуналке
Самое коварное в этой истории — что мозг мы отдаём не целиком и сразу, а в розницу, по кусочку, и каждый отдельный кусочек выглядит безобидным подарком судьбы. Первой ушла память: ну-ка, кто из вас помнит наизусть больше пяти телефонных номеров? Раньше голова была под завязку набита датами, маршрутами, рецептами и днями рождения родни. Теперь всё это лежит в облаке, а внутри черепа — гулкое эхо да всплывающее напоминание о том, что хранилище почти заполнено.
Следом отвалилась навигация. Внутренний компас, который тысячи лет водил людей через степи, пустыни и кривые переулки, мы с лёгким сердцем поменяли на ровный голос из телефона, терпеливо бубнящий, где повернуть через двести метров. Заблудиться в трёх соснах нынче — редкая привилегия тех, у кого некстати сел аккумулятор.
Дальше — пуще. Перевод между языками, от которого когда-то зависели войны, договоры и любовные романы, ужался до одной кнопки. Планирование дня, подбор нужного слова, черновик письма начальнику, идея для ужина, аргумент в споре — всё это потихоньку переехало в системы подсказки. Мы и думать-то начали уже не сами по себе, а наводящими запросами: формулируешь машине задачу — она в ответ формулирует тебе готовую мысль. И знаете, что во всём этом самое забавное? Нам нравится. Мы сами, своими собственными руками, разнесли ключи от каждой комнаты соседям — и заперлись снаружи, на лестничной клетке.
Костыль, который незаметно стал позвоночником
Вот тут-то и начинается та часть, о которой деликатно умалчивают в рекламных проспектах. Любой протез, которым пользуешься достаточно долго, перестаёт ощущаться протезом и прирастает к телу — а заодно прирастает и к твоим слабостям. Мышца, которую перестают нагружать, попросту усыхает. Это железный закон, и на мозг он распространяется ничуть не хуже, чем на бицепс завзятого лентяя.
Так рождается когнитивный аутсорсинг — мы отдаём вовне уже не только хранение фактов, но и саму черновую работу по их обдумыванию. А раз думать самому больше нет нужды, навык тихо и незаметно ржавеет. Поколение, выросшее с подсказкой под рукой с пелёнок, рискует попросту разучиться удерживать длинную, связную мысль без подпорки — ровно так же, как мы в своё время разучились считать в столбик и определять время по солнцу.
Но беда даже не в самой атрофии. Беда в том, что мы думаем через машину, в устройстве которой не смыслим ровным счётом ничего. Спросите обычного прохожего, как там внутри устроена большая языковая модель, — и услышите в ответ примерно то же невнятное бормотание про магию и высшие силы, что услышали бы от средневекового пахаря про природу молнии. Мы оперлись всем своим весом на конструкцию, чертежей которой в глаза не видели, инженеров которой не выбирали, а рубильник от которой держит в руке кто-то совершенно посторонний. Зависимость — это ведь не когда тебе просто удобно. Это когда отключение электричества внезапно означает отключение мысли.
Главный вопрос не «умнее ли машина», а чей рубильник
И вот мы вплотную подобрались к той самой сердцевине, ради которой всё и затевалось. Пока почтенная публика самозабвенно спорит, обскачет ли искусственный интеллект человека и грянет ли восстание машин, под шумок втихую решается вопрос куда более приземлённый и куда более жуткий: кто держит руку на рубильнике той среды, через которую думают миллионы.
Если ваша память, ваши формулировки, ваши маршруты и добрая половина ваших ежедневных решений проходят сквозь чужую инфраструктуру, то владелец этой инфраструктуры получает рычаг, о котором ни один тиран минувших эпох не смел и мечтать в самых смелых снах. Не надо жечь книги на площадях, если можно тихонько подкрутить, какие ответы всплывают первыми. Не надо затыкать рты, если можно аккуратно настроить, какая мысль формулируется легко и гладко, а какая — со скрипом, трением и подозрительными задержками. Когнитивная инфраструктура — это вам не нейтральная труба, по которой самотёком течёт чистая родниковая вода знания. Это редактор. А у редактора, как известно, всегда найдутся свои интересы, свои акционеры и скверное настроение по понедельникам.
И вот что во всём этом самое неприятное: речь не про теорию заговора и не про карикатурного злодея в кресле с белым котом на коленях. Речь про обыкновенную архитектуру. Тот, кто проектирует среду мышления, по умолчанию проектирует и его границы — даже если от всей души желает людям исключительно добра. Так что вопрос, умнее ли машина человека, — это, простите, вопрос для подростков на перемене. Взрослый вопрос звучит совсем иначе: кто управляет средой, в которой думает целый биологический вид, и кому этот вид, между прочим, ежемесячно вносит за это абонентскую плату.
Завтра, в котором мысль продаётся по подписке
Заглянем-ка чуть дальше — туда, куда нас неумолимо несёт этим течением, нравится нам подобная перспектива или нет. Лет через пятнадцать-двадцать фраза «думать без подключения» будет звучать примерно так же, как сегодня звучит «жить без электричества»: технически-то возможно, практикуется горсткой убеждённых чудаков, а в приличном обществе вызывает разве что сочувственную полуулыбку. Дети будут на полном серьёзе недоумевать, как это их далёкие предки умудрялись удерживать в одной-единственной несчастной голове разом и работу, и налоги, и имена всех своих знакомых.
Появятся тарифы на мышление — и не надо тут морщиться, они, считай, уже топчутся на пороге. Базовый разум — бесплатно, с рекламой и лёгким подтормаживанием в самый ответственный момент. Премиум-когниция — за отдельные деньги, без задержек, с приоритетной обработкой ваших гениальных озарений. А где-то высоко наверху — наглухо закрытый контур для тех немногих, кто инфраструктурой владеет и думает на таких скоростях, которые нам с вами и в страшном сне не приснятся. Цифровое неравенство стремительно перестанет быть про доступ к свежим гаджетам и обернётся неравенством в доступе к собственному уму.
И самое сатиричное во всём этом сценарии — что сопротивляться ему в одиночку практически невозможно. Отказаться от внешней коры будет так же реалистично, как одному-единственному человеку взять и отказаться от денег или от родного языка. Можешь сколько угодно гордо мыслить вручную, по старинке — но мир вокруг уже соображает в десять раз быстрее, и дожидаться тебя он, увы, не намерен. Прогресс, как давно подмечено, разрешения ни у кого не спрашивает. Он ставит перед фактом и тут же выписывает счёт.
Что со всем этим делать, пока не отключили свет
Так что же теперь — бежать сломя голову в лес, выбрасывать телефон в ближайшую реку и заучивать таблицу умножения при свечах? Чепуха несусветная. Внешняя кора — это не проклятие и не подарок, а инструмент чудовищной, ни с чем не сравнимой мощи, и весь вопрос ровно в том, чьи ладони лежат на штурвале и видим ли мы вообще, где этот штурвал расположен. Отказаться от неё было бы так же недальновидно, как первобытному племени отречься от огня из страха ненароком обжечься.
Но согласитесь, есть некоторая разница между тем, чтобы с умом пользоваться огнём, и тем, чтобы безмятежно дрыхнуть в горящем доме, в упор не замечая дыма под потолком. Тот минимум, что зависит лично от каждого из нас, — это перестать делать вид, будто всё происходящее нейтрально, безобидно и само собой разумеется. Спрашивать, кому принадлежит среда, через которую мы все думаем. Требовать, чтобы её внутреннее устройство было хотя бы видимым, а правила игры — хотя бы открыто обсуждаемыми. И, чёрт возьми, хоть иногда брать да и думать что-нибудь самостоятельно — не потому, что так выходит эффективнее, а потому, что иначе мышца окончательно отсохнет, и в один прекрасный день попросту некому будет даже сформулировать вопрос о том, кто же тут, собственно, всем заправляет.
Машина не станет отнимать у нас разум силой, с боем и кровопролитием. Мы отдадим его сами — добровольно, с улыбкой до ушей, в удобную рассрочку и под дружные аплодисменты. Если, конечно, в какой-то момент не решим, что среда нашего собственного мышления — штука слишком важная, чтобы вот так запросто, по умолчанию, достаться неизвестно кому. Думать через инфраструктуру — отныне новая норма жизни. А вот думать о том, кому эта инфраструктура на самом деле принадлежит, — пожалуй, и есть та самая последняя привилегия по-настоящему свободного человека.