О силе — и вреде — называния вещей
Человек по имени Генри написал в Твиттере:
должно быть название для феномена, при котором наименование чего-либо убивает это
Кто-то ответил: Vergegenständlichung.
Это немецкое слово, означающее превращение расплывчатого ощущения в чёткий объект. К несчастью, я не знаю немецкого, так что на меня это не подействовало. На английский это примерно переводится как «объективация» (без политического подтекста) или, чтобы быть точным и академичным, «овеществление».
Возможно, самый интересный вопрос относительно нашей склонности превращать абстрактные понятия в конкретные, ощутимые и зримые вещи — это: почему? Почему нам нужно закреплять реальность языком, вместо того чтобы позволить ей размываться, трансформироваться и сливаться в узоры ощущений? Потому что наш мозг не выносит нечитаемый мир: мы рисуем карты. Мы создаём измерительные приборы. Превращаем привычки в правила и стандарты. Сочиняем истории, чтобы объяснить необъяснимое. Верим в богов-хранителей. И называем вещи.
Если реальность не поддаётся прочтению — можно ли сказать, что она вообще существует? Если дерево падает в лесу, и никто не слышит — издаёт ли оно звук? Восприятие предшествует реальности. Понятность — тоже. Причём с куда большей силой: ты можешь воспринять территорию, о которой говорит карта, но лишь нарисовав карту, ты наделяешь эту территорию смыслом. И тогда мы её убиваем.
Так что, в некотором смысле, вещи существуют только в том мимолётном промежутке между тем моментом, когда они становятся читаемыми, и тем, когда мы их прочитываем.
Давайте лучше продолжим. Генри привёл в пример «vibe coding» — «кодинг на ощущениях». Андрей Карпаты практиковал это задолго до того, как термин появился. Теперь же, как недавно жаловался Саймон Уиллиссон, под vibe coding понимают вообще любое программирование с помощью ИИ. Идея мертва. «Slop» — ещё один пример. Разве вы не заметили, что теперь всё — это slop (помои)? Всё, что вам не нравится, — это slop. Это не онтологическая категория, а оскорбление. Не понравился этот пост? Это slop.
Также и с «enshittification» — деградацией интернет-опыта. Теперь, если вы используете ИИ для генерации чего-либо — вы enshittify-ите, независимо от качества полученного результата. Enshittification можно также определить, если замкнуть круг, как процесс, в котором разработчики кодят на ощущениях и выдают на выходе slop.
Если этот пост ещё не стал достаточно мета, скажу, что, как только я прочитал твит Генри, я подумал о самом термине «искусственный интеллект». ИИ был рождён летом 1956 года, задуман четырьмя амбициозными исследователями.
И умер в тот же день.
II.
Вы когда-нибудь задумывались, почему вообще возникает «эффект ИИ»?
Мы изобретаем или открываем нечто, что ведёт себя как человек в каком-то аспекте — создаёт изображения, решает головоломки, выигрывает в шахматы, водит машину, различает породы собак — и называем это ИИ. Но как только мы понимаем, как это работает, оно перестаёт заслуживать этот ярлык. Мы понижаем его до «машинного обучения», «алгоритма» или, если хотим съязвить, просто «статистики». Потом появляется новая идея, которая снова принимает ярлык «ИИ», и цикл повторяется.
В тот самый момент, когда ИИ «срабатывает» в сознании, ты безошибочно осознаёшь: это не магия. Было — но уже нет. Я раньше думал, что эффект ИИ возникает из-за самого названия «искусственный интеллект», но теперь понимаю: это происходит просто потому, что мы дали любое имя.
Серьёзно: какое имя вообще подошло бы чему-то, что меняется так сильно и так быстро?
ИИ — будем говорить проще — в следующем году исполнится 70. Он прошёл через множество парадигм: символическая логика, экспертные системы, нейросети, машинное обучение, глубокое обучение, а теперь — генеративные модели. Он пережил череду хайпа (лета) и упадка (зимы). Если бы за то время, что ELIZA превратилась в ChatGPT, человечество эволюционировало от доязыковых обезьян до Homo Sapiens, мы бы тоже сомневались в названии «человек».
«Человек» тогда обозначал бы слишком многое. Почувствовали бы вы связь с этим словом, если бы оно одинаково применялось к вашему ребёнку и к шимпанзе в зоопарке? Сочувствовали бы вы ему? Отождествляли ли бы себя с ним? Если вы ответили «да» автоматически — значит, вы недостаточно подумали, что значит так быстро и кардинально измениться.
Мы не восстаём против слова «человек», потому что сам объект — мы — стабилен и хорошо определён. Вы признаёте своими равными древних римлян и афинян, когда читаете их слова или смотрите на мраморные статуи. К счастью, мы эволюционируем медленнее, чем развивается культура. ИИ — нет. Поэтому он сопротивляется классификации.
(Интересно, какой кризис называния нас ждёт, когда киборгизация и трансгуманизм станут повседневностью. Один кризис — связанный с трансгендерностью — мы уже проходим.)
III.
Сопротивляется называнию не только изменение, но и новизна как таковая.
В комментариях к твиту Генри я увидел цитату покойного этноботаника Терренса Маккенны, обобщающую этот феномен:
...представьте младенца, лежащего в колыбели, открыто окно, и в комнату влетает нечто — чудесное, таинственное, сверкающее, излучающее разноцветный свет, движущееся, звучащее, преобразующее, священное явление интегрированного восприятия. Ребёнок заворожён. А потом в комнату заходит мать и говорит: «Это птичка, малыш, это птичка». Мгновенно эта сложная волна ангельского, павлинообразного, иридесцентного чуда схлопывается в одно слово. Вся тайна исчезает. Ребёнок учится: это — птичка. К пяти-шести годам всё чудо реальности оказывается тщательно заложенным под плитку слов. «Это — птичка, это — дом, это — небо», и мы запечатываем себя в лингвистическую оболочку обессиленного восприятия...
Язык — это мощный инструмент. Как мы уже согласились, ты можешь воспринимать только то, что умеешь называть. Но язык — ещё и запечатывающее заклинание, «лингвистическая оболочка». То, что ты назвал, ты ограничил, заклеймил, упаковал. А в итоге — уменьшил. Имя позволяет тебе атаковать вещь, использовать её как оружие. А в худших случаях — демистифицировать её до полного равнодушия.
Что такое небо, как не «то синее, что висит над нами в солнечные дни»? Оно всегда там. И всё же — это чудо, если на миг вырваться из власти слова. Повторяй вслух медленно: небо, небо, небо, небо, небо, небо, небо, небо, небо, небо. Слово исчезло. Теперь ты волен видеть белые, губчатые, бесформенные формы; смелых летунов, парящих на фоне твёрдого фона; стоящих гигантов, поющих в ритме гипнотического покачивания; а если повезёт — и блестящих ночных дам, ждущих, пока ты выключишь фонарь, мешающий их очарованию.
Или же — если хочешь убить сцену и спрятаться в безвкусной семантике — да, это просто облака, птицы, деревья, звёзды.
Самая обыденная вещь, имя которой ты не знаешь, — это зрелище для твоего любопытства. Как воробей, влетающий в комнату младенца через окно, радостно щебечущий — до тех пор, пока добрая мама не убивает чудо. Но теперь жертва — ты сам, и твоя угасающая способность видеть чудо в обыденном и загадочном.
ИИ относится ко второй категории: это фундаментально загадочное чудо, рожденное природой и инженерной изобретательностью в равной мере — и убитое тем далёким летом 1956 года. Мы не изобрели ИИ. Мы не создали его. Мы лишь помогли ему вырасти. ИИ — как и многие другие вещи, которые мы так незаслуженно присваиваем — это особенность нашей Вселенной. Но мы убили его. Это — на нашей совести.
Я знаю, сравнение ИИ с радугой и сном вызовет негативную реакцию у некоторых читателей. Всё из-за его места в современной дискуссии. Но если вам удастся от этого абстрагироваться, вы увидите: разве это не поразительно, что программа может беседовать на любую тему, в любом стиле, сколько угодно, и с любой глубиной? Создавать изображения. Решать задачи. Водить. Играть в шахматы. Различать породы собак.
Позвольте себе быть ошеломлённым — ведь это действительно ошеломляет. Но только если вы позволите — хотя бы на миг — забыть, как это называется.
Если вы не сможете — вы ничем не лучше доброй мамы, убившей чудо птицы. Только теперь жертва — вы сами, и ваша всё более слабая способность воспринимать чудо.
IV.
Итак, ИИ умер дважды в тот судьбоносный летний день 1956 года. Первый раз — потому что был новой вещью, которую мы могли бы отпустить свободно, не дав ей ярлыка, но не сделали этого. Второй — потому что он начал меняться так быстро, что люди не могли вынести его неуловимости. Нынешнее состояние ИИ и отношение к нему — наполовину восхищение, наполовину презрение — это следствие этого.
ИИ — как объект, а не как слово — наименее виноват во всём, что происходит вокруг него. Виноваты другие. Вы знаете кто. Но провести границу сложно, и часто требует больше информации, чем нам дозволено иметь. В глазах мира, кто просто любит ИИ, тот так же виновен, как и те, кто активно его внедряет.
Я утверждал раньше, что настоящее было бы совершенно другим — и, возможно, лучше — если бы в 1950-х победили другие названия для ИИ. Теперь я думаю, что единственное название, которое могло бы сделать позитивную разницу — никакое. «Просто продолжайте строить, — посоветовал бы я им, — а когда вас спросят, что вы делаете, говорите: “кибернетика” или шутите».
Ницше сказал: «То, для чего мы находим слова, — это уже мёртвое в наших сердцах». Забавно, что, согласно некоторым взглядам, те четверо амбициозных исследователей убили ИИ ещё до его рождения. Они по ошибке назвали область его целью — как если бы физику назвали «теорией всего», а медицину — «наукой о бессмертии». Семьдесят лет спустя эта цель всё ещё не достигнута, так что область всё ещё — наш будущий ребёнок.
В тёмно-ироничном смысле ИИ станет первой вещью, которая будет рождена после того, как уже умерла.
Если вы хотите читать больше интересных историй, подпишитесь пожалуйста на наш телеграм канал: https://t.me/deep_cosmos