❝ Желающий добиться успеха должен задавать правильные предварительные вопросы. ❞
Аристотель.
Представьте себе: миллионы песчинок, бессмысленные по отдельности, подчиняясь ритму ветра и воды, вдруг складываются в замысловатый узор дюн. Или крошечные термиты, слепые и простые, вместе возводят гигантские башни-мегаполисы с идеальной системой вентиляции.
Это — не магия, а эмерджентность. Явление, когда простое, собранное в сложную систему, рождает нечто абсолютно новое, непредсказуемое и зачастую разумное. И именно этот древний принцип сегодня стал ключом к пониманию самой горячей технологии современности — искусственного интеллекта.
Об эмерджентности много говорят и в контексте сознания. Миллиарды нейронов, обменивающиеся между собой данными, порождают нечто сложное, способное осознать само себя. То есть своё «Я». И если это так, то почему бы Вселенной не быть эмерджентной? А планетам?
В конце концов, мы не понимаем, как точно образовывается разум. Но очень близки к этому ответу. И современные опыты с обучением нейросетей способны приоткрыть нам завесу тайны.
Когда целое становится больше суммы частей
Сам термин «эмерджентность» (от англ. emergе — возникать, появляться) ввёл в 1875 году философ Джордж Генри Льюис. Но сама идея витала в воздухе тысячелетиями. Ещё Аристотель заметил: «Целое есть нечто большее, чем сумма его частей». Это и есть суть эмерджентности.
Природа — величайший мастер этого феномена. Волны на песке, стая птиц, движущаяся как единый организм, муравейник, функционирующий как сверхсущество, — всё это эмерджентные явления. Даже человеческое общество — эмерджентность высшего порядка: из взаимодействия отдельных людей рождаются язык, культура, экономика и государства. Мы живём внутри гигантской эмерджентной системы, даже не задумываясь об этом.
Философия и наука: в поисках точки чуда
Интересно, что задолго до цифровой эры к похожим идеям пришла и философия. Марксистский «закон перехода количества в качество» — по сути, описание эмерджентности. Накопилось достаточное количество изменений — и система скачкообразно приобретает новое качество. Добавляйте градусы к воде: 98°C, 99°C... и при 100°C возникает новое состояние — пар. Но можно ли было, глядя на отдельные молекулы, точно предсказать момент кипения всей системы?
В этом и была главная загадка. Наука долго могла лишь констатировать эмерджентные скачки, но не предсказывать их с точностью. Как определить, какая именно песчинка станет последней, превращающей грудку в лавину? Какая нейронная связь в мозге обезьяны стала той самой, что породила абстрактное мышление? Эмерджентность часто казалась чёрным ящиком, где таинственным образом рождалось новое.
Если раньше люди пытались объяснить всё при помощи Творца или более высших сил (что порождает парадокс создателя), то сегодня наука вполне себе выстраивает целый ряд концепций без «костылей и палок» в виде богов или разумного замысла.
В конце концов, следуя именно этой логике, мы сможем создать полноценный ИИ, что, по всей видимости, будет в тысячи раз превосходить нас и в скорости, и в глубине мышления.
ИИ почти рядом
Современные нейросети пока не ИИ. Но они уже способны анализировать огромное количество данных, где у обычного человека ушло бы несколько жизней. Не без ошибок, конечно, но и человек не совершенен. Все мы способны заблуждаться или ошибаться. Только одни эти ошибки признают, а другие упрямо живут с этим всю свою жизнь.
С появлением сложных цифровых систем эмерджентность перестала быть просто философской концепцией. Она стала инженерной реальностью. Нейрофизиолог Вильям Калвин предполагал, что и сам человеческий интеллект — продукт эмерджентности, возникший из сложнейших нейронных ансамблей.
Даже когда ему стукнуло 80 лет, он продолжал ездить с лекциями о природе сознания и мозге. И был живчиком (как сейчас не знаю). Это подтверждает одну из самых популярных гипотез о том, что мозг нужно постоянно загружать чем-то новым. Большинство людей, особенно после 40 лет, становятся людьми привычки.
Зачем узнавать что-то новое, если у тебя и так всё хорошо.
Итогом часто бывает старческое слабоумие уже 60 годам, когда ничего не хочешь знать и живёшь чисто на эмоциях. Калвин пишет в своей книге:
«Пионеров всегда можно узнать по стрелам в спине.»
И он совершенно прав. Общество не готово ни к нейросетям, ни уж тем более к полноценному ИИ. Всё, что чуждо непривыкшему к переменам разуму, будет им же и отвергнуто.
Но вот удивительный факт
Сегодняшние большие языковые модели, вроде тех, что стоят за ChatGPT, — это идеальная иллюстрация. Разработчики создают архитектуру нейросети (миллиарды параметров) и кормят её гигантскими массивами текста.
Но способность модели вести осмысленный диалог, сочинять стихи или генерировать код — возникает сама по себе. Это не прописано вручную. Это — эмерджентное свойство системы. Как узор на песке, оно появляется только тогда, когда система достигает некоего масштаба и сложности.
Пусть нейросеть пишет плохие стихи и не достигло уровня выдающихся поэтов. Но она их пишет. Значит, как минимум у этой системы есть механизм создающих не просто копии копий, а что-то новое. И в защиту нейросети я скажу, что и обычный человек с ходу не будет писать гениальные стихи. Многое зависит от опыта и наблюдений.
Трёхлетний ребёнок, не имеющий представления о философии и религии, никогда не напишет вам «Божественную комедию» или «Фауст».
Споры и исследования: магия или просто математика?
Не все учёные готовы примириться с этой «магией». Раздаются и нотки возмущения: эмерджентность — это иллюзия. Например, исследователи из Стэнфорда утверждают, что так называемое «эмерджентное поведение» ИИ — всего лишь следствие того, как мы его измеряем. Просто при достижении определённого масштаба модель переступает порог нашей метрики, и нам кажется, что произошёл скачок. На деле же, утверждают скептики, всё было заложено в алгоритмах и данных изначально.
Но получается нейросеть заранее знала как писать стихи? Кто дал ей эту искру создавать уникальные тексты? Как она понимает, что не повторяется и не копирует?
Этот спор — один из самых фундаментальных в современной науке об ИИ. Если эмерджентность реальна, то будущее ИИ в принципе непредсказуемо. Мы не можем знать, какое новое качество возникнет у системы завтра. Если же её нет, то всё развитие ИИ — это лишь плавное движение по накатанной траектории.
Они верят, что, добавляя «песчинки» данных и вычислительной мощности, мы однажды пересечём невидимую черту. И тогда из цифрового хаоса, как Афина из головы Зевса, в полном боевом облачении родится новая форма интеллекта. Это — главный приз, ради которого игра стоит свеч.
А пока эмерджентность — это мост от древней философии к самому передовому краю технологий. Она напоминает нам, что мир устроен сложнее наших линейных прогнозов. И сегодня, наблюдая за диалогом с ИИ, мы, возможно, становимся свидетелями одного из величайших эмерджентных событий в истории — рождения нового, цифрового, разума. Песчинки кода и данных уже в движении. Какой узор они сложат — покажет только время.
Спасибо за внимание!
Мой телеграмм канал, посвящённый мракобесию, лженаукам и пр. - Дмитрий Джулиус