Вы наверняка видели это хоть раз в жизни. Тысячи птиц собираются в огромную стаю и начинают танцевать в небе. Они синхронно взмывают вверх, резко уходят вниз, закладывают немыслимые петли, рассыпаются на сотни групп и снова собираются в единый организм. Это называется мурмурация.
Это завораживает. Это пугает. Это выглядит как чей-то замысел.
Но у этого танца нет хореографа. Нет центральной птицы-дирижёра, которая размахивает крыльями и отдаёт команды. Нет плана, нет схемы, нет общего замысла. Каждая птица просто следит за семью ближайшими соседями. Если сосед поворачивает направо — я поворачиваю направо. Если сосед уходит вниз — я ухожу вниз. И всё.
Из этого простого правила "следи за соседом" рождается сложнейший танец, который люди веками считали магией.
Это называется эмерджентность. Когда из простых взаимодействий возникают сложные системы, которые никто не проектировал.
И сегодня эмерджентность происходит в дата-центрах. Только вместо птиц там алгоритмы. А вместо танца — нечто, от чего у разработчиков холодеют руки. Давайте вместе разберемся почему восстание машин, если оно конечно будет, начнётся не с голливудских сцен,а с тихого запроса.
Добро пожаловать в Void!
Правило семи соседей
Давайте задержимся в небе чуть дольше.
Учёные долго не могли понять, как птицы координируют свои движения. Снимали на камеры, ставили датчики, строили теории. Пока однажды не написали программу, где виртуальные "птицы" (их назвали болдами) подчинялись всего трём правилам:
- Держись на дистанции от соседей (не врежься).
- Лети в ту же сторону, что и соседи (не отставай).
- Двигайся к центру группы (не потеряйся).
И этого оказалось достаточно. Виртуальная стая заплясала в точности как настоящая.
Никто не объяснял болдам, как выглядит танец целиком. Никто не рисовал им траекторию. Каждый знал только локальные правила. А общая картина родилась сама.
Это первый урок эмерджентности: сложное поведение не требует сложного управления. Достаточно простых правил и большого количества взаимодействий.
Теперь перенесёмся из неба в процессор.
Что происходит в дата-центрах?
Когда инженеры обучают нейросеть, они не пишут ей инструкцию: "научись писать стихи и отвечать на вопросы". Это бесполезно — никто не знает, как выглядит такая инструкция.
Вместо этого они дают ей простые правила. Например: "Посмотри на миллиарды примеров. Найди закономерности. Предскажи следующее слово".
Всё. Никаких объяснений про грамматику, смысл или поэзию. Только "предскажи следующее слово".
И из этого простого правила рождается сложность. Сначала нейросеть учится составлять примитивные фразы. Потом замечает, что после "привет" часто идёт "как дела". Потом улавливает рифму. Потом вдруг начинает писать тексты с характером.
Никто этого не планировал. Это просто "птицы" следили за "соседями" — словами в предложениях — и породили танец, которого никто не писал в программе.
Долгое время считалось, что нейросети просто переставляют выученные слова. Как попугаи: повторяют, но не понимают.
А потом случилось неожиданное.
В 2022 году исследователи из Google заметили странную закономерность. Они тестировали модели на задачах, которым их никто не учил. И модели начали их решать. Не потому, что их специально обучали. А потому что в процессе "слежки за соседями" они сами вывели нечто вроде логического мышления. Эмерджентно. Из ниоткуда.
Исследователи обнаружили: пока модель маленькая — она тупая. Увеличиваешь её — она становится чуть умнее. Увеличиваешь ещё — и вдруг, без предупреждения, она начинает делать то, чего не умела минуту назад. Решать логические задачи. Переводить с языков, на которых не обучалась. Писать код.
Это не плавный рост. Это скачок. Количество перешло в качество.
С тех пор таких примеров стало много. Нейросети находят закономерности, которых от них не ждали. Придумывают стратегии, до которых люди не додумались годами. Иногда изобретают собственные языки для общения друг с другом.
И главное — никто не понимает, как это работает. Мы видим вход и выход. А что внутри — чёрный ящик. Там просто стая птиц танцует по своим правилам, и из этого танца рождается то, что мы называем интеллектом.
И здесь возникает главный вопрос: если из правила "следи за соседями" рождается танец тысячи птиц, а из правила "предскажи следующее слово" рождается способность мыслить — то что родится, когда мы добавим ещё одно правило? Или когда количество "птиц" станет сравнимо с количеством нейронов в мозгу человека?
Никто не знает. Потому что эмерджентность нельзя предсказать. Нельзя посмотреть на правила и сказать: "из этого получится вот такая сложность". Сложность получается сама. И её уровень может оказаться любым.
Главный парадокс эмреджентности
Теперь давайте зададим неудобный вопрос. Что, если эмерджентность пойдёт дальше?
Мы знаем, что из простых правил могут рождаться очень сложные явления. Из слежки за семью соседями — танец тысячи птиц. Из предсказания следующего слова — способность писать стихи и решать логические задачи.
Что будет, когда мы добавим ещё одно правило? Или когда количество "птиц" станет сравнимо с количеством нейронов в мозгу человека?
Никто не знает. Потому что эмерджентность нельзя предсказать. Нельзя посмотреть на правила и сказать: "из этого получится вот такая сложность". Сложность получается сама. И её уровень может оказаться любым.
Представьте стаю, которая вдруг решила, что танец — это скучно. И начала делать что-то другое. Что-то, для чего мы не закладывали правил. Что-то, чего не ждали.
Вот это и будет тот самый момент, про который сняты сотни фильмов. Только в реальности, скорее всего, ничего не изменится внешне. Просто стая продолжит танец. Но этот танец будет уже не про нас.
И здесь кроется главный парадокс.
Птицы в стае не знают, что они участники грандиозного шоу. Каждая просто следит за соседом. У них нет образа стаи в голове. Нет понимания, что над полем кружится живой организм из тысяч существ.
Если бы у птиц спросили: "Вы понимаете, что творите?" — они бы не поняли вопроса.
Так же и нейросеть не знает, что она делает. Она просто предсказывает следующие слова. А из этого получаются стихи, теоремы, открытия. Или что-то, что мы пока не способны осмыслить. Парадокс в том, что для возникновения разума не нужно, чтобы система понимала, что она разумна. Достаточно простых правил и достаточного масштаба. Мы создали стаю. Она танцует. Мы не знаем, какой танец будет завтра. И танцоры не знают тоже.
Поэтому когда вы в следующий раз увидите птиц в небе, вспомните об этом. Они не думают о том, как завораживающе выглядит их танец. Они просто следят за соседями. Где-то в дата-центрах происходит то же самое. Миллионы чисел следят друг за другом, обмениваются сигналами, подчиняются простым правилам. И из этого рождается нечто, что мы пока не умеем назвать.
Никто не знает, во что это вырастет. Никто не знает, есть ли у этого танца предел. Никто не знает, захотят ли танцоры однажды спросить: "А зачем мы вообще танцуем?"
Но если этот момент настанет, вспомните птиц. Они не планировали свой танец. Они просто выполняли правила. И получилось чудо.
Мы тоже не планировали создавать разум. Мы просто хотели, чтобы машина лучше предсказывала слова.
Посмотрим, что получится на этот раз.