Нобелевская премия по физике 2024 года… не досталась физикам. Она была вручена двум ученым-компьютерщикам - Джону Хопфилду и Джеффри Хинтону, создавшим первые нейронные сети, которые стали основой современного искусственного интеллекта.
«Премия вручена за основополагающие открытия и изобретения, которые позволяют осуществлять машинное обучение с использованием искусственных нейронных сетей».
Нобелевский комитет
В 1982 году Хопфилд придумал, как сделать нейронную сеть похожей на кусок железа. Он представил каждый нейрон как маленький магнит, который может смотреть только вверх или вниз. Вверх - это единица, вниз - ноль.
Все нейроны связаны друг с другом, как атомы в железе. Они постоянно проверяют, что делают их соседи, и решают, меняться им самим или нет. Для этого Хопфилд использовал формулы из физики магнитов.
Ещё он придумал, что у нейросети есть воображаемая энергия, которую она пытается уменьшить. Это тоже идея из физики.
Теперь представьте, что нейроны — это точки на черно-белой картинке. Ноль — черная точка, единица — белая. Мы хотим, чтобы сеть запомнила, например, портрет Пикассо в исполнении Сальвадора Дали. Сеть запоминает её так, чтобы энергия картинки была минимальной.
Если теперь показать сети другую картинку, например, изображение Моны Лизы, у неё будет больше энергии.
Сеть начнет менять черные точки на белые и наоборот, пытаясь уменьшить энергию. В итоге она превратит изображение Моны Лизы в нечто похожее на портрет Пикассо, который она запомнила раньше.
Так Хопфилд использовал идеи из физики, чтобы научить компьютер запоминать и узнавать картинки.
Сначала может показаться, что нейросеть Хопфилда не очень полезна. Зачем превращать все фото в портрет Пикассо? Но на самом деле все интереснее.
Представьте, что у нейросети есть "карта энергии" с несколькими ямами. Каждая яма - это запомненная картинка. Одна яма - Мона Лиза, другая - Пикассо, третья - ваш кот.
Когда мы показываем сети новую картинку, это как бросить шарик на эту карту. Шарик скатится в ближайшую яму. Так же и сеть превратит новую картинку в самую похожую из тех, что она знает.
Если новая картинка больше похожа на Мона Лизу, сеть решит, что это Мона Лиза. Если на фото кот - значит, кот. Так сеть учится узнавать картинки, основываясь на том, что она уже знает.
Хопфилд придумал этот способ, используя свои знания о магнитах. Позже оказалось, что этот метод работает не только с черно-белыми картинками, но и с цветными. И вообще, так можно хранить любую информацию, не только картинки.
Доработка идеи
Когда Хинтон узнал об этом, он решил улучшить идею Хопфилда. В 1983-1985 годах он с коллегами создал новую нейросеть. Она не узнавала данные, как сеть Хопфилда, а создавала их.
В этой сети все происходило случайно, но по определенным правилам. Эти правила Хинтон взял из физики - из работ физика Людвига Больцмана о тепле. Поэтому сеть назвали машиной Больцмана.
Как данные моделируются в машине Больцмана. Фрагмент лекции Джеффри Хинтона:
Эта идея была интересной, но такую сеть было трудно обучать. В 2002 году Хинтон упростил ее, убрав лишние связи между нейронами. Эта версия работала быстрее и стала популярной.
Но самую известную работу Хинтон сделал в 1986 году. Он придумал новый способ обучения нейросетей - "обратное распространение ошибки". Этот метод не связан с физикой, но стал очень важным для развития искусственного интеллекта.
Безопасность ИИ
Хинтон долго работал в Google, но ушёл в 2023 году. Он стал волноваться о рисках искусственного интеллекта и хотел свободно об этом говорить. Теперь он предупреждает, что мы создаём что-то, чем не сможем управлять.
Хинтон считает, что шанс, что ИИ уничтожит человечество, составляет примерно 50%. По его словам, он внутренне убеждён, что шанс выше, но апдейтится вниз, потому что Ян Лекун, с которым они тепло дружат, с ним не согласен.
Джон Хопфилд тоже обеспокоен проблемой безопасности ИИ и подписывал письмо, призывающее поставить на паузу передовые эксперименты с общим ИИ. Кстати, скоро выложу на YouTube большой ролик по этой теме.
Так вот, нобелевский комитет сказал, что нейронные сети очень помогли физике. И это чистая правда - нейронные сети теперь используются везде. Они помогают анализировать данные, создавать модели и многое другое.
Но можно ли считать нейронные сети физикой?
С одной стороны, они работают на компьютерах, которые сделаны из элементарных частиц - а это уже физика. Но если так рассуждать, то всё на свете можно назвать физикой, даже инструкцию по сборке мебели из IKEA.
Некоторые считают, что физика - это не только о чем мы говорим, но и как мы это описываем математически. Поэтому физикой можно назвать изучение дорожного движения, распространения новостей в интернете или роста городов. Но тут легко запутаться - где заканчивается физика и начинается, например, информатика?
Традиционно мы не считаем разработку программ физикой. Но среди Нобелевских премий физика оказалась ближе всего к этой теме. Это показывает нам две вещи:
Во-первых, Нобелевский комитет сильно отстает от времени. Нейронные сети и машинное обучение используются уже десятки лет. Но премию за них дали только сейчас, когда все начали говорить о ChatGPT.
Во-вторых, похоже, в "обычной" физике не было открытий такого же масштаба. Иначе премию дали бы за них.
Это может расстроить тех, кто занимается классической физикой. Кажется, что их работа менее важна, чем новые технологии. Но на самом деле это просто показывает, как сильно изменился мир науки за последнее время.
