Вопрос «заменит ли искусственный интеллект учёных» звучит сегодня примерно с той же интенсивностью, с какой в начале XX века спрашивали, заменит ли автомобиль лошадь. Ответ тогда оказался сложнее, чем предполагали: лошадь никуда не делась, просто её роль изменилась до неузнаваемости. С учёными, судя по всему, происходит нечто похожее — только быстрее, запутаннее и с куда большим количеством медийного шума вокруг. Михаил Бурцев — один из наиболее известных российских исследователей искусственного интеллекта, работающий сейчас в Лондоне; и Андрей Устюжанин, физик и профессор университета «Конструктор», работающий в Гамбурге, встретились в формате открытого вебинара для аудитории, которую интересовал именно практический срез: что происходит с наукой и научной карьерой, когда рядом появляется мощный инструмент, способный писать код, рецензировать статьи и, возможно, когда-нибудь — генерировать гипотезы. Разговор получился живым и, местами, совсем не утешительным — в хорошем смысле. О возможностях искусственного интеллекта Михаил и Андрей рассказали на очередном вебинаре из нашего цикла о переходе из академии в индустрию. Парадокс всеобщей замены Бурцев начал с того, что предложил базовый фреймворк, через который вообще стоит смотреть на тему замены людей искусственным интеллектом. Экономика, в его понимании, — это прежде всего кооперация: один человек делает что-то, что нужно другому, и за это получает вознаграждение. Пока люди нужны друг другу хоть в каком-то качестве, экономика и занятость существуют. Иначе возникает парадокс: если искусственный интеллект занял все рабочие места, а люди ничего не зарабатывают, то кто вообще платит за работу этого интеллекта? Если базовый доход получают все поголовно незанятые люди, то откуда он берётся — из воздуха? Схема не складывается. Люди перераспределятся между профессиями точно так же, как это уже случалось с крестьянами, которые бросили плуг и встали за заводские станки после появления трактора, или с женщинами, крутившими ручки механических калькуляторов, которых позже вытеснили компьютеры. Исчезновение одних профессий сопровождалось появлением других — это базовый принцип функционирования экономики. Тотального коллапса, при котором все люди окажутся невостребованными одновременно, Бурцев не видит — и объясняет это именно через эту логику кооперации. Другой вопрос — скорость. Технологии ускоряются, цикл перераспределения спроса на навыки сжимается, и инструменты переориентации, которые общество выработало для предыдущих волн автоматизации, могут попросту не успевать. Это уже проблема конкретных людей, которым нужно принимать решения о карьере прямо сейчас. Страх идёт по верхней границе Одна из причин, по которой тема замены выглядит настолько апокалиптично в медиа, — это структурный дефект нашего восприятия неопределённости. Когда мы точно не знаем, что именно сможет делать технология, мы склонны оценивать её возможности по верхней границе. Если ИИ может делать X, Y и Z — значит, он делает максимально хорошо всё сразу, всегда, без ошибок, в любом контексте. Именно так работает страх: он выбирает самый оптимистичный сценарий для машины и самый пессимистичный для человека. Anthropic, например, заявляет, что около 80% кода в их собственной кодовой базе написано моделями самого Anthropic. Это впечатляющая цифра — но она ничего не говорит о том, какого качества этот код, насколько он поддерживаемый, нужен ли он вообще или просто генерируется ради объёма. Впрочем, и сам факт уже существенен: ещё несколько лет назад речь шла об автодополнении строчек, а теперь — о восьмидесяти процентах кодовой базы крупной AI-компании. Бурцев настаивает на инженерном подходе к этому вопросу оценки заменяемости профессиональной функции: любую технологию нужно оценивать применительно к конкретной задаче. Поисковая система, которая из двадцати документов нашла один нужный, — уже полезна, даже если девятнадцать оказались мимо. Торговый алгоритм, который покупает и продаёт акции на миллионы долларов, — совсем другая история: там цена ошибки несравнимо выше, и требования к надёжности принципиально другие. Разговор о готовности ИИ «брать на себя решения» без привязки к конкретной функции просто лишён смысла. Хорошая иллюстрация этого принципа — радиология. Если система интерпретирует рентгеновские снимки с точностью 95%, а человек — с точностью 70%, то выбор между ними становится вопросом страховой калькуляции, а не философии. Бурцев рисует следующий сценарий: тот, кто хочет 30-процентную вероятность ошибки от человека, платит за страховку дороже; тот, кто соглашается на 5-процентную от машины — дешевле, и рынок сам расставляет приоритеты. Умный, но с пробелами Возражение, которое часто звучит в подобных разговорах, — это непрозрачность алгоритмических решений. Шахматная программа делает ходы, которые человек не понимает: она действует контринтуитивно, её логика становится ясна лишь спустя несколько шагов. Если ИИ принимает юридические или финансовые решения таким же образом, мы рискуем оказаться в ситуации, где эффективный агент действует вне человеческого понимания и, теоретически, вне человеческих интересов. Бурцев отвечает на это не столько контраргументом, сколько переформулировкой: люди тоже непрозрачны. Мы не можем залезть в голову к коллеге и предсказать его поведение. Никто не требует вставлять всем сотрудникам электроды, чтобы сделать их полностью интерпретируемыми и предсказуемыми. Общество тысячелетиями вырабатывало институты, нормы, системы контроля и доверия — именно потому, что человеческое поведение принципиально неопределённо. К ИИ применимы те же методы: исследовать границы его поведения, проверять на конкретных задачах и выстраивать протоколы верификации. Понимать устройство технологии полезно — для её улучшения и отладки. Но это понимание не является обязательным предварительным условием для того, чтобы вообще начать ею пользоваться. Точнее всего Бурцев характеризует нынешнее состояние ИИ через образ очень начитанного, но иногда наивного коллеги. Он энциклопедически образован, быстро ориентируется в большом массиве текста, способен генерировать связные рассуждения на любую тему, но у него бывают пробелы там, где вы меньше всего ожидаете: очевидные, как вам кажется, вещи могут оказаться для него совершенно неочевидными. Ошибки, которые он совершает, — не детские в том смысле, что их последствия могут быть серьёзными. Поэтому доверяй, но проверяй — не метафора, а буквальная инструкция. Как это работает в исследовательской практике Разрыв между тем, как ИИ описывают в медиа, и тем, как он реально используется в науке, — огромный. Бурцев рассказывает о своей собственной практике без лишнего пафоса: набор инструментов прагматичный, эффект ощутимый, а иллюзий нет. Рецензирование статей с появлением языковых моделей ускорилось примерно в пять раз. Схема проста: прочитать статью, записать комментарии и вопросы, попросить модель оформить их в виде рецензии в соответствии с этими комментариями. Результат требует редактирования, кое-что убирается как ерунда, — но скелет готов, и это значительно быстрее, чем писать с нуля. Постерный доклад из LaTeX-файла статьи теперь делается за тридцать секунд. Раньше это занимало два дня: нужно было вручную переформатировать, расставить по шаблону и перенести иллюстрации в файл. Теперь — отправить исходник в модель, получить постер в нужном размере, прочитать, убедиться, что всё нормально и поправить при необходимости. Чтение чужих статей тоже изменилось — особенно в случаях, когда тема чуть в стороне от твоей основной. Статью можно загрузить в NotebookLM и буквально задавать вопросы автору: почему именно такой подход, а не другой? Что за этим предположением стоит? Логика, которую автор счёл само собой разумеющейся и потому детально не прописал, объясняется. Для новичка в теме это особенно ценно. Графики для публикаций и презентаций теперь делаются по запросу — нужные оси, нужные цвета. Анализ данных ускорился. Поиск существующих работ по какой-то идее — тоже: задать модели вопрос «что уже делалось в этом направлении», получить список ключевых работ с кратким описанием, затем проверить через Google Scholar. Но есть и обратная сторона. Бурцев рассказывает, как попросил инструмент переписать код трансформера под другую библиотеку: внешне всё выглядело правильно, всё запускалось — а потом выяснилось, что день вычислений ушёл впустую, потому что код генерировал «билиберду». Внешне похоже, но по сути не работает. Что ИИ делает хуже всего Разграничение, которое Бурцев проводит, важно для понимания того, где именно заканчивается реальная польза инструмента. Языковые модели хорошо делают одно: комбинируют то, что им уже известно. Написать текст на тему, которая хорошо представлена в обучающих данных? Пожалуйста. Написать код для задачи, решения которой уже есть в интернете во множестве вариантов? Скорее всего, справится. Найти неочевидную комбинацию уже существующих методов? Есть шансы. Но предложить принципиально новую постановку задачи — с этим принципиальные проблемы. Написать художественный текст с действительно интересной идеей без того, чтобы человек сначала эту идею задал? Получается предсказуемо. Придумать новый подход к решению задачи, которую никто ещё так не решал? Практически нет. Там, где заканчиваются возможности модели, и начинается собственно наука в её самом ценном смысле. Бурцев формулирует это так: ИИ хорошо комбинирует известное, но плохо находит новую постановку задачи. Именно поэтому работа учёного становится в большей степени работой творца и редактора, а в меньшей — работой исполнителя рутинных операций. Перельман и Хамильтон: два типа научного прорыва Андрей Устюжанин подхватывает эту линию рассуждений через конкретный математический пример. Теорему Пуанкаре (одну из семи задач тысячелетия) доказал Григорий Перельман — и за это ему предлагали Медаль Филдса, от которой он отказался. Но инструмент, которым воспользовался Перельман, — поток Риччи, математический объект, позволяющий «деформировать» трёхмерное многообразие к стандартной форме, — придумал Ричард Гамильтон. Гамильтон видел потенциал своего изобретения, но до конца его не реализовал, а Перельман взял чужой инструмент и довёл идею до результата. Прорыв типа «Гамильтон» — это создание нового концептуального инструмента, нового способа смотреть на проблему. Для этого нужна интуиция, широкая эрудиция и готовность выйти за границы существующего дискурса. Именно так мыслили Эйнштейн, Планк, Бор — люди, которые в каком-то смысле были аутсайдерами внутри собственной области, потому что не были скованы её устоявшимися предположениями. Запрограммировать целенаправленный поиск таких идей очень трудно — это как попытаться перейти из трёх измерений в четвёртое, находясь при этом в трёхмерном пространстве. Для прорыва типа «Перельман» — нужна максимальная компетентность, способность связать существующее знание нетривиальным образом и методично довести цепочку рассуждений до конца. Для этого у современных ИИ-систем уже есть предпосылки — и чем дальше, тем больше. Устюжанин добавляет важный аргумент в пользу такого оптимизма: асимметрия проверки и поиска. Убедиться в том, что решение правильно, обычно значительно проще, чем найти само это решение. Если ИИ генерирует множество кандидатов, а человек верифицирует лучшие из них — это уже рабочая модель совместного научного труда. Карта, которой нет В шахматах есть доска и правила: программа знает поле, знает возможные ходы и может просчитывать их наперёд. В науке такой карты не существует: нет исчерпывающей структуры того, что уже известно, какие области граничат между собой и где именно лежат методы, способные дать прорыв в другой области. Мы уже убедились, что самые революционные открытия нередко приходят от аутсайдеров — людей, которые не укоренены в конкретном научном сообществе и потому не разделяют его подспудных предположений. Эйнштейн в 1905 году работал клерком в патентном бюро, а не профессором в университете. Внешняя позиция иногда позволяет задать вопрос, который изнутри задать невозможно, потому что он кажется неуместным. Устюжанин видит частичный ответ на эту проблему в развитии так называемых «моделей мира» — архитектур, которые активно разрабатывают Янн ЛеКун и Юрген Шмидхубер. Суть в том, чтобы построить не просто предсказательную модель, работающую с конкретным типом данных — молекулами, изображениями, кристаллами — а абстрактное представление о структуре и динамике сложных систем мира. Архитектуры типа автоэнкодеров убирают шум и незначительные вариации, оставляя то, что действительно важно. Если такое высокоуровневое представление удастся построить для целых областей знания, то «выход за пределы» существующей матрицы можно будет имитировать добавлением случайного шума в это представление — и смотреть, что получится. Идея интуитивно понятна: что, если бы можно было взять «сжатое» описание всей физики до 1905 года и попросить систему сгенерировать из него что-то, что не следует из имеющихся аксиом? Получился бы хотя бы намёк на специальную теорию относительности? Пока — скорее нет. Но это интересный эксперимент, и его некоторые версии уже становятся вычислительно осуществимыми. Физик в мире ML: куда двигаться Практический вопрос, который волнует многих аспирантов и молодых исследователей: имеет ли смысл уходить из своей предметной области в машинное обучение — ради PhD по computer science или просто ради переориентации карьеры — чтобы потом вернуться обратно, уже с инструментами? Устюжанин считает этот паттерн разумным — но по неожиданной причине. Переход из физики в ML для человека, который знает физику, принципиально проще, чем обратный переход. Это асимметрия компетенций: математическая подготовка, навык работы с данными и понимание физических систем дают хорошую базу для работы в машинном обучении. В другую сторону — из ML в физику — гораздо труднее. Тот, кто изучал нейросети без серьёзного предметного фундамента, не сможет вернуться в физику «с инструментами»: инструменты будут, а понимания — нет. Кроме того, Устюжанин высказывает жёсткий прогноз: команды, занимающиеся «чистым ML» без привязки к прикладной области, с высокой вероятностью окажутся вытеснены развитием самих моделей — достаточно посмотреть на то, что уже делают Anthropic, DeepMind и другие лаборатории. Команды, работающие на стыке ML и конкретной предметной области — биологии, физики, химии, — значительно устойчивее, потому что там асимметрия работает в их пользу: модель не знает физику так, как знает её физик. Устюжанин предлагает и третий путь, который, по его ощущению, становится всё более релевантным: самостоятельное прохождение осмысленного набора курсов — желательно с поддержкой живого наставника, который работает в той же области, — плюс стажировки с реальными задачами. Время, необходимое для достижения профессионального уровня в какой-то области, уже не всегда соответствует длительности формальных программ. Университет «Конструктор», где работает Устюжанин, экспериментирует с форматами и поддерживает именно такие модели. Агенты, которые уже доступны Агентские подходы — системы, в которых ИИ самостоятельно планирует и выполняет последовательности действий — уже существуют в формах, доступных для учёных без глубокой технической экспертизы. Для биологов есть PILO Phylo — система, которая позволяет решать биоинформатические задачи. Внутри неё работают несколько агентов, предположительно основанных на Claude: они сами ищут нужные данные, генерируют графики и показывают результаты. Для математиков DeepMind сделал AlphaEvolve — систему, способную находить новые математические конструкции методом направленной эволюции алгоритмов. Правда, DeepMind пока не открывает к ней широкий доступ. Зато японская лаборатория Sakana.ai выпустила открытый аналог — AI Scientist / Shinka Evolve, — который можно подключить к собственному языковому токену и запустить схожие процессы на своих задачах. Ключевое здесь то, что от пользователя не требуется самому строить агентную систему с нуля. Нужно настроить готовую под конкретную задачу и иметь вычислительные ресурсы для её работы. Инфраструктура уже есть, порог входа снизился. Сингулярность, которая уже случилась Если нас и так окружают миллиарды разнообразных агентств и «сознаний» — государства, корпорации и алгоритмы, — то чем страшен ещё один агент в виде ИИ? Устюжанин отвечает через аналогию: у аквалангиста есть предел безопасной скорости всплытия: если всплывать слишком быстро, азот в крови не успевает раствориться — и человек погибает. У людей как вида, вероятно, есть аналогичный предел скорости адаптации к изменениям. Технологии, в отличии от биологии, ускоряются, и этот разрыв со временем становится значимым. Конкретный пример: модель Anthropic несколько месяцев назад нашла уязвимости в ядрах Linux и FreeBSD — уязвимости, которые open-source-сообщество пропускало в течение десяти лет. Это значит, что система уже способна делать то, что люди принципиально не успевают: просматривать огромный объём кода с такой скоростью и вниманием, которые человеку недоступны физически. Для конкретного научного сообщества или исследовательской группы, которая не следит за развитием области, сингулярность в каком-то смысле уже произошла: она выглядит как медленно нарастающий разрыв между теми, кто адаптировался, и теми, кто не успел. Растущая сложность как фронтир Когда разговор переходит к тому, что выглядит наиболее перспективным в AI-исследованиях на ближайшие год-два, оба собеседника называют одну и ту же тему с разных сторон. Устюжанин говорит о системах растущей сложности. Физические, биологические и другие системы подчиняются разным законам, но, если смотреть на них как на явление постоянного увеличения сложности, — у них обнаруживаются общие паттерны. Почему и как сложность нарастает, какие переходы происходят при этом — этот вопрос пока остаётся без хорошего ответа, потому что у нас есть только одна история жизни на Земле, и сравнивать её не с чем. Симуляция artificial life в системах клеточных автоматов позволяет хотя бы частично обойти это ограничение: там можно наблюдать нарастание качественных изменений в контролируемых условиях. Работы Стюарта Кауфмана, Дэвида Кракауэра и Santa Fe Institute — хорошая точка входа в эту тему. Группа Андрея тоже ведет исследования в этом направлении Бурцев добавляет свой угол зрения: как можно построить модель, в которой сложность не просто моделируется, а действительно растёт, — и в которой можно было бы промоделировать переход к post-AGI сценариям, когда искусственный интеллект окажется по ту сторону некоторой границы, а человек — ещё по эту. Это не сценарий из научной фантастики, а скорее теоретическая рамка, в которой можно задать более точные вопросы о том, что именно происходит при таком переходе. И отдельно — вопрос о сознании, который оба называют важным, но предостерегают от его фетишизации. Бурцев высказывает мнение, что сознание — феномен, который мы склонны переоценивать просто потому, что он про нас самих. По его мнению, сознание — это инструмент предсказания поведения других людей, встроенный в нашу психологию. Ничего особенного, кроме нашей привязанности к себе, в нём нет. Но именно это делает его важным: если ИИ уже проходит тест Тьюринга — убедительно имитирует разумное поведение, — то вопрос о том, есть ли там «кто-то внутри», из философского становится практическим. Коперниканский удар по человеческому самолюбию нанесён: мы, возможно, не только не центр вселенной и не вершина творения, но и не самые умные в классе. А может быть — и не единственные, кто думает.
Вопрос «заменит ли искусственный интеллект учёных» звучит сегодня примерно с той же интенсивностью, с какой в начале XX века спрашивали, заменит ли автомобиль лошадь. Ответ тогда оказался сложнее, чем предполагали: лошадь никуда не делась, просто её роль изменилась до неузнаваемости. С учёными, судя по всему, происходит нечто похожее — только быстрее, запутаннее и с куда большим количеством медийного шума вокруг. Михаил Бурцев — один из наиболее известных российских исследователей искусственного интеллекта, работающий сейчас в Лондоне; и Андрей Устюжанин, физик и профессор университета «Конструктор», работающий в Гамбурге, встретились в формате открытого вебинара для аудитории, которую интересовал именно практический срез: что происходит с наукой и научной карьерой, когда рядом появляется мощный инструмент, способный писать код, рецензировать статьи и, возможно, когда-нибудь — генерировать гипотезы. Разговор получился живым и, местами, совсем не утешительным — в хорошем смысле. О возмо