2 подписчика
Когда доказательств станет больше, чем понимания.
Математик может потратить месяцы, чтобы разобраться в новой идее. Не просто проверить последнюю строку доказательства, а понять, зачем автор ввёл именно эти определения, где скрыты сильные предположения и что изменится, если попробовать применить результат за пределами исходной задачи.
Амит Сахай предлагает представить мир, в котором ИИ производит такие идеи быстрее, чем люди успевают их осмыслять. В гостевом тексте на сайте Теренса Тао он пишет о системах, с которыми уже работал: по его оценке, они не только ускоряют вычисления, но и предлагают красивые новые идеи. Дальнейшее ускорение — его прогноз, а не установленный факт. Но если прогноз хотя бы отчасти сбудется, узким местом науки станет не получение очередного результата, а способность сообщества понять, что он означает.
На первый взгляд ответ прост: пусть ИИ и объясняет открытия ИИ. Пусть одна система находит доказательство, другая проверяет, третья пишет понятное изложение. Сахай не настаивает, что люди обязаны вручную переделывать работу, которую машина выполняет надёжнее. Он напоминает о другом: даже безупречная теорема верна внутри модели. Когда результат касается физического мира, нужно отдельно понять, насколько сама модель соответствует реальности.
В качестве мысленного эксперимента он предлагает проект термоядерной электростанции мощностью в тераватт, основанный на принципах, которых прежде никто не использовал. Допустим, ИИ представил убедительные расчёты и математические гарантии. Прежде чем строить такую станцию, всё равно придётся выяснить, что произойдёт при отказе, как поведут себя материалы и достаточно ли экспериментальных данных, чтобы доверять расчётам. Вопрос не в том, красив ли результат. Вопрос в том, на каком основании общество готово принять его последствия.
Именно поэтому Сахай говорит об «интеллектуальном резерве» — устойчивых сообществах исследователей, которым можно дать семестр или год на разбор важного открытия. Не на торопливое одобрение результата, а на попытку построить собственное понимание: воспроизвести аргументы, найти границы применимости, поставить вопросы, которые автор — человек или машина — не поставил. Причём такая экспертиза должна существовать не только внутри компании, предлагающей технологию. Иначе на публичном обсуждении её специалисты окажутся единственными людьми, способными понять собственные доводы.
В этом предложении есть непростой человеческий поворот. Наука долго вознаграждала того, кто первым доказал новую теорему. Сахай предлагает серьёзно относиться и к другой работе: потратить долгое время, чтобы уже полученный результат стал понятен другим. Это не утешительный приз для тех, кто не успел за машиной. Если открытия начнут влиять на инфраструктуру, медицину или энергетику, независимое понимание станет частью способности общества принимать решения, а не просто любоваться скоростью прогресса.
Но красивого названия для новой роли мало. В комментариях к тексту спрашивают, кто будет оплачивать такие исследовательские группы и какие перспективы появятся у молодых математиков, для которых академическая карьера уже сейчас трудна. Это сильное возражение. Нельзя призвать людей годами разбираться в сложных результатах, а затем оценивать и нанимать их только по числу собственных новых теорем. Сахай признаёт, что его текст скорее обозначает выбор направления, чем даёт готовый план финансирования и найма.
Мне кажется, его главная мысль не в защите математики как профессии. Она о праве не отдавать понимание на аутсорс целиком. Мы можем пользоваться машинными доказательствами и машинной помощью в их изучении. Но если решения огромной важности будут приниматься по причинам, которые не понимает ни одно независимое человеческое сообщество, формальная возможность сказать «да» или «нет» останется, а содержательная способность выбирать начнёт исчезать.
3 минуты
30 сентября