От стрелок к абстракции Линейная алгебра начинается с удивительно простых наблюдений. В физическом мире перемещения, силы и скорости складываются по правилу параллелограмма, а умножение на число растягивает или сжимает их. Эти операции, известные ещё античным геометрам, получили строгую алгебраическую форму лишь в XIX веке. Математики осознали, что свойства сложения и умножения на скаляр можно выделить в самостоятельную систему аксиом, не зависящую от трёхмерного пространства. Так родилось понятие векторного, или линейного, пространства — множества элементов, называемых векторами, для которых определены две операции, подчиняющиеся нескольким простым правилам...

Нейросетевые операторы (neural operators), это модели, которые обучаются напрямую отображать входные данные задачи (геометрию, граничные условия) в решение уравнения в частных производных, заменяя часть дорогостоящих численных расчётов. Трансформерная архитектура с механизмом внимания хорошо подходит для таких задач, потому что умеет учитывать дальние взаимосвязи между точками расчётной области. Но у стандартного внимания два известных недостатка: вычислительная сложность растёт квадратично с числом...