Мы уже обсуждали комплексную плоскость, которая естественным образом получается расширением числового поля, чтобы все операции были выполнимы. Теперь посмотрим на функции --- там сплошные чудеса. Начнем с простого факта. Комплексные числа a+bi представляются матрицами вида Легко проверить, что обычное сложение и умножение матриц соответствует сложению и умножению комплексных чисел --- а все остальное выводится. Умножение матриц обычно некоммутативно --- результат зависит от порядка сомножителей --- но не в этом случае...
На мой взгляд самое простое с чего нужно начинать изучать нейросети — это аппроксимация таких простых математических функций, как синус, квадратичная функция, экспонента и т.д. Согласно универсальной теореме аппроксимации — нейронная сеть с одним скрытым слоем может аппроксимировать любую непрерывную функцию многих переменных с любой точностью. Главное чтобы в этой сети было достаточное количество нейронов. И еще важно удачно подобрать начальные значения весов нейронов. Чем удачнее будут подобраны веса, тем быстрее нейронная сеть будет сходиться к исходной функции...