Дойдя до этой темы, я не нашёл чёткого, простого и понятного объяснения. Так я решил написать эту статью. Постарался написать простым понятным языком. Техники дифференцирования матриц активно применяются в машинном обучении и оптимизации, поэтому важно понимать как это делать. Это сильно упрощает жизнь при вычислениях, например, если мы хотим продифференцировать некоторую функцию которая состоит из матриц и векторов, не опытный пользователь начнёт расписывать через суммы и, исходя из условий, пытаться дифференцировать по нужной переменной...

Как эти понятия проще объяснить ребёнку? Дифференцирование и интегрирование — взаимно обратные операции, подобно тому, как возведение в степень и извлечение корня являются взаимно обратными действиями. Обратные операции — это такие операции, в которых объект и результат меняются местами. Если выполнить операцию, а затем выполнить обратную ей операцию, то получится исходный объект. Взаимно обратные операции — это операции, действие которых взаимно аннулирует друг друга. Например, сложение и вычитание...