Приветствую всех. Сегодня на занятии хотелось бы затронуть немало важную тему, связанную одновременно с дифференциальным исчислением и векторной алгеброй. Мы постараемся как можно меньше углубляться в теоретические тезисы и побольше сделаем упор на решение практических задач. Незамедлительно начнём. Определение слова "градиент" в математике нужно усвоить. Градиент - это вектор показывающий направление наибольшего возрастания функции. Модуль вектора градиента показывает скорость изменения функции...

Источник: Nuances of Programming Градиентный спуск  —  это одна из важнейших идей в области машинного обучения, в котором алгоритм с учетом функции затрат итеративно выполняет шаги с наибольшим уклоном вниз, и, спустя достаточное число циклов, теоретически завершается в точке минимума...