Найти в Дзене
Про всё

Метод наименьших квадратов. Как получить функцию и построить линейную зависимость

Метод наименьших квадратов - классический способ описания каких-либо зависимостей одной величины от другой. Наиболее простая для понимания и реализации этого метода является линейная зависимость вида y=kx+b.

Некий набор точек, которые нужно описать линейной зависимостью.
Некий набор точек, которые нужно описать линейной зависимостью.

Предположим, что мы имеем некий набор точек в координатах x-y, и нам необходимо их описать линейной зависимостью (напоминаем, что такая функция имеет вид y=kx+b) с применением Метода наименьших квадратов.

Суть заключается в нахождении коэффициентов k и b функции y=kx+b, которая линейно описывает наши "разбросанные" точки.

Для реализации метода необходимо добиться того, чтобы сумма квадратов отклонений была минимальной.

Стремлении суммы квадратов отклонений к нулю - вверху; система уравнений частных производных - внизу.
Стремлении суммы квадратов отклонений к нулю - вверху; система уравнений частных производных - внизу.

Чтобы найти значения k и b, при которых сумма отклонений минимальна, необходимо получить частные производные уравнения и приравнять их к нулю.

Далее приводим систему уравнений к удобному и наглядному виду и замечаем, что задача сводится к решению системы линейных уравнений.

Система уравнений для решения.
Система уравнений для решения.

Решать полученную систему уравнений наиболее удобно методом Крамера, на котором в рамках данных заметок подробно останавливаться не будем.

Для наглядности попробуем получить функцию, линейно описывающую набор конкретных значений.

Работа с набором "точек".
Работа с набором "точек".
  • Сначала находим известные значения в наших уравнениях (можно их подставить и записать уравнение в численно-буквенной форме, если это поможет восприятию).
  • Далее - методом Крамера или другим известным способом находим искомые величины. В нашем случае k и b.
  • Применяем полученное уравнение для построения линии, которая описывает наши "разбросанные" точки (используя первоначальные значения y или x, находим соответственно x или y для построения прямой линии и стоим эту линию).
Получение функции.
Получение функции.
Построение линейной зависимости.
Построение линейной зависимости.

Таким образом, мы описали некий набор значений x,y линейной зависимостью с примением метода наименьших квадратов. Похожей стратегией можно описывать и более сложные функциональные зависимости.

  • Спасибо Вам за уделенное время!
    Подписывайтесь на канал и ставьте палец вверх.

Наука
7 млн интересуются