Источник: Nuances of Programming Введение Знакомство с машинным обучением часто начинается с линейной регрессии  —  одного из самых простых алгоритмов. Однако эта модель быстро раскрывает свои недостатки, особенно при работе с наборами данных, которые требуют перестройки моделей. Основные решения этой проблемы  —  ридж- и лассо-регрессии. Дилемма смещения-дисперсии Чтобы понять, зачем нужны эти методы, обсудим дилемму смещения-дисперсии. В контролируемой среде у модели может быть два основных источника ошибок...

Часть 1, Часть 2 Источник: Nuances of Programming Ридж- и лассо- регрессия Моя бабушка до сих пор не очень напугана, поэтому продолжаем! Линейная регрессия не такая уж и пугающая, правда? Это просто метод нахождения связи между чем-то. Теперь, когда мы знаем, что такое линейная регрессия, можем поговорить о других методах, похожих на неё, например, о ридж-регрессии. Для понимания линейной регрессии надо было понять метод градиентного спуска. Точно так же для понимания ридж-регрессии необходимо понять, что такое регуляризация...