Переобучение – это случай, когда значение Функции потери (Loss Function) действитеьно малó, но Модель (Model) Машинного обучения (ML) ненадежна. Это связано с тем, что модель «слишком много учится» на обучающем наборе данных. Когда мы входим в сферу ML, появляются двусмысленные термины: Переобучение, Недообучение (Underfitting) и Дилемма смещения-дисперсии (Bias-Variance Trade-off). Эти концепции лежат в основе Машинного обучения в целом. Почему нам вообще должно быть до этого дело? Возможно, модели машинного обучения преследуют одну единственную цель: хорошо обобщать...
Нейрофизиологи говорят о том, что эффективное обучение возможно только до 30 лет. Просто так устроен наш мозг физически. Первые тридцать лет жизни он способен к активному развитию, а потом начинает стареть. Но чем больше было своевременного развития, обучения, тем медленнее происходит увядание. Вот именно поэтому считается важным в молодости уделить внимание обучению, освоению как можно большего количества знаний и приобретению навыков. В последствии это можно будет конвертировать в освоение чего-то нового из смежных сфер...