Явление двойного спуска в глубоком обучении обнаруженное в прошлом году, представляет собой феномен улучшения качества обучения нейронной сети, при дальнейшем дообучении ее после "переобучения".
Такого эффекта часто удается избежать путем тщательной регуляризации...
Здравые идеи из повседневной жизни зачастую переплетаются с передовыми методиками в IT. Например, ключевую мысль градиентного спуска, заключающуюся в пошаговом улучшении модели машинного обучения, можно применить в личной практике. Например, что мешает каждому из нас провести работу над ошибками? Взять пример прошлой неудачи, подумать над действиями, которые помогут ее не допустить в следующий раз, и начать понемногу двигаться в направлении цели. Смысл именно в небольших изменениях, которые, с одной стороны, легко осуществить, с другой - они должны привести к намеченному...