Stanford CS229 Машинное обучение - линейная регрессия и градиентный спуск Лекция 2 (осень 2018)
Градиентный спуск в обучении и жизни
Здравые идеи из повседневной жизни зачастую переплетаются с передовыми методиками в IT. Например, ключевую мысль градиентного спуска, заключающуюся в пошаговом улучшении модели машинного обучения, можно применить в личной практике. Например, что мешает каждому из нас провести работу над ошибками? Взять пример прошлой неудачи, подумать над действиями, которые помогут ее не допустить в следующий раз, и начать понемногу двигаться в направлении цели. Смысл именно в небольших изменениях, которые, с одной стороны, легко осуществить, с другой - они должны привести к намеченному...
Лучшие методы оптимизации в машинном обучении
«Все впечатляющие достижения глубокого обучения сводятся к подгонке оптимизации». Жемчужина Иудеи Машинное обучение в его наиболее упрощенной форме иногда называют прославленной подгонкой оптимизации. В некотором смысле это правда. Модели машинного обучения обычно основаны на принципах конвергенции; подгонка данных к модели. Приведет ли этот подход к ОИИ, все еще остается спорным вопросом. Однако на данный момент наилучшим решением являются глубокие нейронные сети, и они используют методы оптимизации для достижения цели...