Найти тему

Chain Rule в Машинном обучении

Фото: Dušan veverkolog / Unsplash
Фото: Dušan veverkolog / Unsplash

Цепное правило (общее правило произведения) – способ вычисления совместного распределения набора случайных величин с использованием только условных вероятностей. Метод используется в качестве основы для Метод обратного распространения ошибки (Backpropagation) и при создании байесовских сетей.

Эта простая цепочка вероятности и случайных величин выражается как:

Простой пример – вероятность выбора выигрышных лотерейных билетов из разных шляп. Внутри шляпы 1 находится 1 выигрышный и 2 проигрышных билета. Шляпа 2 имеет 1 выигрышный и 3 проигрышных билета.

Первый случайный выбор шляпы будет событием A. Ваши шансы выбрать шляпу 1: P(A) = P(~A) = 1/2.

Событие B — это шанс выудить выигрышный билет. В случае с первой шляпой шанс получить выигрышный билет равен P(B | A) = 1/3.

Событие «А, Б» — это своеобразное пересечение выбора шляпы 1 и выигрышного билета. Использование цепного правила для вероятности показывает, что ваши шансы получить выигрышный билет в Событии А составляют 16,5% (33% x 50%).

Автор оригинальной статьи: deepai.org