Аюбован ребята! Не устали еще от нашей занудности? Все не так, и все не то. А еще и обучать чему-то пытаемся. Устали? Да нам все равно! Сегодня поднимем тему «А/Б тесты» – что это, с чем эти тесты едят и для чего они вообще нужны. Что вообще такое этот АБ-тест? Схема простая, понятная, но пояснить надо: То есть, вы интернет магазин по продаже «Отечественных радиаторов». У вас подключены различные рекламные каналы. Но основной в нашей стране канал – это контекстная реклама Я.Директ. И вот вы в тренде всех радиаторов, предпочтений покупателей и в веб-дизайне...
📌 3. Экспресс-курс статистики для АБ Классическая механика расчёта АБ-тестов основывается на стат. критериях. Я почти уверен, что ты в курсе базовых понятий, но давай освежим некоторые вещи, чтобы лучше понимать что мы будем делать в расчётах. ✅ Распределение — способ описания того, как разбросаны значения в наборе данных. Распределение бывает разных видов, но нас пока интересует только нормальное. ✅ Дисперсия — мера разброса значений вокруг среднего значения в данных. Она показывает, насколько данные отличаются друг от друга. Например дисперсия в измерении размеров мышей не высокая, а в наборе из мышей и слонов очень даже. ✅ Выбросы — это экстремально большие или маленькие значения в наборе данных, которые могут искажать общие результаты. В АБ с выбросами осторожно. ✅ Статистические тесты — не путать с АБ-тестами. Стат. тесты это инструменты, с помощью которых мы проверяем заранее заданные статистические гипотезы. Их много разных. У каждого стат. теста есть нулевая гипотеза, и задача теста её отклонить или не. Т.е. по простому, стат. тесты позволяют нам делать различные проверки наших данных, например, проверку на нормальность распределения, или гомогенность дисперсий. ✅ ЦПТ (Центральная предельная теорема) — фундамент статистики: “при достаточно большом размере выборки, распределение средних значений выборочных данных будет приближаться к нормальному распределению, независимо от формы распределения исходной популяции.” ✅ P-value — главный термин в контексте АБ, это вероятность получить такие же, или ещё более выраженные отличия, при условии, что верна нулевая гипотеза. ✅ Ошибка первого рода — ситуация, когда мы отклоняем нулевую гипотезу, хотя на самом деле она верна. В АБ это значит что мы радуемся победе тестового варианта, но на самом деле он не выиграл. ✅ Ошибка второго рода — противоположность ошибке первого рода. Мы не отклоняем нулевую гипотезу, хотя на самом деле должны. P.S. эту базу, кстати, часто спрашивают на собесах, сохрани и не теряй 🙂 #ABtest