Почти вся современная машинная обучение стоит на одном ките: на вероятностях. Мы считаем, что у модели есть распределение, что классы имеют вероятности, что уверенность можно выразить числом от нуля до единицы. Softmax в конце нейросети, логистическая регрессия, байесовские методы, кросс-энтропия как функция потерь — всё это разговаривает на языке вероятностей. И у этого языка есть подвох, о котором знают все, но мало кто любит обсуждать. Вероятность — это не про то, что мы знаем. Это про то, как часто что-то происходит, если события повторяются бесконечно...