Тема имеет чёткую генеалогию. Она начинается как попытка строго формализовать индукцию и бритву Оккама, проходит через статистическую прагматику и возвращается в современный ИИ уже в виде интерпретативных рамок и практических objectives. 1950–1960-е: основание Рэй Соломонофф в 1960 году (предварительный отчёт) и особенно в двух работах 1964 года («A Formal Theory of Inductive Inference») вводит алгоритмическую вероятность. Идея: априорная вероятность гипотезы пропорциональна \(2^{-l(p)}\), где \(l(p)\) — длина самой короткой программы, порождающей наблюдаемые данные на универсальной машине Тьюринга...