Современная языковая модель и архиватор gzip выглядят как существа из разных миров. Первая поддерживает разговор, пишет код и пересказывает документы. Второй молча уменьшает файлы. Но внутри оба заняты одним и тем же: пытаются угадать, что появится дальше. Чем точнее прогноз, тем меньше информации приходится записывать. Если продолжение почти очевидно, его можно закодировать очень коротко. Если оно неожиданно, придётся потратить больше битов. Именно поэтому сжатие можно считать предсказанием, а предсказатель — потенциальным упаковщиком данных...