911 читали · 2 года назад
О представлении чисел в ЭВМ. Когда запятая плавает
Представление рациональных чисел в виде обыкновенных дробей удобно и полезно, но для нас все таки более привычны десятичные дроби. И их представление в виде чисел с фиксированной запятой позволяет работать с ними быстро и удобно. Но все таки, числа с фиксированной запятой не в состоянии покрыть все потребности в числовой обработке обработке. Проблема возникает при работе с очень большими или очень малыми числами. А если еще учесть, что нужно выполнять арифметические операции с числами из всего диапазона...
174 читали · 2 года назад
Нескучная метрология. Расстояние до солнца, толщина волоса, и двойная точность
Дискуссия по поводу учета тепла (на самом деле, не только), части которой была посвящена отдельная статья, и которая немного выплеснулась в комментариях к другим статьям, продолжается. Уже за пределами Дзен и не с тем моим оппонентом, но продолжается. И бывший (ныне занесенный в черные списки) оппонент в ней тоже присутствует, но уже опосредовано. Правда от этого не легче. Но вчера я получил вот такое заявление (дословная ЦИТАТА!): "При программировании фигурируют одинарная и двойная точность К чему это относится? А это является развязкой суждений по поводу точности измерений ЦП...