945 читали · 2 года назад
О представлении чисел в ЭВМ. Когда запятая плавает
Представление рациональных чисел в виде обыкновенных дробей удобно и полезно, но для нас все таки более привычны десятичные дроби. И их представление в виде чисел с фиксированной запятой позволяет работать с ними быстро и удобно. Но все таки, числа с фиксированной запятой не в состоянии покрыть все потребности в числовой обработке обработке. Проблема возникает при работе с очень большими или очень малыми числами. А если еще учесть, что нужно выполнять арифметические операции с числами из всего диапазона...
222 читали · 5 лет назад
О машинном представлении вещественных чисел
Все мы в детстве программировали на Pascal-е. Или по крайней мере слышали об этом замечательном языке программирования. Тут, конечно, возникает вопрос "а чем это он, интересно, такой замечательный?", но я позволю себе оставить объяснение за скобками. Речь пойдет о немного более приземлённых вещах, а именно о том, как в паскалевских типах данных представлены числа. С натуральными числами более или менее ясно - где-то в глубине машины привычная конструкция var x : uint64;. .. x := 3462; превращается...