4 года назад
Арифметика с плавающей точкой: проблемы и ограничения
Числа с плавающей запятой представлены в компьютерном оборудовании как дроби с основанием 2 (двоичные). Например, десятичная дробь 0.125 имеет значение 1/10 + 2/100 + 5/1000, и точно так же двоичная дробь 0.001 имеет значение 0/2 + 0/4 + 1/8. Эти две дроби имеют одинаковые значения, единственная реальная разница в том, что первая записана в дробной системе с основанием 10, а вторая - с основанием 2. К сожалению, большинство десятичных дробей не могут быть представлены точно как двоичные дроби. Следствием...
946 читали · 2 года назад
О представлении чисел в ЭВМ. Когда запятая плавает
Представление рациональных чисел в виде обыкновенных дробей удобно и полезно, но для нас все таки более привычны десятичные дроби. И их представление в виде чисел с фиксированной запятой позволяет работать с ними быстро и удобно. Но все таки, числа с фиксированной запятой не в состоянии покрыть все потребности в числовой обработке обработке. Проблема возникает при работе с очень большими или очень малыми числами. А если еще учесть, что нужно выполнять арифметические операции с числами из всего диапазона...