Сегодня мы продолжим разговор о точности вычислений, причем он уже будет касаться не только ЭВМ. Не смотря на то, что термины разрешающая способность и погрешность обычно применяются к измерительным приборам в метрологии, они имеют отношение и к самой обычной математике. Когда мы ее используем для расчетов даже на листке бумаги. В предыдущей статье мы уже касались вопросов точности как представления чисел, так и вычислений. Не смотря на то, что разговор шел о вычислительных машинах, затронутые вопросы имеют самый общий характер...

Представление рациональных чисел в виде обыкновенных дробей удобно и полезно, но для нас все таки более привычны десятичные дроби. И их представление в виде чисел с фиксированной запятой позволяет работать с ними быстро и удобно. Но все таки, числа с фиксированной запятой не в состоянии покрыть все потребности в числовой обработке обработке. Проблема возникает при работе с очень большими или очень малыми числами. А если еще учесть, что нужно выполнять арифметические операции с числами из всего диапазона...