Для представления чисел, как правило нет необходимости указывать максимально возможное количество цифр. Например, запись 1999,999 г все-таки правильнее записать 2,0 кг. Т.е. в виде значащих цифр. Значащие...

Сегодня мы продолжим разговор о точности вычислений, причем он уже будет касаться не только ЭВМ. Не смотря на то, что термины разрешающая способность и погрешность обычно применяются к измерительным приборам в метрологии, они имеют отношение и к самой обычной математике. Когда мы ее используем для расчетов даже на листке бумаги. В предыдущей статье мы уже касались вопросов точности как представления чисел, так и вычислений. Не смотря на то, что разговор шел о вычислительных машинах, затронутые вопросы имеют самый общий характер...