251 читали · 2 года назад
Разрешающая способность и точность вычислений. Не только машинных
Сегодня мы продолжим разговор о точности вычислений, причем он уже будет касаться не только ЭВМ. Не смотря на то, что термины разрешающая способность и погрешность обычно применяются к измерительным приборам в метрологии, они имеют отношение и к самой обычной математике. Когда мы ее используем для расчетов даже на листке бумаги. В предыдущей статье мы уже касались вопросов точности как представления чисел, так и вычислений. Не смотря на то, что разговор шел о вычислительных машинах, затронутые вопросы имеют самый общий характер...