530 читали · 2 года назад
О разрядности, точности, машинных вычислениях и суровом реальном мире
С одной стороны, эта статья относится в архитектуре ЭВМ и связанным с ней вопросам. С другой, к математике и инженерным (иногда и научным) расчетам. А с третьей, даже к метрологии. При всем при том это статья совсем не является теоретической. Она практическая во всех смыслах. Причиной появления этой статьи опять стал мой оппонент... Да, первопричина спора (дискуссией это назвать нельзя, поскольку аргументировать он не хочет) стала метрология и автоматической управление, причем в конкретной прикладной области - теплоснабжении...
253 читали · 2 года назад
Разрешающая способность и точность вычислений. Не только машинных
Сегодня мы продолжим разговор о точности вычислений, причем он уже будет касаться не только ЭВМ. Не смотря на то, что термины разрешающая способность и погрешность обычно применяются к измерительным приборам в метрологии, они имеют отношение и к самой обычной математике. Когда мы ее используем для расчетов даже на листке бумаги. В предыдущей статье мы уже касались вопросов точности как представления чисел, так и вычислений. Не смотря на то, что разговор шел о вычислительных машинах, затронутые вопросы имеют самый общий характер...