883 прочтения · 2 года назад
О представлении чисел в ЭВМ. Когда запятая плавает
Представление рациональных чисел в виде обыкновенных дробей удобно и полезно, но для нас все таки более привычны десятичные дроби. И их представление в виде чисел с фиксированной запятой позволяет работать с ними быстро и удобно. Но все таки, числа с фиксированной запятой не в состоянии покрыть все потребности в числовой обработке обработке. Проблема возникает при работе с очень большими или очень малыми числами. А если еще учесть, что нужно выполнять арифметические операции с числами из всего диапазона...
523 прочтения · 2 года назад
О разрядности, точности, машинных вычислениях и суровом реальном мире
С одной стороны, эта статья относится в архитектуре ЭВМ и связанным с ней вопросам. С другой, к математике и инженерным (иногда и научным) расчетам. А с третьей, даже к метрологии. При всем при том это статья совсем не является теоретической. Она практическая во всех смыслах. Причиной появления этой статьи опять стал мой оппонент... Да, первопричина спора (дискуссией это назвать нельзя, поскольку аргументировать он не хочет) стала метрология и автоматической управление, причем в конкретной прикладной области - теплоснабжении...