Запись чисел в ЭВМ

Первая форма записи: числа с фиксированной запятой. Полученное число можно вычислить по следующей формуле:

, где q - основание системы счисления, a1,...,at - целые в пределах 0 <= ak < q

При операциях над числами |x|<1 могут появляться числа |y|>=1, и тогда произойдет остановка ЭВМ. Чтобы избежать этого, производится масштабирование задачи - введение новых масштабов. Не всегда удается указать нужные масштабы и это может привести к непредвиденным ошибкам, таких как потеря данных, при очень большом диапазоне задания масштабы либо указать масштабы заранее указать вовсе нельзя. Для решения этой проблемы следует указывать масштабы уже в процессе решения задачи.

Вторая форма записи: с плавающей запятой. Полученное число можно вычислить по следующей формуле:

порядок числа p удовлетворяет неравенству |p|<=p0

Наиболее распространенная запись чисел в ЭВМ - двоичная СИ.