411 подписчиков

В ответ на пост

Исходя из положений вышеуказанных документов следует принять следующие правила представления и округления результата:

Число знаков после запятой в оценке измеряемой величины должно совпадать с числом знаков после запятой в значении показателя точности (погрешности), показатель точности выражается в абсолютных величинах.

Правильно:

m= (1,000±0,012) мг

I= (10±5) А

S= (10,22±0,12) м/c

m= (11,12±0,05) гр

I= (10,1±2,9) А

Неправильно:

m= (1±0,012) мг (не согласовано, недостающие цифры заполняют нулями)

I= (10,0±5) А (не согласовано)

S= (10,002±0,12) м/c (не согласовано, нет необходимости указывать в результате измерения большее число знаков после запятой чем у показателя точности)

m= (11,12±1,05) гр (погрешность выражена более чем двумя значащими цифрами)

Если оставляем две значащих цифры в показателе точности, то округление третьей значащей цифры производят в большую сторону, что позволяет избежать уменьшения показателя точности (погрешности) из-за округления. Но это не является обязательным, поскольку вычисленный показатель точности, выраженный в допустимых границах погрешности или расширенной неопределенности, является неточной величиной, и расхождения от действительной погрешности могут быть значительные (10-50%), следовательно, нет необходимости описывать её более чем двумя знаками. Например, числа - 0,510 и 0,505 отличаются друг от друга не более чем на 1%. И округление третьего знака в большую или меньшую сторону не сильно повлияет на точность.

Если число десятичных знаков в результате вычисления оказывается меньше, чем в значении показателя точности, то недостающие цифры заменяют нулями.

Если число десятичных знаков в результате вычисления оказывается больше, то используют стандартное правила округления.

-если первая из отбрасываемых цифр (считая слева направо) меньше 5, то последняя сохраняемая цифра не меняется

- если первая из отбрасываемых цифр (считая слева направо) равна 5, то последняя сохраняемая цифра увеличивается на единицу.

Чем первая значащая цифра больше, тем результат округления внесёт меньшую неточность в итоговый результат. Поэтому, если первая значащая цифра больше 3, показатель точности округляют до одной значащей цифры.

0,105 при округлении до 0,11 внесённое отклонение 4,76%

0,345 при округлении до 0,35 внесённое отклонение 1,45 %

0,351 при округлении до 0,4 внесённое отклонение 13,96 %

0,950 при округлении до 1,0 внесённое отклонение 5,26 %

Правильно:

Результат m= (1±0,000127) мг, запись в протоколе m=(1,00000±0,00013) мг

Результат m= (1,056±0,000121) мг, запись в протоколе m=(1,05600±0,00012) мг

Результат m= (1,056±1,000121) мг, запись в протоколе m=(1,1±1,0) мг

Результат m= (1,005±0,00035) мг, запись в протоколе m=(1,0050±0,0004) мг

Результат m= (1,005±0,00031) мг, запись в протоколе m=(1,0050±0,0003) мг

#округление

2 минуты

19 сентября 2024