Найти в Дзене
Control myLab

Как правильно округлять результаты измерений? Основные правила.

При выполнении измерений или исследований довольно часто встает вопрос о том как правильно оформить окончательный результат. Следует прежде всего разобраться, что считается промежуточным результатом, а что окончательным.
Окончательный результат – это результат измерения с погрешностью, который вносится в лабораторные журналы, а также выдается лабораторией в протоколе испытаний и итоговых

При выполнении измерений или исследований довольно часто встает вопрос о том как правильно оформить окончательный результат. Следует прежде всего разобраться, что считается промежуточным результатом, а что окончательным.

Окончательный результат – это результат измерения с погрешностью, который вносится в лабораторные журналы, а также выдается лабораторией в протоколе испытаний и итоговых отчетах.

Промежуточные результаты – это полный набор информации об анализе, в том числе расчеты результатов единичных определений; расчет результата измерения как среднеарифметическое значение результатов единичных определений, полученных в условиях повторяемости; контроль повторяемости; расчет погрешности. Данные результаты так же фиксируются в лабораторных журналах, но для отчетных документов не используются.

Именно окончательный результат стоит округлять до количества значащих цифр.

Округление числа – это отбрасывание значащих цифр справа до определенного разряда с возможным изменением цифры этого разряда (согласно СТ СЭВ 543-77).

Округление следует выполнять сразу до числа значащих цифр, поэтапное округление может привести к ошибкам, так как вычисленная погрешность обладает собственной погрешностью, как правило выше 10-20 %. Следовательно, нет необходимости описывать её более чем двумя знаками. Например, числа - 0,710 и 0,716 отличаются друг от друга не более чем на 1%.

Если число десятичных знаков в результате вычисления оказывается меньше, чем в значении погрешности, то недостающие цифры заменяют нулями.
Если число десятичных знаков в результате вычисления оказывается больше, то используют стандартное правила округления.
-если первая из отбрасываемых цифр (считая слева направо) меньше 5, то последняя сохраняемая цифра не меняется
- если первая из отбрасываемых цифр (считая слева направо) равна 5, то последняя сохраняемая цифра увеличивается на единицу.

Фото автора Pixabay: Pexels
Фото автора Pixabay: Pexels

Данная статья имеет ознакомительный характер.

Литературный источник

1. СТ СЭВ 543-77 "Числа. Правила записи и округления" (настоящий стандарт является обязательным в рамках Конвенции о применении стандартов СЭВ)

2. ГОСТ Р 8.736-2011 Методы обработки результатов измерений. Основные положения