Найти тему
308 подписчиков

В ответ на пост

Представление результатов, когда в методике написано "Степень округления — 0,005» или любое другое число, а не количество знаков после запятой.
Необходимо разделить результат на 0,005, потом округлить полученное значение до целого, потом умножить на 0,005.
Например получается так:
0,0122 округляется до 0,010
0,0172. округляется до 0,015
Дополнительно лаборатории следует установить правила, когда результат выдается с округлением показателя точности до большего количества значащих цифр. Например при межлабораторных сличительных испытаниях результаты получаются промежуточные, так как провайдер выводит статистику и границы несоответствий. Чтобы не потерять значащую цифру в результате измерения, погрешность необходимо выражать большим количеством значащих цифр и провайдер может установить такие правила в программе проведения МСИ. Есть необходимость избегать лишнего округления и при проведении ВЛК, Все результаты для ВЛК будут промежуточные, так как потом используются для вычислений расхождения и нормативов контроля, и в рабочем журнале по ВЛК необходимо указывать все значащие цифры результата измерений.
#округление
Около минуты