411 подписчиков
В ответ на пост
Промежуточные результаты должны иметь на 2 значащих цифры больше чем итоговый результат, но это правила применяются для ручных вычислений, для уменьшения трудоёмкости. При подсчёте с помощью ЭВМ и или программного обеспечения промежуточные результаты можно дополнительно не округлять.
Лаборатория может принять для себя, что она всегда выдает показатель точности с двумя значащими цифрами, поскольку измерения в аккредитованной лаборатории должны быть точными.
Такое правило позволит облегчить процедуру округления для сотрудников, избавить от ошибок при округлении за счет упрощения расчетов. Также такое правило проще реализовать при автоматизации вычислений в электронных таблица, ЛИМС и другом ПО.
Поскольку все вышеуказанные документы привязывают округление результата к округлению показателя точности (погрешности или неопределенности), необходимо записывать результат измерений с соответствующим показателем точности, если он установлен в методике или установлен лабораторией при внедрении методики, верификации или валидации. Соответственно лаборатории также необходимо отразить этот пункт в правилах выдачи результатов испытаний. Для единообразия следует выдавать все результаты измерений с показателем точности.
В технических записях ни в коем случае нельзя округлять результаты прямых измерений, они должны быть записаны так, как были получены. Для промежуточных вычислениях необходимо брать минимум на две значащих цифры больше. Поскольку при промежуточных вычислениях бывают как умножения, так и деления следует ориентироваться на результат вычисления и не сокращать количество значащих цифр.
Пример:
У нас при измерении получены следующие значения 12,31 и 54,12
В ходе вычислений необходимо два этих числа умножить, получится 666,0941. У нас во входящих величинах четыре значащих цифры, прибавляем еще 2, как положено для промежуточных вычислений и получаем шесть значащих цифр. Соответственно необходимо 666,0941 округлить до 666,094
Если бы эти числа необходимо было разделить одно на другое, мы получили бы 0,227499537978193, а при округлении до шести значащих получается 0,227500. Несмотря на то, что отличие появляется уже в четвертом знаке фактически мы отклонились от вычисленного значения при округлении только на 0,000203%, что естественно является очень маленькой величиной. Необходимо из входящих в вычисления чисел брать максимальное количество значащих цифр.
#округление
2 минуты
19 сентября 2024