Правила округления при обработке результатов измерений. Часть 1

Аватара пользователя

Автор темы
texadmin
Администратор
Сообщения: 3692
Стаж: 4 года 8 месяцев
Поблагодарили: 460 раз
Пол:

интересно Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение texadmin »

Ключевые слова (метрология, оформление протоколов, округление результатов измерения)
1. Правила (или рекомендации) округления в современных лабораториях необходимо принять прежде всего для:
Правильного расчёта конечного результата.
Удобства представления результатов измерений (испытаний) потребителю и другим заинтересованным сторонам.
Соблюдения требований стандартов и нормативных документов.
Единообразия форм оформления протоколов (представления результатов), в рамках лаборатории.
Повышения качества предоставленной услуги.
Повышения компетентности сотрудников.

2. При составлении этих правил следует руководствоваться:
2.1 ГОСТ Р 8.736-2011 Методы обработки результатов измерений. Основные положения.
Приложение Е.
Е.1 Точность результатов измерений и точность вычислений при обработке результатов измерений должны быть согласованы с требуемой точностью получаемой оценки измеряемой величины.
Пояснение: число знаков после запятой в оценке измеряемой величины должно совпадать с числом знаков после запятой в значении погрешности, погрешность выражается в абсолютных величинах.
Правильно:
m= (1,000±0,012) мг
I= (10±5) А
S= (10,22±0,12) м/c
m= (11,12±0,05) гр
I= (10,1±2,9) А

Неправильно:
m= (1±0,012) мг (не согласовано, недостающие цифры заполняют нулями)
I= (10,0±5) А (не согласовано)
S= (10,002±0,12) м/c (не согласовано, нет необходимости указывать в результате измерения большее число знаков после запятой чем у погрешности, т.к измеряемая величина находится в диапазоне 9,88÷10,12, округление 10,002 до 10,00 не внесёт значимую погрешность в результат измерений)
m= (11,12±1,05) гр (погрешность выражена более чем двумя значащими цифрами)

Если число десятичных знаков в результате вычисления оказывается меньше, чем в значении погрешности, то недостающие цифры заменяют нулями.
Если число десятичных знаков в результате вычисления оказывается больше, то используют стандартное правила округления.
-если первая из отбрасываемых цифр (считая слева направо) меньше 5, то последняя сохраняемая цифра не меняется
- если первая из отбрасываемых цифр (считая слева направо) равна 5, то последняя сохраняемая цифра увеличивается на единицу.

Е.2 Погрешность оценки измеряемой величины следует выражать не более чем двумя значащими цифрами.
Две значащие цифры в погрешности оценки измеряемой величины сохраняют:
- при точных измерениях;
- если первая значащая цифра не более трех.

Пояснение: данный пункт описывает с какой точностью следует выражать погрешность измерения. Вычисленная погрешность обладает собственной погрешностью, как правило выше 10-20 процентов, следовательно, нет необходимости описывать её более чем двумя знаками. Например, числа - 0,610 и 0,616 отличаются друг от друга не более чем на 1%.
Причём, чем первая значащая цифра больше, тем результат округления внесёт меньшую погрешность, поэтому, если первая значащая цифра в погрешности больше 3, погрешность округляют до одной значащей цифры.
0,104 при округлении до 0,10 внесённая погрешность 4%
0,354 при округлении до 0,35 внесённая погрешность 1,2 %
0,354 при округлении до 0,4 внесённая погрешность 1,3 %
0,954 при округлении до 1,0 внесённая погрешность 4,6 %

Правильно:
Результат m= (1±0,000127) мг запись в протоколе m=(1,00000±0,00013) мг
Результат m= (1,056±0,000121) мг запись в протоколе m=(1,05600±0,00012) мг
Результат m= (1,056±1,000121) мг запись в протоколе m=(1,1±1,0) мг
Результат m= (1,005±0,00035) мг запись в протоколе m=(1,0050±0,0004) мг
Результат m= (1,005±0,00031) мг запись в протоколе m=(1,0050±0,0003) мг

Е.3 Число цифр в промежуточных вычислениях при обработке результатов измерений должно быть на две больше, чем в окончательном результате.
Е.4 Погрешность при промежуточных вычислениях должна быть выражена не более чем тремя значащими цифрами.

Пояснение: эти два правила применяются только для ручных вычислений, для уменьшения трудоёмкости. При подсчёте с помощью ЭВМ и т.п. промежуточные результаты без необходимости не округляют.
Е.5 Сохраняемую значащую цифру в погрешности оценки измеряемой величины при округлении увеличивают на единицу, если отбрасываемая цифра не указываемого младшего разряда больше либо равна пяти, и не изменяют, если она меньше пяти.
Пояснение: Это стандартное правило округления.
После конструктивного обсуждения предоставлю вторую часть.
:оригинальный текст

Теги:
Аватара пользователя

Автор темы
texadmin
Администратор
Сообщения: 3692
Стаж: 4 года 8 месяцев
Поблагодарили: 460 раз
Пол:

Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение texadmin »

Дополнение 1. ПМГ 96-2009 п.5.3
Характеристики качества измерений представляют числом, содержащим не более двух значащих цифр. Для промежуточных результатов расчета характеристик качества измерений рекомендуется сохранять третью значащую цифру. При записи окончательного результата третью значащую цифру округляют в большую сторону. Допускается характеристики качества измерений представлять числом, содержащим одну значащую цифру. В этом случае вторую значащую цифру округляют в большую сторону, если цифра последующего, неуказываемого младшего разряда, равна или больше пяти, или в меньшую сторону, если эта цифра меньше пяти.
Выделенный пункт позволяет уменьшить вероятность недооценённости погрешности из-за округления.
Аватара пользователя

Автор темы
texadmin
Администратор
Сообщения: 3692
Стаж: 4 года 8 месяцев
Поблагодарили: 460 раз
Пол:

Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение texadmin »

Дополнение 2 ЕВРОПЕЙСКАЯ ОРГАНИЗАЦИЯ ПО АККРЕДИТАЦИИ
Публикация ЕА-4/02 "Выражение неопределенности измерения при калибровках"
6 Указание неопределенности измерения в свидетельствах калибровки
"…6.3 Численное значение неопределенности измерения следует указывать максимум с двумя значащими цифрами. Численное значение результата измерения в окончательном виде следует округлять до такого же количества цифр, как в расширенной неопределенности измерения, связанной с результатом измерения. Для методов округления следует применять общепринятые правила округления чисел (более подробные указания для округления можно найти в Приложении Б ИСО 31-0:1992). Если числовое значение неопределенности измерения из-за округления уменьшается больше чем на 5%, то значение неопределенности следует указывать округленным в сторону увеличения (с избытком)…".


Немного поэкспериментировав я не нашёл какое число можно округлить до двух значащих цифр что бы потерять 5 %. Так число 0,10499.. при округлении до 0,1 уменьшится менее чем на 5%.
А при округлении до одного значащего числа, расчёт немного замутнённый но упрощённо можно выразить так, если (отбрасываемая часть X 2) больше оставшегося значащего числа, то численное значение неопределённости уменьшается более чем на 5%. Пример чисел. 9,45; 8,4; 7,45; 5,25; 2,1.
Сколько нужно оставлять значащих цифр по мнению иностранных коллег вероятно есть в ISO/IEC 80000 но данный документ я не нашёл, да и английским не особо владею.
Возможно данное правило хорошо бы сочеталось с правилами выше.
Е.2 Погрешность оценки измеряемой величины следует выражать не более чем двумя значащими цифрами.
Две значащие цифры в погрешности оценки измеряемой величины сохраняют:
- при точных измерениях;
- если первая значащая цифра не более трех.
Аватара пользователя

Автор темы
texadmin
Администратор
Сообщения: 3692
Стаж: 4 года 8 месяцев
Поблагодарили: 460 раз
Пол:

Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение texadmin »

Аватара пользователя

Автор темы
texadmin
Администратор
Сообщения: 3692
Стаж: 4 года 8 месяцев
Поблагодарили: 460 раз
Пол:

Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение texadmin »

Дополнение 3
МИ 1317-2004 РЕКОМЕНДАЦИЯ. ГСИ. Результаты и характеристики погрешности измерений. Формы представления. Способы использования при испытаниях образцов продукции и контроле их параметров.

… 1.3 Наименьшие разряды числовых значений результатов измерений принимают такими же, как и наименьшие разряды числовых значений среднего квадратического отклонения абсолютной погрешности измерений или числовых значений границ, в которых находится абсолютная погрешность измерений (или статистических оценок этих характеристик погрешности).

…3.4 Характеристики погрешности и их статистические оценки выражают числом, содержащим не более двух значащих цифр. При этом для статистических оценок характеристик третий разряд (не указываемый младший) округляют в большую сторону. Допускается характеристики погрешности и их статистические оценки выражать числом, содержащим одну значащую цифру. В этом случае для статистических оценок характеристик число получают округлением в большую сторону, если цифра последующего неуказываемого младшего разряда равна или больше пяти, или в меньшую сторону, если эта цифра меньше пяти.
Аватара пользователя

Автор темы
texadmin
Администратор
Сообщения: 3692
Стаж: 4 года 8 месяцев
Поблагодарили: 460 раз
Пол:

Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение texadmin »

Дополнение 4
ПОЛИТИКА ИЛАК В ОТНОШЕНИИ НЕОПРЕДЕЛЕННОСТИ ПРИ КАЛИБРОВКАХ P50.1.109 2016 (P14:01/2013) – ILAC Policy for Uncertainty in Calibration п. 6.3
а) числовое значение результата измерения при его окончательном представлении следует округлять до как минимум двух значащих цифр в значении расширенной неопределенности, связанной с результатом измерения^;
б) при округлении следует пользоваться обычными правилами округления чисел, содержащимися в рекомендациях по округлению, а именно в GUM, раздел 7.
Примечание — Более детальная информация по округлению содержится в ИСО 80000-1 [10].
Аватара пользователя

karlygash1

Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение karlygash1 »

texadmin, Добрый день! Я, являюсь студенткой университета, готовлю отчет по производственной практике округления результатов измерений. У меня к Вам просьба, не могли Вы бы скинуть скрин или копию Приложения к ИСО 80000-1 информацию по округлению. Так как все платно.
Аватара пользователя

Автор темы
texadmin
Администратор
Сообщения: 3692
Стаж: 4 года 8 месяцев
Поблагодарили: 460 раз
Пол:

Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение texadmin »

Аватара пользователя

le_ver_luisant

Re: Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение le_ver_luisant »

Добрый день!
Подскажите, пожалуйста, при округлении погрешности результата должна ли она округляться с той же точностью, что и сам результат? Например, по ГОСТ 31874 и ГОСТ 1756 результаты единичных определений и среднего округляются до 0,25. Погрешность составляет 3,195 кПа. Как должна округляться эта погрешность? Если исходить из значащих цифр погрешности, то получается 3,2, а если она должна соответствовать точности округления по ГОСТ, то округлять до 3,25? Или иногда результат округляется до целого, например у ASTM D 1500, может в таком случае погрешность быть меньше единицы, например 0,7? Какие тут правила?
Аватара пользователя

Автор темы
texadmin
Администратор
Сообщения: 3692
Стаж: 4 года 8 месяцев
Поблагодарили: 460 раз
Пол:

Re: Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение texadmin »

Показания не округляются, это требование к оборудованию (бегло глазами по методике пробежался)
Снимают окончательное показание контрольно-измерительного прибора с точностью 0,25. Вы результат напишите, я округлю.

Если результаты до целого то и запись 100+/-1
Аватара пользователя

le_ver_luisant

Re: Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение le_ver_luisant »

Изображение
Добрый день!
texadmin писал(а): 26 Декабрь 2020 Вы результат напишите, я округлю.
. Ну например, по ГОСТ 1756 результат испытания 33,75, а погрешность получается 0,497 кПа. А по ГОСТ 31874 результат испытания 60,25, а погрешность получается 3,195 кПа. В обоих ГОСТах результат записывается с точностью 0,25. Кстати, по ГОСТ 31874 не установлена прецизионность метода Б для ДНП менее 35 кПа. Выходит, что для лабораторного контроля оборудования и метода нельзя использовать образец с ДНП, например, 30 кПа? Или можно в таких ситуациях использовать значение прецизионности из других стандартов?
Аватара пользователя

Автор темы
texadmin
Администратор
Сообщения: 3692
Стаж: 4 года 8 месяцев
Поблагодарили: 460 раз
Пол:

Re: Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение texadmin »

33,75+/-0,50 60,3+/-3,2
0,25 Это у Вас требование к оборудованию. Снимают окончательное показание контрольно-измерительного прибора с точностью 0,25. Скорее всего речь про шкалу идет.
Аватара пользователя

TBIP

Re: Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение TBIP »

Подскажите, а как правильно сравнить десятичную дробь и нуль. Например в проверке приемлемости когда прецизионность получили ровно 0 , а норматив контроля 0,0125. Как правильно писать "0" или "0,0000" ?
Аватара пользователя

Автор темы
texadmin
Администратор
Сообщения: 3692
Стаж: 4 года 8 месяцев
Поблагодарили: 460 раз
Пол:

Re: Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение texadmin »

По идее округлять до необходимой точности результата измерения, но и 0 не будет большим грехом, так как это не повлияет на результаты.
Вообще в международном стандарте видел даже результат -0 , например для описания температуры которая меньше нуля.

Юленька
 
 
Сообщения: 14
Стаж: 1 год

Re: Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение Юленька »

Добрый день. Подскажите пожалуйста ГОСТ 2070 метод А. Округление значения первый десятичный знак. Фактическое значение получается 0,1. Если посчитать погрешность то она получается 0,01. (Расчёт воспроизводимости это 20% от Хмин). Как в этом случае быть?

cordek
Партнёр форума
Сообщения: 1091
Стаж: 4 года 5 месяцев
Поблагодарили: 424 раза

Re: Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение cordek »

Руководствуются у таком случае методикой
Аудиты, подготовка к аккредитации, внедрение программ по лабораторной деятельности (ЛИМС)
email:cordek @ yandex .ru
Аватара пользователя

Дилетант

Re: Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение Дилетант »

Добрый день! помогите, пожалуйста, разобраться. От РМГ 76 уже кипят мозги((( Когда результат испытания представляется в виде Х±∆, ∆ - это погрешность методики, которая рассчитывается как 0,71*R? Это погрешность которую наши результаты не могут превышать, или погрешность, которую мы можем получить с учетом шага измерения величины Х? Например, по ASTM D 1500 результат должен быть округлен до 0.5. Погрешность, определенная как 0.71*R = 0.71*1 = 0.71. Округляем до одной значащей цифры, получаем 0.7. Результат будет записан как 7.5±0.7 ? Но по факту лаборант может получить результат 7.5±0.5 или уже ±1. Влияет ли это на округление погрешности?
Аватара пользователя

Автор темы
texadmin
Администратор
Сообщения: 3692
Стаж: 4 года 8 месяцев
Поблагодарили: 460 раз
Пол:

Re: Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение texadmin »

Вот моё мнение, всё это конечно хорошо, правила методики ГОСТы
Но вопреки правилам чтобы себя не мучать и сотрудников своей ИЛ неопределённость округлять до двух, в (крайних случаях, бывает такое, когда это необходимо до трёх). А результат приводить к погрешности неопределённости, всё.
В Вашем случае это будет 7.5±1,0

Есть ещё коне что зависит от ситуации, расчёты производят без округления, т.к. компы, а округляют конечный результат.
Неопределённость методик дана уже с учётом вклада в неопределённость округления.
Либо я вопроса не понял.
Аватара пользователя

Гость

Re: Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение Гость »

texadmin писал(а): 02 Февраль 2021 В Вашем случае это будет 7.5±1,0
А почему округление до 1?
Аватара пользователя

Автор темы
texadmin
Администратор
Сообщения: 3692
Стаж: 4 года 8 месяцев
Поблагодарили: 460 раз
Пол:

Re: Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение texadmin »

Значит вопрос не правильно понял." Результат будет записан как 7.5±0.7 ? Но по факту лаборант может получить результат 7.5±0.5 или уже ±1."
Аватара пользователя

polymer

Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение polymer »

texadmin писал(а): 01 Июнь 2018 Дополнение 1. ПМГ 96-2009 п.5.3
Характеристики качества измерений представляют числом, содержащим не более двух значащих цифр. Для промежуточных результатов расчета характеристик качества измерений рекомендуется сохранять третью значащую цифру. При записи окончательного результата третью значащую цифру округляют в большую сторону. Допускается характеристики качества измерений представлять числом, содержащим одну значащую цифру. В этом случае вторую значащую цифру округляют в большую сторону, если цифра последующего, неуказываемого младшего разряда, равна или больше пяти, или в меньшую сторону, если эта цифра меньше пяти.
Выделенный пункт позволяет уменьшить вероятность недооценённости погрешности из-за округления.
В чем здесь смысл различий в правилах при округлении до двух значащих цифр (всегда вверх) и до одной значащей цифры (направление округления зависит от следующей цифры, как в обычных правилах округления)?

Примеры:
0,101 до 0,10 по обычному правилу - погрешность округления 1,0 %,
0,101 до 0,11 по правилу выше - погрешность округления 8,9 %, но пускай, чтобы не недооценивать погрешность.

0,84 до 0,8 по обычному правилу (= правилу из ПМГ 96) - погрешность округления 4,8 %,
0,88 до 0,9 по обычному правилу (= правилу из ПМГ 96) - погрешность округления 2,3 %.
Вопрос: почему бы 0,84 тоже не округлять вверх до 0,9 (погрешность округления - 7,1 %), чтобы тоже "уменьшить вероятность недооценённости погрешности"?
Аватара пользователя

Автор темы
texadmin
Администратор
Сообщения: 3692
Стаж: 4 года 8 месяцев
Поблагодарили: 460 раз
Пол:

Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение texadmin »

polymer писал(а): 03 Октябрь 2021 Вопрос: почему бы 0,84 тоже не округлять вверх до 0,9 (
Не всегда потеря точности измерения допустима, как вы объясните заказчику если у него в норме, а вы округлили, или например вы владелец магазина и продавцы округляют вес в сторону увеличения так процентов на пять.
Моё мнение "сейчас" обычное округление, две значащие цифры, при необходимости три (бывает нужно).
Аватара пользователя

polymer

Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение polymer »

texadmin писал(а): 03 Октябрь 2021 Не всегда потеря точности измерения допустима
Вот я и хочу понять, почему потеря 8,9 % точности значения погрешности при округлении 0,101 до 0,11 по ПМГ 96 допустима, а потеря 8,4 % точности значения погрешности при округлении 0,83 до 0,9 недопустима.

Вернуться в «Статьи»