Правила округления при обработке результатов измерений. Часть 1


Автор темы
texadmin
 
 
Сообщения: 3609
Стаж: 9 лет 7 месяцев
Поблагодарили: 522 раза
Пол:

Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение texadmin »

Дополнение 2 ЕВРОПЕЙСКАЯ ОРГАНИЗАЦИЯ ПО АККРЕДИТАЦИИ
Публикация ЕА-4/02 "Выражение неопределенности измерения при калибровках"
6 Указание неопределенности измерения в свидетельствах калибровки
"…6.3 Численное значение неопределенности измерения следует указывать максимум с двумя значащими цифрами. Численное значение результата измерения в окончательном виде следует округлять до такого же количества цифр, как в расширенной неопределенности измерения, связанной с результатом измерения. Для методов округления следует применять общепринятые правила округления чисел (более подробные указания для округления можно найти в Приложении Б ИСО 31-0:1992). Если числовое значение неопределенности измерения из-за округления уменьшается больше чем на 5%, то значение неопределенности следует указывать округленным в сторону увеличения (с избытком)…".


Немного поэкспериментировав я не нашёл какое число можно округлить до двух значащих цифр что бы потерять 5 %. Так число 0,10499.. при округлении до 0,1 уменьшится менее чем на 5%.
А при округлении до одного значащего числа, расчёт немного замутнённый но упрощённо можно выразить так, если (отбрасываемая часть X 2) больше оставшегося значащего числа, то численное значение неопределённости уменьшается более чем на 5%. Пример чисел. 9,45; 8,4; 7,45; 5,25; 2,1.
Сколько нужно оставлять значащих цифр по мнению иностранных коллег вероятно есть в ISO/IEC 80000 но данный документ я не нашёл, да и английским не особо владею.
Возможно данное правило хорошо бы сочеталось с правилами выше.
Е.2 Погрешность оценки измеряемой величины следует выражать не более чем двумя значащими цифрами.
Две значащие цифры в погрешности оценки измеряемой величины сохраняют:
- при точных измерениях;
- если первая значащая цифра не более трех.

Теги:

Автор темы
texadmin
 
 
Сообщения: 3609
Стаж: 9 лет 7 месяцев
Поблагодарили: 522 раза
Пол:

Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение texadmin »

Дополнение 3
МИ 1317-2004 РЕКОМЕНДАЦИЯ. ГСИ. Результаты и характеристики погрешности измерений. Формы представления. Способы использования при испытаниях образцов продукции и контроле их параметров.

… 1.3 Наименьшие разряды числовых значений результатов измерений принимают такими же, как и наименьшие разряды числовых значений среднего квадратического отклонения абсолютной погрешности измерений или числовых значений границ, в которых находится абсолютная погрешность измерений (или статистических оценок этих характеристик погрешности).

…3.4 Характеристики погрешности и их статистические оценки выражают числом, содержащим не более двух значащих цифр. При этом для статистических оценок характеристик третий разряд (не указываемый младший) округляют в большую сторону. Допускается характеристики погрешности и их статистические оценки выражать числом, содержащим одну значащую цифру. В этом случае для статистических оценок характеристик число получают округлением в большую сторону, если цифра последующего неуказываемого младшего разряда равна или больше пяти, или в меньшую сторону, если эта цифра меньше пяти.
Аватара пользователя

karlygash1

Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение karlygash1 »

texadmin, Добрый день! Я, являюсь студенткой университета, готовлю отчет по производственной практике округления результатов измерений. У меня к Вам просьба, не могли Вы бы скинуть скрин или копию Приложения к ИСО 80000-1 информацию по округлению. Так как все платно.
Аватара пользователя

le_ver_luisant

Re: Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение le_ver_luisant »

Добрый день!
Подскажите, пожалуйста, при округлении погрешности результата должна ли она округляться с той же точностью, что и сам результат? Например, по ГОСТ 31874 и ГОСТ 1756 результаты единичных определений и среднего округляются до 0,25. Погрешность составляет 3,195 кПа. Как должна округляться эта погрешность? Если исходить из значащих цифр погрешности, то получается 3,2, а если она должна соответствовать точности округления по ГОСТ, то округлять до 3,25? Или иногда результат округляется до целого, например у ASTM D 1500, может в таком случае погрешность быть меньше единицы, например 0,7? Какие тут правила?

Автор темы
texadmin
 
 
Сообщения: 3609
Стаж: 9 лет 7 месяцев
Поблагодарили: 522 раза
Пол:

Re: Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение texadmin »

33,75+/-0,50 60,3+/-3,2
0,25 Это у Вас требование к оборудованию. Снимают окончательное показание контрольно-измерительного прибора с точностью 0,25. Скорее всего речь про шкалу идет.
Аватара пользователя

TBIP

Re: Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение TBIP »

Подскажите, а как правильно сравнить десятичную дробь и нуль. Например в проверке приемлемости когда прецизионность получили ровно 0 , а норматив контроля 0,0125. Как правильно писать "0" или "0,0000" ?

Юленька
 
 
Сообщения: 18
Стаж: 5 лет 11 месяцев
Пол:

Re: Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение Юленька »

Добрый день. Подскажите пожалуйста ГОСТ 2070 метод А. Округление значения первый десятичный знак. Фактическое значение получается 0,1. Если посчитать погрешность то она получается 0,01. (Расчёт воспроизводимости это 20% от Хмин). Как в этом случае быть?
Аватара пользователя

Дилетант

Re: Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение Дилетант »

Добрый день! помогите, пожалуйста, разобраться. От РМГ 76 уже кипят мозги((( Когда результат испытания представляется в виде Х±∆, ∆ - это погрешность методики, которая рассчитывается как 0,71*R? Это погрешность которую наши результаты не могут превышать, или погрешность, которую мы можем получить с учетом шага измерения величины Х? Например, по ASTM D 1500 результат должен быть округлен до 0.5. Погрешность, определенная как 0.71*R = 0.71*1 = 0.71. Округляем до одной значащей цифры, получаем 0.7. Результат будет записан как 7.5±0.7 ? Но по факту лаборант может получить результат 7.5±0.5 или уже ±1. Влияет ли это на округление погрешности?
Аватара пользователя

Гость

Re: Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение Гость »

texadmin писал(а): 02.02.2021 В Вашем случае это будет 7.5±1,0
А почему округление до 1?

Автор темы
texadmin
 
 
Сообщения: 3609
Стаж: 9 лет 7 месяцев
Поблагодарили: 522 раза
Пол:

Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение texadmin »

polymer писал(а): 03.10.2021 Вопрос: почему бы 0,84 тоже не округлять вверх до 0,9 (
Не всегда потеря точности измерения допустима, как вы объясните заказчику если у него в норме, а вы округлили, или например вы владелец магазина и продавцы округляют вес в сторону увеличения так процентов на пять.
Моё мнение "сейчас" обычное округление, две значащие цифры, при необходимости три (бывает нужно).

Sourire
Сообщения: 1
Стаж: 4 года 10 месяцев
Пол:

Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение Sourire »

texadmin писал(а): 04.04.2017 Е.2 Погрешность оценки измеряемой величины следует выражать не более чем двумя значащими цифрами.
Две значащие цифры в погрешности оценки измеряемой величины сохраняют:
- при точных измерениях;
- если первая значащая цифра не более трех.
Пояснение:
Причём, чем первая значащая цифра больше, тем результат округления внесёт меньшую погрешность, поэтому, если первая значащая цифра в погрешности больше 3, погрешность округляют до одной значащей цифры.

Правильно:
Результат m= (1,005±0,00031) мг запись в протоколе m=(1,0050±0,0003) мг
Добрый день! Исходя из ГОСТ Р 8.736-2011, погрешность округляют до одной значащей цифры, если первая значащая цифра больше 3, а в Вашем примере "1,0050±0,0003" в погрешности всего одна значащая цифра, хотя она не больше 3, а равна 3. Как для данного примера все-таки правильно предоставить окончательный результат?
m=(1,0050±0,0003) мг или m=(1,00500±0,00031) мг

polymer
 
 
Сообщения: 77
Стаж: 4 года 11 месяцев
Поблагодарили: 11 раз
Пол:

Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение polymer »

Две значащие цифры в погрешности оценки измеряемой величины сохраняют:
- при точных измерениях;
- если первая значащая цифра не более трех.
Кстати, а там действительно подразумевается союз "или" между двумя пунктами, а не союз "и"?
И что там подразумевается под "точными измерениями"?
1,00500±0,00031
Тут относительная погрешность результата равна 0,03 %. Это "точное измерение"? (Для большинства задач - да.) Или речь о точности погрешности? Типа умудрились оценить погрешность с очень малой своей погрешностью порядка 100*1/31 = 3 %?

Автор темы
texadmin
 
 
Сообщения: 3609
Стаж: 9 лет 7 месяцев
Поблагодарили: 522 раза
Пол:

Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение texadmin »

polymer писал(а): 28.10.2021 И что там подразумевается под "точными измерениями"?
Например эталоны
polymer писал(а): 28.10.2021 Типа умудрились оценить погрешность с очень малой своей погрешностью порядка
Почему вполне нормальные значения например для массы гири. Всё зависит от методов измерения, объектов, например для частоты даже наверное и больше нулей после запятой будет.
НЕ мудрите берите две значащие и будет Вам принцип универсальности.

polymer
 
 
Сообщения: 77
Стаж: 4 года 11 месяцев
Поблагодарили: 11 раз
Пол:

Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение polymer »

texadmin писал(а): 28.10.2021 Например эталоны
Эталон эталону рознь. Где-то и погрешность порядка процентов может считаться приемлемой.
texadmin писал(а): 28.10.2021 Почему вполне нормальные значения например для массы гири. Всё зависит от методов измерения, объектов, например для частоты даже наверное и больше нулей после запятой будет.
Проблема-то не в нулях после запятой, а в дополнительных значащих цифрах в погрешности.
В обсуждаемом примере могло быть и 1,00±0,31 вместо 1,00500±0,00031.
texadmin писал(а): 28.10.2021 НЕ мудрите берите две значащие и будет Вам принцип универсальности.
Меня больше интересует смысл, правильность, целесообразность и истоки всяких таких правил.

Автор темы
texadmin
 
 
Сообщения: 3609
Стаж: 9 лет 7 месяцев
Поблагодарили: 522 раза
Пол:

Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение texadmin »

polymer писал(а): 29.10.2021 Эталон эталону рознь. Где-то и погрешность порядка процентов может считаться приемлемой.
Извиняюсь но Вы зануда :rtfm1 во первых мы говорим про значащая цифры, а не про погрешность, 100,1+/-78,1%, и вы Сами пишете эталон эталону рознь, вот вам и написали где 2 где 3 числа.
polymer писал(а): 29.10.2021 Меня больше интересует смысл, правильность, целесообразность и истоки всяких таких правил.
Т.е Вас не смущают правила, целесообразность ещё которых необходимо осознать, потом объяснить персоналу, потом контролировать, если вносить в программу ещё и логику через "если" прописывать. А например просто два значащих числа это ещё надо подумать :smile
Пишите два знака, в табличных вариантах я б результаты к одному виду приводил для эстетики.

polymer
 
 
Сообщения: 77
Стаж: 4 года 11 месяцев
Поблагодарили: 11 раз
Пол:

Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение polymer »

texadmin писал(а): 29.10.2021 Извиняюсь но Вы зануда :rtfm1 во первых мы говорим про значащая цифры, а не про погрешность, 100,1+/-78,1%, и вы Сами пишете эталон эталону рознь, вот вам и написали где 2 где 3 числа.
Мы говорим про число значащих цифр в погрешности (когда две, а когда одна; про три цифры в обсуждаемых правилах из ГОСТ Р 8.736-2011 нет ни слова). Вообще, странно видеть упрек в занудстве на форуме по аккредитации, которая сама по себе является высшей формой занудства (а местами - формой маразма). Вопрос был про существование какого-либо численно выражаемого критерия для понятия "точные измерения", при которых в погрешности оставляют две значащие цифры.
texadmin писал(а): 29.10.2021 Т.е Вас не смущают правила, целесообразность ещё которых необходимо осознать, потом объяснить персоналу, потом контролировать, если вносить в программу ещё и логику через "если" прописывать. А например просто два значащих числа это ещё надо подумать :smile
Пишите два знака, в табличных вариантах я б результаты к одному виду приводил для эстетики.
"Персоналу" достаточно выполнять требования СОП без лишнего "осознания". Что написано в СОП (а СОП на основе ГОСТ и т.п.), то и делают. Но те, кто пишет ГОСТ и подобные документы, должны что-то понимать. Вот и хотелось бы, чтобы эти понимающие люди поделились своим пониманием. Если тут таких людей нет, я не расстроюсь.

Автор темы
texadmin
 
 
Сообщения: 3609
Стаж: 9 лет 7 месяцев
Поблагодарили: 522 раза
Пол:

Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение texadmin »

Если обиделись, извините.
polymer писал(а): 30.10.2021 про три цифры в обсуждаемых правилах из ГОСТ Р 8.736-201
Данные примеры я видел при передаче единиц измерения, например коэффициенты.
polymer писал(а): 30.10.2021 Вообще, странно видеть упрек в занудстве на форуме по аккредитации, которая сама по себе является высшей формой занудства
Упрёк в том числе и был направлен на борьбу с этим.
polymer писал(а): 30.10.2021 Если тут таких людей нет, я не расстроюсь.
Испугали.

polymer
 
 
Сообщения: 77
Стаж: 4 года 11 месяцев
Поблагодарили: 11 раз
Пол:

Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение polymer »

texadmin писал(а): 30.10.2021 Если обиделись, извините.
Не обиделся.
texadmin писал(а): 30.10.2021 Данные примеры я видел при передаче единиц измерения, например коэффициенты.
Я тоже много чего видел. Вопрос в смысле увиденного.
texadmin писал(а): 30.10.2021 Упрёк в том числе и был направлен на борьбу с этим.
Вы, похоже, со стороны аккредитуемых, а не со стороны аккредитующих. Тогда борьба понятна. В противном случае такой упрёк на этом форуме - это "пчёлы против мёда".
texadmin писал(а): 30.10.2021 Испугали.
Даже не пытался, тов. генералиссимус :pioneer

Автор темы
texadmin
 
 
Сообщения: 3609
Стаж: 9 лет 7 месяцев
Поблагодарили: 522 раза
Пол:

Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение texadmin »

polymer писал(а): 30.10.2021 Я тоже много чего видел. Вопрос в смысле увиденного.
Метрология это не только законодательная часть, но и математика. статистика. Вы совершенно обоснованно можете их применять, примеры:Ваш результат не является окончательным и будет далее использоваться при расчётах, или Ваш результат применяется в оценке убытков (кто Вам даст рубли округлять). Если Вы хотите что бы я Вам нашёл конкретную фразу то вряд ли может в ИСО 80000-1 есть.

polymer
 
 
Сообщения: 77
Стаж: 4 года 11 месяцев
Поблагодарили: 11 раз
Пол:

Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение polymer »

texadmin писал(а): 30.10.2021 примеры:Ваш результат не является окончательным и будет далее использоваться при расчётах, или Ваш результат применяется в оценке убытков (кто Вам даст рубли округлять). Если Вы хотите что бы я Вам нашёл конкретную фразу то вряд ли может в ИСО 80000-1 есть.
Про промежуточные результаты согласен. Там можно побольше цифр оставить. За наводку на ISO 80000-1 спасибо. В нем про число значащих цифр в погрешности ничего нет, но почитать полезно.

По рублям хотелось бы увидеть более конкретный пример. Если убытки можно посчитать точно до рубля, то там и проблемы с округлением нет. Если убытки оцениваются с существенной неопределенностью, то неокругление (т.е. оставление лишних цифр) может иметь те же последствия, что и округление: в обоих случаях в зависимости от конкретной величины вы можете получать большее значение убытков (что плохо для выплачиваючего) или меньшее значение (что плохо для того, кому платят). Это, естественно, если не использовать нестандартные варианты округления типа "всегда в меньшую сторону" или "всегда в большую сторону". Возможно, с точки зрения финансовых законов проще результаты денежных расчетов не округлять, но с точки зрения статистики и понятия неопределенности лишние цифры бессмысленны, поскольку недостоверны.

Автор темы
texadmin
 
 
Сообщения: 3609
Стаж: 9 лет 7 месяцев
Поблагодарили: 522 раза
Пол:

Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение texadmin »

polymer писал(а): 31.10.2021 В нем про число значащих цифр в погрешности ничего нет
Не буду утверждать, но там вроде, в приложении, а сам стандарт вроде серия.
polymer писал(а): 31.10.2021 По рублям хотелось бы увидеть более конкретный пример.
Я как пример, если вы не видите необходимости использовать больше знаков то вряд ли есть такая необходимость, я лишь пару раз сталкивался с подобной проблемой, 1. с какой точностью считать статистические таблицы, 2. Сертификат калибровки видел, передача точности с междугородного (иностранного) стандарта средству изменения, который в итоге использовался как эталон. p/s рубли по хитрому округляются, не знаю методологию иностранцев, у нас бухгалтерское округление.
Кстати как пример что метрология плотно связана с математикой, узнал я что запись может быть -0 (минус ноль), в метрологии. Жена математик. Я её спрашиваю а можно записать -0 и когда (поиздеваться решил), а она говорит да, когда функция стремится к 0 со стороны минуса (что то типа этого)

polymer
 
 
Сообщения: 77
Стаж: 4 года 11 месяцев
Поблагодарили: 11 раз
Пол:

Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение polymer »

texadmin писал(а): 31.10.2021 Не буду утверждать, но там вроде, в приложении, а сам стандарт вроде серия.
Именно в ISO 80000-1 (я читал версию 2009 г.) в приложении B описаны правила округления. В п. 7.3.4 есть кое-что про погрешности и неопределенности. Про число значащих цифр в погрешности/неопределенности там нет.
https://www.google.com/url?sa=t&rct=j&q ... jzo7dmwA3E
texadmin писал(а): 31.10.2021 метрология плотно связана с математикой
Ого! А мужики-то не знают!
Изображение
Аватара пользователя

Гость

Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение Гость »

Скажите пожалуйста, при прямых измерениях (физ .факторы) тоже погрешность округляем до двух значащих цифр?? (прямые многократные и прямые однократные: разницы нет?)

Автор темы
texadmin
 
 
Сообщения: 3609
Стаж: 9 лет 7 месяцев
Поблагодарили: 522 раза
Пол:

Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение texadmin »

Какая Вам точность необходима, до той и округляйте, например: есть ли смысл в 1,01 гр Цельсия? Руководствуйтесь методикой, своими разработанными правилами.
Аватара пользователя

Lavina

Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение Lavina »

Коллеги, расскажите, по каким правилам проводите округление результатов испытаний, вносимых в рабочие журналы без погрешности, если мви не указывает, до скольки знаков после запятой нужно округлять. Спасибо!

Olga_Nesterova
 
 
Сообщения: 1326
Стаж: 7 лет
Поблагодарили: 332 раза

Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение Olga_Nesterova »

Lavina, у нас, например, к таким мутным методикам есть внутренние инструкции, где установлены правила ведения записей. В них конкретно указано до какого знака нужно округлять и как округлять.
Аватара пользователя

Гость

Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение Гость »

Olga_Nesterova, в этом и вопрос: правила округление основаны на каких нд? Как определили, до какого знака после запятой нужно округлять?

Olga_Nesterova
 
 
Сообщения: 1326
Стаж: 7 лет
Поблагодарили: 332 раза

Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение Olga_Nesterova »

Гость, зачем вам НД в этом вопросе? Нам дана голова, чтобы в том числе, чтобы суметь оценить до какого знака округлить, чтобы получить нормальное, достоверное значение.

_Игорь_
 
 
Сообщения: 183
Стаж: 5 лет 6 месяцев
Поблагодарили: 62 раза
Пол:

Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение _Игорь_ »

Lavina писал(а): 01.04.2022 если мви не указывает, до скольки знаков после запятой нужно округлять.
Гость писал(а): 01.04.2022 правила округление основаны на каких нд? Как определили, до какого знака после запятой нужно округлять?
Lavina, если не указано особо, то есть правило указания числовых значений в текстовых документах разного уровня, которое озвучено в ГОСТ Р 2.105-2019 и ГОСТ 1.5-2001:
Числовые значения величин в тексте следует указывать со степенью точности, которая необходима для обеспечения требуемых свойств изделия...
В любом случае, где-нибудь, хоть в требованиях к изделию (значению), хоть в МВИ есть числовые значения, вот и ориентируйтесь на их степень точности.

rail
Сообщения: 2
Стаж: 6 лет 11 месяцев

Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение rail »

Добрый день.
По ГОСТ Р 56859-2016, определение золота пробирным методом в диапазоне 2,0-5,0 Δ=0,6
Есть СОП с аттестованным значением 2,35, Δ=0,05
В этом случае как следует провести округление результата измерений? До второго знака, или по ГОСТ до первого знака?

Olga_Nesterova
 
 
Сообщения: 1326
Стаж: 7 лет
Поблагодарили: 332 раза

Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение Olga_Nesterova »

rail, как связан СОП и результат испытаний?
Вы провели испытания и получили результат с погрешностью 0,6. Вот и округляйте до десятых.
Аватара пользователя

Valentina Ivanova

Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение Valentina Ivanova »

Добрый день! Подскажите, что означает "Степень округления-0,005 мг/кг"? И что получится при округлении результатов, например, 0,0122 и 0,0172. Заранее спасибо!
Аватара пользователя

cordek
Партнёр форума
Сообщения: 2677
Стаж: 9 лет 4 месяца
Поблагодарили: 736 раз

Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение cordek »

Делите результат на 0,005, округляете полученное значение до целого, потом умножаете на 0,005.
Получается у вас:
0,010
0,015
Валидация ПО для лабораторий.
email:cordek @ yandex .ru
https://t.me/limsaccreditation
https://vk.com/limsaccreditation

polymer
 
 
Сообщения: 77
Стаж: 4 года 11 месяцев
Поблагодарили: 11 раз
Пол:

Правила округления при обработке результатов измерений. Часть 1

Непрочитанное сообщение polymer »

Valentina Ivanova писал(а): 16.11.2022 "Степень округления-0,005 мг/кг"? И что получится при округлении результатов, например, 0,0122 и 0,0172
Вероятно, округление до значения, кратного 0,005 мг/кг, т.е. 0,0122 мг/кг ≈ 0,010 мг/кг, а 0,0172 ≈ 0,015 мг/кг.
См. Rounding to a specified multiple тут: Rounding

Вернуться в «Статьи»