Правила округления при обработке результатов измерений. Часть 2 (домыслы)

Аватара пользователя

Автор темы
texadmin
Администратор
Сообщения: 4197
Стаж: 7 лет 3 месяца
Поблагодарили: 573 раза
Пол:

Правила округления при обработке результатов измерений. Часть 2 (домыслы)

Непрочитанное сообщение texadmin »

В первой части рассматривались правила округления, принятые в законодательной метрологии.
Теперь хотелось бы описать более специфические случаи, основанные на математике и личных убеждениях
ГОСТ Р 8.736-2011 Е.2 Погрешность оценки измеряемой величины следует выражать не более чем двумя значащими цифрами.
Две значащие цифры в погрешности оценки измеряемой величины сохраняют:
- при точных измерениях;
- если первая значащая цифра не более трех.


1. Обоснования для записи в погрешности более чем две цифры.

При денежной оценке ущерба (например, при оценке штрафа за вред нанесённый окружающей среде), при оценке ущерба здоровью людей, для ответственных измерений (запуск спутника на марс) дабы не потерять значащую цифру в результате измерения, погрешность необходимо выражать тремя значащими цифрами.
При межлабораторных сличительных испытаниях, Ваши результаты получаются промежуточные, так как провайдер выводит статистику и границы несоответствий. Чтобы не потерять значащую цифру в результате измерения, погрешность необходимо выражать тремя значащими цифрами. (здесь я переосмыслил своё виденье, провайдеру мы должны выдавать результат такой же как и при ежедневной работе, так как погрешность вносимая округлением входит в выдаваемые лабораторией результаты)
При проведении ВЛК, Ваши результаты будут промежуточные, так как впоследствии Вы считаете статистику и границы несоответствия, дабы не потерять значащую цифру в результате измерения, погрешность необходимо выражать тремя значащими цифрами.
В рабочем журнале по возможности необходимо указывать все значащие цифры результата измерений.

2. Исключение влияния округления на оценку соответствия.

Для исключения влияния округления необходимо погрешность (неопределённость) округлять в большую сторону.
32,1округляют до 33
0,121 округляют до 0,13
0,129 округляют до 0,13
Пример: измерение освещённости (норма не менее 300 Лк)
Вариант 1 измерено 310,1±8,3 Лк
Округляем 310±9, вывод- однозначно соответствует.
Вариант 2 измерено 308,5±8,4 Лк
При стандартном округлении- округляем 309±8, вывод- однозначно соответствует.
При округлении неопределённости в большую сторону 309±9 Лк вывод- необходимо применить более точный метод.
В первом варианте Вы получаете больше уверенности при интерпретации измерений (учитываете влияние округления на результат). Во втором варианте перестраховываете себя и других от неправильной оценки, выполнив повторное измерение.

3. Значения числа без указания погрешности (неопределенности).
Чтобы оценить насколько точно указано то или иное значение, я как правило, пользуюсь простым правилом - представляю из какого значения в результате округления могло получится указанное значение.
Пример:
Запись, масса гири- 30 гр, вероятно находится в диапазоне от 29,5 до 30,49 гр.
Запись, масса гири- 30,0 гр, вероятно находится в диапазоне от 29,95 до 30,49 гр.
Показания прибора- 10.7 м/сек вероятно находятся в диапазоне от 10,65 до 10,749 м/сек.

Таблицы
Очень часто в протоколах мы используем таблицы, есть совершенно законное основание добавить немного эстетики и дописать пару знаков
ГОСТ 2.105-95 Единая система конструкторской документации ОБЩИЕ ТРЕБОВАНИЯ К ТЕКСТОВЫМ ДОКУМЕНТАМ п. 4.4.22 Цифры в графах таблиц должны проставляться так, чтобы разряды чисел во всей графе были расположены один под другим, если они относятся к одному показателю. В одной графе должно быть соблюдено, как правило, одинаковое количество десятичных знаков для всех значений величин.
то есть ряд толщины шурупов будет выглядеть так
0,010
0,100
1,000

p.s.
Вообще вариантов округления и записи существует очень много. Например, бухгалтерское округление, округление до указанной точности, использование всевозможных рядов. В данной статье я лишь хотел показать, что понимание законов математики и статистики позволит Вам более осмысленно отражать результаты измерений.
:оригинальный текст

Теги:
Аватара пользователя

Автор темы
texadmin
Администратор
Сообщения: 4197
Стаж: 7 лет 3 месяца
Поблагодарили: 573 раза
Пол:

Правила округления при обработке результатов измерений. Часть 2 (домыслы)

Непрочитанное сообщение texadmin »

Аватара пользователя

Автор темы
texadmin
Администратор
Сообщения: 4197
Стаж: 7 лет 3 месяца
Поблагодарили: 573 раза
Пол:

Правила округления при обработке результатов измерений. Часть 2 (домыслы)

Непрочитанное сообщение texadmin »

Вариантов округления вроде и немного, тем более что есть прямое указание ГОСТ Р 8.736-2011 Методы обработки результатов измерений. Основные положения.
Но позвольте внести свою точку зрения, может мировое сообщество рассмотрит его.
1. Точность результатов измерений и точность вычислений при обработке результатов измерений должны быть согласованы с требуемой точностью получаемой оценки измеряемой величины.
2. Погрешность (неопределённость) оценки измеряемой величины следует выражать двумя значащими цифрами.
3. Погрешность (неопределённость) оценки измеряемой величины следует выражать тремя значащими цифрами при точных измерениях, (эталоны, крупные аварии повлекшие убытки, человеческие жертвы, по требованию заказчика)
4. если первая из отбрасываемых цифр (считая слева направо) равна 0, то последняя сохраняемая цифра не меняется
5. если первая из отбрасываемых цифр (считая слева направо) больше 0, то последняя сохраняемая цифра увеличивается на единицу.
Что это даст:
Унификацию записей. Всегда две цифры, если три понятно что запись относится к особым видам измерений.
Более простые правила округления, уменьшается вероятность человеческой ошибки, уменьшается трудоёмкость.
Уменьшается вероятность недооценки рисков, собственно к чему мы все и стремимся.
В ГОСТ Р 8.736-2011 сказано про погрешность, поэтому мне сложно найти аргументы запрещающие внедрять эти правила в лабораторию, тем более они не противоречат здравому смыслу.
Аватара пользователя

avsha

Правила округления при обработке результатов измерений. Часть 2 (домыслы)

Непрочитанное сообщение avsha »

Откуда взялись три значащие цифры?
Если вы указывает две, то на это есть куча документов, а в первую очередь СТ СЭВ 543 - 77, который является действующим документом.

Все остальное - измышления, пусть и практического плана.
Насчет результатов по МСИ. Провайдер сам в инструкции указывает количество значащих цифр в значении результатов, которые должны быть предоставлены при проведении МСИ. Если не указал - значит округление погрешности (неопределенности) до двух значащих цифр + отсюда значение результата. Так что это обоснование отметаем.
Все остальные случаи (аварии и т.п.) вполне можно упомянуть в протоколе в качестве обоснования выдачи результата и погрешности с излишними значащими цифрами. Но это как исключение.

Да, насколько я понимаю, наказания за неправильное указание количества значащих цифр не предусмотрено, это вроде как правила хорошего тона при выдаче результатов измерений.
Аватара пользователя

Автор темы
texadmin
Администратор
Сообщения: 4197
Стаж: 7 лет 3 месяца
Поблагодарили: 573 раза
Пол:

Правила округления при обработке результатов измерений. Часть 2 (домыслы)

Непрочитанное сообщение texadmin »

Вообще если логический подойти то правильно провайдеру не более двух значащих цифр, ведь внесенная погрешность от округления входит в лабораторную.
Я больше хотел сделать упор что неопределенность лучше выражать двумя цифрами всегда, существующие сейчас формулировки правил отпугивает слабо подготовленный персонал, и вообще пишут кто во что горазд, да и самому ошибится легко. Да и программно если где что считает автоматический, труднее реализовать.
Про эталоны в небольшой степени приписанные им значения можно считать промежуточным результатом, Если одномоментно всем перейти на запись неопределенности в трёхзначное число у первичных эталонов, точность измерения во всём мире вырастет на 0,005 %
Да всё конечно домыслы. Я ещё тот перфекционист.
А наказание есть, незнание нормативных документов.
Аватара пользователя

avsha

Правила округления при обработке результатов измерений. Часть 2 (домыслы)

Непрочитанное сообщение avsha »

texadmin писал(а): 12 ноя 2018 12:16 Я больше хотел сделать упор что неопределенность лучше выражать двумя цифрами всегда, существующие сейчас формулировки правил отпугивает слабо подготовленный персонал, и вообще пишут кто во что горазд, да и самому ошибится легко.
ДА народ банально не знает что такое "значащие цифры"! Какое тут округление?

Насчет наказания: я никогда не слышал, чтобы у нас наказывали за незнание правил округления по СТ СЭВ.
Но, например, в методике измерений указана форма представления результата, как в ГОСТ ISO 9612-2016 (которая не является аттестованной методикой, но тем не менее), что надо приводить результат с одним знаком после запятой и с неопределенностью. Нет этого, тогда да, нарушение требований методики.
Хотя, они сами накосячили в конце:
"F.6.4 Заключение
Три водителя вилочных автопогрузчиков на своем рабочем месте подвергаются шумовому воздействию с эквивалентным уровнем звука за 8-часовой рабочий день 90,1 дБ со стандартной неопределенностью 2,06 дБ."
Аватара пользователя

Автор темы
texadmin
Администратор
Сообщения: 4197
Стаж: 7 лет 3 месяца
Поблагодарили: 573 раза
Пол:

Правила округления при обработке результатов измерений. Часть 2 (домыслы)

Непрочитанное сообщение texadmin »

ГОСТ Р 8.736-2011 Методы обработки результатов измерений. Основные положения.
РМГ 29-2013ГСИ. Метрология. Основные термины.
Я бы в программу подготовки персонала вставлял.
Аватара пользователя

Автор темы
texadmin
Администратор
Сообщения: 4197
Стаж: 7 лет 3 месяца
Поблагодарили: 573 раза
Пол:

Правила округления при обработке результатов измерений. Часть 2 (домыслы)

Непрочитанное сообщение texadmin »

Давно не писал статейки, хотя материала накопилось много.
Без введения.
1. В последних версиях Excel появилось много вариантов округления, не буду все их оценивать возможно там есть замечательные варианты, но предложу свой. Раньше при составлении таблиц для расчёта я столкнулся с одной трудностью, округление. Ведь например при составлении карт Шухарта кто-то использует значения меньше единицы, а кто то больше тысячи. Воспитание не позволяло выводить результаты расчёта с размером "как попало количество знаков в ячейке". Вот и придумал я хитрую формулу.
=ОКРУГЛ(D1;A1-LOG(ABS(D1)))
Где: D1 округляемое значение
A1 точность округления, целые числа например: 2, 3, 4, "можно и не целые". Формула отлично работает, надеюсь кому нибудь пригодится для оформления протоколов в Excel
Округление.xlsx
(12.21 КБ) 611 скачиваний

2. Все встречали надпись при описании погрешности прибора: + одна единица младшего разряда, или например (±15%+1). Пытался я описать откуда единица берётся получалось не очень. Смысл её учёт погрешности при отображении значения цифрами с ограниченной разрядностью.
Ранее я предлагал округление в большую сторону для исключения влияния округления на оценку соответствия.
Как ещё вариант для учёта влияния округления в расчётах на неопределённость измерения к рассчитанной абсолютной неопределённости прибавлять 1 единицу к младшей цифре. Например: получаем 1,10±0,11, записываем 1,10±0,12

3. При составлении статистических таблиц, например коэффициенты Стьюдента, и.т.п необходимо использовать четырёхзначные числа. Встречал я таблицы с двухзначными, и пятизначными. Четырёхзначные числа в среднем на порядок точнее чем нам необходимо, трёхзначные обеспечивают точность без запаса. Пятизначные избыточны. Это же правило можно использовать для записи коэффициентов например: для расчёта границ карт Шухарта, калибровочных коэффициентов. <= не всегда верно, особенно где зависимости нелинейны.
Аватара пользователя

Геотранс

Округление результатов

Непрочитанное сообщение Геотранс »

Доброго времени суток, подскажите кто сталкивался с дилеммой: есть методики выполнения измерений, в которых указывается что результат требуется округлить до определенного числа значащих цифр. Про погрешность/неопределенность ни слова. В соответствии с ПМГ 96 погрешность представляется числом, содержащим не более двух значащих цифр, но допустимо представлять и одной значащей цифрой. Не могу разобраться как определиться с выбором значащих цифр в погрешности, есть ли какие то правила по этому вопросу?
Аватара пользователя

Автор темы
texadmin
Администратор
Сообщения: 4197
Стаж: 7 лет 3 месяца
Поблагодарили: 573 раза
Пол:

Округление результатов

Непрочитанное сообщение texadmin »

Округляйте как в методике. Моё мнение по возможности лучше всегда округлять до двух значащих (последний ноль тоже значащий) цифр. Меньше путаницы, и унификация.
Аватара пользователя

ответ из группы ВК

Правила округления при обработке результатов измерений. Часть 2 (домыслы)

Непрочитанное сообщение ответ из группы ВК »

наименьший разряд числового значения результата должен совпадать с наименьшим разрядом числового значения погрешности (правило равенства разрядов), например 0,0032+/-0,0016, 25,0+/-0,5 или 257+/-26
Аватара пользователя

cordek
Партнёр форума
Сообщения: 2361
Стаж: 6 лет 11 месяцев
Поблагодарили: 697 раз

неактуально Правила округления при обработке результатов измерений. Часть 2 (домыслы)

Непрочитанное сообщение cordek »

округление в Эксель для двух значащих цифр погрешности
Вложения
Округление до значащих цифр.xlsx
(6.2 КБ) 179 скачиваний
Валидация ПО для лабораторий.
email:cordek @ yandex .ru
https://t.me/limsaccreditation
https://dzen.ru/limsaccreditation

Rada
 
 
Сообщения: 92
Стаж: 6 лет
Поблагодарили: 10 раз

Правила округления при обработке результатов измерений. Часть 2 (домыслы)

Непрочитанное сообщение Rada »

Может немного не по теме, но всё же...

ПНД Ф 12.16.1-10 Методические рекомендации. Определение температуры, запаха, окраски (цвета) и прозрачности в сточных водах, в том числе очищенных сточных, ливневых и талых.

В ПНДФ :Требуется Термометр стеклянный ртутный с ценой деления не более 0,1°С и диапазоном измерений от 0°С до 50°С по ГОСТ 13646

Температуру воздуха и воды указывают в градусах Цельсия с округлением до 0,1°С. Знак ставится только при температурах ниже нуля. Результат измерений температуры представляют в виде:.(Х+-∆)°С

У нас термометр с ценой деления 0,05°С.
Как выдавать результат в протоколе (19,00+-0,05)°С​ или (19,0+-0,1)°С ?
Аватара пользователя

cordek
Партнёр форума
Сообщения: 2361
Стаж: 6 лет 11 месяцев
Поблагодарили: 697 раз

Правила округления при обработке результатов измерений. Часть 2 (домыслы)

Непрочитанное сообщение cordek »

Rada писал(а): 29 окт 2021 20:45 Температуру воздуха и воды указывают в градусах Цельсия с округлением до 0,1°С. Знак ставится только при температурах ниже нуля. Результат измерений температуры представляют в виде:.(Х+-∆)°С
В данном случае у вас есть требования методики, поэтому мудрить не надо, а надо указывать так как написано в методике, то есть (19,0+-0,1)°С
Валидация ПО для лабораторий.
email:cordek @ yandex .ru
https://t.me/limsaccreditation
https://dzen.ru/limsaccreditation

S_эколог
 
 
Сообщения: 10
Стаж: 2 года 7 месяцев
Пол:

Правила округления при обработке результатов измерений. Часть 2 (домыслы)

Непрочитанное сообщение S_эколог »

Добрый день! Подскажите, пожалуйста, правильно ли я понимаю. В методике 4 диапазона, у каждого свой показатель точности:

Диапазон измерений массовой доли, %
От 0,05 до 0,20 вкл.
Св. 0,20 до 1,0 вкл.
Св. 1,0 до 25 вкл.
Св. 25 до 99 вкл.

Если я получаю результат, например, 0,06 - то выдаю результат в виде 0,06±0,01
Если результат 10, то выдаю в виде 10±1. То есть округляю и результат и показатель точность в соответствии с диапазоном?
(В методике лишь указано, что результат измерений массовой доли влаги (каждого параллельного определения) , %, регистрируют до второго десятичного знака. Затем вычисляют среднее арифметическое параллельных определений).
Аватара пользователя

Автор темы
texadmin
Администратор
Сообщения: 4197
Стаж: 7 лет 3 месяца
Поблагодарили: 573 раза
Пол:

Правила округления при обработке результатов измерений. Часть 2 (домыслы)

Непрочитанное сообщение texadmin »

Диапазон определения и количество знаков в результате не корректированы.
Количество знаков зависит от неопределённости измерения, в вашем случае будет 0,060±0,010; 10,4±1,4 Я бы так сделал.
Изображение
Аватара пользователя

cordek
Партнёр форума
Сообщения: 2361
Стаж: 6 лет 11 месяцев
Поблагодарили: 697 раз

Правила округления при обработке результатов измерений. Часть 2 (домыслы)

Непрочитанное сообщение cordek »

в предыдущем файле округления до двух значащих цифр нашел ошибку, прошу извинить, вот правильный
Вложения
Округление до значащих цифр.xlsx
(6.2 КБ) 191 скачивание
Валидация ПО для лабораторий.
email:cordek @ yandex .ru
https://t.me/limsaccreditation
https://dzen.ru/limsaccreditation
Аватара пользователя

aleks203

Правило тройки при округлении погрешности

Непрочитанное сообщение aleks203 »

Приветствую!
Все знают о правиле: погрешность результата измерения указывают двумя значащими цифрами, если первая из них равна 1 или 2, и одной значащей цифрой, если первая есть 3 и более.
Почему-то все знают, но никто не может сказать, откуда оно взялось. Я просмотрел ГОСТ Р 8.736-2011, но там правило звучит иначе, а именно: ... оставляем 2 значащие цифры, если первая значащая цифра не более трех. В ПМГ 96 и МИ 1317 об этом правиле вообще ни слова.
Буду благодарен тому, кто даст ссылки на документы с этим правилом

Olga_Nesterova
 
 
Сообщения: 1386
Стаж: 4 года 8 месяцев
Поблагодарили: 341 раз

Правила округления при обработке результатов измерений. Часть 2 (домыслы)

Непрочитанное сообщение Olga_Nesterova »

aleks203, Правила округления при обработке результатов измерений. Часть 1
ГОСТ Р 8.736-2011 Методы обработки результатов измерений. Основные положения.
Приложение Е
Е.2 Погрешность оценки измеряемой величины следует выражать не более чем двумя значащими цифрами.
Две значащие цифры в погрешности оценки измеряемой величины сохраняют:
- при точных измерениях;
- если первая значащая цифра не более трех.

polymer
 
 
Сообщения: 79
Стаж: 2 года 6 месяцев
Поблагодарили: 12 раз
Пол:

Правила округления при обработке результатов измерений. Часть 2 (домыслы)

Непрочитанное сообщение polymer »

Чтоб не плодить одни и те же обсуждения:
http://anchem.ru/forum/read.asp?id=28309
Аватара пользователя

Гость_3961

Правила округления при обработке результатов измерений. Часть 2 (домыслы)

Непрочитанное сообщение Гость_3961 »

Новицкий П.В., Зограф И.А. "Оценка погрешностей результатов измерений"

Вернуться в «Статьи»