Правила округления при обработке результатов измерений. Часть 2 (домыслы)
-
- Администратор
- Сообщения: 4218
- Стаж: 7 лет 7 месяцев
- Поблагодарили: 574 раза
- Пол:
Правила округления при обработке результатов измерений. Часть 2 (домыслы)
В первой части рассматривались правила округления, принятые в законодательной метрологии.
Теперь хотелось бы описать более специфические случаи, основанные на математике и личных убеждениях
ГОСТ Р 8.736-2011 Е.2 Погрешность оценки измеряемой величины следует выражать не более чем двумя значащими цифрами.
Две значащие цифры в погрешности оценки измеряемой величины сохраняют:
- при точных измерениях;
- если первая значащая цифра не более трех.
1. Обоснования для записи в погрешности более чем две цифры.
При денежной оценке ущерба (например, при оценке штрафа за вред нанесённый окружающей среде), при оценке ущерба здоровью людей, для ответственных измерений (запуск спутника на марс) дабы не потерять значащую цифру в результате измерения, погрешность необходимо выражать тремя значащими цифрами.
При межлабораторных сличительных испытаниях, Ваши результаты получаются промежуточные, так как провайдер выводит статистику и границы несоответствий. Чтобы не потерять значащую цифру в результате измерения, погрешность необходимо выражать тремя значащими цифрами. (здесь я переосмыслил своё виденье, провайдеру мы должны выдавать результат такой же как и при ежедневной работе, так как погрешность вносимая округлением входит в выдаваемые лабораторией результаты)
При проведении ВЛК, Ваши результаты будут промежуточные, так как впоследствии Вы считаете статистику и границы несоответствия, дабы не потерять значащую цифру в результате измерения, погрешность необходимо выражать тремя значащими цифрами.
В рабочем журнале по возможности необходимо указывать все значащие цифры результата измерений.
2. Исключение влияния округления на оценку соответствия.
Для исключения влияния округления необходимо погрешность (неопределённость) округлять в большую сторону.
32,1округляют до 33
0,121 округляют до 0,13
0,129 округляют до 0,13
Пример: измерение освещённости (норма не менее 300 Лк)
Вариант 1 измерено 310,1±8,3 Лк
Округляем 310±9, вывод- однозначно соответствует.
Вариант 2 измерено 308,5±8,4 Лк
При стандартном округлении- округляем 309±8, вывод- однозначно соответствует.
При округлении неопределённости в большую сторону 309±9 Лк вывод- необходимо применить более точный метод.
В первом варианте Вы получаете больше уверенности при интерпретации измерений (учитываете влияние округления на результат). Во втором варианте перестраховываете себя и других от неправильной оценки, выполнив повторное измерение.
3. Значения числа без указания погрешности (неопределенности).
Чтобы оценить насколько точно указано то или иное значение, я как правило, пользуюсь простым правилом - представляю из какого значения в результате округления могло получится указанное значение.
Пример:
Запись, масса гири- 30 гр, вероятно находится в диапазоне от 29,5 до 30,49 гр.
Запись, масса гири- 30,0 гр, вероятно находится в диапазоне от 29,95 до 30,49 гр.
Показания прибора- 10.7 м/сек вероятно находятся в диапазоне от 10,65 до 10,749 м/сек.
Таблицы
Очень часто в протоколах мы используем таблицы, есть совершенно законное основание добавить немного эстетики и дописать пару знаков
ГОСТ 2.105-95 Единая система конструкторской документации ОБЩИЕ ТРЕБОВАНИЯ К ТЕКСТОВЫМ ДОКУМЕНТАМ п. 4.4.22 Цифры в графах таблиц должны проставляться так, чтобы разряды чисел во всей графе были расположены один под другим, если они относятся к одному показателю. В одной графе должно быть соблюдено, как правило, одинаковое количество десятичных знаков для всех значений величин.
то есть ряд толщины шурупов будет выглядеть так
0,010
0,100
1,000
p.s.
Вообще вариантов округления и записи существует очень много. Например, бухгалтерское округление, округление до указанной точности, использование всевозможных рядов. В данной статье я лишь хотел показать, что понимание законов математики и статистики позволит Вам более осмысленно отражать результаты измерений.
Теперь хотелось бы описать более специфические случаи, основанные на математике и личных убеждениях
ГОСТ Р 8.736-2011 Е.2 Погрешность оценки измеряемой величины следует выражать не более чем двумя значащими цифрами.
Две значащие цифры в погрешности оценки измеряемой величины сохраняют:
- при точных измерениях;
- если первая значащая цифра не более трех.
1. Обоснования для записи в погрешности более чем две цифры.
При денежной оценке ущерба (например, при оценке штрафа за вред нанесённый окружающей среде), при оценке ущерба здоровью людей, для ответственных измерений (запуск спутника на марс) дабы не потерять значащую цифру в результате измерения, погрешность необходимо выражать тремя значащими цифрами.
При межлабораторных сличительных испытаниях, Ваши результаты получаются промежуточные, так как провайдер выводит статистику и границы несоответствий. Чтобы не потерять значащую цифру в результате измерения, погрешность необходимо выражать тремя значащими цифрами. (здесь я переосмыслил своё виденье, провайдеру мы должны выдавать результат такой же как и при ежедневной работе, так как погрешность вносимая округлением входит в выдаваемые лабораторией результаты)
При проведении ВЛК, Ваши результаты будут промежуточные, так как впоследствии Вы считаете статистику и границы несоответствия, дабы не потерять значащую цифру в результате измерения, погрешность необходимо выражать тремя значащими цифрами.
В рабочем журнале по возможности необходимо указывать все значащие цифры результата измерений.
2. Исключение влияния округления на оценку соответствия.
Для исключения влияния округления необходимо погрешность (неопределённость) округлять в большую сторону.
32,1округляют до 33
0,121 округляют до 0,13
0,129 округляют до 0,13
Пример: измерение освещённости (норма не менее 300 Лк)
Вариант 1 измерено 310,1±8,3 Лк
Округляем 310±9, вывод- однозначно соответствует.
Вариант 2 измерено 308,5±8,4 Лк
При стандартном округлении- округляем 309±8, вывод- однозначно соответствует.
При округлении неопределённости в большую сторону 309±9 Лк вывод- необходимо применить более точный метод.
В первом варианте Вы получаете больше уверенности при интерпретации измерений (учитываете влияние округления на результат). Во втором варианте перестраховываете себя и других от неправильной оценки, выполнив повторное измерение.
3. Значения числа без указания погрешности (неопределенности).
Чтобы оценить насколько точно указано то или иное значение, я как правило, пользуюсь простым правилом - представляю из какого значения в результате округления могло получится указанное значение.
Пример:
Запись, масса гири- 30 гр, вероятно находится в диапазоне от 29,5 до 30,49 гр.
Запись, масса гири- 30,0 гр, вероятно находится в диапазоне от 29,95 до 30,49 гр.
Показания прибора- 10.7 м/сек вероятно находятся в диапазоне от 10,65 до 10,749 м/сек.
Таблицы
Очень часто в протоколах мы используем таблицы, есть совершенно законное основание добавить немного эстетики и дописать пару знаков
ГОСТ 2.105-95 Единая система конструкторской документации ОБЩИЕ ТРЕБОВАНИЯ К ТЕКСТОВЫМ ДОКУМЕНТАМ п. 4.4.22 Цифры в графах таблиц должны проставляться так, чтобы разряды чисел во всей графе были расположены один под другим, если они относятся к одному показателю. В одной графе должно быть соблюдено, как правило, одинаковое количество десятичных знаков для всех значений величин.
то есть ряд толщины шурупов будет выглядеть так
0,010
0,100
1,000
p.s.
Вообще вариантов округления и записи существует очень много. Например, бухгалтерское округление, округление до указанной точности, использование всевозможных рядов. В данной статье я лишь хотел показать, что понимание законов математики и статистики позволит Вам более осмысленно отражать результаты измерений.
Теги:
-
- Администратор
- Сообщения: 4218
- Стаж: 7 лет 7 месяцев
- Поблагодарили: 574 раза
- Пол:
-
- Администратор
- Сообщения: 4218
- Стаж: 7 лет 7 месяцев
- Поблагодарили: 574 раза
- Пол:
Правила округления при обработке результатов измерений. Часть 2 (домыслы)
Вариантов округления вроде и немного, тем более что есть прямое указание ГОСТ Р 8.736-2011 Методы обработки результатов измерений. Основные положения.
Но позвольте внести свою точку зрения, может мировое сообщество рассмотрит его.
1. Точность результатов измерений и точность вычислений при обработке результатов измерений должны быть согласованы с требуемой точностью получаемой оценки измеряемой величины.
2. Погрешность (неопределённость) оценки измеряемой величины следует выражать двумя значащими цифрами.
3. Погрешность (неопределённость) оценки измеряемой величины следует выражать тремя значащими цифрами при точных измерениях, (эталоны, крупные аварии повлекшие убытки, человеческие жертвы, по требованию заказчика)
4. если первая из отбрасываемых цифр (считая слева направо) равна 0, то последняя сохраняемая цифра не меняется
5. если первая из отбрасываемых цифр (считая слева направо) больше 0, то последняя сохраняемая цифра увеличивается на единицу.
Что это даст:
Унификацию записей. Всегда две цифры, если три понятно что запись относится к особым видам измерений.
Более простые правила округления, уменьшается вероятность человеческой ошибки, уменьшается трудоёмкость.
Уменьшается вероятность недооценки рисков, собственно к чему мы все и стремимся.
В ГОСТ Р 8.736-2011 сказано про погрешность, поэтому мне сложно найти аргументы запрещающие внедрять эти правила в лабораторию, тем более они не противоречат здравому смыслу.
Но позвольте внести свою точку зрения, может мировое сообщество рассмотрит его.
1. Точность результатов измерений и точность вычислений при обработке результатов измерений должны быть согласованы с требуемой точностью получаемой оценки измеряемой величины.
2. Погрешность (неопределённость) оценки измеряемой величины следует выражать двумя значащими цифрами.
3. Погрешность (неопределённость) оценки измеряемой величины следует выражать тремя значащими цифрами при точных измерениях, (эталоны, крупные аварии повлекшие убытки, человеческие жертвы, по требованию заказчика)
4. если первая из отбрасываемых цифр (считая слева направо) равна 0, то последняя сохраняемая цифра не меняется
5. если первая из отбрасываемых цифр (считая слева направо) больше 0, то последняя сохраняемая цифра увеличивается на единицу.
Что это даст:
Унификацию записей. Всегда две цифры, если три понятно что запись относится к особым видам измерений.
Более простые правила округления, уменьшается вероятность человеческой ошибки, уменьшается трудоёмкость.
Уменьшается вероятность недооценки рисков, собственно к чему мы все и стремимся.
В ГОСТ Р 8.736-2011 сказано про погрешность, поэтому мне сложно найти аргументы запрещающие внедрять эти правила в лабораторию, тем более они не противоречат здравому смыслу.
Правила округления при обработке результатов измерений. Часть 2 (домыслы)
Откуда взялись три значащие цифры?
Если вы указывает две, то на это есть куча документов, а в первую очередь СТ СЭВ 543 - 77, который является действующим документом.
Все остальное - измышления, пусть и практического плана.
Насчет результатов по МСИ. Провайдер сам в инструкции указывает количество значащих цифр в значении результатов, которые должны быть предоставлены при проведении МСИ. Если не указал - значит округление погрешности (неопределенности) до двух значащих цифр + отсюда значение результата. Так что это обоснование отметаем.
Все остальные случаи (аварии и т.п.) вполне можно упомянуть в протоколе в качестве обоснования выдачи результата и погрешности с излишними значащими цифрами. Но это как исключение.
Да, насколько я понимаю, наказания за неправильное указание количества значащих цифр не предусмотрено, это вроде как правила хорошего тона при выдаче результатов измерений.
Если вы указывает две, то на это есть куча документов, а в первую очередь СТ СЭВ 543 - 77, который является действующим документом.
Все остальное - измышления, пусть и практического плана.
Насчет результатов по МСИ. Провайдер сам в инструкции указывает количество значащих цифр в значении результатов, которые должны быть предоставлены при проведении МСИ. Если не указал - значит округление погрешности (неопределенности) до двух значащих цифр + отсюда значение результата. Так что это обоснование отметаем.
Все остальные случаи (аварии и т.п.) вполне можно упомянуть в протоколе в качестве обоснования выдачи результата и погрешности с излишними значащими цифрами. Но это как исключение.
Да, насколько я понимаю, наказания за неправильное указание количества значащих цифр не предусмотрено, это вроде как правила хорошего тона при выдаче результатов измерений.
-
- Администратор
- Сообщения: 4218
- Стаж: 7 лет 7 месяцев
- Поблагодарили: 574 раза
- Пол:
Правила округления при обработке результатов измерений. Часть 2 (домыслы)
Вообще если логический подойти то правильно провайдеру не более двух значащих цифр, ведь внесенная погрешность от округления входит в лабораторную.
Я больше хотел сделать упор что неопределенность лучше выражать двумя цифрами всегда, существующие сейчас формулировки правил отпугивает слабо подготовленный персонал, и вообще пишут кто во что горазд, да и самому ошибится легко. Да и программно если где что считает автоматический, труднее реализовать.
Про эталоны в небольшой степени приписанные им значения можно считать промежуточным результатом, Если одномоментно всем перейти на запись неопределенности в трёхзначное число у первичных эталонов, точность измерения во всём мире вырастет на 0,005 %
Да всё конечно домыслы. Я ещё тот перфекционист.
А наказание есть, незнание нормативных документов.
Я больше хотел сделать упор что неопределенность лучше выражать двумя цифрами всегда, существующие сейчас формулировки правил отпугивает слабо подготовленный персонал, и вообще пишут кто во что горазд, да и самому ошибится легко. Да и программно если где что считает автоматический, труднее реализовать.
Про эталоны в небольшой степени приписанные им значения можно считать промежуточным результатом, Если одномоментно всем перейти на запись неопределенности в трёхзначное число у первичных эталонов, точность измерения во всём мире вырастет на 0,005 %
Да всё конечно домыслы. Я ещё тот перфекционист.
А наказание есть, незнание нормативных документов.
Правила округления при обработке результатов измерений. Часть 2 (домыслы)
ДА народ банально не знает что такое "значащие цифры"! Какое тут округление?
Насчет наказания: я никогда не слышал, чтобы у нас наказывали за незнание правил округления по СТ СЭВ.
Но, например, в методике измерений указана форма представления результата, как в ГОСТ ISO 9612-2016 (которая не является аттестованной методикой, но тем не менее), что надо приводить результат с одним знаком после запятой и с неопределенностью. Нет этого, тогда да, нарушение требований методики.
Хотя, они сами накосячили в конце:
"F.6.4 Заключение
Три водителя вилочных автопогрузчиков на своем рабочем месте подвергаются шумовому воздействию с эквивалентным уровнем звука за 8-часовой рабочий день 90,1 дБ со стандартной неопределенностью 2,06 дБ."
-
- Администратор
- Сообщения: 4218
- Стаж: 7 лет 7 месяцев
- Поблагодарили: 574 раза
- Пол:
Правила округления при обработке результатов измерений. Часть 2 (домыслы)
ГОСТ Р 8.736-2011 Методы обработки результатов измерений. Основные положения.
РМГ 29-2013ГСИ. Метрология. Основные термины.
Я бы в программу подготовки персонала вставлял.
РМГ 29-2013ГСИ. Метрология. Основные термины.
Я бы в программу подготовки персонала вставлял.
-
- Администратор
- Сообщения: 4218
- Стаж: 7 лет 7 месяцев
- Поблагодарили: 574 раза
- Пол:
Правила округления при обработке результатов измерений. Часть 2 (домыслы)
Давно не писал статейки, хотя материала накопилось много.
Без введения.
1. В последних версиях Excel появилось много вариантов округления, не буду все их оценивать возможно там есть замечательные варианты, но предложу свой. Раньше при составлении таблиц для расчёта я столкнулся с одной трудностью, округление. Ведь например при составлении карт Шухарта кто-то использует значения меньше единицы, а кто то больше тысячи. Воспитание не позволяло выводить результаты расчёта с размером "как попало количество знаков в ячейке". Вот и придумал я хитрую формулу.
=ОКРУГЛ(D1;A1-LOG(ABS(D1)))
Где: D1 округляемое значение
A1 точность округления, целые числа например: 2, 3, 4, "можно и не целые". Формула отлично работает, надеюсь кому нибудь пригодится для оформления протоколов в Excel
2. Все встречали надпись при описании погрешности прибора: + одна единица младшего разряда, или например (±15%+1). Пытался я описать откуда единица берётся получалось не очень. Смысл её учёт погрешности при отображении значения цифрами с ограниченной разрядностью.
Ранее я предлагал округление в большую сторону для исключения влияния округления на оценку соответствия.
Как ещё вариант для учёта влияния округления в расчётах на неопределённость измерения к рассчитанной абсолютной неопределённости прибавлять 1 единицу к младшей цифре. Например: получаем 1,10±0,11, записываем 1,10±0,12
3. При составлении статистических таблиц, например коэффициенты Стьюдента, и.т.п необходимо использовать четырёхзначные числа. Встречал я таблицы с двухзначными, и пятизначными. Четырёхзначные числа в среднем на порядок точнее чем нам необходимо, трёхзначные обеспечивают точность без запаса. Пятизначные избыточны. Это же правило можно использовать для записи коэффициентов например: для расчёта границ карт Шухарта, калибровочных коэффициентов. <= не всегда верно, особенно где зависимости нелинейны.
Без введения.
1. В последних версиях Excel появилось много вариантов округления, не буду все их оценивать возможно там есть замечательные варианты, но предложу свой. Раньше при составлении таблиц для расчёта я столкнулся с одной трудностью, округление. Ведь например при составлении карт Шухарта кто-то использует значения меньше единицы, а кто то больше тысячи. Воспитание не позволяло выводить результаты расчёта с размером "как попало количество знаков в ячейке". Вот и придумал я хитрую формулу.
=ОКРУГЛ(D1;A1-LOG(ABS(D1)))
Где: D1 округляемое значение
A1 точность округления, целые числа например: 2, 3, 4, "можно и не целые". Формула отлично работает, надеюсь кому нибудь пригодится для оформления протоколов в Excel
2. Все встречали надпись при описании погрешности прибора: + одна единица младшего разряда, или например (±15%+1). Пытался я описать откуда единица берётся получалось не очень. Смысл её учёт погрешности при отображении значения цифрами с ограниченной разрядностью.
Ранее я предлагал округление в большую сторону для исключения влияния округления на оценку соответствия.
Как ещё вариант для учёта влияния округления в расчётах на неопределённость измерения к рассчитанной абсолютной неопределённости прибавлять 1 единицу к младшей цифре. Например: получаем 1,10±0,11, записываем 1,10±0,12
3. При составлении статистических таблиц, например коэффициенты Стьюдента, и.т.п необходимо использовать четырёхзначные числа. Встречал я таблицы с двухзначными, и пятизначными. Четырёхзначные числа в среднем на порядок точнее чем нам необходимо, трёхзначные обеспечивают точность без запаса. Пятизначные избыточны. Это же правило можно использовать для записи коэффициентов например: для расчёта границ карт Шухарта, калибровочных коэффициентов. <= не всегда верно, особенно где зависимости нелинейны.
Округление результатов
Доброго времени суток, подскажите кто сталкивался с дилеммой: есть методики выполнения измерений, в которых указывается что результат требуется округлить до определенного числа значащих цифр. Про погрешность/неопределенность ни слова. В соответствии с ПМГ 96 погрешность представляется числом, содержащим не более двух значащих цифр, но допустимо представлять и одной значащей цифрой. Не могу разобраться как определиться с выбором значащих цифр в погрешности, есть ли какие то правила по этому вопросу?
-
- Администратор
- Сообщения: 4218
- Стаж: 7 лет 7 месяцев
- Поблагодарили: 574 раза
- Пол:
Округление результатов
Округляйте как в методике. Моё мнение по возможности лучше всегда округлять до двух значащих (последний ноль тоже значащий) цифр. Меньше путаницы, и унификация.
Правила округления при обработке результатов измерений. Часть 2 (домыслы)
наименьший разряд числового значения результата должен совпадать с наименьшим разрядом числового значения погрешности (правило равенства разрядов), например 0,0032+/-0,0016, 25,0+/-0,5 или 257+/-26
-
- Партнёр форума
- Сообщения: 2472
- Стаж: 7 лет 4 месяца
- Поблагодарили: 719 раз
Правила округления при обработке результатов измерений. Часть 2 (домыслы)
округление в Эксель для двух значащих цифр погрешности
- Вложения
-
- Округление до значащих цифр.xlsx
- (6.2 КБ) 214 скачиваний
Валидация ПО для лабораторий.
email:cordek @ yandex .ru
https://t.me/limsaccreditation
https://dzen.ru/limsaccreditation
email:cordek @ yandex .ru
https://t.me/limsaccreditation
https://dzen.ru/limsaccreditation
-
-
- Сообщения: 92
- Стаж: 6 лет 4 месяца
- Поблагодарили: 10 раз
Правила округления при обработке результатов измерений. Часть 2 (домыслы)
Может немного не по теме, но всё же...
ПНД Ф 12.16.1-10 Методические рекомендации. Определение температуры, запаха, окраски (цвета) и прозрачности в сточных водах, в том числе очищенных сточных, ливневых и талых.
В ПНДФ :Требуется Термометр стеклянный ртутный с ценой деления не более 0,1°С и диапазоном измерений от 0°С до 50°С по ГОСТ 13646
Температуру воздуха и воды указывают в градусах Цельсия с округлением до 0,1°С. Знак ставится только при температурах ниже нуля. Результат измерений температуры представляют в виде:.(Х+-∆)°С
У нас термометр с ценой деления 0,05°С.
Как выдавать результат в протоколе (19,00+-0,05)°С или (19,0+-0,1)°С ?
ПНД Ф 12.16.1-10 Методические рекомендации. Определение температуры, запаха, окраски (цвета) и прозрачности в сточных водах, в том числе очищенных сточных, ливневых и талых.
В ПНДФ :Требуется Термометр стеклянный ртутный с ценой деления не более 0,1°С и диапазоном измерений от 0°С до 50°С по ГОСТ 13646
Температуру воздуха и воды указывают в градусах Цельсия с округлением до 0,1°С. Знак ставится только при температурах ниже нуля. Результат измерений температуры представляют в виде:.(Х+-∆)°С
У нас термометр с ценой деления 0,05°С.
Как выдавать результат в протоколе (19,00+-0,05)°С или (19,0+-0,1)°С ?
-
- Партнёр форума
- Сообщения: 2472
- Стаж: 7 лет 4 месяца
- Поблагодарили: 719 раз
Правила округления при обработке результатов измерений. Часть 2 (домыслы)
В данном случае у вас есть требования методики, поэтому мудрить не надо, а надо указывать так как написано в методике, то есть (19,0+-0,1)°С
Валидация ПО для лабораторий.
email:cordek @ yandex .ru
https://t.me/limsaccreditation
https://dzen.ru/limsaccreditation
email:cordek @ yandex .ru
https://t.me/limsaccreditation
https://dzen.ru/limsaccreditation
-
-
- Сообщения: 10
- Стаж: 3 года
- Пол:
Правила округления при обработке результатов измерений. Часть 2 (домыслы)
Добрый день! Подскажите, пожалуйста, правильно ли я понимаю. В методике 4 диапазона, у каждого свой показатель точности:
Диапазон измерений массовой доли, %
От 0,05 до 0,20 вкл.
Св. 0,20 до 1,0 вкл.
Св. 1,0 до 25 вкл.
Св. 25 до 99 вкл.
Если я получаю результат, например, 0,06 - то выдаю результат в виде 0,06±0,01
Если результат 10, то выдаю в виде 10±1. То есть округляю и результат и показатель точность в соответствии с диапазоном?
(В методике лишь указано, что результат измерений массовой доли влаги (каждого параллельного определения) , %, регистрируют до второго десятичного знака. Затем вычисляют среднее арифметическое параллельных определений).
Диапазон измерений массовой доли, %
От 0,05 до 0,20 вкл.
Св. 0,20 до 1,0 вкл.
Св. 1,0 до 25 вкл.
Св. 25 до 99 вкл.
Если я получаю результат, например, 0,06 - то выдаю результат в виде 0,06±0,01
Если результат 10, то выдаю в виде 10±1. То есть округляю и результат и показатель точность в соответствии с диапазоном?
(В методике лишь указано, что результат измерений массовой доли влаги (каждого параллельного определения) , %, регистрируют до второго десятичного знака. Затем вычисляют среднее арифметическое параллельных определений).
-
- Администратор
- Сообщения: 4218
- Стаж: 7 лет 7 месяцев
- Поблагодарили: 574 раза
- Пол:
Правила округления при обработке результатов измерений. Часть 2 (домыслы)
Диапазон определения и количество знаков в результате не корректированы.
Количество знаков зависит от неопределённости измерения, в вашем случае будет 0,060±0,010; 10,4±1,4 Я бы так сделал.
Количество знаков зависит от неопределённости измерения, в вашем случае будет 0,060±0,010; 10,4±1,4 Я бы так сделал.
-
- Партнёр форума
- Сообщения: 2472
- Стаж: 7 лет 4 месяца
- Поблагодарили: 719 раз
Правила округления при обработке результатов измерений. Часть 2 (домыслы)
в предыдущем файле округления до двух значащих цифр нашел ошибку, прошу извинить, вот правильный
- Вложения
-
- Округление до значащих цифр.xlsx
- (6.2 КБ) 226 скачиваний
Валидация ПО для лабораторий.
email:cordek @ yandex .ru
https://t.me/limsaccreditation
https://dzen.ru/limsaccreditation
email:cordek @ yandex .ru
https://t.me/limsaccreditation
https://dzen.ru/limsaccreditation
Правило тройки при округлении погрешности
Приветствую!
Все знают о правиле: погрешность результата измерения указывают двумя значащими цифрами, если первая из них равна 1 или 2, и одной значащей цифрой, если первая есть 3 и более.
Почему-то все знают, но никто не может сказать, откуда оно взялось. Я просмотрел ГОСТ Р 8.736-2011, но там правило звучит иначе, а именно: ... оставляем 2 значащие цифры, если первая значащая цифра не более трех. В ПМГ 96 и МИ 1317 об этом правиле вообще ни слова.
Буду благодарен тому, кто даст ссылки на документы с этим правилом
Все знают о правиле: погрешность результата измерения указывают двумя значащими цифрами, если первая из них равна 1 или 2, и одной значащей цифрой, если первая есть 3 и более.
Почему-то все знают, но никто не может сказать, откуда оно взялось. Я просмотрел ГОСТ Р 8.736-2011, но там правило звучит иначе, а именно: ... оставляем 2 значащие цифры, если первая значащая цифра не более трех. В ПМГ 96 и МИ 1317 об этом правиле вообще ни слова.
Буду благодарен тому, кто даст ссылки на документы с этим правилом
-
-
- Сообщения: 1386
- Стаж: 5 лет
- Поблагодарили: 341 раз
Правила округления при обработке результатов измерений. Часть 2 (домыслы)
aleks203, Правила округления при обработке результатов измерений. Часть 1
ГОСТ Р 8.736-2011 Методы обработки результатов измерений. Основные положения.
Приложение Е
Е.2 Погрешность оценки измеряемой величины следует выражать не более чем двумя значащими цифрами.
Две значащие цифры в погрешности оценки измеряемой величины сохраняют:
- при точных измерениях;
- если первая значащая цифра не более трех.
ГОСТ Р 8.736-2011 Методы обработки результатов измерений. Основные положения.
Приложение Е
Е.2 Погрешность оценки измеряемой величины следует выражать не более чем двумя значащими цифрами.
Две значащие цифры в погрешности оценки измеряемой величины сохраняют:
- при точных измерениях;
- если первая значащая цифра не более трех.
-
-
- Сообщения: 81
- Стаж: 2 года 10 месяцев
- Поблагодарили: 12 раз
- Пол:
Правила округления при обработке результатов измерений. Часть 2 (домыслы)
Чтоб не плодить одни и те же обсуждения:
http://anchem.ru/forum/read.asp?id=28309
http://anchem.ru/forum/read.asp?id=28309
Правила округления при обработке результатов измерений. Часть 2 (домыслы)
Новицкий П.В., Зограф И.А. "Оценка погрешностей результатов измерений"
-
- Сообщения: 2
- Стаж: 1 год 3 месяца
- Пол:
Правила округления при обработке результатов измерений. Часть 2 (домыслы)
Найдите статью:
Построение контрольных карт Шухарта по неадекватным единицам измерения ведет ошибочным выводам.
Распространённая практика, когда собственник инвестирует в новое измерительное оборудование с большой точность измерения, возможно, излишней, выбрасывая деньги на ветер, а данные, собранные с помощью этого оборудования и зафиксированные в КИС оказываются бесполезными для их анализа в целях совершенствования процессов.
Построение контрольных карт Шухарта по неадекватным единицам измерения ведет ошибочным выводам.
Распространённая практика, когда собственник инвестирует в новое измерительное оборудование с большой точность измерения, возможно, излишней, выбрасывая деньги на ветер, а данные, собранные с помощью этого оборудования и зафиксированные в КИС оказываются бесполезными для их анализа в целях совершенствования процессов.