Форумы ANCHEM.RU: Округление результатов измерений.

Российский химико-аналитический портал

химический анализ и аналитическая химия в фокусе внимания ::: портал химиков-аналитиков ::: выбор профессионалов

карта портала ::: расширенный поиск

ANCHEM.RU » Форумы » 1. Аналитический форум ...

Форум химиков-аналитиков, аналитическая химия и химический анализ.

Округление результатов измерений. >>>

  Ответов в этой теме: 46
  Страница: 1 2 3 4 5
  «« назад || далее »»

[ Ответ на тему ]

Автор

Тема: Округление результатов измерений.

tosichka
Пользователь
Ранг: 32

10.02.2019 // 9:01:10

Добрый день! Помогите разобраться! У нас методика измерений взвешенных и прокаленных веществ в сточной воде. Там есть: Оформление результатов измерений - Результат измерений округляют с точностью: при содержании взвешенных и/или прокаленных взвешенных веществ от 0,5 до 1,0 мг/дм3 включ. - до 0,01 мг/дм3, .... св. 100 до 50000 мг/дм3 включ. - до 10 мг/дм3. Наш инженер уверяет, что если у нас получился средний результат 167 мг/дм3, то мы этот результат должны округлять до 170 мг/дм3! Я же считаю, что речь идет о погрешности, т.е. 167*0,01*9=15,03 или 167*9%=15,03, значит 167+/-15. А если мы будем округлять целые числа, то это же будет грубая ошибка как в результате, так и в погрешности! Помогите решить кто прав! Спасибо!

ANCHEM.RU
Администрация
Ранг: 246

Rey
Пользователь
Ранг: 756

10.02.2019 // 9:15:26

Редактировано 2 раз(а)

Инженер прав. Загуглите о том, что есть округление.
Если результат 167, погрешность 9% и округление до 10, то конечный будет выглядеть 170+/-20. Погрешность также округляется до тех единиц, которые указаны.

tosichka
Пользователь
Ранг: 32

10.02.2019 // 9:21:49

Редактировано 1 раз(а)

Тогда объясните, если у меня результат 162+/-15 - то тогда 160+/-10? И 0, 89, то как округлить до 0, 01?

Rey
Пользователь
Ранг: 756

10.02.2019 // 11:24:04

tosichka пишет:
Тогда объясните, если у меня результат 0, 89, то как округлить до 0, 01?

Тут не нужно округлять, потому что результат не содержит тысячных единиц.
Если бы было 0,896 то округленный результат 0,90. Если 0,894 то 0,89. А если полученный результат уже до сотых единиц, то округление до 0,01 ничего не поменяет и он остается таким же.

tosichka
Пользователь
Ранг: 32

10.02.2019 // 11:41:20

А считается ли ошибкой, если мы не округляли, например 167+/-15 до 170+/-20?

vmu
Пользователь
Ранг: 1330

10.02.2019 // 12:13:19

1) 0.89 - это уже значение, округленное до 0.01.

2) Для того, чтобы ни у кого не возникало проблем с тем, как "округлять целые числа", и чтобы было понятно, сколько в числе значащих цифр, результат представляют в другом виде. Запишите ваши 167 мг/дм³ в виде 0.167 г/дм³ и округляйте на здоровье.

Из записи 170 мг/дм³ неясно, сколько в числе значащих цифр: две или три. Из записей 0.17 г/дм³ и 0.170 г/дм³ число значащих цифр сразу видно: две и три цифры в первом и во втором случаях соответственно.

3). Если следовать тексту методики, то инженер прав, и ваш результат 170 ± 20 мг/дм³ (а правильнее 0.17 ± 0.02 г/дм³; заметьте, не 0.170 ± 0.020 г/дм³). С другой стороны, возникает вопрос о том, насколько корректны правила округления, указанные в методике. При округлении 0.015 до 0.02 получаем результат с приписанной погрешностью 100·0.02/0.17 = 12%, что существенно выше заявленных в методике 9%.

Величина погрешности (неопределенности) результата сама имеет погрешность (неопределенность). Эта погрешность зачастую довольно велика и приводит к необходимости округлять погрешность результата до первой значащей цифры. Результат, естественно, округляется до того же разряда, что и его погрешность.

Однако погрешность погрешности результата (неопределенность неопределенности результата) в определенных условиях может быть и не слишком высокой, что позволит в погрешности результата оставлять две значащие цифры. Либо округление погрешности до двух значащих цифр — просто вопрос договоренности, закрепленной тем или иным документом. По РМГ 76—2014 в погрешностях допускается указание двух значащих цифр. По JCGM 100:2008 две значащие цифры в записи неопределенности результата — это тоже норма. В этом случае и обсуждаемый результат можно записать в виде 167 ± 15 мг/дм³ (или в виде 0.167 ± 0.015 г/дм³).

Каталог ANCHEM.RU
Администрация
Ранг: 246

Охлаждающий инкубатор UT-3070
Используется для создания и поддержания внутри камеры заданной температуры, в диапазоне от 0 до +60 °С с точностью 0,1°С. Служат для решения задач в области защиты и охраны окружающей среды, анализа воды, определения БПК, гигиены, фармацевтике, бактериологии, культивации растений и других исследований.

[ Информация из каталога оборудования ANCHEM.RU ]

Rey
Пользователь
Ранг: 756

10.02.2019 // 12:18:34

tosichka пишет:
А считается ли ошибкой, если мы не округляли, например 167+/-15 до 170+/-20?

Не считается

vmu
Пользователь
Ранг: 1330

10.02.2019 // 12:20:36

tosichka пишет:
Тогда объясните, если у меня результат 162+/-15 - то тогда 160+/-10?

Числа, заканчивающиеся на 5, можно округлять по-разному. Округляют либо до ближайшего четного, либо в бóльшую сторону. Здесь в обоих вариантах получим 0.16 ± 0.02 г/дм³.

https://www.nist.gov/sites/default/files/documents/2018/02/08/glp-9-rounding-20180131.pdf

tosichka
Пользователь
Ранг: 32

10.02.2019 // 12:29:47

Спасибо большое за разъяснения!)

phl-zuevs
Пользователь
Ранг: 3

07.04.2019 // 16:09:45

Крик души!
С количеством значащих цифр - извечная проблема. Почему-то по этому поводу нет единого мнения даже у экспертов. Хорошо, если в методике прописано разъяснение до какого знака после запятой нужно округлять результат и в каком диапазоне методики.
Беда - это когда сами разработчики запутывают настолько, что мозг кипит. Может я такой тупой? Объясните мне, пожалуйста, кто-нибудь: до какого знака после запятой я должен округлять результат, если разработчик методики утверждает в разделе "Область применения", что она работает в диапазоне от 0,5 до 16,0, а в свидетельстве об аттестации методики указаны поддиапазоны: от 0,5 до 1 включ., св. 1 до 5 включ., св. 5 до 16 включ.
Если следовать "области применения", то все результаты во всем диапазоне методики надо округлять до десятых, но если следовать свидетельству об аттестации методики, то до десятых следует округлять результат в поддиапазоне от 0,5 до 1 включ., а в остальных - писать в целых, как мне когда-то разъяснил один представитель экспертного сообщества. Но слова к делу не пришьешь. Может есть какая-нибудь нормативка по этому вопросу? Буду рад любой информации. Спасибо.

vmu
Пользователь
Ранг: 1330

07.04.2019 // 17:16:09

phl-zuevs пишет:
...разработчик методики утверждает в разделе "Область применения"...

Раздела "Оформление результатов" в методике нет? Метрологические характеристики в методике указаны? Какая погрешность у методики (в том или ином диапазоне)? Округляйте результаты до того разряда, в котором находится первая или вторая значащая цифра (абсолютной) погрешности.


Ответов в этой теме: 46 Страница: 1 2 3 4 5 «« назад \|\| далее »»	Ответ на тему

ПОСЛЕДНИЕ НОВОСТИ ANCHEM.RU: [ Все новости ]

Размещение рекламы / Контакты