Российский химико-аналитический портал  химический анализ и аналитическая химия в фокусе внимания ::: портал химиков-аналитиков ::: выбор профессионалов  
карта портала ::: расширенный поиск              
 



ANCHEM.RU » Форумы » 1. Аналитический форум ...
  1. Аналитический форум | Список форумов | Войти в систему | Регистрация | Помощь | Последние темы | Поиск

Форум химиков-аналитиков, аналитическая химия и химический анализ.

Округление результатов измерений. >>>

  Ответов в этой теме: 37
  Страница: 1 2 3 4
  «« назад || далее »»

[ Ответ на тему ]


Автор Тема: Округление результатов измерений.
tosichka
Пользователь
Ранг: 29

10.02.2019 // 9:01:10     
Добрый день! Помогите разобраться! У нас методика измерений взвешенных и прокаленных веществ в сточной воде. Там есть: Оформление результатов измерений - Результат измерений округляют с точностью: при содержании взвешенных и/или прокаленных взвешенных веществ от 0,5 до 1,0 мг/дм3 включ. - до 0,01 мг/дм3, .... св. 100 до 50000 мг/дм3 включ. - до 10 мг/дм3. Наш инженер уверяет, что если у нас получился средний результат 167 мг/дм3, то мы этот результат должны округлять до 170 мг/дм3! Я же считаю, что речь идет о погрешности, т.е. 167*0,01*9=15,03 или 167*9%=15,03, значит 167+/-15. А если мы будем округлять целые числа, то это же будет грубая ошибка как в результате, так и в погрешности! Помогите решить кто прав! Спасибо!
Реклама на ANCHEM.RU
Администрация
Ранг: 246
Размещение рекламы
Rey
Пользователь
Ранг: 210


10.02.2019 // 9:15:26     
Редактировано 2 раз(а)

Инженер прав. Загуглите о том, что есть округление.
Если результат 167, погрешность 9% и округление до 10, то конечный будет выглядеть 170+/-20. Погрешность также округляется до тех единиц, которые указаны.
tosichka
Пользователь
Ранг: 29


10.02.2019 // 9:21:49     
Редактировано 1 раз(а)

Тогда объясните, если у меня результат 162+/-15 - то тогда 160+/-10? И 0, 89, то как округлить до 0, 01?
Rey
Пользователь
Ранг: 210


10.02.2019 // 11:24:04     

tosichka пишет:
Тогда объясните, если у меня результат 0, 89, то как округлить до 0, 01?
Тут не нужно округлять, потому что результат не содержит тысячных единиц.
Если бы было 0,896 то округленный результат 0,90. Если 0,894 то 0,89. А если полученный результат уже до сотых единиц, то округление до 0,01 ничего не поменяет и он остается таким же.
tosichka
Пользователь
Ранг: 29


10.02.2019 // 11:41:20     
А считается ли ошибкой, если мы не округляли, например 167+/-15 до 170+/-20?
vmu
Пользователь
Ранг: 339


10.02.2019 // 12:13:19     
1) 0.89 - это уже значение, округленное до 0.01.

2) Для того, чтобы ни у кого не возникало проблем с тем, как "округлять целые числа", и чтобы было понятно, сколько в числе значащих цифр, результат представляют в другом виде. Запишите ваши 167 мг/дм3 в виде 0.167 г/дм3 и округляйте на здоровье.

Из записи 170 мг/дм3 неясно, сколько в числе значащих цифр: две или три. Из записей 0.17 г/дм3 и 0.170 г/дм3 число значащих цифр сразу видно: две и три цифры в первом и во втором случаях соответственно.

3). Если следовать тексту методики, то инженер прав, и ваш результат 170 ± 20 мг/дм3 (а правильнее 0.17 ± 0.02 г/дм3; заметьте, не 0.170 ± 0.020 г/дм3). С другой стороны, возникает вопрос о том, насколько корректны правила округления, указанные в методике. При округлении 0.015 до 0.02 получаем результат с приписанной погрешностью 100·0.02/0.17 = 12%, что существенно выше заявленных в методике 9%.

Величина погрешности (неопределенности) результата сама имеет погрешность (неопределенность). Эта погрешность зачастую довольно велика и приводит к необходимости округлять погрешность результата до первой значащей цифры. Результат, естественно, округляется до того же разряда, что и его погрешность.

Однако погрешность погрешности результата (неопределенность неопределенности результата) в определенных условиях может быть и не слишком высокой, что позволит в погрешности результата оставлять две значащие цифры. Либо округление погрешности до двух значащих цифр — просто вопрос договоренности, закрепленной тем или иным документом. По РМГ 76—2014 в погрешностях допускается указание двух значащих цифр. По JCGM 100:2008 две значащие цифры в записи неопределенности результата — это тоже норма. В этом случае и обсуждаемый результат можно записать в виде 167 ± 15 мг/дм3 (или в виде 0.167 ± 0.015 г/дм3).
Реклама на ANCHEM.RU
Администрация
Ранг: 246
Размещение рекламы
Микроскоп бинокулярный UV-1380В Микроскоп бинокулярный UV-1380В
Микроскоп предназначен для исследования препаратов в проходящем свете, светлом поле. При биохимических, патологоанатомических, цитологических, гематологических, урологических, дерматологических, биологических и общеклинических исследованиях в лабораториях любого медицинского учреждения. Увеличение: 40х-1500х. Объективы: Планахроматические, 4х, 10х, 20х, 40х, 60х и 100х МИ
[ Информация из каталога оборудования ANCHEM.RU ]
Rey
Пользователь
Ранг: 210


10.02.2019 // 12:18:34     

tosichka пишет:
А считается ли ошибкой, если мы не округляли, например 167+/-15 до 170+/-20?
Не считается
vmu
Пользователь
Ранг: 339


10.02.2019 // 12:20:36     

tosichka пишет:
Тогда объясните, если у меня результат 162+/-15 - то тогда 160+/-10?
Числа, заканчивающиеся на 5, можно округлять по-разному. Округляют либо до ближайшего четного, либо в бóльшую сторону. Здесь в обоих вариантах получим 0.16 ± 0.02 г/дм3.

https://www.nist.gov/sites/default/files/documents/2018/02/08/glp-9-rounding-20180131.pdf
tosichka
Пользователь
Ранг: 29


10.02.2019 // 12:29:47     
Спасибо большое за разъяснения!)
phl-zuevs
Пользователь
Ранг: 3


07.04.2019 // 16:09:45     
Крик души!
С количеством значащих цифр - извечная проблема. Почему-то по этому поводу нет единого мнения даже у экспертов. Хорошо, если в методике прописано разъяснение до какого знака после запятой нужно округлять результат и в каком диапазоне методики.
Беда - это когда сами разработчики запутывают настолько, что мозг кипит. Может я такой тупой? Объясните мне, пожалуйста, кто-нибудь: до какого знака после запятой я должен округлять результат, если разработчик методики утверждает в разделе "Область применения", что она работает в диапазоне от 0,5 до 16,0, а в свидетельстве об аттестации методики указаны поддиапазоны: от 0,5 до 1 включ., св. 1 до 5 включ., св. 5 до 16 включ.
Если следовать "области применения", то все результаты во всем диапазоне методики надо округлять до десятых, но если следовать свидетельству об аттестации методики, то до десятых следует округлять результат в поддиапазоне от 0,5 до 1 включ., а в остальных - писать в целых, как мне когда-то разъяснил один представитель экспертного сообщества. Но слова к делу не пришьешь. Может есть какая-нибудь нормативка по этому вопросу? Буду рад любой информации. Спасибо.
vmu
Пользователь
Ранг: 339


07.04.2019 // 17:16:09     

phl-zuevs пишет:
...разработчик методики утверждает в разделе "Область применения"...
Раздела "Оформление результатов" в методике нет? Метрологические характеристики в методике указаны? Какая погрешность у методики (в том или ином диапазоне)? Округляйте результаты до того разряда, в котором находится первая или вторая значащая цифра (абсолютной) погрешности.

  Ответов в этой теме: 37
  Страница: 1 2 3 4
  «« назад || далее »»

Ответ на тему



ПОСЛЕДНИЕ НОВОСТИ ANCHEM.RU:      [ Все новости ]

ЖУРНАЛ ЛАБОРАТОРИИ ЛИТЕРАТУРА ОБОРУДОВАНИЕ РАБОТА КАЛЕНДАРЬ ФОРУМ

Copyright © 2002-2009
«Аналитика-Мир профессионалов»

Размещение рекламы / Контакты