Форумы ANCHEM.RU: Округление результатов измерений.

Российский химико-аналитический портал

химический анализ и аналитическая химия в фокусе внимания ::: портал химиков-аналитиков ::: выбор профессионалов

карта портала ::: расширенный поиск

ANCHEM.RU » Форумы » 1. Аналитический форум ...

Форум химиков-аналитиков, аналитическая химия и химический анализ.

Округление результатов измерений. >>>

  Ответов в этой теме: 46
  Страница: 1 2 3 4 5
  «« назад || далее »»

[ Ответ на тему ]

Rey
Пользователь
Ранг: 756

09.04.2019 // 3:06:15

Редактировано 1 раз(а)

vmu пишет:
Если в этом примере оставлять в погрешности 2 значащие цифры (т.е. округлять ее до 0.001 г/л), то и результат надо округлять до 0.001 г/л, т.е. 0.167 ± 0.015 г/л.
Либо существует некий тайный смысл цепляться за тысячные г/л в погрешности, но спокойно пренебрегать ими в самом результате и выдавать в качестве итога запись "0.170 ± 0.015 г/л".

Если измеренный результат 0.167 ± 0.015, следовательно истинное значение будет в пределах 0,152-0,182. Предположим, истинное оказалось 0,153.
Округленное же значение по данной схеме 0.170 ± 0.015 (0,155-0,185) уже не будет включать в себя истинное значение. То есть такое округление тоже хрень и, как ни крути, лучше пользоваться стандартной техникой.

ANCHEM.RU
Администрация
Ранг: 246

ТВК
Пользователь
Ранг: 606

09.04.2019 // 5:45:01

vmu пишет:
Имеем: неокругленный результат - 167 мг/л (0.167 г/л), неокругленная погрешность - 0.167 × 0.09 = 0.01503 г/л. Округляем результат до 10 мг/л, т.е. до 0.01 г/л и получаем 0.17 г/л. Про округление погрешности НИЧЕГО не говорится.
Итог: 0.17 ± 0.01503 г/л. Бред.

Про погрешность.
Уже должна набить оскомину фраза о том, что погрешность должна содержать НЕ БОЛЕЕ 2-х значащих цифр. И это означает, что их может быть МЕНЬШЕ двух, например, одна.
В данном примере результат должен быть записан следующим образом:
170+-15 (мг/л) или, если требуется представить результат в г/л, 0,17+-0,02 (г/л). Но, вообще-то, раздел 13 этой методики содержит фразу: "Результаты измерений, как правило, в протоколах исследований представляют в виде: Х+-дельта; МГ/ДМ3 (Р=0,95)...". Что Вам мешает представлять результаты так, как это предложено разработчиками?

Про культуру ведения диалога.
Т.к. хамство характеризует Вас, но не оппонента, впредь, пожалуйста, не позволяйте себе выражений, подобных тем которыми Вы сопроводили свои рассуждения в предыдущем посте.

Rey
Пользователь
Ранг: 756

09.04.2019 // 6:00:23

А для особо одаренных, гляньте СТ СЭВ 543-77. А именно:

2.1. Округление числа представляет собой отбрасывание значащих цифр справа до определенного разряда с возможным изменением цифры этого разряда.

1.4. Число, для которого указывается допускаемое отклонение, должно иметь последнюю значащую цифру того же разряда как и последняя значащая цифра отклонения.

ТВК
Пользователь
Ранг: 606

09.04.2019 // 6:07:33

Rey пишет:
Если измеренный результат 0.167 ± 0.015, следовательно истинное значение будет в пределах 0,152-0,182. Предположим, истинное оказалось 0,153.
Округленное же значение по данной схеме 0.170 ± 0.015 (0,155-0,185) уже не будет включать в себя истинное значение. То есть такое округление тоже хрень и, как ни крути, лучше пользоваться стандартной техникой.

Rey пишет:
Если результат 167, погрешность 9% и округление до 10, то конечный будет выглядеть 170+/-20. Погрешность также округляется до тех единиц, которые указаны.

Цитирую Вас: "Если измеренный результат 0.167 ± 0.015, следовательно истинное значение будет в пределах 0,152-0,182."
Если запись результата "будет выглядеть 170+/-20", "следовательно истинное значение будет в пределах" 0,150-0,190.
Как Вы охарактеризуете в свете "истинности" результаты 0,150; 0,151; 0,183-0,190?

И, пожалуйста, подбирайте выражения.

ТВК
Пользователь
Ранг: 606

09.04.2019 // 6:15:12

Rey пишет:
Число, для которого указывается допускаемое отклонение, должно иметь последнюю значащую цифру того же разряда как и последняя значащая цифра отклонения.

Rey пишет:
Погрешность округляется до того же разряда, что и результат.

Сравните и дайте оценку своей степени одарённости. Вслух - не надо. Режет ухо.

Поскольку Вы не сменили тональность своих высказываний до приемлемых, с моей стороны диалог закончен.

Каталог ANCHEM.RU
Администрация
Ранг: 246

Журнал Масс-спектрометрия
Оригинальные научные статьи, обзоры, учебные и некоторые справочные материалы по всем разделам теории и практики масс-спектрометрии.

vmu
Пользователь
Ранг: 1330

09.04.2019 // 7:16:31

ТВК пишет:
В данном примере результат должен быть записан следующим образом:
170+-15 (мг/л) или, если требуется представить результат в г/л, 0,17+-0,02 (г/л). Но, вообще-то, раздел 13 этой методики содержит фразу: "Результаты измерений, как правило, в протоколах исследований представляют в виде: Х+-дельта; МГ/ДМ3 (Р=0,95)...". Что Вам мешает представлять результаты так, как это предложено разработчиками?

Так почему в первом варианте мы спокойно должны пренебречь единицами мг/л в среднем значении, оруглив его с 167 до 170, но не трогать эти же единицы мг/л в погрешности, оставляя 15?
Что мешает представлять результаты так, как это предложено разработчиками? Мешает возможность двоякого толкования текста методики, что вы и подтвердили, написав два неравнозначных варианта представления результата. Может быть две цифры в погрешности, но может быть и одна. Кому как захочется.

Где лежит истинное значение измеряемой величины? А где лежит истинное значение погрешности этой измеряемой величины, и какова погрешность самой погрешности? Иногда вообще прописывают округление погрешности в бОльшую сторону, не по обычным правилам округления. Шире интервал - меньше сомнений, что истина где-то там.

ТВК
Пользователь
Ранг: 606

09.04.2019 // 7:35:33

Редактировано 1 раз(а)

vmu пишет:
Так почему в первом варианте мы спокойно должны пренебречь единицами мг/л в среднем значении, округлив его с 167 до 170

Потому, что именно так написано в МИ разработчиками.

vmu пишет:
Что мешает представлять результаты так, как это предложено разработчиками?

Разработчиком предложено округлять результат измерений. Особых "хочу" от разработчиков относительно погрешности в МИ нет. Следовательно, на погрешность распространяются только общие правила (про "не более двух значащих").

vmu пишет:
Может быть две цифры в погрешности, но может быть и одна. Кому как захочется.

Да, именно так.
Вы почему-то спокойно ЗАХОТЕЛИ представить результат в г/л, что не оговаривается в методике...

vmu пишет:
Где лежит истинное значение измеряемой величины?

Это не ко мне.
Может быть к Богу?..

vmu
Пользователь
Ранг: 1330

09.04.2019 // 8:32:02

ТВК пишет:
Вы почему-то спокойно ЗАХОТЕЛИ представить результат в г/л, что не оговаривается в методике.

Я пишу результат в г/л не просто из-за своих хотелок, а потому что, например, из записи 170 +- 20 мг/л, непонятно, сколько в погрешности значащих цифр: две или одна. Смотрите начало обсуждения.

20 - это именно 20, или 15 с округлением до 20, или 24 с округлением до 20? Из записей 0.170 +- 0.020 г/л и 0.17 +- 0.02 г/л все сразу ясно: две и одна значащие цифры в погрешности соответственно.
Если представлять результат в мг/л, но в стандартном виде, то тоже будет все ясно: (1.70 +- 0.20)×10^2 мг/л или (1.7 +- 0.2)×10^2 мг/л.

ТВК
Пользователь
Ранг: 606

09.04.2019 // 8:49:40

Редактировано 3 раз(а)

vmu пишет:
Я пишу результат в г/л не просто из-за своих хотелок, а потому что, например, из записи 170 +- 20 мг/л, непонятно, сколько в погрешности значащих цифр: две или одна.

Т.е. это не требование Заказчика, а только запись "по понятиям"?
И Вы утверждаете, что представляете результат в г/л, а не в мг/л (как написано в МИ) "не просто из-за своих хотелок"?

Про "непонятно".
СТ СЭВ 543-77, п.1.1.

vmu пишет:
Если представлять результат в мг/л, но в стандартном виде, то тоже будет все ясно: (1.70 +- 0.20)×10^2 мг/л или (1.7 +- 0.2)×10^2 мг/л.

Так и ясно, и правильно.
Если абстрагироваться от конкретной методики.
Да и означают эти записи разное (СТ СЭВ 543-77, п.1.3).

Если добуквенно соблюсти требования разработчиков ПНД Ф 14.1:2:4.254-09 (издание 2017 г.), то:
- результат 167 округляют до 170;
- приписывают ему погрешность 9 %;
- оставляют в погрешности не более 2-х значащих цифр;
- результат исследований записывают следующим образом: 170+-15 (мг/дм3).

Допускаю мысль, что разработчики имели ввиду нечто другое.
Но написали так.

phl-zuevs
Пользователь
Ранг: 3

09.04.2019 // 17:22:07

Редактировано 1 раз(а)

vmu пишет:

phl-zuevs пишет:
...разработчик методики утверждает в разделе "Область применения"...
Раздела "Оформление результатов" в методике нет? Метрологические характеристики в методике указаны? Какая погрешность у методики (в том или ином диапазоне)? Округляйте результаты до того разряда, в котором находится первая или вторая значащая цифра (абсолютной) погрешности.

Возможно я не совсем адресно ответил, но,vmu, это Вам:
Раздела "Оформление результатов" в методике нет.
Погрешности методики:
От 0,5 до 1 включ. - 30%
св.1 до 5 включ. - 24%
св.5 до 16 включ. - 20%

Если я получаю концентрацию 1,0101, а погрешность соответственно 0,242424, то результат должен записать 1,01+/-0,24? Нормативка есть какая-нибудь по этому поводу?


Ответов в этой теме: 46 Страница: 1 2 3 4 5 «« назад \|\| далее »»	Ответ на тему

ПОСЛЕДНИЕ НОВОСТИ ANCHEM.RU: [ Все новости ]

Размещение рекламы / Контакты