Форумы ANCHEM.RU: Округление результатов измерений.

Российский химико-аналитический портал

химический анализ и аналитическая химия в фокусе внимания ::: портал химиков-аналитиков ::: выбор профессионалов

карта портала ::: расширенный поиск

ANCHEM.RU » Форумы » 1. Аналитический форум ...

Форум химиков-аналитиков, аналитическая химия и химический анализ.

Округление результатов измерений. >>>

  Ответов в этой теме: 46
  Страница: 1 2 3 4 5
  «« назад || далее »»

[ Ответ на тему ]

alexchem
Пользователь
Ранг: 490

09.04.2019 // 20:58:09

phl-zuevs пишет:
Если я получаю концентрацию 1,0101, а погрешность соответственно 0,242424, то результат должен записать 1,01+/-0,24? Нормативка есть какая-нибудь по этому поводу?

ПМГ-96

ANCHEM.RU
Администрация
Ранг: 246

vmu
Пользователь
Ранг: 1237

09.04.2019 // 21:44:59

phl-zuevs пишет:
Погрешности методики:
От 0,5 до 1 включ. - 30%
св.1 до 5 включ. - 24%
св.5 до 16 включ. - 20%
Если я получаю концентрацию 1,0101, а погрешность соответственно 0,242424, то результат должен записать 1,01+/-0,24? Нормативка есть какая-нибудь по этому поводу?

Пример нормативки: ПМГ 96-2009. Результаты и характеристики качества измерений.
Цитата оттуда:
"6.2 Наименьшие разряды числовых значений результатов измерений принимают такими же, как и наименьшие разряды числовых значений абсолютных характеристик качества измерений. Если абсолютные характеристики качества измерений представляют двумя значащими цифрами, то допускается округлять результат измерений так, чтобы наименьший разряд округленного числа был таким же, как старший, отличный от нуля разряд числа, представляющего абсолютную характеристику качества измерений".

Отсюда следует ответ: "1.01 ± 0.24" либо, учитывая выделенное жирным, "1.00 ± 0.24". Либо "1.0 ± 0.2". Запрета на округление 0.24 до 0.2 в данном случае я не нашел. Формулировки "оставляют в погрешности не более 2-х значащих цифр" есть. Требование "оставляют в погрешности строго 2 значащие цифры", вероятно, где-нибудь тоже может быть прописано.

Жирный текст также позволяет выдавать результат для первоначально вопроса темы в виде "0.170 ± 0.015 г/л" (т.е. округлить среднее значение до 0.01 г/л, но оставить в погрешности цифры до 0.001 г/л).

vmu
Пользователь
Ранг: 1237

09.04.2019 // 21:50:12

ТВК пишет:
Т.е. это не требование Заказчика, а только запись "по понятиям"?
И Вы утверждаете, что представляете результат в г/л, а не в мг/л (как написано в МИ) "не просто из-за своих хотелок"?
Про "непонятно".
СТ СЭВ 543-77, п.1.1.

Мы обсуждаем то, что написано в методике, а не требования заказчика. С конкретным заказчиком как раз можно согласовать представление результата в удобных ему единицах. Если ему удобнее г/л вместо указанных в методике мг/л, то почему бы и нет.

Про СЭВ 543-77.
Пример 2 в п. 1.1: "Число 30 имеет 2 значащие цифры". Это хорошо, если известно, что автор записи "30" ручается за обе цифры (3 и 0).
Когда же я вижу запись "170 ± 20 мг/л", я не могу быть уверен, что записавший это "ручается" за все цифры.
Еще раз:
а) последний ноль может быть нулем "с большой точностью" (скажем, 20 получается округлением исходного числа 20.1, а 170 - округлением 169.8);
б) последний ноль может быть нулем "с низкой точностью" (скажем, 20 получается округлением исходного числа 15, а 170 - округлением 167); этот ноль не имеет никакого смысла, а является лишь следствием того, что результат записывается в мг/л.
Если результат записан в виде "(1.7 ± 0.2) × 10² мг/л" или "0.17 ± 0.02 г/л", то сразу ясно, что имеем случай "б".
Если результат записан в виде "(1.70 ± 0.20) × 10² мг/л" или "0.170 ± 0.020 г/л", то сразу ясно, что имеем случай "а". Тут человек не станет писать лишний ноль на конце "просто так". В отличие от размерности мг/л размерность г/л (или же стандартное представление числа + мг/л) не требуют этого нуля на конце, если он не имеет смысла (если человек за него "не ручается").
При написании сообщений на форуме, естественно, удобнее писать, пользуясь размерностью г/л, а не пользуясь размерностью мг/л и стандартным видом числа. Записи эквивалентны по сути, но писать в г/л проще.

ТВК пишет:
Если добуквенно соблюсти требования разработчиков ПНД Ф 14.1:2:4.254-09 (издание 2017 г.), то:
- результат 167 округляют до 170;
- приписывают ему погрешность 9 %;
- оставляют в погрешности не более 2-х значащих цифр;
- результат исследований записывают следующим образом: 170+-15 (мг/дм3).

Рассмотрим другой пример для той же методики:
Диапазон св. 100 до 50000 мг/л включ. - округление до 10 мг/л.
Поддиапазон св. 5000 до 50000 включ. - погрешность 5%.
Результат 46357.2 мг/л. Округляем до 46360 мг/л. Считаем погрешность: 46360 × 0.05 = 2318 мг/л.
Как теперь выдавать результат, добуквенно соблюдая требования разработчиков и оставляя в погрешности не более 2-х значащих цифр?

kot
Пользователь
Ранг: 1986

10.04.2019 // 3:17:36

vmu пишет:

ТВК пишет:
Т.е. это не требование Заказчика, а только запись "по понятиям"?

Коллеги, если из за каждого "косяка" НД, устраивать столько шуму, то работать будет некогда. Выверенных и абсолютно корректных документов на сегодня не существует. Нужно это принять ну и простить по возможности. Стрелять гневными тирадами в разработчиков смысла не вижу, они играют как умеют. Ну никто же не запрещает в протоколах указать свою внутрилабораторную погрешность и указывать результат сообразно именно ей. Это же много проще и правильнее чем искать крайних и разбираться в куче регламентирующих НПА. Тем более в рамках договоров с заказчиком можно указать любые разумные формулировки и цифры.

ЗЫ вчера смотрел проект очередного ГОСТа по пищевке, цитирую
".... В мерную колбу вместимостью 100 см3 помещают (20,000±0,001) г анализируемой пробы (типа колбасы по контексту)..."
Так представить такую процедуру вроде смешно конечно, ну а что тут поделаешь, не мы такие жизнь такая.....

vmu
Пользователь
Ранг: 1237

10.04.2019 // 9:17:18

kot пишет:
не мы такие жизнь такая

Ага, а anchem, как и Госдума, не место для дискуссий.
А так, да, иногда приходится не только дискутировать, но и работать.

Каталог ANCHEM.RU
Администрация
Ранг: 246

Вольта, Научно-техническая фирма, ООО
ООО «Научно-техническая фирма «Вольта» разрабатывает и предлагает современные приборы для химического анализа и пробоподготовки к нему, а также приборы для научных исследований, которые успешно эксплуатируются в научно-исследовательских лабораториях НИИ и университетов, в промышленных, экологических и химико-технологических лабораториях крупных промышленных предприятий, в лабораториях водоканалов и ЦГиЭ.

ТВК
Пользователь
Ранг: 601

10.04.2019 // 14:01:20

vmu пишет:
Рассмотрим другой пример для той же методики:
Диапазон св. 100 до 50000 мг/л включ. - округление до 10 мг/л.
Поддиапазон св. 5000 до 50000 включ. - погрешность 5%.
Результат 46357.2 мг/л. Округляем до 46360 мг/л. Считаем погрешность: 46360 × 0.05 = 2318 мг/л.
Как теперь выдавать результат, добуквенно соблюдая требования разработчиков и оставляя в погрешности не более 2-х значащих цифр?

Хороший пример.
Причём и округляя погрешность до десятков тоже не удастся оставить не более 2-х значащих цифр.

Chem_CIO
Пользователь
Ранг: 126

10.04.2019 // 19:00:56

Kot всё правильно сказал, как всегда

Zyf
Пользователь
Ранг: 366

01.06.2022 // 19:18:27

Редактировано 1 раз(а)

Здравствуйте, из вышепрочитанного не совсем поняла как же все-таки округлять результат и погиешность. По ПНДФ 254 получила взвешенных: 975,34+/- 87,8. С округлением результата понятно, это 980. Но как быть с погрешностью? Округлить до 88 или до 90? Либо сначала округлить результат до 980, а потом уже считать его погрешность и ее уже потом округлять?

vmu
Пользователь
Ранг: 1237

01.06.2022 // 21:07:06

Редактировано 1 раз(а)

Zyf пишет:
По ПНДФ 254 получила взвешенных: 975,34+/- 87,8. С округлением результата понятно, это 980. Но как быть с погрешностью? Округлить до 88 или до 90? Либо сначала округлить результат до 980, а потом уже считать его погрешность и ее уже потом округлять?

1. Откуда 87,8? Это 9 %. Но для диапазона 100-5000 в НД погрешность 5 %.

2. Погрешность, несомненно, надо округлять до того же разряда, что и результат, т.е. до 90 в вашем примере.
Хотя могут возникать новые вопросы. Например: 514 ± 514·0,05 = 514 ± 26 ≈ 510 ± 30, но 30/510·100 = 5,9 ≈ 6 %, т.е. больше заявленного по НД. Аналогично в ином примере можно получить 4 %. Такие несоответствия из-за округлений неизбежны.

3. Из НД неясно, но по-хорошему надо сначала все считать без округлений, а затем округлять погрешность и результат: 975,34 ± 975,34·0,05 = 975,34 ± 48,77 ≈ 980 ± 50.

Остается только прописать в своей СОП все эти не прописанные в НД шаги и следовать этой СОП.

Zyf
Пользователь
Ранг: 366

02.06.2022 // 7:54:26

vmu пишет:

Zyf пишет:
По ПНДФ 254 получила взвешенных: 975,34+/- 87,8. С округлением результата понятно, это 980. Но как быть с погрешностью? Округлить до 88 или до 90? Либо сначала округлить результат до 980, а потом уже считать его погрешность и ее уже потом округлять?
1. Откуда 87,8? Это 9 %. Но для диапазона 100-5000 в НД погрешность 5 %.

3. Из НД неясно, но по-хорошему надо сначала все считать без округлений, а затем округлять погрешность и результат: 975,34 ± 975,34·0,05 = 975,34 ± 48,77 ≈ 980 ± 50.

Остается только прописать в своей СОП все эти не прописанные в НД шаги и следовать этой СОП.

У меня вроде бы самое "свежее" издание ПНДФ 254-09 от 2017г. Там для диапазона 100-5000 погрешность 8%.
За остальные ответы спасибо большое!
СОП у нас нет, у нас даже исследования называют "испытания"(


Ответов в этой теме: 46 Страница: 1 2 3 4 5 «« назад \|\| далее »»	Ответ на тему

ПОСЛЕДНИЕ НОВОСТИ ANCHEM.RU: [ Все новости ]

Размещение рекламы / Контакты