Российский химико-аналитический портал  химический анализ и аналитическая химия в фокусе внимания ::: портал химиков-аналитиков ::: выбор профессионалов  
карта портала ::: расширенный поиск              
 



ANCHEM.RU » Форумы » 1. Аналитический форум ...
  1. Аналитический форум | Список форумов | Войти в систему | Регистрация | Помощь | Последние темы | Поиск

Форум химиков-аналитиков, аналитическая химия и химический анализ.

Округление результатов измерений. >>>

  Ответов в этой теме: 37
  Страница: 1 2 3 4
  «« назад || далее »»

[ Ответ на тему ]


alexchem
Пользователь
Ранг: 359


09.04.2019 // 20:58:09     

phl-zuevs пишет:
Если я получаю концентрацию 1,0101, а погрешность соответственно 0,242424, то результат должен записать 1,01+/-0,24? Нормативка есть какая-нибудь по этому поводу?

ПМГ-96
Реклама на ANCHEM.RU
Администрация
Ранг: 246
Размещение рекламы
vmu
Пользователь
Ранг: 287


09.04.2019 // 21:44:59     

phl-zuevs пишет:
Погрешности методики:
От 0,5 до 1 включ. - 30%
св.1 до 5 включ. - 24%
св.5 до 16 включ. - 20%
Если я получаю концентрацию 1,0101, а погрешность соответственно 0,242424, то результат должен записать 1,01+/-0,24? Нормативка есть какая-нибудь по этому поводу?

Пример нормативки: ПМГ 96-2009. Результаты и характеристики качества измерений.
Цитата оттуда:
"6.2 Наименьшие разряды числовых значений результатов измерений принимают такими же, как и наименьшие разряды числовых значений абсолютных характеристик качества измерений. Если абсолютные характеристики качества измерений представляют двумя значащими цифрами, то допускается округлять результат измерений так, чтобы наименьший разряд округленного числа был таким же, как старший, отличный от нуля разряд числа, представляющего абсолютную характеристику качества измерений".

Отсюда следует ответ: "1.01 ± 0.24" либо, учитывая выделенное жирным, "1.00 ± 0.24". Либо "1.0 ± 0.2". Запрета на округление 0.24 до 0.2 в данном случае я не нашел. Формулировки "оставляют в погрешности не более 2-х значащих цифр" есть. Требование "оставляют в погрешности строго 2 значащие цифры", вероятно, где-нибудь тоже может быть прописано.

Жирный текст также позволяет выдавать результат для первоначально вопроса темы в виде "0.170 ± 0.015 г/л" (т.е. округлить среднее значение до 0.01 г/л, но оставить в погрешности цифры до 0.001 г/л).
vmu
Пользователь
Ранг: 287


09.04.2019 // 21:50:12     

ТВК пишет:
Т.е. это не требование Заказчика, а только запись "по понятиям"?
И Вы утверждаете, что представляете результат в г/л, а не в мг/л (как написано в МИ) "не просто из-за своих хотелок"?
Про "непонятно".
СТ СЭВ 543-77, п.1.1.

Мы обсуждаем то, что написано в методике, а не требования заказчика. С конкретным заказчиком как раз можно согласовать представление результата в удобных ему единицах. Если ему удобнее г/л вместо указанных в методике мг/л, то почему бы и нет.

Про СЭВ 543-77.
Пример 2 в п. 1.1: "Число 30 имеет 2 значащие цифры". Это хорошо, если известно, что автор записи "30" ручается за обе цифры (3 и 0).
Когда же я вижу запись "170 ± 20 мг/л", я не могу быть уверен, что записавший это "ручается" за все цифры.
Еще раз:
а) последний ноль может быть нулем "с большой точностью" (скажем, 20 получается округлением исходного числа 20.1, а 170 - округлением 169.8);
б) последний ноль может быть нулем "с низкой точностью" (скажем, 20 получается округлением исходного числа 15, а 170 - округлением 167); этот ноль не имеет никакого смысла, а является лишь следствием того, что результат записывается в мг/л.
Если результат записан в виде "(1.7 ± 0.2) × 102 мг/л" или "0.17 ± 0.02 г/л", то сразу ясно, что имеем случай "б".
Если результат записан в виде "(1.70 ± 0.20) × 102 мг/л" или "0.170 ± 0.020 г/л", то сразу ясно, что имеем случай "а". Тут человек не станет писать лишний ноль на конце "просто так". В отличие от размерности мг/л размерность г/л (или же стандартное представление числа + мг/л) не требуют этого нуля на конце, если он не имеет смысла (если человек за него "не ручается").
При написании сообщений на форуме, естественно, удобнее писать, пользуясь размерностью г/л, а не пользуясь размерностью мг/л и стандартным видом числа. Записи эквивалентны по сути, но писать в г/л проще.

ТВК пишет:
Если добуквенно соблюсти требования разработчиков ПНД Ф 14.1:2:4.254-09 (издание 2017 г.), то:
- результат 167 округляют до 170;
- приписывают ему погрешность 9 %;
- оставляют в погрешности не более 2-х значащих цифр;
- результат исследований записывают следующим образом: 170+-15 (мг/дм3).

Рассмотрим другой пример для той же методики:
Диапазон св. 100 до 50000 мг/л включ. - округление до 10 мг/л.
Поддиапазон св. 5000 до 50000 включ. - погрешность 5%.
Результат 46357.2 мг/л. Округляем до 46360 мг/л. Считаем погрешность: 46360 × 0.05 = 2318 мг/л.
Как теперь выдавать результат, добуквенно соблюдая требования разработчиков и оставляя в погрешности не более 2-х значащих цифр?
kot
Пользователь
Ранг: 1599


10.04.2019 // 3:17:36     

vmu пишет:

ТВК пишет:
Т.е. это не требование Заказчика, а только запись "по понятиям"?


Коллеги, если из за каждого "косяка" НД, устраивать столько шуму, то работать будет некогда. Выверенных и абсолютно корректных документов на сегодня не существует. Нужно это принять ну и простить по возможности. Стрелять гневными тирадами в разработчиков смысла не вижу, они играют как умеют. Ну никто же не запрещает в протоколах указать свою внутрилабораторную погрешность и указывать результат сообразно именно ей. Это же много проще и правильнее чем искать крайних и разбираться в куче регламентирующих НПА. Тем более в рамках договоров с заказчиком можно указать любые разумные формулировки и цифры.

ЗЫ вчера смотрел проект очередного ГОСТа по пищевке, цитирую
".... В мерную колбу вместимостью 100 см3 помещают (20,000±0,001) г анализируемой пробы (типа колбасы по контексту)..."
Так представить такую процедуру вроде смешно конечно, ну а что тут поделаешь, не мы такие жизнь такая.....
vmu
Пользователь
Ранг: 287


10.04.2019 // 9:17:18     

kot пишет:
не мы такие жизнь такая
Ага, а anchem, как и Госдума, не место для дискуссий.
А так, да, иногда приходится не только дискутировать, но и работать.
Реклама на ANCHEM.RU
Администрация
Ранг: 246
Размещение рекламы
Спектрофлуориметр CM 2203 Спектрофлуориметр CM 2203
Полностью управляемый от компьютера спектрофлуориметр для ультрафиолетовой и видимой области спектра, обеспечивающий высокочувствительные и стабильные измерения спектров возбуждения, испускания, синхронных, поляризации, температурных, квантового выхода, поглощения жидких и твёрдых образцо
[ Информация из каталога оборудования ANCHEM.RU ]
ТВК
Пользователь
Ранг: 475


10.04.2019 // 14:01:20     

vmu пишет:
Рассмотрим другой пример для той же методики:
Диапазон св. 100 до 50000 мг/л включ. - округление до 10 мг/л.
Поддиапазон св. 5000 до 50000 включ. - погрешность 5%.
Результат 46357.2 мг/л. Округляем до 46360 мг/л. Считаем погрешность: 46360 × 0.05 = 2318 мг/л.
Как теперь выдавать результат, добуквенно соблюдая требования разработчиков и оставляя в погрешности не более 2-х значащих цифр?

Хороший пример.
Причём и округляя погрешность до десятков тоже не удастся оставить не более 2-х значащих цифр.
Chem_CIO
Пользователь
Ранг: 126


10.04.2019 // 19:00:56     
Kot всё правильно сказал, как всегда

  Ответов в этой теме: 37
  Страница: 1 2 3 4
  «« назад || далее »»

Ответ на тему



ПОСЛЕДНИЕ НОВОСТИ ANCHEM.RU:      [ Все новости ]

ЖУРНАЛ ЛАБОРАТОРИИ ЛИТЕРАТУРА ОБОРУДОВАНИЕ РАБОТА КАЛЕНДАРЬ ФОРУМ

Copyright © 2002-2009
«Аналитика-Мир профессионалов»

Размещение рекламы / Контакты