ГОСТ Р ИСО 11843-7-2020. Национальный стандарт Российской Федерации. Статистические методы. Способность обнаружения. Часть 7. Методы оценки с учетом фонового шума

(утв. и введен в действие Приказом Росстандарта от 26.08.2020 № 529-ст)

ИСТОРИЯ ИЗМЕНЕНИЙ НОРМАТИВНО-ТЕХНИЧЕСКИХ АКТОВ

flowchart LR
  n0["ГОСТ Р ИСО 11843-7-2014"]:::rst
  n1["ГОСТ Р ИСО 11843-7-2020"]:::doc
  click n1 "https://bukva.ai/docs/standart-gost-r-iso-11843-7-2020" "ГОСТ Р ИСО 11843-7-2020. Национальный стандарт Российской Федерации. Статистические методы. Способность обнаружения. Часть 7. Методы оценки с учетом фонового шума (утв. и введен в "
  n0 --> n1
classDef rst fill:#FFEBEB,stroke:#8B0000,color:#000;
classDef doc fill:#EBFFEB,stroke:#006400,color:#000;
classDef notEnt fill:#FFFFEB,stroke:#FF8C00,color:#000;

Утвержден и введен в действие Приказом Федерального агентства по техническому регулированию и метрологии от 26 августа 2020 г. № 529-ст

НАЦИОНАЛЬНЫЙ СТАНДАРТ РОССИЙСКОЙ ФЕДЕРАЦИИ

СТАТИСТИЧЕСКИЕ МЕТОДЫ

СПОСОБНОСТЬ ОБНАРУЖЕНИЯ

ЧАСТЬ 7

МЕТОДЫ ОЦЕНКИ С УЧЕТОМ ФОНОВОГО ШУМА

Statistical methods. Capability of detection. Part ₇. Methods of an estimation taking into account background noise

(ISO 11843-₇:2018, Capability of detection — Part 7: Methodology based on stochastic properties of instrumental noise, IDT)

ГОСТ Р ИСО 11843-7-2020

ОКС 03.120.30

17.020

Дата введения 1 июня 2021 года

Предисловие

1 ПОДГОТОВЛЕН Закрытым акционерным обществом «Научно-исследовательский центр контроля и диагностики технических систем» (ЗАО «НИЦ КД») на основе собственного перевода на русский язык англоязычной версии стандарта, указанного в пункте 4

2 ВНЕСЕН Техническим комитетом по стандартизации ТК 125 «Применение статистических методов»

3 УТВЕРЖДЕН И ВВЕДЕН В ДЕЙСТВИЕ Приказом Федерального агентства по техническому регулированию и метрологии от 26 августа 2020 г. № 529-ст

4 Настоящий стандарт идентичен международному стандарту ИСО 11843-7:2018 «Способность обнаружения. Часть 7. Методология, основанная на стохастических свойствах инструментального шума» (ISO 11843-7:2018 «Capability of detection — Part 7: Methodology based on stochastic properties of instrumental noise», IDT).

Международный стандарт разработан Техническим комитетом ISO/TC 69.

Наименование настоящего стандарта изменено относительно наименования указанного международного стандарта для приведения в соответствие с ГОСТ Р 1.5-2012 (пункт 3.5).

При применении настоящего стандарта рекомендуется использовать вместо ссылочных международных стандартов соответствующие им национальные стандарты, сведения о которых приведены в дополнительном приложении ДА

5 ВЗАМЕН ГОСТ Р ИСО 11843-7-2014

Правила применения настоящего стандарта установлены в статье 26 Федерального закона от 29 июня 2015 г. № 162-ФЗ «О стандартизации в Российской Федерации». Информация об изменениях к настоящему стандарту публикуется в ежегодном (по состоянию на 1 января текущего года) информационном указателе «Национальные стандарты», а официальный текст изменений и поправок — в ежемесячном информационном указателе «Национальные стандарты». В случае пересмотра (замены) или отмены настоящего стандарта соответствующее уведомление будет опубликовано в ближайшем выпуске ежемесячного информационного указателя «Национальные стандарты». Соответствующая информация, уведомление и тексты размещаются также в информационной системе общего пользования — на официальном сайте Федерального агентства по техническому регулированию и метрологии в сети Интернет (www.gost.ru)

Введение

Методология линейной и нелинейной калибровки, приведенная в серии стандартов ИСО 11843, основана на использовании распределения вероятностей приведенной переменной состояния (измеряемая величина). При этом (явно или неявно) уделено внимание неопределенности, соответствующей оценке измеряемого отклика, преимущественно создаваемой базовым шумом при инструментальном анализе. Во многих аналитических приборах в тех случаях, когда значение измеряемой величины близко к минимальному обнаруживаемому значению, базовый шум является основной причиной неопределенности. Метод, установленный в настоящем стандарте в пределах его области применения, не требует повторного отбора образцов (выборок), что способствует экономии времени и средств.

Основой настоящего стандарта является математическое описание распределения вероятностей переменной отклика в терминах математически определенных случайных процессов. Это описание приводит к определению минимального обнаруживаемого значения. Для описания взаимосвязи отклика и измеряемой величины применены линейные и нелинейные калибровочные функции. Таким образом, настоящий стандарт согласован с ИСО 11843-2 и ИСО 11843-5.

Определение и применение минимального обнаруживаемого значения установлены в ИСО 11843-1 <1> и ИСО 11843-2 <2>; определение и применение функции прецизионности установлены в ИСО 11843-5 <3>. Функция прецизионности отражает зависимость точности от приведенной переменной состояния. В настоящем стандарте применены основные понятия стандартов серии ИСО 11843 в случае преобладания фонового шума при инструментальном анализе.

<1> ИСО 11843-1:1997 «Способность обнаружения. Часть 1. Термины и определения» (ISO 11843-1:1997 «Capability of detection — Part 1: Terms and definitions»).

<2> ИСО 11843-2:2000 «Способность обнаружения. Часть 2. Методология в случае линейной калибровки» (ISO 11843-2:2000 «Capability of detection — Part 2: Methodology in the linear calibration case»).

<3> ИСО 11843-5:2008 «Способность обнаружения. Часть 5. Методология в случаях линейной и нелинейной калибровки» (ISO 11843-5:2008 «Capability of detection — Part 5: Methodology in the linear and non-linear calibration cases»).

Минимальное обнаруживаемое значение xd, как правило, выражают в единицах приведенной переменной состояния. Если калибровочная функция линейна, стандартное отклонение или коэффициент вариации переменной отклика, рассматриваемые в настоящем стандарте, могут быть линейно связаны со стандартным отклонением или коэффициентом вариации приведенной переменной состояния, которая может быть использована для оценки минимального обнаруживаемого значения xd.

Если калибровочная функция нелинейна, функция прецизионности переменной отклика в настоящем стандарте должна быть преобразована в функцию прецизионности приведенной переменной состояния, как показано в ИСО 11843-5. В этой ситуации ИСО 11843-5 может быть использован для целей настоящего стандарта без каких-либо изменений.

Положения настоящего стандарта, относящиеся к калибровке, распространяются также на градуировку. При этом под калибровочной функцией следует понимать градуировочную кривую.

1 Область применения

Фоновый шум всегда существует в аналитических инструментах. В настоящем стандарте установлены методы оценки минимального обнаруживаемого значения в случае, когда фоновый шум является преобладающим источником неопределенности измерений. Минимальное обнаруживаемое значение может быть математически выведено на основе стохастических характеристик фонового шума.

В стандарте установлены основные методы:

• определения стохастических свойств фонового шума;
• использования стохастических свойств фонового шума для оценки стандартного отклонения (SD) или коэффициента вариации (CV) переменной отклика;
• вычисления минимального обнаруживаемого значения на основе полученных значений SD или CV.

Методы, установленные в настоящем стандарте, полезны для проверки обнаружения вещества с помощью различного типа измерительного оборудования, в котором фоновый шум преобладает над другими источниками неопределенности. Таким измерительным оборудованием могут быть приборы видимой и ультрафиолетовой поглотительной спектрометрии, атомной поглотительной спектрометрии, атомно-флуоресцентной спектрометрии, люминесцентной спектрометрии, хроматографии жидкостей и газов.

2 Нормативные ссылки

В настоящем стандарте использованы нормативные ссылки на следующие стандарты:

ISO 3534-1, Statistics — Vocabulary and symbols — Part 1: General statistical terms and terms used in probability (Статистика. Словарь и условные обозначения. Часть 1. Общие статистические термины и термины, используемые в вероятностных задачах)

ISO 3534-2, Statistics — Vocabulary and symbols — Part 2: Applied statistics (Статистика. Словарь и условные обозначения. Часть 2. Прикладная статистика)

ISO 3534-3, Statistics — Vocabulary and symbols — Part 3: Design of experiments (Статистика. Словарь и условные обозначения. Часть 3. Планирование эксперимента)

ISO 5725-1, Accuracy (trueness and precision) of measurement methods and results — Part 1: General principles and definitions [Точность (правильность и прецизионность) методов и результатов измерений. Часть 1. Общие принципы и определения]

ISO 11843-1, Capability of detection — Part 1: Terms and definitions (Способность обнаружения. Часть 1. Термины и определения)

ISO 11843-2, Capability of detection — Part 2: Methodology in the linear calibration case (Способность обнаружения. Часть 2. Методология в случае линейной калибровки)

ISO 11843-5, Capability of detection — Part 5: Methodology in the linear and non-linear calibration cases (Способность обнаружения. Часть 5. Методология в случаях линейной и нелинейной калибровки)

3 Термины и определения

В настоящем стандарте применены термины по ИСО 3534-1, ИСО 3534-2, ИСО 3534-3, ИСО 5725-1, ИСО 11843-1, ИСО 11843-2, ИСО 11843-5, а также следующие термины с соответствующими определениями. Перечень обозначений и сокращений, используемых в настоящем стандарте, приведен в приложении A.

Терминологические базы данных ИСО и МЭК доступны по следующим интернет-адресам:

• электронная платформа ИСО с функцией онлайн-просмотра терминов по адресу: http://www.iso.org/obp;
• электронная база МЭК Electropedia по адресу: http://www.electropedia.org/.

3.1 функция прецизионности (precision profile): Математическое описание стандартного отклонения (SD) переменной отклика [\sigma_{Y}(X)] или стандартного отклонения приведенной переменной состояния [\sigma_{X}(X)] как функции приведенной переменной состояния.

Примечание 1 — Коэффициент вариации (CV) переменной отклика или приведенной переменной состояния как функции приведенной переменной состояния также применяют в качестве функции прецизионности.

Примечание 2 — Под точностью понимают значение SD или CV наблюдаемой переменной отклика или SD или CV приведенной переменной состояния при оценке с помощью калибровочной функции (ИСО 11843-5).

[ИСО 11843-5:2008, пункт 3.4, определение модифицировано]

3.2 минимальное обнаруживаемое значение приведенной переменной состояния xd (minimum detectable value of the net state variable, xd): Значение приведенной переменной состояния в действительном состоянии, которое с вероятностью (1 - \beta) ведет к заключению о том, что система не находится в базовом состоянии.

Примечание 1 — Если стандартное отклонение приведенной переменной \sigma_{X}(X) является константой [\sigma_{X}(X) = \sigma_{X}] , то минимальное обнаруживаемое значение xd определяется как

x_{d} = (k_{c} + k_{d})\sigma_{X} , (1)

где kc — коэффициент, связанный с вероятностью ошибки первого рода;

kd — коэффициент, связанный с вероятностью ошибки второго рода.

Если стандартное отклонение \sigma_{Y} переменной отклика является константой [\sigma_{Y}(X) = \sigma_{Y}] , то минимальное обнаруживаемое значение может быть вычислено с помощью следующего уравнения

x_{d} = (k_{c} + k_{d})(\sigma_{Y}|dYdX|) , (2)

где |dY/dX| — абсолютная величина углового коэффициента линейной калибровочной функции, который является постоянным.

Примечание 2 — Если приведенная переменная состояния имеет нормальное распределение, для ошибок первого и второго рода, равных 5%, коэффициенты kc = kd = 1,65, а формула (1) может быть упрощена до вида x_{d} = 3,30\sigma_{X} .

Примечание 3 — Если kc = kd = 1,65, формула (1) принимает вид \sigma_{X}x_{d} = 13,30 (т.е. 30%). Поэтому значение xd может быть найдено с помощью функции прецизионности (3.1). Значение xd соответствует X(xd), коэффициент вариации которой составляет 30%.

Примечание 4 — Существует большое количество видов функции прецизионности (3.1), но они могут быть преобразованы одна в другую.

Например, стандартное отклонение \sigma_{Y}(X) переменной отклика может быть преобразовано в стандартное отклонение \sigma_{X}(X) приведенной переменной состояния с помощью абсолютного значения производной |dY/dX| калибровочной функции [Y = f(X)]: \sigma_{X}(X) = \sigma_{Y}(X)|dYdX| (ИСО 11843-5). Точность этого приближения зависит от кривизны функции в точке определения d2Y/dX2.

[ИСО 11843-5:2008, пункт 3.2, определение модифицировано]

4 Количественный анализ и фоновый шум

4.1 Источники ошибок при анализе

Количественный анализ процедуры определения значения измеряемой величины, как правило, включает подготовку пробы (выборки), инструментальный анализ, обработку данных и калибровку. Эти этапы анализа технически не зависят друг от друга как процедурно, так и в вероятностном смысле.

В настоящем стандарте рассмотрен только инструментальный анализ. Однако ошибки других этапов также влияют на конечное значение измеряемой величины. Таким образом, суммарная неопределенность оценки измеряемой величины зависит от неопределенностей соответствующих этапов. Для использования настоящего стандарта необходимо выполнение следующих условий.

Если значение содержания вещества близко к минимальному обнаруживаемому значению в хроматографии, то ошибка, соответствующая вводимой в хроматограф пробе, менее значима (например, коэффициент вариации CV = 0,3% в современном аппарате), чем фоновый шум (CV = 30%). Если влияние другого фактора (не шума) сопоставимо с влиянием шума, методы настоящего стандарта не применимы.

Обработка данных — процесс, направленный на выделение из общего инструментального шума таких параметров сигнала, как высота или площадь пика (относительная высота вершины пикообразного сигнала или интеграл интенсивности сигнала по области сигнала соответственно). В настоящем стандарте приведен метод статистического анализа влияния этого процесса на неопределенность результатов измерений. Использование цифрового или аналогового фильтра также может быть учтено при выполнении анализа шума после фильтрации.

4.2 Случайный процесс фонового шума

Типичными примерами переменной отклика в хроматографии являются высота и площадь пика. В настоящем стандарте за разность [формула (6)] и площадь [формулы (10) и (11)] интенсивностей принимают соответственно разность и сумму интенсивностей Yi выходных данных измерительного прибора. Переменные отклика обычно не зависят друг от друга, даже если они получены в результате последовательных измерений одним и тем же прибором. С другой стороны, последовательные интенсивности Yi представлены как независящий от времени случайный процесс. Во многих случаях также может быть рассмотрен шум 1/f (см. [1]).

Спектр мощности P(f) шума 1/f имеет угловой коэффициент, обратно пропорциональный частоте

P(f) \propto \frac{1}{f} , (3)

где значение f близко к нулю.

Самая простая модель случайного процесса — белый шум. Пусть wi — случайная переменная белого шума в i-й точке. По определению среднее белого шума равно нулю, а стандартное отклонение \tilde{w} белого шума является постоянным в каждой точке i. Яркой особенностью белого шума является то, что интенсивности wi и wj (i /= j) не зависят друг от друга.

Процесс авторегрессии представляет собой математическую модель, в которой интенсивности Mi и Mj (i /= j) не являются независимыми друг от друга. Процесс авторегрессии рассматривают как основу зависящих от времени выходных данных измерительного прибора [см. формула (9)]. Процесс авторегрессии в точке i имеет вид

M_{i} = \rho M_{i - 1} + m_{i} , (4)

где mi — случайная переменная белого шума в точке i;

\rho — постоянный параметр ( - 1<\rho<1) .

5 Теория прецизионности

5.1 Теория, основанная на функции автоковариации

Теория, предложенная Вайнефорднером (см. [2], [3], [4]), основана на функции автоковариации

\psi(\tau_{s}) \equiv E[Y_{t_{0} + \tau_{s}}Y_{t_{0}}] , (5)

где E[·] — математическое ожидание случайной переменной, указанной в квадратных скобках, в точке t0.

Рисунок 1 — Сигнал (верхняя линия) и шум (нижняя линия)

В верхней части рисунка 1 изображен сигнал в виде прямоугольного импульса. Шум (являющийся фоном), накладывающийся на сигнал, изображен в нижней части рисунка. t0 — значение времени при отсутствии сигнала, а t_{0} + \tau_{s} — значение времени при наличии сигнала. Измерение (чтение сигнала) представляет собой разность интенсивностей в моменты времени t0 и (t_{0} + \tau_{s}) . В отсутствие фонового шума значение сигнала в точке t0 равно нулю. При проведении измерений в точке (t_{0} + \tau_{s}) сигнал имеет конечное значение. В настоящем стандарте приведены модели измерений, в которых сигнал и шум накладываются друг на друга, этот общий случайный процесс принимает значение Yi в момент времени ti. Интенсивности сигнала в точках t0 и (t_{0} + \tau_{s}) обозначают Y_{t_{0}} и Y_{t_{0} + \tau_{s}} соответственно, а разность интенсивностей соответствует (6).

Разность значений функции автоковариации \psi(\tau) в точках 0 и \tau_{s} формирует правую часть формулы (7). Минимальное обнаруживаемое значение связано с фоновым шумом, разность интенсивностей сигнала часто применяют в аналитической оптической спектрометрии. Определение разности интенсивностей сигнала, например чтение сигнала с поправкой на фоновый шум (см. в [2], [3], [4]).

\Delta Y = Y_{t_{0} + \tau_{s}} - Y_{t_{0}} . (6)

Здесь \Delta Y соответствует переменной отклика Y. Дисперсия разности интенсивностей сигнала имеет вид (7) (см. также [2], [3], [4]). Обоснование формулы (7) приведено в приложении B.

\sigma_{\Delta Y}^{2} = 2[\psi(0) - \psi(\tau_{s})] . (7)

Формула (7) имеет практическое применение (см. рисунок 2), когда фактические функции автоковариации \psi(0) и \psi(\tau_{s}) известны из наблюдений за фоновым шумом. Подставляя значение \sigma_{\Delta Y} из формулы (7) в формулу (2) (\sigma_{Y} = \sigma_{\Delta Y}) , можно получить минимальное обнаруживаемое значение.

Рисунок 2 — Функция автоковариации шума

Можно использовать теорему Винера — Хинчина (см. [5]), связывающую функцию автоковариации со спектральной плотностью мощности (спектром мощности) через преобразование Фурье

\psi(\tau_{S}) = \int_{0}^{\infty} S_{b}(f)|G(f)|^{2}cos(2\pi f\tau_{s})df , (8)

где Sb(f) — спектр мощности наблюдаемого фонового шума;

G(f) — частотная характеристика (линейной) системы считывания данных.

Формула (8) показывает, как оценить стандартное отклонение [см. формулу (7)] на основе спектра мощности шума.

5.2 Теория, основанная на спектре мощности

Теория, основанная на спектре мощности базовой линии, или теория FUMI (функции взаимной информации) (см. [6], [7], [8]), дает возможность вычислять стандартное отклонение измеренных площади и высоты пика при инструментальном анализе. Измеренные значения представляют собой суммарную интенсивность выходных данных измерительного прибора по заданной области, как показано на рисунке 3. Если сигнал (форма и размер) является инвариантным, ошибка при измерении площади или высоты пика связана только с шумом и равна площади (высоте), соответствующей шуму в заданной области. Таким образом, ошибка измерений характеризуется площадью (высотой) пика, соответствующей шуму. Стандартные отклонения площади (высоты) пика шума совпадают со стандартными отклонениями измеренной площади или высоты пика.

Z — нулевая область (область отсутствия сигнала); S — область сигнала; I — область наложения сигнала и шума; остальные обозначения см. в приложении A

Рисунок 3 — Сигнал и шум в нулевой области и области наложения сигнала и шума

Количество точек данных в области наложения сигнала и шума равно (kf — kc).

В теории FUMI интенсивность шума Yi в точке i описана как наложение случайных процессов белого шума и процесса авторегрессии (1)

Yi = wi + Mi. (9)

Целью теории FUMI является определение оценки стандартного отклонения шума AF по измерениям в заданной области (см. рисунок 3).

На практике, особенно в хроматографии, приняты различные способы объединения сигнала и шума (см. рисунок 4). Измеряемой величиной является объединенная интенсивность выше базовой линии, которая может быть горизонтальной или наклонной в пределах области [kc + 1, kf]. Горизонтальной базовой линией является горизонтальная линия интенсивности в нулевой точке. Наклонная базовая линия соединяет интенсивности на краях области наложения сигнала и шума [0, ke]. Это обычно можно наблюдать в хроматографии (явление «дрейфа»).

Рисунок 4 — Модели наложения выше горизонтальной линии (пунктирная линия) и наклонной линии (сплошная линия) между точками t_{k_{c} + 1} и t_{k_{f}}

Площадь области между случайной траекторией процесса «сигнал плюс шум» и горизонтальной линией в заданной области (без сигнала) можно записать в виде

A_{F} = \sum_{i = k_{c} + 1}^{k_{f}} Y_{i}\Delta t , (10)

где Yi — интенсивность шума в соответствии с (9);

\Delta t — временной интервал между последовательными данными.

Здесь AF усредняет переменную отклика Y.

Если в качестве базовой линии использована наклонная линия, AF принимает вид

A_{F} = (\sum_{i = k_{c} + 1}^{k_{f}} Y_{i}\Delta t) - A_{T} , (11)

где AT — площадь области в виде трапеции, образованной наклонной прямой, горизонтальной прямой и вертикальными прямыми, проходящими через краевые точки заданной области (kc + 1) и kf (см. рисунок 4). Для ситуации, представленной на рисунке 4, площадь AT берут с отрицательным знаком. Если наклонная линия расположена в заданной области выше горизонтальной линии, площадь трапеции берут с положительным знаком.

Общее выражение для стандартного отклонения AF имеет вид

\sigma_{F} = (E[A_{F}^{2}])^{12} , (12)

где E[·] — среднее (математическое ожидание) случайной величины, указанной в квадратных скобках.

E[AF] = 0, так как по определению среднее шума с горизонтальной базовой линией [первый член в правой части формулы (11)] равно нулю и среднее для AT равно нулю (см. приложение C).

Приведенные формулы выведены на основе предположения о том, что не существует неопределенности нулевого уровня, т.е. Y0 = 0. Однако на практике такая неопределенность существует, и ее следует учитывать. Измерения в хроматографии обычно выполняют относительно нулевого уровня, который является выборочным средним интенсивностей шума по области, названной в настоящем стандарте нулевой областью (см. рисунок 3).

Квадрат стандартного отклонения \sigma_{Y}^{2} измеренной площади в пределах нулевой области имеет вид (см. [6], [7], [8])

\sigma_{Y}^{2} = \sigma_{Z}^{2} + \sigma_{F}^{2} , (13)

где \sigma_{Z}^{2} — дисперсия, соответствующая нулевой области,

\sigma_{F}^{2} — дисперсия, соответствующая измеряемой площади [ \sigma_{F} задана формулой (12)].

Обоснование формул (14) и (15) приведено в приложении C. Минимальное обнаруживаемое значение может быть получено подстановкой формулы (13) в формулу (2).

Дисперсия \sigma_{Z}^{2} может быть описана следующим образом (см. [6], [7], [8])

\sigma_{Z}^{2} = \frac{(k_{f} - k_{c})^{2}}{b} \tilde{w}^{2} + \frac{(k_{f} - k_{c})^{2}}{b^{2}(1 - \rho)^{2}} (b - 2\rho \frac{1 - \rho^{b}}{1 - \rho} + \rho^{2} \frac{1 - \rho^{2b}}{1 - \rho^{2}})\tilde{m}^{2} . (14)

Влияние объединения сигналов в установленной области принимает вид (см. [6], [7], [8])

(15)

где

\alpha = \frac{(k_{f} - k_{c})(k_{f} + k_{c} + 1)}{2k_{e}} ; (16)

\tilde{w} — SD белого шума;

\tilde{m} — SD белого шума, включенного в процесс авторегрессии;

p — постоянный параметр процесса авторегрессии первого порядка;

kc, kf и ke — показаны на рисунках 3 и 4;

b — количество последовательных данных (точек) в нулевой области [-b + 1, 0].

Пять членов в формуле (15) обозначают следующие стохастические вклады в неопределенность измерений:

• первый член: погрешность белого шума в области объединения сигнала и шума (всего точек kf — kc);
• второй член: ошибка процесса авторегрессии в области объединения сигнала и шума (kf — kc точек);
• третий член: влияние kc точек между нулевой точкой и начальной точкой области объединения сигнала и шума;
• четвертый член: влияние белого шума при наклонной базовой линии;
• пятый член: влияние процесса авторегрессии при наклонной базовой линии.

Примечание - Применимость теории FUMI довольно широка, но существуют две ситуации, в которых она не применима:

• основным источником погрешности не является фоновый шум. В масс-спектроскопии, если процесс ионизации дает намного большую погрешность, чем шум, теория FUMI дает заниженное значение стандартного отклонения в области измерений;
• если фактический инструментальный шум включает шум, который не может быть успешно аппроксимирован объединенным процессом белого шума и процесса авторегрессии. Пример — шум высокой интенсивности.

Изменения базовой линии фиксированных образцов, которые находятся вне предположения о стационарности, часто наблюдаются в градиентной хроматографии, но способ объединения с наклонной базовой линией может гарантировать робастность подхода, хоть и ограниченно.

6 Практическое применение теории FUMI

6.1 Оценка параметров шума

Все параметры, необходимые для применения теории FUMI, т.е. формулы (13) - (16), могут быть однозначно определены на основе экспериментальных данных. Параметры сигнала (b, kc, kf, ke) могут быть установлены в соответствии с формой целевого пика, как показано на рисунке 3. С другой стороны, параметры шума (\tilde{w},\tilde{m},\rho) автоматически определяют по спектральной плотности мощности шума, как описано ниже.

Спектральную плотность мощности шума получают с помощью преобразования Фурье результатов измерений Yi. Преобразование Фурье и инверсия преобразования Фурье имеют вид:

Y_{k} = \sum_{i = 0}^{N - 1} Y_{i} \cdot W^{ki} , (17)

Y_{i} = \frac{1}{N} \sum_{i = 0}^{N - 1} Y_{k} \cdot W^{- ki} , (18)

где N — количество наблюдений, включенных в область преобразования Фурье;

W = exp[ - j(2\pi N)] ;

j — мнимая единица.

Спектральная плотность мощности P(k) случайного процесса Yi имеет вид

P(k) = \frac{Y_{k}\overline{Y}_{k}}{N} , (19)

где \overline{Y}_{k} — сопряженное число к Y_{k} .

Если принять модель шума, описанную формулой (9), спектральную плотность мощности в формуле (19) можно описать (см. [6], [7], [8]) следующей формулой

P(k) = \frac{2\tilde{m}^{2}}{(1 - \rho)[(1 - \rho)^{2} + 4\pi^{2}(kN)^{2}]} + \tilde{w}^{2} . (20)

Параметры шума \tilde{w} , \tilde{m} , \tilde{p} , необходимые для применения в теории FUMI, могут быть определены с помощью нелинейного метода наименьших квадратов при аппроксимации формулой (20) спектральной плотности мощности фактического фонового шума.

Первый член преобразования Фурье Y_{0} в формулах (19) и (20) является постоянной составляющей, а соответствующей спектральной плотностью P(0) можно пренебречь. Частота k в формуле (20) является целым числом и ограничена диапазоном от 1 до N/2, где N/2 — частота Найквиста. Типичный пример функции (20) показан на рисунке 5.

Рисунок 5 — Спектральная плотность мощности смоделированного шума

На практике частоту k часто выражают в герцах. Если \Delta t — временной интервал между последовательными точками (интервал аналого-цифрового преобразователя, используемого для получения данных Yi), то частота, соответствующая k (= 1, 2,..., N/2), имеет вид k(\Delta t \cdot N) .

На практике спектральная плотность мощности сигнала является обычно менее гладкой, чем показанная на рисунке 5. При обработке реальных наблюдений обычно имеются небольшие отклонения от гладкой кривой.

6.2 Оценка параметров шума при помощи функции автоковариации

Другой метод, основанный на [9], представлен ниже для определения оценок параметров \tilde{w} , \tilde{m} , \tilde{p} , необходимых для оценки точности.

Оценка \rho может быть сделана следующим образом:

\tilde{\rho} = \frac{\sum_{t = 1}^{J} \hat{\rho}_{Y}(t + 1)\hat{\rho}_{Y}(t)}{J} , (21)

где J — целое число (2 <= J <= N — 1) и

\hat{\rho}_{Y}(i) = \frac{\sum_{t = 1}^{N - i} \hat{\rho}_{Y}(Y_{t} - \overline{Y})(Y_{t + i} - \overline{Y})}{(N - i)\hat{\sigma}_{Y}^{2}} , (22)

\hat{\sigma}_{Y}^{2} = \frac{\sum_{t = 1}^{n} [Y(t) - \overline{Y}]^{2}}{n - i} , (23)

\overline{Y} = \frac{\sum_{t = 1}^{N} Y}{N} . (24)

Оценки других параметров могут быть определены следующим образом:

\tilde{m} = \sqrt{1 - \rho^{2}} \hat{\sigma}_{r} , (25)

\tilde{w} = \sqrt{\hat{\sigma}_{Y}^{2} - \hat{\sigma}_{r}^{2}} , (26)

где

\hat{\sigma}_{r}^{2} = \hat{\sigma}_{Y}^{2} \frac{\hat{\rho}_{Y}(1)}{\rho} . (27)

Преимущество этого метода по сравнению с методом, приведенным в 6.1, состоит в том, что количество данных, используемых для определения оценок параметров шума в первом методе, ограничено 2n, а для второго метода такого ограничения нет.

Приведенный в данном подразделе метод применим к фоновому шуму, представляющему собой смесь случайных процессов белого шума и процесса авторегрессии или только процесс авторегрессии, но не отдельно белый шум.

6.3 Процедуры определения оценки стандартного отклонения

При применении теории FUMI для определения оценки стандартного отклонения в области выполнения измерений необходимы выходные данные измерительного прибора, что в свою очередь позволяет определить минимальное обнаруживаемое значение. Полный набор этапов вычислений показан на рисунке 6.

Рисунок 6 — Схема применения теории FUMI

Для определения параметров сигнала и шума необходимы такие выходные данные, как хроматограммы и спектры. Параметры сигнала включают область сигнала от точки 0 до точки ke, область наложения сигнала и шума от точки (kc + 1) до точки kf и нулевую область от точки 0 до (-b + 1) (см. рисунок 3). Область сигнала включает (ke + 1) данных, область наложения сигнала и шума включает (ke — kc) данных, а нулевая область включает b данных.

Параметры сигнала произвольны, но на практике будут полезны следующие рекомендации. Для Гауссовского сигнала, такого как показанный на рисунке 3, область сигнала может охватывать \pm 3\sigma или \pm 4\sigma вокруг центра сигнала, где \sigma — стандартное отклонение (ширина сигнала), а центр сигнала является его средним. Во многих случаях результатами измерений являются высота или вся площадь пика. Для измерений высоты пика kf = kc + 1. Для измерений площади пика kf = ke — 1 и kc = 0. Во всех случаях количество данных (точек) в области объединения сигнала и шума составляет (kf — kc). Объединение по части области сигнала, как показано на рисунке 3, также эффективно с точки зрения точности. Нулевая область может быть установлена опытным путем, как область более узкая, чем область сигнала, как показано на рисунке 3.

В отличие от параметров сигнала, параметры шума (\tilde{w},\tilde{m},\tilde{p}) однозначно определяют в соответствии со стохастическими свойствами фонового шума. Некоторые примеры из хроматографии приведены в таблице 1. На первом этапе необходимо идентифицировать область фонового шума, где нет существенного вклада сигнала.

Таблица 1

Пример оценки параметров шума в хроматографии (см. [6])

На втором этапе выполняют преобразование Фурье фонового шума в этой области и вычисляют спектральную плотность мощности по формуле (20). Если в формуле (20) количество точек № не превышает 2n, для быстрого преобразования Фурье рекомендуется использовать 512 или 1024 точек, в том числе 50 или 100 точек в области сигнала.

На третьем этапе методом наименьших квадратов подбирают теоретическую кривую [формула (20)] для спектральной плотности мощности, как упомянуто выше. При небольшом количестве данных в области быстрого преобразования Фурье (например, 32) в некоторых случаях появляется смещение оценок параметров шума.

Параметры сигнала и шума, определенные как упомянуто выше, подставляют в формулы (13) - (16) для получения окончательного значения в соответствии с теорией FUMI (прецизионности).

Минимальное обнаруживаемое значение может быть найдено графически на основе показателей прецизионности, как приведенная переменная состояния, в которой коэффициент вариации приведенной переменной состояния составляет 30%. Этот метод также применим для коэффициента вариации переменной отклика, так как функция прецизионности приведенной переменной состояния идентична таковой для переменной отклика, если калибровочная функция линейна (см. [10], [11]). В случае нелинейной калибровочной функции, функции прецизионности переменной отклика и приведенной переменной состояния различны. В этом случае для преобразования различных функций прецизионности и оценки минимального обнаруживаемого значения применяют метод, установленный в ИСО 11843-5.

Приложение A (справочное)

ОБОЗНАЧЕНИЯ И СОКРАЩЕНИЯ

SD — стандартное отклонение;

CV — коэффициент вариации (SD, деленное на среднее);

X — приведенная переменная состояния;

Y — переменная отклика (измеренные площадь или высота пика);

ti — i-е значение момента времени из ряда t1, t2, ...;

\Delta t — период времени (ti+1 — ti) аналого-цифрового преобразования при сборе данных;

Yi — интенсивность выходных данных прибора в момент времени ti (сумму Yi обозначают Y);

Yt — интенсивность выходных данных прибора t (сумму Yt обозначают Y);

xd — минимальное обнаруживаемое значение приведенной переменной состояния;

kc — коэффициент, соответствующий вероятности ошибки первого рода;

kd — коэффициент, соответствующий вероятности ошибки второго рода;

\sigma_{Y}(X) — SD переменной отклика как функция X;

\sigma_{X}(X) — SD приведенной переменной состояния как функция X;

|dY/dX| — производная калибровочной функции (абсолютная величина);

E[·] — среднее (математическое ожидание) случайной величины, указанной в квадратных скобках;

\psi(\tau) — функция автоковариации с запаздыванием \tau , определенная по формуле (5);

wi — значение случайной величины белого шума со средним, равным нулю, и SD, равным \tilde{w} , в точке i;

\tilde{w} — SD белого шума wi;

Mi — значение случайной величины процесса авторегрессии в точке i;

mi — белый шум, включенный в процесс авторегрессии, в точке i, определенный формулой (4);

\tilde{m} — SD белого шума mi, включенного в процесс авторегрессии;

\tilde{p} — постоянный параметр процесса авторегрессии первого порядка;

AF — площадь, соответствующая шуму (без сигнала);

FUMI — функция взаимной информации.

Приложение B (справочное)

ОБОСНОВАНИЕ ФОРМУЛЫ (7)

Дисперсия разности интенсивностей в точках t0 и (t_{0} + \tau_{s}) имеет вид (см. [2], [3], [4])

\sigma_{\Delta Y}^{2} = E[(Y_{t_{0} + \tau_{s}} - Y_{t_{0}})^{2}] = E[Y_{t_{0} + \tau_{s}}^{2}] + E[Y_{t_{0}}^{2}] - 2E[Y_{t_{0} + \tau_{s}}Y_{t_{0}}] . (B.1)

В соответствии с определением функции автоковариации [формула (5)] второй член в правой части формулы (B.1) может быть записан в виде

\psi(0) \equiv E[Y_{t_{0}}^{2}] . (B.2)

В соответствии с предположением о стационарности фонового шума первый и второй члены правой части формулы (B.1) равны

E[Y_{t_{0} + \tau_{s}}^{2}] = E[Y_{t_{0}}^{2}] . (B.3)

Под предположением о стационарности шума следует понимать, что дисперсия фонового шума является постоянной во времени. Тогда формулу (B.1) можно записать в виде

\sigma_{\Delta Y}^{2} = 2\psi(0) - 2E[Y_{t_{0} + \tau_{s}}Y_{t_{0}}] . (B.4)

Учитывая определение автоковариации [формула (5)], из (B.4) можно получить формулу (7).

Приложение C (справочное)

ОБОСНОВАНИЕ ФОРМУЛ (14) - (16)

Основное предположение при выводе формул (14) - (16) состоит в том, что случайные величины белого шума являются статистически независимыми:

E[wiwj] = 0, если i /= j, (C.1)

E[w_{i}w_{j}] = \tilde{w}^{2} , если i = j, (C.2)

E[mimj] = 0, если i /= j, (C.3)

E[m_{i}m_{j}] = \tilde{m}^{2} , если i = j, (C.4)

E[wimj] = 0, (C.5)

где формула (C.5) справедлива при любом условии. Все расчеты в данном приложении сделаны для наклонной базовой линии, для горизонтальной базовой линии они также справедливы.

Угловой коэффициент наклонной базовой линии, связывающий нулевую точку (Y0 = 0) и точку ke, равен Yk/ke. Поэтому значения на краях области объединения сигналов можно записать в виде:

\frac{Y_{k_{e}}}{k_{e}} (k_{c} + 1) в точке (kc + 1), (C.6)

\frac{Y_{k_{e}}}{k_{e}} в точке kf, (C.7)

где значения Yi определяют по формуле (9). Площадь трапеции, образованной наклонной базовой линией, горизонтальной и вертикальными линиями (см. рисунок 4), равна

A_{T} = \alpha Y_{k_{e}} , (C.8)

где \alpha определяют по формуле (16). Формула (11) для шума принимает вид

A_{T} = (\sum_{i = k_{c} + 1}^{k_{f}} Y_{i}) - \alpha Y_{k_{e}} , (C.9)

где \Delta t из формулы (11) предполагается равным единице. Дисперсия формулы (C.9) является искомым уравнением [формула (15)].

Сумма процесса авторегрессии выбрана в качестве простого примера измеряемой площади. Если M0 = 0, то процесс авторегрессии, определенный формулой (4), также принимает вид:

M1 = m1. (C.10)

M_{2} = \rho m_{1} + m_{2} . (C.11)

M_{k} = \rho^{k - 1}m_{1} + \rho^{k - 2}m_{2} + ... + \rho m_{k - 1} + m_{k} . (C.12)

Сумму процесса авторегрессии можно записать в виде

(\sum_{i = 1}^{k} M_{i}) = (1 + \rho + \rho^{2} + ... + \rho^{k - 1})m_{1} + (1 + \rho + \rho^{2} + ... + \rho^{k - 2})m_{2} + ... + (1 + \rho)m_{k - 1} + m_{k} . (C.13)

По определению E[mi] = 0, среднее формулы (C.13) равно нулю, но ее дисперсия является конечной величиной

E[(\sum_{i = 1}^{k} M_{i})^{2}] = (1 + \rho + \rho^{2} + ... + \rho^{k - 1})\tilde{m}^{2} + (1 + \rho + \rho^{2} + ... + \rho^{k - 2})\tilde{m}^{2} + ... + (1 + \rho)\tilde{m}^{2} + \tilde{m}^{2} . (C.14)

Эту формулу можно записать в более простом виде

E[(\sum_{i = 1}^{k} M_{i})^{2}] = \frac{\tilde{m}^{2}}{(1 - \rho)^{2}} (k - 2\rho \frac{1 - \rho^{k}}{1 - \rho} + \rho^{2} \frac{1 - \rho^{2k}}{1 - \rho^{2}}) . (C.15)

Замена k на kf — kc в формуле (C.15) дает второй член формулы (15). Первый член формулы (15) представляет собой сумму белого шума в точке kf — kc. Другие члены формулы (15) могут быть получены на основе рассмотрения формул (C.1) - (C.5) и (C.9) - (C.15) (см. [7]). Кроме того, E[AF] = 0 в предположении, что E[wi] = 0 и E[mi] = 0.

Неопределенность, связанная с установкой нуля, может быть получена аналогичным способом (см. [8]). Нулевой уровень L0 определен здесь как среднее арифметическое b последовательных данных

L_{0} = \frac{1}{b} (\sum_{i = 1}^{b} Y_{i}) , (C.16)

где Yi определяют по формуле (9). Установка нуля означает, что коррекция фонового шума сделана по всей области объединения сигнала и шума, создавая следующую область в области объединения

(kf — kc)L0. (C.17)

Поэтому неопределенность, связанная с установкой нуля, имеет вид

\sigma_{Z}^{2} = (k_{f} - k_{c})^{2}E[L_{0}^{2}] , (C.18)

где E[L0] = 0 по определению. Если формулу (C.13) использовать вместо \sum_{i = 1}^{b} Y_{i} в формуле (C.16), полученное выражение будет соответствовать второму члену формулы (14) (см. [8]). Первый член формулы (14) характеризует влияние белого шума.

Приложение ДА (справочное)

СВЕДЕНИЯ О СООТВЕТСТВИИ ССЫЛОЧНЫХ МЕЖДУНАРОДНЫХ СТАНДАРТОВ НАЦИОНАЛЬНЫМ СТАНДАРТАМ

Таблица ДА.1

БИБЛИОГРАФИЯ