Библиотека
Скачать PDF

ГОСТ Р 71675-2024. Национальный стандарт Российской Федерации. Системы дистанционного мониторинга на основе искусственного интеллекта в здравоохранении. Общие требования

Федеральное агентство по техническому регулированию и метрологии · № ГОСТ Р 71675-2024Действующий акт

(утв. и введен в действие Приказом Росстандарта от 07.10.2024 № 1388-ст)

Примечание

Документ введен в действие с 01.01.2025.

Утвержден и введен в действие
Приказом Федерального
агентства по техническому
регулированию и метрологии

от 7 октября 2024 г. № 1388-ст

НАЦИОНАЛЬНЫЙ СТАНДАРТ РОССИЙСКОЙ ФЕДЕРАЦИИ

СИСТЕМЫ ДИСТАНЦИОННОГО МОНИТОРИНГА
НА ОСНОВЕ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В ЗДРАВООХРАНЕНИИ

ОБЩИЕ ТРЕБОВАНИЯ

Remote monitoring systems based on artificial intelligence
in healthcare. General requirement

ГОСТ Р 71675-2024

ОКС 11.040.01

Дата введения

1 января 2025 года

Предисловие

1 РАЗРАБОТАН Государственным бюджетным учреждением здравоохранения города Москвы «Научно-практический клинический центр диагностики и телемедицинских технологий Департамента здравоохранения города Москвы» (ГБУЗ «НПКЦ ДиТ ДЗМ»)

2 ВНЕСЕН Техническим комитетом по стандартизации ТК 164 «Искусственный интеллект»

3 УТВЕРЖДЕН И ВВЕДЕН В ДЕЙСТВИЕ Приказом Федерального агентства по техническому регулированию и метрологии от 7 октября 2024 г. № 1388-ст

4 ВВЕДЕН ВПЕРВЫЕ

Правила применения настоящего стандарта установлены в статье 26 Федерального закона от 29 июня 2015 г. № 162-ФЗ «О стандартизации в Российской Федерации». Информация об изменениях к настоящему стандарту публикуется в ежегодном (по состоянию на 1 января текущего года) информационном указателе «Национальные стандарты», а официальный текст изменений и поправок — в ежемесячном информационном указателе «Национальные стандарты». В случае пересмотра (замены) или отмены настоящего стандарта соответствующее уведомление будет опубликовано в ближайшем выпуске ежемесячного информационного указателя «Национальные стандарты». Соответствующая информация, уведомление и тексты размещаются также в информационной системе общего пользования — на официальном сайте Федерального агентства по техническому регулированию и метрологии в сети Интернет (www.rst.gov.ru)

Введение

Телемедицинские технологии позволяют повысить доступность медицинских услуг, в том числе для социально уязвимых категорий населения. Внедрение дистанционного наблюдения за состоянием здоровья пациентов позволяет оптимизировать ресурсы системы здравоохранения, в первую очередь за счет раннего выявления тревожных признаков и предотвращения случаев госпитализации в результате несвоевременного оказания медицинской помощи. Повышение доступности медицинской помощи и цифровизация системы здравоохранения приводят к накоплению больших объемов разнородных медицинских данных. Обилие информации также открывает возможности для внедрения систем искусственного интеллекта (СИИ), предназначенных для анализа данных. Помимо предоставляемых преимуществ, использование СИИ сопряжено с рядом рисков эксплуатации, способных повлиять на безопасность данных пациентов и качество оказываемой медицинской помощи. Настоящий стандарт устанавливает общие положения в области систем дистанционного мониторинга на основе искусственного интеллекта в здравоохранении.

1 Область применения

Настоящий стандарт распространяется на системы дистанционного мониторинга на основе искусственного интеллекта, предназначенные для применения в клинической медицине.

2 Нормативные ссылки

В настоящем стандарте использованы нормативные ссылки на следующие стандарты:

ГОСТ Р 50444 Приборы, аппараты и оборудование медицинское. Общие технические требования

ГОСТ Р 59921.0 Системы искусственного интеллекта в клинической медицине. Основные положения

ГОСТ Р МЭК 82304-1 Медицинское программное обеспечение. Часть 1. Общие требования к безопасности программных продуктов

Примечание - При пользовании настоящим стандартом целесообразно проверить действие ссылочных стандартов в информационной системе общего пользования на официальном сайте Федерального агентства по техническому регулированию и метрологии в сети Интернет или по ежегодному информационному указателю «Национальные стандарты», который опубликован по состоянию на 1 января текущего года, и по выпускам ежемесячного информационного указателя «Национальные стандарты» за текущий год. Если заменен ссылочный стандарт, на который дана недатированная ссылка, то рекомендуется использовать действующую версию этого стандарта с учетом всех внесенных в данную версию изменений. Если заменен ссылочный стандарт, на который дана датированная ссылка, то рекомендуется использовать версию этого стандарта с указанным выше годом утверждения (принятия). Если после утверждения настоящего стандарта в ссылочный стандарт, на который дана датированная ссылка, внесено изменение, затрагивающее положение, на которое дана ссылка, то это положение рекомендуется применять без учета данного изменения. Если ссылочный стандарт отменен без замены, то положение, в котором дана ссылка на него, рекомендуется применять в части, не затрагивающей эту ссылку.

3 Термины и определения

В настоящем стандарте применены термины по ГОСТ Р 59921.0, а также следующие термины с соответствующими определениями:

3.1

авторизация: Проверка, подтверждение и предоставление прав логического доступа при осуществлении субъектами доступа логического доступа.
[ГОСТ Р 57580.1-2017, пункт 3.15]

3.2 архитектура директорий: Система хранения данных, которые могут находиться в разделах жесткого диска и оперативной памяти электронно-вычислительной машины.

Примечание - Архитектура директорий определяет, какую структуру принимают файлы в каждом из разделов, создает правила для их генерации, а также управляет файлами в соответствии с особенностями каждой конкретной файловой системы.

3.3

аутентификация: Действия по проверке подлинности субъекта доступа и/или объекта доступа, а также по проверке принадлежности субъекту доступа и/или объекту доступа предъявленного идентификатора доступа и аутентификационной информации.
Примечание — Аутентификация рассматривается применительно к конкретному субъекту доступа и/или конкретному объекту доступа.
[ГОСТ Р 58833-2020, пункт 3.4]

3.4

безопасность информации [данных]: Состояние защищенности информации [данных], при котором обеспечиваются ее [их] конфиденциальность, доступность и целостность.
[ГОСТ Р 50922-2006, пункт 2.4.5]

Примечание - Безопасность информации (данных) определяется отсутствием недопустимого риска, связанного с утечкой информации по техническим каналам, несанкционированными и непреднамеренными воздействиями на данные и (или) на другие ресурсы автоматизированной информационной системы, используемые при применении информационной технологии.

3.5 врачебная комиссия: Особый орган, функционирующий на постоянной регулярной основе при каждой медицинской организации, в целях совершенствования организации оказания медицинской помощи, принятия решений в наиболее сложных и конфликтных случаях по вопросам профилактики, диагностики, лечения и медицинской реабилитации, определения трудоспособности граждан и профессиональной пригодности некоторых категорий работников, осуществления оценки качества, обоснованности и эффективности лечебно-диагностических мероприятий, в том числе, назначения лекарственных препаратов, обеспечения назначения и коррекции лечения в целях учета данных пациентов при обеспечении лекарственными препаратами, трансплантации (пересадки) органов и тканей человека, а также принятия решения по иным медицинским вопросам.

3.6 голосовой помощник: Программный продукт, созданный в том числе с использованием технологий искусственного интеллекта, предназначенный для распознавания человеческой речи, реагирования и выполнения действий в ответ на устный запрос.

3.7

информация: Сведения (сообщения, данные) независимо от формы их представления.
[[1], статья 2]

3.8 клинические рекомендации: Документы, содержащие основанную на научных доказательствах структурированную информацию по вопросам профилактики, диагностики, лечения и реабилитации, в том числе протоколы ведения (протоколы лечения) пациента, варианты медицинского вмешательства и описание последовательности действий медицинского работника с учетом течения заболевания, наличия осложнений и сопутствующих заболеваний, иных факторов, влияющих на результаты оказания медицинской помощи.

3.9

конфиденциальность информации: Обязательное для выполнения лицом, получившим доступ к определенной информации, требование не передавать такую информацию третьим лицам без согласия ее обладателя.
[[1], статья 2]

3.10

лечащий врач: Врач, на которого возложены функции по организации и непосредственному оказанию пациенту медицинской помощи в период наблюдения за ним и его лечения.
[[2], статья 2]

3.11

медицинские изделия (изделия медицинского назначения и медицинская техника): Любые инструменты, аппараты, приборы, оборудование, материалы и прочие изделия, применяемые в медицинских целях отдельно или в сочетании между собой, а также вместе с другими принадлежностями, необходимыми для применения указанных изделий по назначению, включая специальное программное обеспечение, и предназначенные производителем для профилактики, диагностики, лечения и медицинской реабилитации заболеваний, мониторинга состояния организма человека, проведения медицинских исследований, восстановления, замещения, изменения анатомической структуры или физиологических функций организма, предотвращения или прерывания беременности, функциональное назначение которых не реализуется путем фармакологического, иммунологического, генетического или метаболического воздействия на организм человека.
[[2], статья 38]

3.12

пациент: Физическое лицо, которому оказывается медицинская помощь или которое обратилось за оказанием медицинской помощи независимо от наличия у него заболевания и от его состояния.
[[2], статья 2]

3.13

программный продукт: Программное средство, предназначенное для поставки, передачи, продажи пользователю.
[ГОСТ 28806-90, статья 3]

3.14

риск: Вероятность причинения вреда жизни или здоровью граждан, имуществу физических или юридических лиц, государственному или муниципальному имуществу, окружающей среде, жизни или здоровью животных и растений с учетом тяжести этого вреда.
[[3], статья 2]

3.15 сетевое хранилище (сетевая система хранения данных): Устройство хранения данных, которое обеспечивает постоянный доступ к данным для эффективной совместной работы участников процесса дистанционного мониторинга по сети.

3.16 система дистанционного мониторинга: Интеллектуальная информационная система, предназначенная для сбора, хранения, обработки и представления информации, касающейся деятельности медицинских организаций и предоставляемых ими услуг в отношении дистанционного наблюдения за состоянием здоровья пациента.

3.17

система искусственного интеллекта: Программное обеспечение, в котором используются технологические решения искусственного интеллекта.
[ГОСТ Р 59921.6-2021, пункт 3.10]

3.18

телемедицинские технологии: Информационные технологии, обеспечивающие дистанционное взаимодействие медицинских работников между собой, с пациентами и (или) их законными представителями, идентификацию и аутентификацию указанных лиц, документирование совершаемых ими действий при проведении консилиумов, консультаций, дистанционного медицинского наблюдения за состоянием здоровья пациента.
[[2], статья 2]

4 Обозначения и сокращения

В настоящем стандарте применены следующие обозначения и сокращения:

CSQ-8 — опросник удовлетворенности клиента услугой (Client Satisfaction Questionnaire);

ИИ — искусственный интеллект;

НСИ — нормативно-справочная информация;

СДМ — система дистанционного мониторинга;

СИИ — система искусственного интеллекта.

5 Общие положения

5.1 Настоящий стандарт разработан в соответствии с [2] и обеспечивает решение следующих задач при использовании СИИ для дистанционного получения данных о состоянии здоровья пациента или здорового добровольца:

  • установление основных сценариев, обязательных участников и инструментов дистанционного мониторинга с использованием СИИ;

- установление особенностей СДМ на основе ИИ, отличающих их от иных типов систем;

  • установление основных требований к СДМ на основе ИИ.

5.2 Дистанционное наблюдение за состоянием здоровья пациента назначается лечащим врачом с учетом действующих клинических рекомендаций по конкретной нозологии, стандартов оказания медицинской помощи и действующего законодательства. Основными целями дистанционного наблюдения являются оценка эффективности лечебно-диагностических мероприятий, медицинское наблюдение за состоянием здоровья пациента, профилактика осложнений, а также принятие решения о необходимости очного приема.

5.3 Перед началом дистанционного наблюдения лечащий врач или, при необходимости, врачебная комиссия обязаны определить порядок проведения дистанционного мониторинга с описанием следующих параметров (включая, но не ограничиваясь):

  • длительность дистанционного наблюдения;
  • перечень контролируемых показателей;
  • референсные и целевые значения параметров здоровья для данного пациента;
  • значения отклонений контролируемых показателей, являющиеся критичными и требующие экстренного реагирования.

5.4 Организационные параметры, определяемые лечащим врачом или, при необходимости, врачебной комиссией для контроля в рамках дистанционного наблюдения, включают в себя (но не ограничиваются):

  • частоту и регулярность измерений контролируемых параметров;
  • сроки и формат предоставления регулярных отчетов;
  • количество и регулярность повторных приемов (осмотров, консультаций) с указанием типа «очно» или «дистанционно»;
  • применяемые медицинские изделия и информационные системы;
  • состояния и события, требующие экстренного реагирования;
  • механизм экстренного реагирования, его интеграция в сценарий работы;
  • обеспечение геолокации пациента;
  • формирование алгоритмов взаимодействия для экстренного реагирования;
  • особенности плановых и неотложных коммуникаций (опционально);
  • особенности и ограничения для данного пациента (опционально).

5.5 Дистанционное наблюдение за состоянием здоровья пациента осуществляет медицинский работник, обеспечивающий помимо мониторинга экстренное реагирование при критическом отклонении показателей состояния здоровья пациента от предельных значений. В роли медицинского работника могут выступать как лечащий врач, так и врач на отдельно выделенной ставке, так и средний медицинский персонал. При любом варианте медицинский работник должен пройти обучение по использованию СДМ.

5.6 Если дистанционное наблюдение за состоянием здоровья пациента осуществляется в рамках клинического (научного) исследования, объектом исследования может выступать здоровый доброволец, а в качестве клинического персонала могут выступать члены исследовательской команды, имеющие квалификацию, подтвержденную обучением, стажировкой или наличием опыта выполнения подобных задач, а также прошедшие подготовку по вопросам требований к клиническому исследованию.

5.7 Если дистанционное наблюдение за состоянием здоровья пациента выполняется в рамках клинического (научного) исследования, характеристики и перечень передаваемых данных определяются таким образом, чтобы отражать все данные об объекте клинического (научного) исследования и (или) об исследуемом изделии в соответствии с планом клинического (научного) исследования.

6 Инструменты проведения дистанционного мониторинга с использованием систем на основе искусственного интеллекта

6.1 Изделия медицинской техники, представляющие собой автоматизированные системы пассивного непрерывного сбора показателей жизнедеятельности, физической активности и других параметров здоровья, могут применяться с целью отслеживания в реальном времени изменений состояния здоровья пациента в рамках дистанционного наблюдения. Эти непрерывно отслеживаемые параметры могут быть интегрированы с клиническими данными, а также результатами лабораторной и инструментальной диагностики.

6.2 Изделия для автоматизированного непрерывного сбора параметров здоровья пациента в рамках дистанционного наблюдения должны быть изготовлены в соответствии с ГОСТ Р 50444 и зарегистрированы в порядке, установленном действующим законодательством.

6.3 Для отслеживания физических и иных показателей, не относящихся напрямую к параметрам здоровья пациента (например, температура воздуха в помещении, движения пациента во время упражнения), допускается использование немедицинских изделий, не предназначенных для диагностики и принятия врачебных решений, на которые не распространяется требование об обязательной регистрации в установленном порядке. Погрешность измерений для изделий подобного рода определяется либо на основании сопроводительной документации производителя, либо согласно результатам тематических научных исследований.

6.4 Особенности СДМ на основе ИИ, отличающие их от иных типов систем непрерывного сбора параметров здоровья пациента, заключаются в использовании алгоритмов ИИ, моделирующих взаимоотношения между отслеживаемыми параметрами здоровья и схемой назначенного лечения, а также другими факторами. При использовании в рамках медицинской информационной системы медицинской организации СДМ на основе ИИ должна быть зарегистрирована как медицинское изделие с обязательной экспертизой качества, безопасности и эффективности.

6.5 Роль СИИ в СДМ:

  • незамедлительное информирование медицинского работника, осуществляющего дистанционное наблюдение, о необходимости экстренного реагирования при критическом отклонении показателей состояния здоровья пациента от предельных значений;
  • дистанционное получение данных о состоянии здоровья пациента в автоматическом режиме при использовании медицинских изделий, имеющих функции передачи данных;
  • обработка данных о состоянии здоровья пациента и (или) иных показателей, оцениваемых с помощью немедицинских изделий, интерпретация таких мультимодальных данных с генерацией общего отчета, сопровождаемого легкодоступной для понимания аналитикой;
  • индивидуальная настройка предельных значений показателей здоровья пациента;
  • контроль показателей состояния здоровья пациента и (или) иных показателей, оцениваемых с помощью немедицинских изделий;
  • прогнозирование состояния здоровья пациента;
  • разработка персонифицированного списка и порядка профилактических мероприятий на основе прогноза состояния здоровья пациента, выполненного СИИ и (или) лечащим врачом, либо врачебной комиссией;
  • информационная поддержка пациента и/или законного представителя, в том числе, с использованием голосовых помощников.

7 Общие принципы организации дистанционного мониторинга с использованием систем на основе искусственного интеллекта

7.1 В процесс дистанционного мониторинга с использованием систем на основе ИИ вовлечены следующие участники:

  • пациент и (или) его законный представитель;

- медицинская организация, осуществляющая дистанционное наблюдение за состоянием здоровья пациента, либо исследовательская команда, проводящая клиническое (научное) исследование;

  • организация — разработчик системы на основе искусственного интеллекта. Этот участник процесса представляет собой совокупность организаций и систем управления, ответственных за разработку и внедрение алгоритмов искусственного интеллекта;
  • медицинская организация, осуществляющая экстренное реагирование.

7.2 Взаимодействие между участниками процесса дистанционного мониторинга с использованием систем на основе ИИ должно быть реализовано в виде циклов обратной связи:

  • при взаимодействии между медицинской организацией и пациентом последний предоставляет данные анамнеза, включающие физиологические показатели, оцениваемые пациентом самостоятельно (например, частота мочеиспускания, наличие/отсутствие определенных симптомов), а также поведенческие показатели, оцениваемые пациентом самостоятельно, либо с помощью привлечения других лиц. Со своей стороны, медицинский работник (лечащий врач) на основании этих данных предоставляет пациенту информацию о назначенной схеме лечения либо о необходимости ее коррекции, а также о необходимости проведения очного приема;
  • при взаимодействии между пациентом и организацией-разработчиком пациент предоставляет данные для непрерывного сбора показателей жизнедеятельности — физиологические показатели, оцениваемые с помощью медицинских изделий, в том числе имеющих функцию передачи данных (например, уровень артериального давления, частота пульса, сатурация крови кислородом), а также физические и иные показатели, оцениваемые с помощью немедицинских изделий. Организация-разработчик со своей стороны предоставляет пациенту одобренную медицинской организацией информацию (например, уведомления о коррекции ранее назначенного лечения);
  • при взаимодействии между медицинской организацией и организацией-разработчиком последняя предоставляет отчет об ответе пациента на назначенное лечение, рекомендации и предсказания алгоритма, а также список событий, требующих экспертизы медицинского работника. Со своей стороны медицинский работник принимает, отклоняет или корректирует рекомендации алгоритма, предоставляя организации-разработчику обратную связь по поводу приемлемости и безопасности предсказаний СИИ.

8 Требования к системам на основе искусственного интеллекта, применяемым в рамках дистанционного наблюдения за состоянием здоровья пациента

8.1 Для успешного внедрения систем на основе ИИ в процесс дистанционного наблюдения за состоянием здоровья пациента необходимо обеспечить интеграцию данных мониторинга с электронной картой пациента в рамках медицинской информационной системы медицинской организации.

8.2 Для обеспечения операционной совместимости системы на основе ИИ для дистанционного наблюдения с медицинской информационной системой организации-разработчику необходимо обеспечить выполнение требований к безопасности и защищенности медицинского программного продукта согласно ГОСТ Р МЭК 82304-1.

8.3 Для контроля результатов работы СИИ медицинской организации рекомендуется проводить ретроспективный пересмотр отчетов, предоставляемых организацией-разработчиком, с целью определения корректности предсказаний потенциальных изменений состояния здоровья пациента.

8.4 Показатели минимально приемлемой диагностической точности СИИ для предсказания потенциальных изменений состояния здоровья пациента должны определяться лечащим врачом или врачебной комиссией с учетом индивидуальных особенностей и потребностей пациента. Использование ограниченного набора метрик диагностической точности может создавать ложное представление о реальных результатах работы алгоритма (см. [4]). Например, высокое значение площади под ROC-кривой может не приводить к клинической эффективности решения и быть сопряжено с непреднамеренными и нежелательными побочными эффектами, такими как неприемлемо высокое количество ложно-положительных случаев (см. [5]). Для объективной оценки корректности предсказаний следует использовать комбинацию из следующих метрик:

  • количество истинно-положительных предсказаний;
  • количество истинно-отрицательных предсказаний;
  • количество ложно-положительных предсказаний;
  • количество ложно-отрицательных предсказаний;
  • точность (отношение между количеством корректных предсказаний и общим количеством событий);
  • чувствительность;
  • специфичность;
  • прогностическая ценность положительного результата;
  • прогностическая ценность отрицательного результата;
  • оценка F1 (среднее гармоническое чувствительности и специфичности, накладывающее штрафы на экстремальные значения каждой из метрик);
  • коэффициент корреляции Мэттьюса (демонстрирует отношение между эталонными данными и корректными предсказаниями).

Примечание - Показатель площади под ROC-кривой отличается от вышеприведенных метрик тем, что для его вычисления требуется доступ к алгоритму ИИ, поэтому он не включен в указанный перечень.

8.5 Для количественной оценки качества взаимодействия между пациентом и организацией-разработчиком рекомендуется проводить периодическое анкетирование пациентов или их законных представителей с целью определения степени удовлетворенности услугой (например, с использованием адаптированной для русскоязычного населения версии опросника CSQ-8 (см. [6]). Значения шкалы CSQ-8 находятся в пределах от 8 до 32, со значениями ниже 21 соответствующими низкой удовлетворенности; 21 — 27 — средней удовлетворенности, и 28 — 32 — высокой удовлетворенности. Рекомендуемое значение индекса удовлетворенности по CSQ-8 составляет 24 и выше) (см. [7]).

8.6 Для количественной оценки качества взаимодействия между медицинской организацией и организацией-разработчиком рекомендуется проводить периодическое анонимное анкетирование медицинского персонала с целью определения степени их удовлетворенности организацией процессов и технологиями. Для достижения этой цели допускается использование опросника адаптированной для русскоязычного населения версии опросника CSQ-8.

9 Область и условия применения

СДМ на основе ИИ могут применяться в следующих областях в соответствии с [8]:

  • авиационная и космическая медицина;

- акушерство и гинекология;

  • аллергология и иммунология;
  • анестезиология-реаниматология;
  • водолазная медицина;
  • гастроэнтерология;
  • гематология;
  • генетика;
  • гериатрия;
  • дерматовенерология;
  • детская кардиология;
  • детская онкология;
  • детская урология-андрология;
  • детская хирургия;
  • детская эндокринология;
  • диетология;
  • инфекционные болезни;
  • кардиология;
  • колопроктология;
  • коммунальная гигиена;
  • лечебная физкультура и спортивная медицина;
  • мануальная терапия;
  • неврология;
  • нейрохирургия;
  • неонатология;
  • нефрология;
  • общая врачебная практика (семейная медицина);
  • онкология;
  • ортодонтия;
  • оториноларингология;
  • офтальмология;
  • паразитология;
  • педиатрия;
  • пластическая хирургия;
  • профпатология;
  • психиатрия;
  • психиатрия-наркология;
  • психотерапия;
  • пульмонология;
  • радиотерапия;
  • ревматология;
  • рефлексотерапия;
  • сексология;
  • сердечно-сосудистая хирургия;
  • скорая медицинская помощь и медицина катастроф;
  • социальная гигиена и организация госсанэпидслужбы;
  • стоматология детская;
  • стоматология общей практики;
  • стоматология ортопедическая;
  • стоматология терапевтическая;
  • стоматология хирургическая;
  • сурдология-оториноларингология;
  • терапия;
  • токсикология;
  • торакальная хирургия;
  • травматология и ортопедия;
  • трансфузиология;
  • урология;
  • фтизиатрия;
  • хирургия;
  • челюстно-лицевая хирургия;
  • эндокринология;
  • детская онкология-гематология;
  • физическая и реабилитационная медицина.

СДМ на основе ИИ могут использоваться при мониторинге состояния пациентов в следующих условиях, в зависимости от фактического местонахождения пациента:

  • вне медицинской организации;
  • амбулаторно (в условиях, не предусматривающих круглосуточного очного медицинского наблюдения и лечения);
  • дневного стационара (в условиях, предусматривающих очное медицинское наблюдение и лечение в дневное время, но не требующих круглосуточного очного медицинского наблюдения и лечения);
  • стационарно (в условиях, обеспечивающих круглосуточное очное медицинское наблюдение и лечение).

10 Риски применения систем дистанционного мониторинга на основе искусственного интеллекта

10.1 К недостаткам использования СДМ на основе ИИ, из которых могут произрастать риски эксплуатации, относятся:

  • неспособность к обобщению и неудовлетворительное качество работы СИИ при функционировании в новых условиях или в популяции, отличающейся от первоначального контекста обучения. При этом появление алгоритмов, которые будут постоянно обновляться в ответ на новые данные, предоставляя возможность для постоянного совершенствования, повысит риск отклонения от исходного варианта, который был разрешен регулирующими органами;

- недостаточная интерпретируемость решений СИИ, не позволяющая объяснить результаты работы СДМ на основе ИИ;

  • сложность интеграции в медицинские информационные системы.

10.2 Риски при использовании СДМ на основе ИИ:

  • ошибки при интерпретации данных, выраженно отличающихся от тех, на которых обучался алгоритм;
  • негативная реакция пациентов и/или медицинского персонала в связи с непрозрачностью принятия решений СИИ.

11 Основные требования к информационной инфраструктуре при работе систем дистанционного мониторинга на основе искусственного интеллекта

11.1 Объектом передачи данных является информация, собираемая в рамках дистанционного наблюдения и отражающая информацию о состоянии здоровья и (или) окружающей среды пациента, а также результаты анализа этой информации.

11.2 Механизмы и протоколы обмена информацией в рамках СДМ на основе ИИ должны согласовываться с другими стандартами в области информатизации здоровья, регулирующими аспекты передачи медицинских данных.

11.3 При передаче мультимедийных данных (например, видеозаписей консультаций, результатов исследований медицинской визуализации и др.) в СДМ на основе ИИ должно быть предусмотрено сетевое хранилище надлежащего объема.

11.4 Должны быть обеспечены информированность и достижение согласия между всеми участниками процесса СДМ на основе ИИ в вопросе перечня, объема, характеристик передаваемых/получаемых/анализируемых данных.

11.5 Необходимо соблюдение безопасности и конфиденциальности данных. Для обеспечения взаимного доверия участников процесса, а также для выполнения нормативных требований, политика и практика обеспечения безопасности и конфиденциальности должны быть тщательно определены и соблюдены, а также согласованы с уполномоченным органом по защите прав субъектов персональных данных.

11.6 Рекомендуется использование в процессе работы стандартизированной терминологии (согласно НСИ системы здравоохранения), а также стандартизированных форматов файлов для более точного сбора информации, с возможностью обмена между организациями, осуществляющими СДМ на основе ИИ, унифицированными данными для лечебно-профилактических, научных и иных целей.

11.7 При использовании информации, представление которой возможно в нескольких одинаково правомочных вариантах (например, уровень глюкозы в крови может измеряться в ммоль/л и мг/дл), необходимо использовать вариант, регламентированный стандартами НСИ (при наличии) или предоставлять всем участникам процесса возможность конвертации информации (единиц измерения в приведенном примере).

11.8 Рекомендуется использование общей, совместимой архитектуры директорий. Общая служба компьютерных директорий объединит отдельные архитектуры директорий и обеспечит межведомственную аутентификацию и авторизацию, сохраняя при этом локальную автономию в создании и ведении учетных записей. Каждая организация может полностью контролировать создание локальных учетных записей пользователей и предоставление прав, сохраняя при этом возможность проведения унифицированных запросов данных, а также доступа отдельных пользователей к системам партнеров в соответствии с заранее установленными ограничениями. Безопасность учетных записей и авторизация могут контролироваться на местах.

11.9 Для обеспечения безопасности и защищенности необходимо обязательное указание четко прописанных системных требований при разработке и внедрении СДМ на основе ИИ с указанием конкретных версий программного обеспечения/программных компонентов и пр.

12 Основные требования к представлению данных

12.1 Варианты представления информации при взаимодействии между пациентом и организацией-разработчиком должны соответствовать основным требованиям к информации в соответствии с разделом 11. Должна быть исключена любая возможность неоднозначной трактовки данных, поступающих от пациента или его законного представителя. Данные, предоставляемые пациенту, могут быть представлены только в неизменном виде. Медицинский/научный сотрудник должен иметь возможность определять и изменять перечень и вид данных, которые СИИ может предоставлять пациенту или его законному представителю.

12.2 Варианты представления информации при взаимодействии между организацией-разработчиком и медицинской организацией: данные можно подразделить на представляемые в неизменном виде (например, график приема лекарственных препаратов) и в обработанном, проанализированном виде (например, наличие/отсутствие тенденции к ночной гипогликемии). Пользователь должен иметь выбор, какой тип представления данных ему в настоящее время нужен.

БИБЛИОГРАФИЯ

[1] Федеральный закон от 27 июля 2006 г. № 149-ФЗ «Об информации, информационных технологиях и о защите информации»
[2] Федеральный закон от 21 ноября 2011 г. № 323-ФЗ «Об основах охраны здоровья граждан в Российской Федерации»
[3] Федеральный закон от 27 декабря 2002 г. № 184-ФЗ «О техническом регулировании»
[4] Hicks S. A. et al. On evaluation metrics for medical applications of artificial intelligence//Scientific reports. — 2022. — Vol. 12. — № 1. — P. 5979
[5] Nagendran M. et al. Artificial intelligence versus clinicians: systematic review of design, reporting standards, and claims of deep learning studies//bmj. — 2020. — Vol. 368
[6] Larsen D. L. et al. Assessment of client/patient satisfaction: development of a general scale//Evaluation and program planning. — 1979. — Vol. 2. — № 3. — P. 197 — 207
[7] Gaston L., Sabourin S. Client satisfaction and social desirability in psychotherapy//Evaluation and Program Planning. — 1992. — Vol. 15. — № 3 — P. 227 — 231
[8] Приказ Министерства здравоохранения Российской Федерации от 7 октября 2015 г. № 700н «О номенклатуре специальностей специалистов, имеющих высшее медицинское и фармацевтическое образование»
УДК 615.841:006.354ОКС 11.040.01
Ключевые слова: системы дистанционного мониторинга, данные, искусственный интеллект, системы искусственного интеллекта