Регламент № 2024/1689 Европейского парламента и Совета Европейского Союза

«Об установлении гармонизированных правил в области искусственного интеллекта, а также о внесении изменений в Регламенты (ЕС) 300/2008, (ЕС) 167/2013, (ЕС) 168/2013, (ЕС) 2018/858, (ЕС) 2018/1139 и (ЕС) 2019/2144 и в Директивы 2014/90/ЕС, (ЕС) 2016/797 и (ЕС) 2020/1828 (Акт об искусственном интеллекте)» [рус., англ.]

(Вместе с <Перечнями законодательных актов, уголовных преступлений>, <Технической документацией для поставщиков моделей ИИ общего назначения>, «Декларацией о соответствии нормативным требованиям ЕС», «Процедурой оценки...», <Информациями, которые должны быть представлены при регистрации систем ИИ с высокой степенью риска, о прозрачности для нижестоящих поставщиков, которые интегрируют модель в свою систему ИИ>, «Законодательными актами Союза, касающимися крупномасштабных IT-систем в области свободы, безопасности и правосудия», «Критериями определения моделей ИИ общего назначения с системным риском...»)

(Принят в г. Брюсселе 13.06.2024)

на Европейское экономическое пространство)

---

<*> Перевод Новиковой Е.В.

<**> Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence and amending Regulations (EC) No 300/2008, (EU) No 167/2013, (EU) No 168/2013, (EU) 2018/858, (EU) 2018/1139 and (EU) 2019/2144 and Directives 2014/90/EU, (EU) 2016/797 and (EU) 2020/1828 (Artificial Intelligence Act) (Text with EEA relevance) Опубликован в Официальном Журнале (далее — ОЖ) L 2024/1689, 12.07.2024, стр. 1.

Европейский Парламент и Совет Европейского Союза,

Руководствуясь Договором о функционировании Европейского Союза и, в частности, Статьями 16 и 144 Договора,

На основании предложения Европейской Комиссии,

После передачи проекта законодательного акта национальным парламентам,

На основании заключения Европейского комитета по экономическим и социальным вопросам <*>,

---

<*> ОЖ № C 517, 22.12.2021, стр. 56.

На основании заключения Европейского Центрального Банка <*>,

---

<*> ОЖ № C 115, 11.03.2022, стр. 5.

На основании заключения Комитета регионов <*>,

---

<*> ОЖ № C 97, 28.02.2022, стр. 60.

Действуя в соответствии с обычной законодательной процедурой <*>,

---

<*> Позиция Европейского Парламента от 13 марта 2024 г. (еще не опубликована в ОЖ) и решение Совета ЕС от 21 мая 2024 г.

Принимая во внимание следующие обстоятельства:

(1) Целью настоящего Регламента является улучшение функционирования внутреннего рынка путем создания единой правовой основы, в частности, для разработки, размещения на рынке, ввода в эксплуатацию и использования систем искусственного интеллекта (системы ИИ) в Союзе в соответствии с ценностями Союза, содействие внедрению ориентированного на человека и надежного искусственного интеллекта (ИИ), обеспечивая при этом высокий уровень защиты здоровья, безопасности и основных прав, закрепленных в Хартии Европейского Союза об основных правах («Хартия»), включая демократию, верховенство права и охрану окружающей среды, защиту от вредного воздействия систем ИИ в Союзе и поддержку инноваций. Настоящий Регламент гарантирует свободное трансграничное перемещение товаров и услуг, основанных на ИИ, тем самым не позволяя государствам-членам ЕС вводить ограничения на разработку, маркетинг и использование систем ИИ, кроме случаев, когда это прямо разрешено настоящим Регламентом.

(2) Настоящий Регламент должен применяться в соответствии с ценностями Союза, закрепленными в Хартии, способствуя защите физических лиц, предприятий, демократии, верховенства права и окружающей среды, одновременно стимулируя инновации и трудовую занятость и предоставляя Союзу ведущую роль в области внедрения надежного искусственного интеллекта (ИИ).

(3) Системы ИИ могут быть легко внедрены в самых разных секторах экономики и во многих слоях общества, в том числе через границы, и могут легко распространяться по всему Союзу. Некоторые государства-члены ЕС уже изучили возможность принятия национальных правил для обеспечения того, чтобы ИИ был надежным и безопасным, а также разрабатывался и использовался в соответствии с обязательствами в области основных прав. Расхождения в национальных правилах могут привести к фрагментации внутреннего рынка и снизить правовую определенность для операторов, которые разрабатывают, импортируют и используют системы ИИ. Следовательно, для обеспечения надежного ИИ необходимо гарантировать постоянный и высокий уровень защиты на всей территории Союза, при этом расхождения, затрудняющие свободное распространение, инновации, внедрение и освоение систем ИИ и сопутствующей продукции и услуг на внутреннем рынке, следует предотвращать путем установления единых обязательств для операторов и гарантии единообразной защиты важнейших общественных интересов и прав лиц на внутреннем рынке на основании Статьи 114 Договора о функционировании Европейского Союза (TFEU). В той мере, в которой настоящий Регламент содержит определенные правила защиты физических лиц в отношении обработки персональных данных, касающихся ограничений на использование систем ИИ для дистанционной биометрической идентификации в целях правоприменения, на использование систем ИИ для оценки рисков физических лиц в целях правоприменения и на использование систем ИИ биометрической категоризации в целях правоприменения, целесообразно, чтобы настоящий Регламент основывался на Статье 16 TFEU в той степени, в какой это касается указанных определенных правил. В свете указанных определенных правил и обращения к Статье 16 TFEU целесообразно проконсультироваться с Европейским советом по защите данных.

(4) Искусственный интеллект является быстроразвивающимся семейством технологий, которое способствует получению разнообразных экономических, экологических и социальных выгод во всех отраслях промышленности и во всех видах социальной деятельности. Посредством улучшения прогнозирования, оптимизации работы и распределения ресурсов, а также персонализации цифровых решений, доступных физическим лицам и организациям, использование ИИ может обеспечить основные конкурентные преимущества предприятиям и способствовать достижению социально и экологически выгодных результатов, например, в области здравоохранения, сельского хозяйства, продовольственной безопасности, образования и профессиональной подготовки, средств массовой информации, спорта, культуры, управления инфраструктурой, энергетики, транспорта и логистики, общественных услуг, безопасности, правосудия, эффективности ресурсов и энергии, мониторинга окружающей среды, сохранения и восстановления биологического разнообразия и экосистем, а также в области смягчения последствий изменения климата и адаптации к ним.

(5) В то же время в зависимости от обстоятельств, связанных с его конкретным применением, использованием и уровнем технологического развития, ИИ может создавать риски и наносить ущерб общественным интересам и основным правам, защищаемым законодательством Союза. Такой ущерб может быть материальным или нематериальным, включая физический, психологический, социальный или экономический ущерб.

(6) Учитывая значительное влияние, которое ИИ может оказывать на общество, и необходимость укрепления доверия, крайне важно, чтобы ИИ и его нормативно-правовая база развивались в соответствии с ценностями Союза, закрепленными в Статье 2 Договора о Европейском Союзе (TEU), с основными правами и свободами, закрепленными в Договорах и, согласно Статье 6, в Хартии. В качестве предварительного условия ИИ должен быть ориентирован на человека. Он должен служить инструментом, конечной целью которого является повышение благосостояния людей.

(7) Для обеспечения последовательного и высокого уровня защиты общественных интересов в области здоровья, безопасности и основных прав следует установить общие правила для систем ИИ с высокой степенью риска. Указанные правила должны быть согласованы с Хартией, быть недискриминационными и соответствовать обязательствам Союза в области международной торговли. Они также должны учитывать Европейскую декларацию о цифровых правах и принципах цифрового десятилетия и Руководящие этические принципы надежного ИИ группы экспертов высокого уровня в области искусственного интеллекта (AI HLEG).

(8) Следовательно, правовая база Союза, устанавливающая гармонизированные правила в отношении ИИ, необходима для содействия разработке, использованию и внедрению ИИ на внутреннем рынке, что в то же время обеспечивает высокий уровень защиты общественных интересов, таких как здоровье и безопасность, а также защиты основных прав, включая демократию, верховенство права и защиту окружающей среды, признанных и охраняемых законодательством Союза. Для достижения указанной цели следует установить правила, регулирующие размещение на рынке, ввод в эксплуатацию и использование определенных систем ИИ, что обеспечит бесперебойное функционирование внутреннего рынка и позволит указанным системам воспользоваться принципом свободного движения товаров и услуг. Указанные правила должны быть четкими и продуманными в плане защиты основных прав, поддержки новых инновационных решений, предоставления европейской экосистеме государственных и частных субъектов возможности создавать системы ИИ в соответствии с ценностями Союза и раскрывать потенциал цифровой трансформации во всех регионах Союза. Устанавливая указанные правила, а также меры в поддержку инноваций, уделяя особое внимание малым и средним предприятиям (SMEs), включая недавно созданные компании, настоящий Регламент поддерживает цель продвижения ориентированного на человека европейского подхода к ИИ и становления мировым лидером в разработке безопасного, надежного и этичного ИИ, как заявлено Европейским Советом <*>, и он гарантирует защиту этических принципов, как этого ясно требует Европейский Парламент <**>.

---

<*> Европейский Совет, внеочередное заседание Европейского Совета (1 и 2 октября 2020 г.) — Заключения, EUCO 13/20, 2020, стр. 6.

<**> Резолюция Европейского Парламента от 20 октября 2020 г. с рекомендациями Европейской Комиссии по этическим аспектам искусственного интеллекта, робототехники и смежных технологий 2020/2012(INL).

(9) Единые правила, применяемые в отношении размещения на рынке, ввода в эксплуатацию и использования систем ИИ с высокой степенью риска, должны быть установлены в соответствии с Регламентом (ЕС) 765/2008 Европейского Парламента и Совета ЕС <1>, Решением 768/2008/EC Европейского Парламента и Совета ЕС <2> и Регламентом (ЕС) 2019/1020 Европейского Парламента и Совета ЕС <3> (новая законодательная база). Единые правила, установленные в настоящем Регламенте, должны применяться во всех секторах и, в соответствии с новой законодательной базой, должны действовать без ущерба действующему законодательству Союза, в частности, о защите данных, защите прав потребителей, об основных правах, о занятости и защите работников, а также о безопасности продукции, которое дополняет настоящий Регламент. Как следствие, все права и средства правовой защиты, предусмотренные таким законодательством Союза в отношении потребителей и других лиц, на которых системы ИИ могут оказать негативное воздействие, в том числе в отношении компенсации возможного ущерба согласно Директиве 85/374/ЕЭС Совета ЕС <4>, полностью сохраняют силу и применяются в полном объеме. Помимо этого, в контексте занятости и охраны работников, настоящий Регламент, следовательно, не должен затрагивать законодательство Союза о социальной политике и национальное трудовое законодательство, в соответствии с законодательством Союза касательно занятости и условий труда, включая охрану здоровья и безопасность на производстве, а также взаимоотношения между работниками и работодателями. Настоящий Регламент также не должен затрагивать осуществление основных прав, признанных в государствах-членах ЕС и на уровне Союза, включая право или свободу забастовок или право принимать другие меры, предусмотренные определенными системами трудовых отношений в государствах-членах ЕС, а также право на ведение переговоров, заключение и исполнение коллективных соглашений или принятие коллективных мер в соответствии с национальным законодательством. Настоящий Регламент не должен затрагивать положения, установленные в Директиве Европейского Парламента и Совета ЕС об улучшении условий труда в отношении работы через платформы. Помимо этого, настоящий Регламент направлен на повышение эффективности таких существующих прав и средств правовой защиты путем установления определенных требований и обязательств, в том числе в отношении прозрачности, технической документации и ведения учета касательно систем ИИ. Кроме того, обязательства, возлагаемые на различных операторов, участвующих в цепочке создания стоимости ИИ в соответствии с настоящим Регламентом, должны применяться без ущерба национальному законодательству, согласно законодательству Союза, что ведет к ограничению использования определенных систем ИИ, если такое законодательство выходит за рамки настоящего Регламента или преследует законные цели, представляющие общественный интерес, отличные от целей, которые преследует настоящий Регламент. Например, настоящий Регламент не должен затрагивать национальное трудовое законодательство или законодательство о защите несовершеннолетних, а именно лиц в возрасте до 18 лет, с учетом Замечания общего порядка № 25 (2021) Конвенции ООН о правах ребенка, касательно прав детей в связи с цифровой средой, в той мере, в какой они не характерны для систем ИИ и преследуют другие законные цели, представляющие общественный интерес.

---

<1> Регламент (ЕС) 765/2008 Европейского Парламента и Совета ЕС от 9 июля 2008 г. об установлении требований к аккредитации, а также об отмене Регламента (ЕЭС) 339/93 (ОЖ № L 218, 13.08.2008, стр. 30).

<2> Решение 768/2008/EC Европейского Парламента и Совета ЕС от 9 июля 2008 г. об общих правилах торговли товарами и об отмене Решения Совета ЕС 93/465/ЕЭС (ОЖ № L 218, 13.08.2008, стр. 82).

<3> Регламент (ЕС) 2019/1020 Европейского Парламента и Совета ЕС от 20 июня 2019 г. о надзоре за рынком и соответствии продукции, а также о внесении изменений в Директиву 2004/42/EC и Регламенты (ЕС) 765/2008 и (ЕС) 305/2011 (ОЖ № L 169, 25.06.2019, стр. 1).

<4> Директива 85/374/ЕЭС Совета ЕС от 25 июля 1985 г. о сближении законодательных, регламентарных и административных положений государств-членов ЕС, применяемых к ответственности за неисправную продукцию (ОЖ № L 210, 07.08.1985, стр. 29).

(10) Основные права на защиту персональных данных гарантированы, в частности, Регламентами (ЕС) 2016/679 <1> и (ЕС) 2018/1725 <2> Европейского Парламента и Совета ЕС и Директивой (ЕС) 2016/680 Европейского Парламента и Совета ЕС <3>. Директива 2002/58/EC Европейского Парламента и Совета ЕС <4> дополнительно защищает частную жизнь и конфиденциальность сообщений, в том числе путем обеспечения условий любого хранения персональных данных и данных, не относящихся к персональным, в терминальном оборудовании и доступа с его помощью. Указанные законодательные акты Союза обеспечивают основу для устойчивой и ответственной обработки данных, в том числе в тех случаях, когда наборы данных включают сочетание персональных данных и данных, не относящихся к персональным. Настоящий Регламент не направлен на то, чтобы повлиять на применение действующего законодательства Союза, регулирующего обработку персональных данных, включая задачи и полномочия независимых надзорных органов, отвечающих за контроль над соблюдением указанных актов. Он также не затрагивает обязательства поставщиков систем ИИ и эксплуатирующих их организаций в их функции контролеров данных или органов по обработке данных, вытекающие из законодательства Союза или национального законодательства о защите персональных данных, в той мере, в какой проектирование, разработка или использование систем ИИ предполагает обработку персональных данных. Также целесообразно разъяснить, что субъекты данных продолжают пользоваться всеми правами и гарантиями, предоставленными им таким законодательством Союза, включая права, связанные исключительно с автоматизированным индивидуальным принятием решений, включая формирование профиля. Единые правила размещения на рынке, ввода в эксплуатацию и использования систем ИИ, установленные согласно настоящему Регламенту, должны способствовать эффективной имплементации и обеспечивать реализацию прав субъектов данных и других средств правовой защиты, гарантированных согласно законодательству Союза о защите персональных данных и других основных прав.

---

<1> Регламент (ЕС) 2016/679 Европейского Парламента и Совета ЕС от 27 апреля 2016 г. о защите физических лиц при обработке персональных данных и о свободном обращении таких данных, а также об отмене Директивы 95/46/EC (Общий Регламент о защите персональных данных) (ОЖ № L 119, 04.05.2016, стр. 1).

<2> Регламент (ЕС) 2018/1725 Европейского Парламента и Совета ЕС от 23 октября 2018 г. о защите физических лиц при обработке персональных данных, осуществляемой учреждениями, органами, службами и агентствами Союза, и о свободном обращении таких данных, а также об отмене Регламента (ЕС) 45/2001 и Решения 1247/2002/EC (ОЖ № L 295, 21.11.2018, стр. 39).

<3> Директива (ЕС) 2016/680 Европейского Парламента и Совета ЕС от 27 апреля 2016 г. о защите физических лиц при обработке персональных данных компетентными органами в целях предотвращения, расследования, выявления или уголовного преследования преступлений или исполнения уголовных наказаний, о свободном обращении таких данных, а также об отмене Рамочного Решения 2008/977/ПВД Совета ЕС (ОЖ № L 119, 04.05.2016, стр. 89).

<4> Директива 2002/58/EC Европейского Парламента и Совета ЕС от 12 июля 2002 г. в отношении обработки персональных данных и защиты конфиденциальности в секторе электронных средств связи (Директива о конфиденциальности и электронных средствах связи) (ОЖ № L 201, 31.07.2002, стр. 37).

(11) Настоящий Регламент должен действовать без ущерба положениям, касающимся ответственности поставщиков посреднических услуг, изложенным в Регламенте (ЕС) 2022/2065 Европейского Парламента и Совета ЕС <*>.

---

<*> Регламент (ЕС) 2022/2065 Европейского Парламента и Совета ЕС от 19 октября 2022 г. о едином рынке цифровых услуг и о внесении изменений в Директиву 2000/31/EC (Акт о цифровых услугах) (ОЖ № L 277, 27.10.2022, стр. 1).

(12) Понятие «система ИИ» в настоящем Регламенте должно быть четко определено и должно быть тесно связано с работой международных организаций, задействованных в области ИИ, для обеспечения правовой определенности, содействия международному сближению и повсеместному признанию, обеспечивая при этом гибкость, необходимую для адаптации к быстрому технологическому развитию в указанной области. Помимо этого, определение должно основываться на ключевых характеристиках систем ИИ, которые отличают их от более простых традиционных систем программного обеспечения или методов программирования, и не должно охватывать системы, которые основаны на правилах, определенных исключительно физическими лицами для автоматического выполнения операций. Ключевой характеристикой систем ИИ является их способность делать логические выводы. Указанная способность к логическим выводам относится к процессу получения выходных данных, таких как прогнозы, контент, рекомендации или решения, которые могут повлиять на физическую и виртуальную среды, а также к способности систем ИИ создавать модели или/и алгоритмы на основе входных данных. Средства и методы, позволяющие делать логических выводы при построении системы ИИ, включают в себя подходы с алгоритмами машинного обучения, которые на основе данных обучаются тому, как достичь определенных целей, а также подходы, основанные на логике и знаниях, которые делают выводы на основе зашифрованных знаний или символического представления задачи, которую необходимо решить. Способность системы ИИ делать логические выводы выходит за рамки базовой обработки данных, позволяя проводить обучение, выстраивать логические выводы и осуществлять моделирование. Термин «машинный» относится к тому факту, что системы ИИ работают на машинах. Ссылка на явные или неявные цели подчеркивает, что системы ИИ могут работать в соответствии с явно определенными целями или с неявными целями. Цели системы ИИ могут отличаться от целевого назначения системы ИИ в определенном контексте. Для целей настоящего Регламента под средой понимается контекст, в котором функционируют системы ИИ, в то время как выходные данные, генерируемые системой ИИ, отражают различные функции, выполняемые системами ИИ, и включают прогнозы, контент, рекомендации и решения. Системы ИИ предназначены для работы с различными уровнями автономии, что означает, что они обладают некоторой степенью независимости действий от участия человека и способностей функционировать без вмешательства человека. Адаптивность, которую может проявить система ИИ после внедрения, относится к возможностям самообучения, позволяющим системе изменяться в процессе использования. Системы ИИ могут использоваться отдельно или в качестве компонента продукта, независимо от того, интегрирована ли система физически в продукт (встраиваемая) или обеспечивает функциональность продукта без интеграции в него (не встраиваемая).

(13) Понятие «эксплуатирующая организация», указанное в настоящем Регламенте, следует толковать как любое физическое или юридическое лицо, включая государственный орган, агентство или иное ведомство, которое использует систему ИИ в рамках своих полномочий, за исключением случаев, когда система ИИ используется в ходе личной непрофессиональной деятельности. В зависимости от типа системы ИИ, использование системы может затронуть лица, отличные от эксплуатирующей организации.

(14) Понятие «биометрические данные», используемое в настоящем Регламенте, следует толковать в свете понятия биометрических данных, определенного в пункте (14) Статьи 4 Регламента (ЕС) 2016/679, пункте (18) Статьи 3 Регламента (ЕС) 2018/1725 и в пункте (13) Статьи 3 Директивы (ЕС) 2016/680. Биометрические данные могут использоваться для аутентификации, идентификации или категоризации физических лиц, а также для распознавания эмоций физических лиц.

(15) Понятие «биометрическая идентификация», указанное в настоящем Регламенте, следует определять как автоматическое распознавание физических, физиологических и поведенческих особенностей человека, таких как лицо, движение глаз, форма тела, голос, интонация, походка, осанка, пульс, кровяное давление, запах, характеристики нажатия клавиш, для целей установления личности физического лица путем сравнения его биометрических данных с биометрическими данными лица, хранящимися в справочной базе данных, вне зависимости от того, дало ли физическое лицо свое согласие или нет. Это исключает системы ИИ, предназначенные для использования в целях биометрической верификации, которая включает аутентификацию, единственной целью которой является подтверждение того, что определенное физическое лицо является лицом, за которое он или она себя выдает, и подтверждение личности физического лица с единственной целью получения доступа к сервису, разблокировки устройства или получения защищенного доступа в помещения.

(16) Понятие «биометрическая категоризация», указанное в настоящем Регламенте, следует определять как отнесение физических лиц к определенным категориям на основе их биометрических данных. Такие определенные категории могут относиться к таким аспектам, как пол, возраст, цвет волос, цвет глаз, татуировки, поведенческие и личностные свойства, язык, религия, принадлежность к национальным меньшинствам, сексуальная или политическая ориентация. Это не относится к системам биометрической категоризации, которые являются полностью вспомогательной функцией, неразрывно связанной с другой коммерческой услугой, что означает, что указанная функция по объективным техническим причинам не может быть использована без основной услуги, и интеграция указанной функции или функционала не является средством обхода применимости правил настоящего Регламента. Например, фильтры, классифицирующие черты лица или тела, используемые на электронных торговых площадках, могут быть такой вспомогательной функцией, поскольку они могут использоваться только в отношении основной услуги, которая заключается в продаже товара, позволяя потребителю визуализировать образ товара на себе и помогая ему принять решение о покупке. Фильтры, используемые в онлайн-сервисах социальных сетей, которые классифицируют черты лица или тела, чтобы позволить пользователям добавлять или изменять фотографии или видео, также могут считаться вспомогательной функцией, поскольку такой фильтр нельзя использовать без основной услуги социальных сетей, заключающейся в обмене контентом в режиме реального времени.

(17) Понятие «система дистанционной биометрической идентификации», указанное в настоящем Регламенте, следует определять функционально как систему ИИ, предназначенную для идентификации физических лиц без их активного участия, обычно на расстоянии, путем сравнения биометрических данных лица с биометрическими данными, содержащимися в справочной базе данных, вне зависимости от определенной используемой технологии, процессов или типов биометрических данных. Такие системы дистанционной биометрической идентификации, как правило, используются для одновременного распознавания нескольких человек или их поведения, что значительно облегчает идентификацию физических лиц без их активного участия. Это исключает системы ИИ, предназначенные для использования в целях биометрической верификации, которая включает аутентификацию, единственной целью которой является подтверждение того, что определенное физическое лицо является лицом, за которое он или она себя выдает, и подтверждение личности физического лица с единственной целью получения доступа к сервису, разблокировки устройства или получения защищенного доступа в помещения. Такое исключение оправдано тем фактом, что такие системы, вероятно, оказывают незначительное воздействие на основные права физических лиц по сравнению с системами дистанционной биометрической идентификации, которые могут использоваться для обработки биометрических данных большого числа лиц без их активного участия. В случае систем «в режиме реального времени» сбор биометрических данных, сравнение и идентификация происходят мгновенно, почти мгновенно или в любом случае без существенной задержки. В этой связи не должно существовать никаких возможностей для обхода правил настоящего Регламента, касающихся использования соответствующих систем ИИ «в режиме реального времени», путем создания незначительных задержек. Системы «в режиме реального времени» предполагают использование материала «в живую» или «почти в живую», например видеоматериалов, сгенерированных при помощи камеры или другого устройства со сходным функционалом. В отличие от них, в системах с «последующей идентификацией» биометрические данные уже были получены, а сравнение и идентификация происходят только со значительной задержкой. Сюда относятся материалы, такие как фотографии и видеоматериалы, созданные передающей телевизионной камерой с замкнутой цепью или частными устройствами до использования системы в отношении соответствующих физических лиц.

(18) Понятие «система распознавания эмоций», указанное в настоящем Регламенте, следует определять как систему ИИ для цели идентификации или вывода об эмоциях или намерений физических лиц на основе их биометрических данных. Это понятие относится к таким эмоциям или намерениям, как счастье, печаль, гнев, удивление, отвращение, смущение, волнение, стыд, презрение, удовлетворение и веселость. Сюда не относятся физические состояния, такие как боль или усталость, включая, например, системы, используемые для определения состояния усталости профессиональных летчиков или водителей в целях предотвращения происшествий. Сюда также не относится простое выявление легко различимых выражений лица, жестов или движений, кроме случаев, когда они используются для идентификации или вывода об эмоциях. Указанные выражения могут быть основной мимикой, такой как нахмуренный взгляд или улыбка, или жестами, такими как движение кистей рук, рук или головы, или характеристиками голоса человека, такими как громкий голос или шепот.

(19) В целях настоящего Регламента понятие «общедоступное пространство» следует понимать как относящееся к любому физическому пространству, которое доступно неопределенному числу физических лиц, вне зависимости от того, находится ли указанное пространство в частной или государственной собственности, вне зависимости от видов деятельности, для которых оно может использоваться, например, в целях торговли: магазины, рестораны, кафе; в целях сферы услуг: банки, профессиональная деятельность, гостиничный бизнес, в целях спорта: бассейны, спортзалы, стадионы, в транспортных целях: автобусы, метро или железнодорожные вокзалы, аэропорты, транспортные средства; в целях развлечения: кинотеатры, театры, музеи, концертные залы или конференц-холлы; или в целях отдыха или иных целях: общественные дороги и площади, парки, леса, игровые площадки. Пространство также должно быть отнесено к категории общедоступного, если, вне зависимости от потенциальной возможности или ограничений безопасности, доступ к нему осуществляется при соблюдении конкретных заранее определенных условий, которые могут быть выполнены неопределенным числом лиц, например, покупка билета или права на проезд в транспорте, предварительная регистрация или достижение определенного возраста. Напротив, пространство не должно считаться общедоступным, если доступ к нему ограничен конкретными и определенными физическими лицами на основании законодательства Союза или национального законодательства, непосредственно связанного с общественной безопасностью, или на основании четкого волеизъявления лица, обладающего соответствующими полномочиями в отношении указанного пространства. Сама по себе фактическая возможность доступа, такая как незапертая дверь или открытые ворота ограждения, не означает, что пространство является общедоступным при наличии признаков или обстоятельств, свидетельствующих об обратном, таких как знаки, запрещающие или ограничивающие доступ. Помещения компаний и заводов, а также офисы и рабочие места, доступ к которым предназначен только для соответствующих сотрудников и поставщиков услуг, не являются общедоступными пространствами. К общедоступным пространствам не относятся тюрьмы и пункты пограничного контроля. Некоторые другие пространства могут включать в себя как общедоступные, так и недоступные для общего пользования пространства, например, коридор в частном жилом доме, необходимый для доступа к кабинету врача или в аэропорт. Интернет-пространства не подпадают под указанное определение, поскольку они не являются физическими пространствами. Однако вопрос о том, является ли указанное пространство общедоступным, должен решаться в каждом отдельном случае с учетом особенностей конкретной ситуации.

(20) Для получения максимальной выгоды от систем ИИ, защищая при этом основные права, здоровье и безопасность и обеспечивая демографический контроль, грамотность в области ИИ должна давать поставщикам, эксплуатирующим организациям и затронутым лицам необходимые знания для принятия обоснованных решений в отношении систем ИИ. Указанные знания могут варьироваться в зависимости от соответствующего контекста и могут включать понимание правильного применения технических элементов на этапе разработки системы ИИ, мер, которые необходимо применять в процессе ее использования, подходящих способов интерпретации выходных данных системы ИИ и, в случае затронутых лиц, знания, необходимые для понимания того, как на них будут воздействовать решения, принятые с помощью ИИ. В контексте применения настоящего Регламента грамотность в области ИИ должна обеспечивать всех соответствующих участников цепочки создания стоимости ИИ информацией, необходимой для гарантии его надлежащего соблюдения и исполнения. Помимо этого, широкое внедрение мер по повышению грамотности в области ИИ и принятие соответствующих последующих мер могут способствовать улучшению условий труда и, в конечном счете, содействовать консолидации и внедрению инноваций в области надежного ИИ в Союзе. Европейский совет по искусственному интеллекту («Совет») должен оказывать содействие Европейской Комиссии в продвижении инструментов повышения грамотности в области ИИ, информированности общественности и понимании преимуществ, рисков, гарантий, прав и обязанностей, связанных с использованием систем ИИ. В сотрудничестве с соответствующими заинтересованными сторонами Европейская Комиссия и государства-члены ЕС должны содействовать разработке добровольных правил поведения для повышения уровня грамотности в области ИИ среди лиц, занимающихся разработкой, эксплуатацией и использованием ИИ.

(21) Для обеспечения равных условий и эффективной защиты прав и свобод физических лиц на территории всего Союза, правила, установленные настоящим Регламентом, должны применяться к поставщикам систем ИИ на недискриминационной основе, вне зависимости от того, учреждены они в Союзе или в третьей стране, а также к эксплуатирующим системы ИИ организациям, учрежденным в Союзе.

(22) В свете своей цифровой природы определенные системы ИИ должны подпадать под сферу применения настоящего Регламента, даже если они не размещены на рынке, не введены в эксплуатацию и не используются в Союзе. Это справедливо в том случае, когда, например, оператор, учрежденный в Союзе, заключает договор на определенные услуги с оператором, учрежденным в третьей стране, в связи с деятельностью, осуществляемой системой ИИ, которая может быть отнесена к категории, представляющей высокий риск. В указанных обстоятельствах система ИИ, используемая оператором в третьей стране, могла бы обрабатывать данные, собранные на законном основании в Союзе и переданные из Союза, и предоставлять оператору-подрядчику в Союзе выходные данные системы ИИ, полученные в результате такой обработки, не размещая систему ИИ на рынке, не вводя ее в эксплуатацию или не используя ее в Союзе. Чтобы предотвратить обход настоящего Регламента и обеспечить эффективную защиту физических лиц, находящихся в Союзе, настоящий Регламент должен также применяться к поставщикам систем ИИ, которые учреждены в третьей стране, и эксплуатирующим их организациям, в той мере, в какой выходные данные, произведенные такими системами, предназначены для использования в Союзе. Тем не менее, принимая во внимание существующие договоренности и особые потребности в будущем сотрудничестве с иностранными партнерами, с которыми осуществляется обмен информацией и доказательствами, настоящий Регламент не должен применяться к государственным органам третьей страны и международным организациям, действующим в рамках сотрудничества или международных соглашений, заключенных на уровне Союза или на национальном уровне в правоохранительных целях или в целях правового сотрудничества с Союзом или государствами-членами ЕС, при условии, что соответствующая третья страна или международная организация обеспечивает надлежащие гарантии в отношении защиты основных прав и свобод физических лиц. По мере необходимости, это может касаться деятельности организаций, которым третьи страны поручили выполнение определенных задач в поддержку такого сотрудничества правоохранительных и судебных органов. Такие рамки сотрудничества или соглашений были установлены на двусторонней основе между государствами-членами ЕС и третьими странами или между Европейским Союзом, Европолом и другими агентствами Союза и третьими странами и международными организациями. Органы, компетентные осуществлять надзор за правоохранительными и судебными органами в соответствии с настоящим Регламентом, должны оценить, включают ли указанные рамки сотрудничества или международных соглашений надлежащие гарантии в отношении защиты основных прав и свобод личности. Национальные органы-получатели и учреждения, органы, службы и агентства Союза, использующие такие выходные данные в Союзе, несут ответственность за обеспечение соответствия их использования законодательству Союза. При пересмотре указанных международных соглашений или заключении новых соглашений в будущем договаривающимся сторонам следует приложить максимум усилий для приведения указанных соглашений в соответствие требованиям настоящего Регламента.

(23) Настоящий Регламент также должен применяться к учреждениям, органам, службам и агентствам Союза в том случае, когда они выступают в качестве поставщика системы ИИ или эксплуатирующей ее организации.

(24) Если и в той мере, в какой системы ИИ размещены на рынке, введены в эксплуатацию или используются с модификацией таких систем или без нее в военных целях, в целях обороны или национальной безопасности, они должны быть исключены из сферы применения настоящего Регламента, вне зависимости от того, какой тип организаций выполняет указанные виды деятельности, например, является ли организация частной или государственной. В том, что касается военных и оборонных целей, такое исключение обосновано как Статьей 4(2) TEU, так и спецификой оборонной политики государств-членов ЕС и всего Союза, на которую распространяется Глава 2 Раздела V TEU, которые регулируются международным публичным правом, которое, следовательно, является более подходящей правовой основой для регулирования систем ИИ в контексте применения смертоносной силы и других систем ИИ в контексте военной и оборонной деятельности. В том, что касается целей национальной безопасности, исключение обосновано как тем фактом, что национальная безопасность остается исключительной ответственностью государств-членов ЕС в соответствии со Статьей 4(2) TEU, так и особым характером и оперативными потребностями деятельности по обеспечению национальной безопасности и определенными национальными правилами, применимыми к указанной деятельности. Тем не менее, если система ИИ, разработанная, размещенная на рынке, введенная в эксплуатацию и используемая для военных целей, для целей обороны или национальной безопасности, временно или постоянно используется для иных целей, например, гражданских или гуманитарных, правоохранительных целей или целей обеспечения общественной безопасности, такая система подпадает под сферу применения настоящего Регламента. В таком случае организация, использующая систему ИИ для целей, не связанных с военными, оборонными целями или целями обеспечения национальной безопасности, должна гарантировать соответствие системы ИИ настоящему Регламенту, кроме случаев, когда система уже соответствует настоящему Регламенту. Системы ИИ, размещенные на рынке или введенные в эксплуатацию для исключенных целей, а именно для военной, оборонной цели или цели обеспечения национальной безопасности, и для одной или нескольких неисключенных целей, таких как гражданские или правоохранительные цели, подпадают под сферу применения настоящего Регламента, и поставщики таких систем должны гарантировать соблюдение настоящего Регламента. В указанных случаях тот факт, что система ИИ может подпадать под сферу применения настоящего Регламента, не должен затрагивать возможность организаций, осуществляющих деятельность в области национальной безопасности, обороны или военную деятельность, вне зависимости от типа организации, осуществляющей указанные виды деятельности, использовать системы ИИ для военных, оборонных целей и целей по обеспечению национальной безопасности, использование которых исключается из сферы применения настоящего Регламента. Система ИИ, размещенная на рынке для гражданских или правоохранительных целей, которая используется с модификацией или без нее в военных целях, в целях обороны или национальной безопасности, не подпадает под сферу применения настоящего Регламента, вне зависимости от типа организаций, осуществляющих такие виды деятельности.

(25) Настоящий Регламент должен оказывать содействие инновациям, уважать свободу науки и не должен подрывать научно-исследовательскую и проектно-конструкторскую деятельность. Следовательно, необходимо исключить из его сферы применения системы и модели ИИ, специально разработанные и введенные в эксплуатацию исключительно в научно-исследовательских и проектно-конструкторских целях. Помимо этого, необходимо гарантировать, что настоящий Регламент иным образом не затрагивает научно-исследовательскую и проектно-конструкторскую деятельность в области систем и моделей ИИ до их размещения на рынке или ввода в эксплуатацию. В том, что касается ориентированных на продукт исследований, тестирования и разработок касательно систем и моделей ИИ, положения настоящего Регламента также не должны применяться до тех пор, пока указанные системы и модели не будут введены в эксплуатацию или размещены на рынке. Указанное исключение должно действовать без ущерба обязательству соблюдать настоящий Регламент в тех случаях, когда система ИИ, подпадающая под сферу применения настоящего Регламента, размещена на рынке или введена в эксплуатацию в результате такой научно-исследовательской и проектно-конструкторской деятельности, а также без ущерба применению положений о регулятивной изолированной среде ИИ и тестировании в реальных условиях. Помимо этого, без ущерба исключению систем ИИ, специально разработанных и введенных в эксплуатацию исключительно в научно-исследовательских и проектно-конструкторских целях, любая другая система ИИ, которая может использоваться для проведения любых исследований и разработок, должна подпадать под действие положений настоящего Регламента. В любом случае научно-исследовательская и опытно-конструкторская деятельность должна осуществляться в соответствии с признанными этическими и профессиональными стандартами научных исследований и в соответствии с применимым законодательством Союза.

(26) Для того чтобы ввести пропорциональный и эффективный набор обязательных правил для систем ИИ, необходимо придерживаться четко определенного подхода, основанного на оценке рисков. Данный подход должен адаптировать тип и содержание таких правил к интенсивности и масштабу рисков, которые могут создавать системы ИИ. Следовательно, необходимо запретить определенные неприемлемые методы в области ИИ, установить требования к системам ИИ с высокой степенью риска и обязательства определенных операторов, а также установить обязательства по обеспечению прозрачности определенных систем ИИ.

(27) Хотя подход, основанный на оценке рисков, является основой для пропорционального и эффективного набора обязательных правил, важно напомнить о Руководящих этических принципах надежного ИИ от 2019 г., разработанных независимой группой экспертов высокого уровня в области ИИ (AI HLEG), назначенной Европейской Комиссией. В указанных руководящих принципах AI HLEG разработала семь необязательных этических принципов для ИИ, которые призваны помочь обеспечить надежность и этическую безупречность ИИ. Семь принципов включают в себя следующее: участие человека и контроль; техническую надежность и безопасность; конфиденциальность и управление данными; прозрачность; разнообразие, отсутствие дискриминации и справедливость; общественное и экологическое благополучие и подотчетность. Без ущерба юридически обязательным требованиям настоящего Регламента и любому другому применимому законодательству Союза указанные руководящие принципы способствуют созданию согласованного, надежного и ориентированного на человека ИИ в соответствии с Хартией и ценностями, на которых основывается Союз. Согласно руководящим принципам AI HLEG участие человека и контроль означают, что системы ИИ разрабатываются и используются в качестве инструмента, который служит людям, уважает человеческое достоинство и личную независимость и функционирует таким образом, что может надлежащим образом контролироваться людьми. Техническая надежность и безопасность означают, что системы ИИ разрабатываются и используются таким образом, чтобы обеспечить надежность в случае возникновения проблем и устойчивость к попыткам изменить использование или производительность системы ИИ таким образом, чтобы позволить незаконное использование третьими лицами, а также свести к минимуму непреднамеренный вред. Конфиденциальность и управление данными означает, что системы ИИ разрабатываются и используются в соответствии с правилами конфиденциальности и защиты данных, при этом данные обрабатываются в соответствии с высокими стандартами качества и целостности. Прозрачность означает, что системы ИИ разрабатываются и используются таким образом, чтобы обеспечить надлежащую прослеживаемость и объяснимость, при этом информируя людей о том, что они общаются или взаимодействуют с системой ИИ, а также должным образом информируя эксплуатирующие организации о возможностях и ограничениях указанной системы ИИ, а затрагиваемые лица об их правах. Разнообразие, отсутствие дискриминации и справедливость означают, что системы ИИ разрабатываются и используются таким образом, чтобы охватывать различных участников и способствовать равному доступу, гендерному равенству и культурному разнообразию, не допуская при этом дискриминационного воздействия и несправедливых предубеждений, которые запрещены законодательством Союза или национальным законодательством. Общественное и экологическое благополучие означает, что системы ИИ разрабатываются и используются устойчивым и экологически безопасным образом, а также в интересах всех людей, одновременно контролируя и оценивая долгосрочное воздействие на личность, общество и демократию. Применение указанных принципов должно найти отражение, по мере возможности, при разработке и использовании моделей ИИ. Они в любом случае должны служить основой для разработки правил поведения в соответствии с настоящим Регламентом. Всем заинтересованным сторонам, включая промышленность, научные круги, гражданское общество и организации по стандартизации, рекомендуется надлежащим образом учитывать этические принципы при разработке добровольных передовых практик и стандартов.

(28) Помимо множества полезных применений ИИ, он также может использоваться не по назначению и может предоставлять новые и мощные инструменты для манипуляции, эксплуатации и общественного контроля. Такие методы особенно вредны и оскорбительны и должны быть запрещены, поскольку они противоречат ценностям Союза, таким как уважение человеческого достоинства, свобода, равенство, демократия и верховенство права, а также основным правам, закрепленным в Хартии, включая право на отсутствие дискриминации, защиту данных и неприкосновенность частной жизни, а также права ребенка.

(29) Техники манипулирования с помощью ИИ могут использоваться для того, чтобы склонить людей к нежелательному поведению или обмануть их, подталкивая к принятию решений таким образом, чтобы подорвать их автономию, способность принимать решения и свободу выбора. Размещение на рынке, ввод в эксплуатацию или использование определенных систем ИИ с целью существенного искажения поведения человека, в результате чего может быть причинен значительный вред, в частности, имеющий достаточно серьезные неблагоприятные последствия для физического, психологического здоровья или финансовых интересов, являются особенно опасными и, следовательно, должны быть запрещены. Такие системы ИИ используют компоненты, воздействующие на подсознание, такие как стимулы в виде изображений, а также аудио- и видеостимулы, которые люди не могут воспринимать, поскольку указанные стимулы находятся за пределами человеческого восприятия, или другие манипулятивные или обманчивые методы, которые подрывают или ослабляют автономию человека, способность принимать решения или свободу выбора таким образом, что люди не осознают, что такие методы используются, или, даже если они осознают это, они все равно могут быть обмануты или не в состоянии контролировать их или сопротивляться им. Этому могут способствовать, например, интерфейсы «машина-мозг» или виртуальная реальность, так как они обеспечивают более высокую степень контроля над тем, какие стимулы предоставляются людям, поскольку они могут существенно исказить их поведение и нанести значительный ущерб. В дополнение к этому, системы ИИ также иным образом могут использовать уязвимости человека или определенной группы лиц в силу их возраста, инвалидности в значении Директивы (ЕС) 2019/882 Европейского Парламента и Совета ЕС <*> или в силу определенной социальной или экономической ситуации, которая может сделать указанных лиц более уязвимыми к эксплуатации, например, лиц, живущих в условиях крайней нищеты, этнических или религиозных меньшинств. Такие системы ИИ могут быть размещены на рынке, введены в эксплуатацию или использоваться с целью или следствием, заключающимся в существенном искажении поведения человека и таким образом, который причиняет или может причинить существенный вред указанному или другому лицу или группе лиц, включая вред, который может накапливаться со временем, и, следовательно, должны быть запрещены. Может оказаться невозможным допущение того, что существует намерение исказить поведение, если искажение является результатом внешних по отношению к системе ИИ факторов, которые находятся вне контроля поставщика или эксплуатирующей организации, а именно факторов, которые невозможно обоснованно спрогнозировать, и, следовательно, поставщик системы ИИ или эксплуатирующая ее организация не могут смягчить последствия. В любом случае поставщику или эксплуатирующей организации не обязательно иметь намерение причинить значительный ущерб, при условии, что такой ущерб является следствием манипулятивных или эксплуатационных методов с элементами ИИ. Запреты на такие методы ИИ дополняют положения, содержащиеся в Директиве 2005/29/EC Европейского Парламента и Совета ЕС <**>, в частности, недобросовестные методы торговли, ведущие к экономическому или финансовому ущербу для потребителей, запрещены при любых обстоятельствах, вне зависимости от того, внедрены ли они через систему ИИ или иным образом. Запреты манипулятивных и эксплуатационных методов согласно настоящему Регламенту не должны влиять на законные методы в контексте медицинского лечения, такие как психологическое лечение психических заболеваний или физическая реабилитация, когда такие методы осуществляются в соответствии с применимым законодательством или медицинскими стандартами, например, с явного согласия физических лиц или их законных представителей. Кроме этого, общепринятые и законные торговые практики, например в области рекламы, которые соответствуют применимому законодательству, само по себе не должны рассматриваться как представляющие собой вредные манипулятивные методы с элементами ИИ.

---

<*> Директива (ЕС) 2019/882 Европейского Парламента и Совета ЕС от 17 апреля 2019 г. о требованиях к доступности товаров и услуг (ОЖ № L 151, 07.06.2019, стр. 70).

<**> Директива 2005/29/EC Европейского Парламента и Совета ЕС от 11 мая 2005 г. о недобросовестной коммерческой практике по отношению к потребителям на внутреннем рынке и об изменении Директивы 84/450/ЕЭС Совета ЕС, Директив 97/7/ЕС, 98/27/ЕС и 2002/65/ЕС Европейского Парламента и Совета ЕС и Регламента (ЕС) 2006/2004 Европейского Парламента и Совета ЕС («Директива о недобросовестной коммерческой практике») (ОЖ № L 149, 11.06.2005, стр. 22).

(30) Следует запретить системы биометрической категоризации, основанные на биометрических данных физических лиц, таких как лицо или отпечатки пальцев человека, для установления политических взглядов физического лица, членства в профсоюзе, религиозных или философских убеждений, расы, сексуальной жизни или сексуальной ориентации. Указанный запрет не должен распространяться на законную маркировку, фильтрацию или категоризацию наборов биометрических данных, полученных в соответствии с законодательством Союза или национальным законодательством, согласно таким биометрическим данным, как цвет волос или цвет глаз, которые могут, например, использоваться в правоохранительной деятельности.

(31) Системы ИИ, обеспечивающие социальную оценку физических лиц государственными или частными субъектами, могут привести к дискриминационным результатам и исключению определенных групп. Они могут нарушать право на достоинство или недискриминацию, а также ценности равенства и справедливости. Такие системы ИИ оценивают или классифицируют физических лиц или их группы на основе множества точек данных, относящихся к их социальному поведению в различных контекстах, или известных, предполагаемых или прогнозируемых характеристик личности за определенные периоды времени. Социальная оценка, полученная с помощью таких систем ИИ, может привести к негативному или неблагоприятному обращению с физическими лицами или целыми группами лиц в социальных контекстах, которые не связаны с контекстом, в котором первоначально были сгенерированы или собраны данные, или к негативному обращению, непропорциональному или необоснованному с точки зрения серьезности их социального поведения. Следовательно, системы ИИ, использующие такие неприемлемые методы оценивания и приводящие к таким неблагоприятным и негативным результатам, должны быть запрещены. Указанный запрет не должен влиять на законную практику оценки физических лиц, которая проводится с определенной целью в соответствии с законодательством Союза и национальным законодательством.

(32) Использование систем ИИ для дистанционной биометрической идентификации в режиме реального времени в общедоступном пространстве в правоохранительных целях особенно ущемляет права и свободы соответствующих лиц в той мере, в какой оно может повлиять на частную жизнь значительной части населения, вызвать ощущение постоянной слежки и косвенно препятствовать осуществлению свободы собраний и других основных прав. Технические неточности систем ИИ, предназначенных для дистанционной биометрической идентификации физических лиц, могут привести к необъективным результатам и вызвать дискриминационные последствия. Такие возможные необъективные результаты и дискриминационные последствия особенно актуальны в отношении возраста, этнической принадлежности, расы, пола или инвалидности. Помимо этого, непосредственность воздействия и ограниченные возможности для дальнейших проверок или исправлений в отношении использования таких систем, работающих в режиме реального времени, сопряжены с повышенными рисками для прав и свобод соответствующих лиц в контексте деятельности правоохранительных органов или под их влиянием.

(33) Использование указанных систем в правоохранительных целях, следовательно, должно быть запрещено, за исключением исчерпывающих и очень специфических ситуаций, когда их использование строго необходимо для достижения существенных общественных интересов, важность которых перевешивает риски. Указанные ситуации связаны с поиском определенных жертв преступлений, включая пропавших без вести лиц; с определенными угрозами жизни или физической безопасности физических лиц или с террористической атакой; а также с установлением местонахождения или идентификацией исполнителей или подозреваемых в совершении преступлений, перечисленных в приложении к настоящему Регламенту, если указанные преступления караются в соответствующем государстве-члене ЕС наказанием в виде лишения свободы или выдачей ордера на арест на максимальный срок не менее четырех лет в соответствии с определением в законодательстве государства-члена ЕС. Такой порог для наказания в виде лишения свободы или выдачи ордера на арест в соответствии с национальным законодательством способствует обеспечению того, чтобы преступление было достаточно серьезным для того, чтобы потенциально оправдать использование систем дистанционной биометрической идентификации в режиме реального времени. Помимо этого, перечень преступлений, приведенный в приложении к настоящему Регламенту, основывается на 32 преступлениях, перечисленных в Рамочном решении 2002/584/ПВД Совета ЕС <*>, с учетом того, что некоторые из указанных преступлений на практике, вероятно, являются более актуальными, чем другие, в том смысле, что обращение к дистанционной биометрической идентификации в режиме реального времени могло бы быть необходимым и пропорциональным в самых разных степенях для практического поиска или идентификации преступника или подозреваемого в совершении различных перечисленных преступлений и с учетом возможных различий в серьезности, вероятности и масштабе ущерба или возможных негативных последствий. Непосредственная угроза жизни или физической безопасности физических лиц также может возникнуть в результате серьезного нарушения в работе критически важной инфраструктуры, как определено в пункте (4) Статьи 2 Директивы (ЕС) 2022/2557 Европейского Парламента и Совета ЕС <**>, если нарушение в работе или разрушение такой критически важной инфраструктуры может привести к непосредственной угрозе жизни или физической безопасности лица, в том числе в результате причинения серьезного вреда обеспечению населения основными товарами снабжения или осуществлению главной функции Государства. В дополнение к этому, настоящий Регламент должен сохранить возможность правоохранительных органов, органов пограничного контроля, миграционных органов или органов, предоставляющих убежища, проводить проверки с целью установления личности в присутствии соответствующего лица согласно условиям, установленным в законодательстве Союза или национальном законодательстве для указанных проверок. В частности, правоохранительные органы, органы пограничного контроля, миграционные органы и органы, предоставляющие убежища, должны иметь возможность использовать информационные системы, в соответствии с законодательством Союза или национальным законодательством, для идентификации лиц, которые во время проверки с целью установления личности отказываются идентифицировать себя или не могут указать или доказать подлинность своего лица, если это не требуется настоящим Регламентом для получения предварительного разрешения. Это может быть, например, лицо, причастное к преступлению, которые не желает или не может вследствие происшествия или состояния здоровья раскрыть свою личность правоохранительным органам.

---

<*> Рамочное Решение 2002/584/ПВД Совета ЕС от 13 июня 2002 г. о европейском ордере на арест и процедурах передачи лиц между государствами-членами ЕС (ОЖ № L 190, 18.07.2002, стр. 1).

<**> Директива (ЕС) 2022/2557 Европейского Парламента и Совета ЕС от 14 декабря 2022 г. об устойчивости критически важных организаций, а также отмене Директивы 2008/114/EC Совета ЕС (ОЖ № L 333, 27.12.2022, стр. 164).

(34) Для гарантии ответственного и соразмерного использования указанных систем также важно установить, что в каждой из исчерпывающих перечисленных и очень специфичных ситуаций следует учитывать определенные элементы, в частности, в отношении характера ситуации, в результате которой возникает запрос, и последствий использования в интересах прав и свобод всех соответствующих лиц, а также гарантий и условий, предусмотренных при таком использовании. Помимо этого, использование систем дистанционной биометрической идентификации в режиме реального времени в общедоступном пространстве в правоохранительных целях должно осуществляться только для подтверждения личности конкретного лица и должно быть ограничено тем, что строго необходимо в отношении периода времени, а также географического охвата и круга лиц, принимая во внимание, в частности, доказательства или указания, касающиеся угроз, жертв или преступника. Использование системы дистанционной биометрической идентификации в режиме реального времени в общедоступном пространстве должно быть разрешено только в том случае, если соответствующий правоохранительный орган завершил оценку воздействия на основные права и, если в настоящем Регламенте не предусмотрено иное, зарегистрировал систему в базе данных согласно настоящему Регламенту. Справочная база данных о лицах должна соответствовать каждому варианту использования в каждой из вышеуказанных ситуаций.

(35) Каждое использование системы дистанционной биометрической идентификации в режиме реального времени в общедоступном пространстве в правоохранительных целях должно осуществляться с четкого и конкретного разрешения судебного органа или независимого административного органа государства-члена ЕС, решение которого является обязательным. Такое разрешение, в принципе, должно быть получено до использования системы ИИ с целью идентификации лица или лиц. Исключения из указанного правила допускаются в надлежащим образом обоснованных ситуациях по соображениям срочности, а именно в ситуациях, когда необходимость использования соответствующих систем такова, что получение разрешения до начала использования системы ИИ становится фактически и объективно невозможным. В таких экстренных ситуациях использование систем ИИ должно быть ограничено до абсолютного необходимого минимума и должно быть обеспечено соответствующими гарантиями безопасности и условиями, определенными в национальном законодательстве и установленными в контексте каждого отдельного случая срочного использования самим правоохранительным органом. Помимо этого, в таких ситуациях правоохранительный орган незамедлительно и не позднее чем в течение 24 часов должен запросить такое разрешение, указав причины, по которым он не смог запросить его ранее. Если такое разрешение будет отклонено, использование систем биометрической идентификации в режиме реального времени, связанных с таким разрешением, должно быть немедленно прекращено, а все данные, связанные с таким использованием, должны быть удалены. Такие данные включают в себя входные данные, прямо полученные системой ИИ в ходе использования такой системы, а также результаты и выходные данные использования, связанные с указанным разрешением. Они не должны включать входные данные, полученные законным путем в соответствии с другим законодательством Союза или национальным законодательством. В любом случае ни одно решение, имеющее неблагоприятные юридические последствия для лица, не должно приниматься исключительно на основании результатов работы системы дистанционной биометрической идентификации.

(36) Для выполнения своих задач в соответствии с требованиями, установленными в настоящем Регламенте, а также в национальных правилах, соответствующий орган надзора за рынком и национальный орган по защите данных должны быть уведомлены о каждом использовании системы биометрической идентификации в режиме реального времени. Органы надзора за рынком и национальные органы по защите данных, которые были уведомлены, должны представить Европейской Комиссии ежегодный отчет об использовании систем биометрической идентификации в режиме реального времени.

(37) Помимо этого, в исчерпывающих рамках, установленных настоящим Регламентом, целесообразно предусмотреть, что такое использование на территории государства-члена ЕС в соответствии с настоящим Регламентом возможно только в том случае и в той мере, в какой соответствующее государство-член ЕС решило прямо предусмотреть возможность разрешения такого использования в своих подробных нормах национального законодательства. Следовательно, в соответствии с настоящим Регламентом государства-члены ЕС могут не предусматривать такую возможность вообще или предусмотреть ее только в отношении некоторых целей, которые могут оправдать разрешенное использование и которые указаны в настоящем Регламенте. Об указанных национальных нормах следует уведомить Европейскую Комиссию в течение 30 дней с момента их принятия.

(38) Использование систем ИИ для дистанционной биометрической идентификации физических лиц в режиме реального времени в общедоступном пространстве в правоохранительных целях обязательно предполагает обработку биометрических данных. Правила настоящего Регламента, запрещающие, за некоторыми исключениями, такое использование и основанные на Статье 16 TFEU, должны применяться как lex specialis в отношении правил обработки биометрических данных, содержащихся в Статье 10 Директивы (ЕС) 2016/680, тем самым регулируя такое использование и обработку биометрических данных, задействованных исчерпывающим образом. Следовательно, такое использование и обработка должны быть возможны только в той мере, в какой они совместимы с рамками, установленными настоящим Регламентом, при отсутствии вне указанных рамок каких-либо возможностей для компетентных органов, действующих в правоохранительных целях, использовать такие системы и обрабатывать в связи с этим такие данные на основаниях, перечисленных в Статье 10 Директивы (ЕС) 2016/680. В данном контексте настоящий Регламент не предназначен для обеспечения правовой основы для обработки персональных данных в соответствии со Статьей 8 Директивы (ЕС) 2016/680. Однако использование систем дистанционной биометрической идентификации в режиме реального времени в общедоступном пространстве для целей, отличных от правоохранительных, в том числе компетентными органами, не должно подпадать под конкретные рамки, касающиеся такого использования в правоохранительных целях согласно настоящему Регламенту. Следовательно, для такого использования в целях, отличных от правоохранительных, не требуется получение разрешения в соответствии с настоящим Регламентом и применимыми подробными нормами национального законодательства, которые могут привести в действие такое разрешение.

(39) Любая обработка биометрических данных и других персональных данных, связанная с использованием систем ИИ для биометрической идентификации, за исключением использования систем дистанционной биометрической идентификации в режиме реального времени в общедоступном пространстве в целях обеспечения соблюдения требований, как это регулируется настоящим Регламентом, должна и дальше соответствовать всем требованиям, вытекающим из Статьи 10 Директивы (ЕС) 2016/680. Для целей, отличных от правоохранительных целей, Статья 9(1) Регламента (ЕС) 2016/679 и Статья 10(1) Регламента (ЕС) 2018/1725 запрещают обработку биометрических данных за некоторыми исключениями, предусмотренными в указанных Статьях. В соответствии со Статьей 9(1) Регламента (ЕС) 2016/679 использование дистанционной биометрической идентификации для целей, отличных от правоохранительных целей, уже было запрещено национальными органами по защите данных.

(40) В соответствии со Статьей 6a Протокола № 21 о позиции Соединенного Королевства и Ирландии в отношении пространства свободы, безопасности и правосудия, который прилагается к TEU и TFEU, Ирландия не связана правилами, установленными в пункте (g) первого подпараграфа Статьи 5(1), в той мере, в какой это применимо к использованию систем биометрической категоризации для деятельности в области полицейского и судебного сотрудничества по уголовным вопросам, в пункте (d) первого подпараграфа Статьи 5(1), в той мере, в какой это применимо к использованию систем ИИ, на которые распространяется указанное положение, в пункте (h) первого подпараграфа Статьи 5(1), в Статье 5(2) - (6) и Статье 26(10) настоящего Регламента, принятых на основе Статьи 16 TFEU, которые касаются обработки персональных данных государствами-членами ЕС при осуществлении деятельности, подпадающей под сферу применения Главы 4 или Главы 5 Раздела V Части Три TFEU, если Ирландия не связана правилами, регулирующими формы судебного сотрудничества по уголовным вопросам или полицейского сотрудничества, которые требуют соблюдения положений, установленных на основе Статьи 16 TFEU.

(41) В соответствии со Статьями 2 и 2a Протокола № 22 о позиции Дании, который прилагается к TEU и TFEU, Дания не связана правилами, установленными в пункте (g) первого подпараграфа Статьи 5(1), в той мере, в какой это применимо к использованию систем биометрической категоризации для деятельности в области полицейского и судебного сотрудничества по уголовным вопросам, в пункте (d) первого подпараграфа Статьи 5(1), в той мере, в какой это применимо к использованию систем ИИ, на которые распространяется указанное положение, в пункте (h) первого подпараграфа Статьи 5(1), в Статье 5(2) - (6) и Статье 26(10) настоящего Регламента, принятых на основе Статьи 16 TFEU или при условии их применения, которые касаются обработки персональных данных государствами-членами ЕС при осуществлении деятельности, подпадающей под сферу применения Главы 4 или Главы 5 Раздела V Части Три TFEU.

(42) В соответствии с презумпцией невиновности физических лиц в Союзе всегда следует оценивать по их фактическому поведению. Никогда не следует судить о физических лицах по поведению, прогнозируемому ИИ, на основе исключительно их профиля, личностных качеств или таких характеристик, как национальность, место рождения, место проживания, количество детей, уровень задолженности или тип машины, без обоснованного подозрения в причастности указанного лица к преступной деятельности на основании объективных проверяемых фактов или без их оценки со стороны человека. Поэтому следует запретить оценки рисков, проводимые в отношении физических лиц с целью оценивания вероятности совершения ими правонарушений или для прогнозирования совершения фактического или возможного уголовного преступления исключительно на основе их профиля или на основе оценки их личностных качеств и характеристик. В любом случае, указанный запрет не касается анализа рисков, который не основан на формировании профиля отдельных лиц или на личностных качествах и характеристиках физических лиц, например, системы ИИ, использующие анализ рисков для оценки вероятности финансового мошенничества со стороны предприятий на основе подозрительных транзакций или инструментов анализа рисков, для прогнозирования вероятности обнаружения наркотиков или незаконных товаров таможенными органами, например, на основе известных маршрутов незаконного оборота.

(43) Размещение на рынке, ввод в эксплуатацию для конкретной цели или использование систем ИИ, которые создают или расширяют базы данных по распознаванию лиц путем нецелевого извлечения изображений лица человека из интернета или из записей с камер наблюдения, должны быть запрещены, поскольку такая практика усиливает ощущение тотальной слежки и может привести к грубым нарушениям основных прав, включая право на неприкосновенность частной жизни.

(44) Существуют серьезные опасения по поводу научной основы систем ИИ, предназначенных для идентификации эмоций или вывода об эмоциях, особенно в связи с тем, что выражение эмоций значительно различается в разных культурах и ситуациях и даже у отдельного человека. Среди ключевых недостатков таких систем — ограниченная надежность, отсутствие конкретики и ограниченная возможность обобщения. Таким образом, системы ИИ, идентифицирующие эмоции или делающие вывод об эмоциях или распознающие намерения физических лиц на основе их биометрических данных, могут привести к дискриминационным результатам и могут нарушать права и свободы соответствующих лиц. Учитывая дисбаланс власти в контексте работы или образования, в сочетании с навязчивым характером указанных систем, такие системы могут привести к негативному или неблагоприятному обращению с определенными физическими лицами или целыми группами таковых. Следовательно, размещение на рынке, ввод в эксплуатацию или использование систем ИИ, предназначенных для определения эмоционального состояния людей в ситуациях, связанных с работой и образованием, должны быть запрещены. Указанный запрет не должен распространяться на системы ИИ, размещаемые на рынке исключительно по медицинским соображениям или соображениям безопасности, например, системы, предназначенные для терапевтического использования.

(45) Настоящий Регламент не должен затрагивать практики, которые запрещены законодательством Союза, включая законодательство о защите данных, о недискриминации, о защите прав потребителей.

(46) Системы ИИ с высокой степенью риска должны размещаться на рынке Союза, вводиться в эксплуатацию или использоваться только в том случае, если они соответствуют определенным обязательным требованиям. Указанные требования должны гарантировать, что системы ИИ с высокой степенью риска, которые доступны в Союзе или выходные данные которых иным образом используются в Союзе, не представляют неприемлемой угрозы важным общественным интересам Союза, признанным и охраняемым законодательством Союза. На основании новой законодательной базы, как разъясняется в уведомлении Европейской Комиссии «Синее руководство» по внедрению правил ЕС в отношении продуктов до 2022 г.» <1>, общее правило заключается в том, что более чем один правовой акт законодательства Союза о гармонизации, такие как Регламенты (ЕС) 2017/745 <2> и (ЕС) 2017/746 <3> Европейского Парламента и Совета ЕС или Директива 2006/42/EC Европейского Парламента и Совета ЕС <4>, может применяться к одному продукту, поскольку обеспечение доступности или ввод в эксплуатацию возможны только тогда, когда продукт соответствует всем применимым законодательным актам Союза о гармонизации. Чтобы обеспечить согласованность и избежать ненужного административного бремени или затрат, поставщики продукта, содержащего одну или несколько систем ИИ с высокой степенью риска, к которым применяются требования настоящего Регламента и законодательных актов Союза о гармонизации, перечисленных в приложении к настоящему Регламенту, должны обладать гибкостью в отношении оперативных решений о том, как гарантировать оптимальное соответствие продукта, содержащего одну или несколько систем ИИ, всем применимым требованиям законодательства Союза о гармонизации. Системы ИИ, отнесенные к категории с высокой степенью риска, должны быть ограничены теми, которые оказывают значительное вредное воздействие на здоровье, безопасность и основные права людей в Союзе, и такое ограничение должно свести к минимуму любые потенциальные ограничения для международной торговли.

---

<1> ОЖ № C 247, 29.06.2022, стр. 1.

<2> Регламент (ЕС) 2017/745 Европейского Парламента и Совета ЕС от 5 апреля 2017 г. о медицинских изделиях, об изменении Директивы 2001/83/EC, Регламента (ЕС) 178/2002 и Регламента (ЕС) 1223/2009, а также об отмене Директив 90/385/ЕЭС и 93/42/ЕЭС Совета ЕС (ОЖ № L 117, 05.05.2017, стр. 1).

<3> Регламент (ЕС) 2017/746 Европейского Парламента и Совета ЕС от 5 апреля 2017 г. о медицинских изделиях для диагностики in vitro, а также об отмене Директивы 98/79/EC и Решения 2010/227/ЕС Европейской Комиссии (ОЖ № L 117, 05.05.2017, стр. 176).

<4> Директива 2006/42/EC Европейского Парламента и Совета ЕС от 17 мая 2006 г. о машинах и механизмах и о внесении изменений в Директиву 95/16/EC (ОЖ № L 157, 09.06.2006, стр. 24).

(47) Системы ИИ могут оказывать негативное воздействие на здоровье и безопасность людей, в частности, когда такие системы используются в качестве компонентов обеспечения безопасности продукции. В соответствии с целями законодательства Союза о гармонизации, направленными на содействие свободному движению продукции на внутреннем рынке и обеспечение того, чтобы на рынок поступали только безопасные и соответствующие иным требованиям продукты, важно должным образом предотвращать и смягчать риски для безопасности, которые могут быть связаны с продуктом в целом вследствие его цифровых компонентов, включая системы ИИ. Например, все более и более автономные роботы, будь то в сфере производства или личной помощи и ухода за больными, должны быть в состоянии безопасно работать и выполнять свои функции в сложных условиях. Аналогичным образом, в секторе здравоохранения, где забота о жизни и здоровье особенно высока, все более и более совершенные диагностические системы и системы, поддерживающие принятие решений человеком, должны быть надежными и точными.

(48) Степень негативного воздействия, вызванного системой ИИ, на основные права, охраняемые Хартией, имеет особое значение при отнесении системы ИИ к категории с высокой степенью риска. Указанные права включают право на человеческое достоинство, уважение частной и семейной жизни, защиту персональных данных, свободу выражения мнений и информации, свободу собраний и ассоциаций, право на недискриминацию, право на образование, защиту прав потребителей, права трудящихся, права инвалидов, гендерное равенство, права интеллектуальной собственности, право на эффективное средство правовой защиты и справедливое судебное разбирательство, право на защиту и презумпцию невиновности, а также право на компетентное руководство. В дополнение к указанным правам важно подчеркнуть тот факт, что дети обладают особыми правами, закрепленными в Статье 24 Хартии и в Конвенции Организации Объединенных Наций о правах ребенка, которые получили дальнейшее развитие в Замечании общего порядка № 25 Конвенции ООН о правах ребенка в отношении цифровой среды, и которые требуют учитывать уязвимость детей и обеспечение защиты и ухода, которые необходимы для их благополучия. Основное право на высокий уровень охраны окружающей среды, закрепленное в Хартии и имплементированное в политических принципах Союза, также должно учитываться при оценке серьезности вреда, который может причинить система ИИ, в том числе в отношении здоровья и безопасности людей.

(49) В том, что касается систем ИИ с высокой степенью риска, которые являются компонентами обеспечения безопасности продуктов или систем или которые сами по себе являются продуктами или системами, подпадающими под сферу применения Регламента (ЕС) 300/2008 Европейского Парламента и Совета ЕС <1>, Регламента (ЕС) 167/2013 Европейского Парламента и Совета ЕС <2>, Регламента (ЕС) 168/2013 Европейского Парламента и Совета ЕС <3>, Директивы 2014/90/ЕС Европейского Парламента и Совета ЕС <4>, Директивы (ЕС) 2016/797 Европейского Парламента и Совета ЕС <5>, Регламента (ЕС) 2018/858 Европейского Парламента и Совета ЕС <6>, Регламента (ЕС) 2018/1139 Европейского Парламента и Совета ЕС <7> и Регламента (ЕС) 2019/2144 Европейского Парламента и Совета ЕС <8>, целесообразно внести изменения в указанные акты, чтобы гарантировать, что Европейская Комиссия на основе технических и регулятивных особенностей каждой отрасли, не вмешиваясь в существующие механизмы управления, оценки соответствия и обеспечения исполнения, а также в работу органов, созданных в соответствии с ними, учитывает обязательные требования к системам ИИ с высокой степенью риска, изложенные в настоящем Регламенте, при принятии любых актов делегированного законодательства или имплементационных актов на основе указанных актов.

---

<1> Регламент (ЕС) 300/2008 Европейского Парламента и Совета ЕС от 11 марта 2008 г. об общих правилах в области безопасности гражданской авиации и об отмене Регламента (ЕС) 2320/2002 (ОЖ № L 97, 09.04.2008, стр. 72).

<2> Регламент (ЕС) 167/2013 Европейского Парламента и Совета ЕС от 5 февраля 2013 г. об одобрении и рыночном надзоре в отношении сельскохозяйственных и лесохозяйственных транспортных средств (ОЖ № L 60, 02.03.2013, стр. 1).

<3> Регламент (ЕС) 168/2013 Европейского Парламента и Совета ЕС от 15 января 2013 г. об одобрении и рыночном надзоре в отношении двух- или трехколесных транспортных средствах и квадроциклов (ОЖ № L 60, 02.03.2013, стр. 52).

<4> Директива 2014/90/ЕС Европейского Парламента и Совета ЕС от 23 июля 2014 г. о морском оборудовании и об отмене Директивы 96/98/EC Совета ЕС (ОЖ № L 257, 28.08.2014, стр. 146).

<5> Директива (ЕС) 2016/797 Европейского Парламента и Совета ЕС от 11 мая 2016 г. о возможности взаимодействия железнодорожных систем Европейского Союза (ОЖ № L 138, 26.05.2016, стр. 44).

<6> Регламент (ЕС) 2018/858 Европейского Парламента и Совета ЕС от 30 мая 2018 г. об одобрении и рыночном надзоре в отношении моторных транспортных средств и их прицепов, а также систем, компонентов и отдельных технических узлов, предназначенных для указанных транспортных средств, об изменении Регламентов (ЕС) 715/2007 и (ЕС) 595/2009 и об отмене Директивы 2007/46/EC (ОЖ № L 151, 14.06.2018, стр. 1);

<7> Регламент (ЕС) 2018/1139 Европейского Парламента и Совета ЕС от 4 июля 2018 г. об общих правилах в сфере гражданской авиации, об учреждении Европейского Агентства по безопасности авиации, об изменении Регламентов (ЕС) 2111/2005, (ЕС) 1008/2008, (ЕС) 996/2010, (ЕС) 376/2014, Директив 2014/30/ЕС и 2014/53/ЕС Европейского Парламента и Совета ЕС и об отмене Регламентов (ЕС) 552/2004 и (ЕС) 216/2008 Европейского Парламента и Совета ЕС и Регламента (ЕЭС) 3922/91 Совета ЕС (ОЖ № L 212, 22.08.2018, стр. 1).

<8> Регламент (ЕС) 2019/2144 Европейского Парламента и Совета ЕС от 27 ноября 2019 г. о требованиях к официальному одобрению типа транспортных средств и их прицепов, а также систем, компонентов и отдельных технических узлов, предназначенных для таких транспортных средств, в отношении их общей безопасности и защиты пассажиров транспортных средств и уязвимых участников дорожного движения, а также об изменении Регламента (ЕС) 2018/858 Европейского Парламента и Совета ЕС и об отмене Регламентов (ЕС) 78/2009, (ЕС) 79/2009 и (ЕС) 661/2009 Европейского Парламента и Совета ЕС и Регламентов Европейской Комиссии (ЕС) 631/2009, (ЕС) 406/2010, (ЕС) 672/2010, (ЕС) 1003/2010, (ЕС) 1005/2010, (ЕС) 1008/2010, (ЕС) 1009/2010, (ЕС) 19/2011, (ЕС) 109/2011, (ЕС) 458/2011, (ЕС) 65/2012, (ЕС) 130/2012, (ЕС) 347/2012, (ЕС) 351/2012, (ЕС) 1230/2012 и (ЕС) 2015/166 (ОЖ № L 325, 16.12.2019, стр. 1).

(50) В том, что касается систем ИИ, которые являются компонентами обеспечения безопасности продукции или которые сами являются продукцией, подпадающей под сферу применения определенных законодательных актов Союза о гармонизации, перечисленных в приложении к настоящему Регламенту, целесообразно классифицировать их как системы с высокой степенью риска согласно настоящему Регламенту, если соответствующий продукт проходит процедуру оценки соответствия, проводимую сторонним органом по оценке соответствия согласно релевантному законодательству Союза о гармонизации. В частности, такими продуктами являются машины и механизмы, игрушки, лифты, оборудование и защитные системы, предназначенные для использования в потенциально взрывоопасной среде, радиооборудование, оборудование, работающее под давлением, оборудование для прогулочных судов, оборудование для канатных дорог, газорасходные установки, медицинские приборы, медицинские устройства для диагностики in vitro, автотранспорт и авиационный транспорт.

(51) Классификация системы ИИ в качестве системы с высокой степенью риска согласно настоящему Регламенту не обязательно означает, что продукт, компонентом обеспечения безопасности которого является система ИИ, или сама система ИИ как продукт представляют высокую степень риска согласно критериям, установленным в соответствующем законодательстве Союза о гармонизации, которое применяется к продукту. Это, в частности, относится к Регламентам (ЕС) 2017/745 и (ЕС) 2017/746, в которых для продуктов со средней и высокой степенью риска предусмотрена сторонняя оценка соответствия.

(52) В том, что касается автономных систем ИИ, а именно систем ИИ с высокой степенью риска, отличных от системы, которые являются компонентами обеспечения безопасности продуктов или которые сами являются продуктами, их целесообразно классифицировать как системы с высокой степенью риска, если в свете их целевого назначения они представляют высокий риск причинения вреда здоровью и безопасности или основным правам людей, учитывая как тяжесть возможного вреда, так и вероятность его причинения, и они используются в ряде специально оговоренных областей, указанных в настоящем Регламенте. Идентификация указанных систем основана на той же методике и критериях, которые предусмотрены также для любых будущих изменений перечня систем ИИ с высокой степенью риска, которые Европейская Комиссия вправе принимать посредством актов делегированного законодательства, чтобы учесть быстрые темпы технологического развития, а также потенциальные изменения в использовании системы ИИ.

(53) Также важно уточнить, что могут быть особые случаи, когда системы ИИ, указанные в заранее определенных областях согласно настоящему Регламенту, не приводят к значительному риску причинения вреда законным интересам, охраняемым в данных областях, поскольку они не оказывают существенного влияния на процесс принятия решений или по сути не наносят ущерба таким интересам. Для целей настоящего Регламента под системой ИИ, которая не оказывает существенного влияния на результат принятия решений, следует понимать систему ИИ, которая не оказывает влияния на суть и, следовательно, на результат процесса принятия решений, будь он человеческий или автоматизированный. Система ИИ, которая не оказывает существенного влияния на результат принятия решений, может включать ситуации, в которых выполняется одно или несколько из следующих условий. Первым таким условием должно быть то, что система ИИ предназначена для выполнения узкой процедурной задачи, например, система ИИ, которая преобразует неструктурированные данные в структурированные, система ИИ, которая классифицирует входящие документы по категориям, или система ИИ, которая используется для обнаружения дубликатов среди большого количества приложений. Указанные задачи носят настолько узкий и ограниченный характер, что они создают лишь ограниченные риски, которые не увеличиваются при использовании системы ИИ в контексте, который в приложении к настоящему Регламенту указан как использование с высокой степенью риска. Второе условие должно заключаться в том, что задача, выполняемая системой ИИ, направлена на улучшение результата ранее завершенной деятельности человека, которая может иметь отношение к целям разных видов использования с высокой степенью риска, перечисленных в приложении к настоящему Регламенту. Учитывая указанные характеристики, система ИИ обеспечивает лишь дополнительный уровень человеческой деятельности с последующим снижением риска. Данное условие, например, применимо к системам ИИ, которые предназначены для улучшения формулировок, используемых в ранее подготовленных документах, например, в отношении профессионального тона, академического стиля изложения или путем приведения текста в соответствие с сообщениями определенного качества. Третьим условием должно быть то, что система ИИ предназначена для выявления закономерностей принятия решений или отклонений от существующих моделей принятия решений. Риск будет снижен, поскольку использование системы ИИ основывается на ранее проведенной оценке человеком, которую система не намерена заменять или влиять на нее без надлежащей проверки со стороны человека. К таким системам ИИ относятся, например, те, которые, учитывая определенную модель оценивания учителем, могут быть использованы для проверки вероятности того, что учитель отклонился от модели оценивания, чтобы выявить потенциальные несоответствия или аномалии. Четвертое условие должно заключаться в том, что система ИИ предназначена для выполнения задачи, которая является лишь подготовительным этапом перед проведением оценки, соответствующей целям систем ИИ, перечисленных в приложении к настоящему Регламенту, тем самым значительно снижая возможное влияние выходных данных системы с точки зрения риска для оценки. Это условие распространяется, inter alia, на интеллектуальные решения для работы с файлами, которые включают в себя различные функции, такие как индексирование, поиск, обработку текста и речи или привязку данных к другим источникам данных, или системы ИИ, используемые для перевода исходных документов. В любом случае, системы ИИ, используемые в случаях с высокой степенью риска, перечисленных в приложении к настоящему Регламенту, должны рассматриваться как представляющие значительный риск причинения вреда здоровью, безопасности или основным правам, если система ИИ подразумевает формирование профиля в значении пункта (4) Статьи 4 Регламента (ЕС) 2016/679, или пункта (4) Статьи 3 Директивы (ЕС) 2016/680, или пункта (5) Статьи 3 Регламента (ЕС) 2018/1725. Для обеспечения прослеживаемости и прозрачности поставщик, который считает, что система ИИ не представляет высокой степени риска на основании вышеуказанных условий, должен подготовить документацию по оценке до того, как указанная система будет размещена на рынке или введена в эксплуатацию, и должен предоставить указанную документацию национальным компетентным органам по запросу. Указанный поставщик обязан зарегистрировать систему ИИ в базе данных ЕС, созданной в соответствии с настоящим Регламентом. С целью предоставления дальнейших указаний по практическому выполнению условий, при которых системы ИИ, перечисленные в приложении к настоящему Регламенту, в исключительных случаях не представляют высокую степень риска, Европейская Комиссия, после консультаций с Советом, должна предоставить руководство, определяющее указанное практическое выполнение, дополненное полным перечнем практических примеров случаев использования систем ИИ, которые относятся к категориям высокой степени риска, и случаев использования, которые таковыми не являются.

(54) Поскольку биометрические данные представляют собой особую категорию персональных данных, целесообразно отнести к категории высокой степени риска несколько случаев критического использования биометрических систем в той мере, в которой их использование разрешено соответствующим законодательством Союза и национальным законодательством. Технические неточности систем ИИ, предназначенных для дистанционной биометрической идентификации физических лиц, могут привести к необъективным результатам и вызвать дискриминационные последствия. Риск таких необъективных результатов и дискриминационных последствий особенно актуален в отношении возраста, этнической принадлежности, расы, пола или инвалидности. Следовательно, системы дистанционной биометрической идентификации следует отнести к категории высокой степени риска с учетом тех рисков, которые они представляют. Такая классификация исключает системы ИИ, предназначенные для использования в целях биометрической верификации, включая проверку личности, единственной целью которой является подтверждение того, что конкретное физическое лицо является тем лицом, за которое оно себя выдает, и подтверждение личности физического лица с единственной целью получения доступа к услуге, разблокировки устройства или получения безопасного доступа в помещения. Помимо этого, системы ИИ, предназначенные для использования в целях биометрической категоризации в соответствии с конфиденциальными признаками или характеристиками, охраняемыми согласно Статье 9(1) Регламента (ЕС) 2016/679, на основе биометрических данных, в той мере, в какой они не запрещены настоящим Регламентом, и системы распознавания эмоций, которые не запрещены настоящим Регламентом, должны быть отнесены к категории высокой степени риска. Биометрические системы, которые предназначены для использования исключительно в целях обеспечения кибербезопасности и защиты персональных данных, не следует рассматривать как системы ИИ с высокой степенью риска.

(55) В том, что касается управления и эксплуатации критически важной инфраструктуры, целесообразно отнести к категории высокой степени риска системы ИИ, предназначенные для использования в качестве компонентов обеспечения безопасности при управлении и эксплуатации критически важной цифровой инфраструктуры, как указано в пункте (8) Приложения к Директиве (ЕС) 2022/2557, дорожного движения и водоснабжения, газоснабжения, отопления и электроснабжения, поскольку их отказ или неправильное функционирование может подвергнуть риску жизнь и здоровье большого количества людей и привести к значительным нарушениям в обычном осуществлении социально-экономической деятельности. Компоненты обеспечения безопасности критически важной инфраструктуры, включая критически важную цифровую инфраструктуру, представляют собой системы, используемые непосредственно для защиты физической целостности критически важной инфраструктуры или здоровья и безопасности людей и имущества, но которые не являются необходимыми для функционирования системы. Отказ или неправильное функционирование таких компонентов может напрямую привести к угрозе физической целостности критически важной инфраструктуры и, следовательно, к угрозе здоровью и безопасности людей и имущества. Компоненты, предназначенные исключительно для целей кибербезопасности, не должны квалифицироваться в качестве компонентов обеспечения безопасности. Примерами компонентов обеспечения безопасности такой критически важной инфраструктуры могут служить системы контроля давления воды или системы управления пожарной сигнализацией в центрах облачных вычислений.

(56) Внедрение систем ИИ в образовании важно для продвижения высококачественного цифрового образования и профессиональной подготовки и позволяет всем учащимся и преподавателям приобретать и распространять необходимые цифровые навыки и компетенции, включая медиаграмотность и критическое мышление, для активного участия в экономике, обществе и демократических процессах. Однако системы ИИ, используемые в сфере образования или профессионального обучения, в частности, для определения доступа или допуска, для распределения людей в учебные заведения и учреждения профессионального обучения или по образовательным программам на всех уровнях, для оценивания результатов обучения людей, для оценивания соответствующего уровня образования отдельного человека и существенного влияния на уровень образования и профессионального обучения, к которым физические лица смогут получить доступ, или для мониторинга и выявления запрещенного поведения учащихся во время тестов, должны быть отнесены к системам ИИ с высокой степенью риска, поскольку они могут определять образовательный и профессиональный путь человека и, следовательно, могут влиять на его способность обеспечивать себя средствами к существованию. При неправильной разработке и использовании такие системы могут быть особенно навязчивыми и могут нарушать право на образование и профессиональное обучение, а также право не подвергаться дискриминации и поддерживать исторические формы дискриминации, например, в отношении женщин, определенных возрастных групп, инвалидов или лиц определенного расового или этнического происхождения или сексуальной ориентации.

(57) Системы ИИ, используемые в сфере занятости, управления работниками и доступа к самозанятости, в частности, для найма и отбора лиц, для принятия решений, влияющих на условия трудовых отношений, продвижения по службе и расторжения трудовых договорных отношений, для распределения задач на основе индивидуального поведения, личных качеств или характеристик и для мониторинга или оценки лиц, состоящих в трудовых договорных отношениях, также должны быть отнесены к категории с высокой степенью риска, поскольку указанные системы могут оказать заметное влияние на будущие карьерные перспективы, средства к существованию указанных лиц и права трудящихся. Соответствующие трудовые договорные отношения должны целенаправленно охватывать работников и лиц, предоставляющих услуги через платформы согласно Рабочей программе Европейской Комиссии на 2021 г. На протяжении всего процесса привлечения персонала, а также при оценке, продвижении по службе или удержании лиц в трудовых договорных отношениях, такие системы могут поддерживать исторические формы дискриминации, например, в отношении женщин, определенных возрастных групп, инвалидов или лиц определенного расового или этнического происхождения или сексуальной ориентации. Системы ИИ, используемые для мониторинга эффективности работы и поведения указанных лиц, также могут нарушать их основные права на защиту данных и неприкосновенность частной жизни.

(58) Еще одной областью, в которой использование систем ИИ заслуживает особого внимания, является доступ к некоторым важным частным и государственным услугам и преимуществам, необходимым людям для полноценного участия в жизни общества или повышения своего уровня жизни, и пользование такими услугами. В частности, физические лица, обращающиеся за получением основных пособий и услуг по государственному социальному обеспечению или получающие их от государственных органов, а именно медицинских услуг, пособий по социальному обеспечению, социальных услуг, обеспечивающих защиту в таких случаях, как материнство, болезни, несчастные случаи на производстве, иждивенчество или старость, потеря работы, а также социальных и жилищных субсидий, как правило, зависят от указанных льгот и услуг и находятся в уязвимом положении по отношению к ответственным органам власти. Если системы ИИ используются для определения того, следует ли органам власти предоставлять такие льготы и услуги, отказывать в них, сокращать их размер, отменять или истребовать обратно, включая вопрос о том, имеют ли бенефициары законное право на такие льготы или услуги, указанные системы могут оказать существенное влияние на средства к существованию людей и могут нарушать их основные права, такие как право на социальное обеспечение, недискриминацию, уважением человеческого достоинства или эффективное средство правовой защиты и, следовательно, должны быть отнесены к категории с высокой степенью риска. Тем не менее, настоящий Регламент не должен препятствовать разработке и использованию инновационных подходов в государственном управлении, которые выиграли бы от более широкого использования совместимых и безопасных систем ИИ, при условии, что указанные системы не влекут за собой высокой степени риска для юридических и физических лиц. Помимо этого, системы ИИ, используемые для оценки кредитного рейтинга или кредитоспособности физических лиц, следует классифицировать как системы ИИ с высокой степенью риска, поскольку они определяют доступ указанных лиц к финансовым ресурсам или основным услугам, таким как жилищные услуги, услуги по снабжению электроэнергией и телекоммуникационные услуги. Системы ИИ, используемые для указанных целей, могут привести к дискриминации между отдельными лицами или группами и могут поддерживать исторические формы дискриминации, например, по признаку расового или этнического происхождения, пола, инвалидности, возраста или сексуальной ориентации, или могут создавать новые формы дискриминационного воздействия. Однако системы ИИ, предусмотренные законодательством Союза для выявления мошенничества при предоставлении финансовых услуг и в пруденциальных целях для расчета требований к достаточности капитала кредитных учреждений и страховых компаний, не должны рассматриваться как системы с высокой степенью риска в соответствии с настоящим Регламентом. Помимо этого, системы ИИ, предназначенные для оценки рисков и установления цен в отношении физических лиц при страховании здоровья и жизни, также могут оказывать значительное влияние на средства к существованию людей и, если они должным образом не спроектированы, не разработаны и не используются, могут нарушать их основные права и приводить к серьезным последствиям для жизни и здоровья людей, включая финансовую изоляцию и дискриминацию. В конечном счете, системы ИИ, используемые для оценки и классификации экстренных вызовов физических лиц или для отправки или установления приоритета при отправке служб экстренного реагирования, в том числе полиции, пожарных и медицинской помощи, включая системы сортировки пациентов скорой медицинской помощи, должны быть также отнесены к категории с высокой степенью риска, поскольку они принимают решения в очень критических ситуациях для жизни и здоровья людей и их имущества.

(59) Учитывая роль и ответственность правоохранительных органов, их деятельность, связанная с определенными вариантами использования систем ИИ, характеризуется значительным дисбалансом сил и может привести к слежке, аресту или лишению свободы физического лица, а также к другим негативным последствиям для основных прав, гарантированных Хартией. В частности, если система ИИ не обучена работе с достоверными данными, не отвечает адекватным требованиям с точки зрения ее производительности, точности или надежности, или не была должным образом спроектирована и протестирована перед выпуском на рынок или иным образом введена в эксплуатацию, она может специально выделять людей дискриминационным или иным неправильным или несправедливым образом. Помимо этого, осуществление важных процессуальных прав, таких как право на эффективное средство правовой защиты и справедливое судебное разбирательство, а также право на защиту и презумпцию невиновности, может быть затруднено, в частности, в тех случаях, когда такие системы ИИ недостаточно прозрачны, объяснимы и задокументированы. Поэтому ряд систем ИИ, предназначенных для использования в правоохранительных органах, где точность, надежность и прозрачность особенно важны для предотвращения неблагоприятных последствий, сохранения общественного доверия и обеспечения подотчетности и эффективной работы по восстановлению нарушенных прав, целесообразно отнести к категории с высокой степенью риска, поскольку их использование разрешено соответствующим законодательством Союза и национальным законодательством. Учитывая характер деятельности и связанные с ней риски, указанные системы ИИ с высокой степенью риска должны включать, в частности, системы ИИ, предназначенные для использования правоохранительными органами или от их имени или учреждениями, органами, службами или агентствами Союза в поддержку деятельности правоохранительных органов для оценки риска того, что физическое лицо может стать жертвой уголовных преступлений, например, полиграф и аналогичные средства для оценки надежности доказательств в ходе расследования или судебного преследования уголовных преступлений, и в той мере, в какой это не запрещено настоящим Регламентом, для оценки риска совершения физическим лицом правонарушения или повторных правонарушений не только на основе составления профиля физических лиц или оценки личностных качеств и характеристик или преступного поведения физических лиц или групп в прошлом, но и на основе составления профиля в ходе выявления, расследования или судебного преследования уголовных преступлений. Системы ИИ, специально предназначенные для использования в административном производстве налоговыми и таможенными органами, а также органами финансовой разведки, выполняющими административные задачи по анализу информации в соответствии с законодательством Союза о контроле за отмыванием денег, не должны классифицироваться как системы ИИ с высокой степенью риска, используемые правоохранительными органами в целях предотвращения, выявления, расследования и судебного преследования уголовных преступлений. Использование инструментов ИИ правоохранительными органами и другими соответствующими органами власти не должно становиться фактором неравенства или изоляции. Не следует игнорировать влияние использования инструментов ИИ на права подозреваемых на защиту, в частности, трудности с получением значимой информации о функционировании указанных систем и, как следствие, трудности с оспариванием их результатов в суде, в частности, физическими лицами, находящимися под следствием.

(60) Системы ИИ, используемые в сфере миграции, предоставления убежища и пограничного контроля, влияют на людей, которые часто находятся в особенно уязвимом положении и зависят от результатов действия компетентных государственных органов. Поэтому точность, недискриминационный характер и прозрачность систем ИИ, используемых в указанных контекстах, особенно важны для обеспечения соблюдения основных прав пострадавших лиц, в частности их прав на свободное передвижение, недискриминацию, защиту частной жизни и персональных данных, международную защиту и надлежащее управление. Следовательно, системы ИИ, предназначенные для использования в виде полиграфов или аналогичных инструментов компетентными государственными органами или от их имени или учреждениями, органами, службами или агентствами Союза, на которые возложены задачи в области миграции, предоставления убежища и пограничного контроля, целесообразно классифицировать как системы с высокой степенью риска, поскольку их использование разрешено соответствующим законодательством Союза и национальным законодательством, для оценки определенных рисков, связанных с въездом физических лиц на территорию государства-члена ЕС или обращением за визой или убежищем, для оказания помощи компетентным государственным органам в проведении проверки, включая соответствующую оценку надежности доказательств, заявлений о предоставлении убежища, виз и видов на жительство и связанных с ними жалоб с целью установления соответствия физических лиц, ходатайствующих о предоставлении статуса, с целью выявления, признания или идентификации физических лиц в контексте миграции, предоставления убежища и управления пограничным контролем, за исключением проверки проездных документов. Системы ИИ в области миграции, предоставления убежища и управления пограничным контролем, на которые распространяется действие настоящего Регламента, должны соответствовать релевантным процессуальным требованиям, установленным Регламентом (ЕС) 810/2009 Европейского Парламента и Совета ЕС <*>, Директивой 2013/32/ЕС Европейского Парламента и Совета ЕС <**> и другим соответствующим законодательством Союза. Использование систем ИИ в сфере миграции, предоставления убежища и управления пограничным контролем ни при каких обстоятельствах не должно использоваться государствами-членами ЕС или учреждениями, органами, службами и агентствами Союза в качестве средства обхода их международных обязательств по Конвенции ООН о статусе беженцев, принятой в Женеве 28 июля 1951 г., с учетом изменений, внесенных Протоколом от 31 января 1967 г. Они также не должны использоваться для того, чтобы каким-либо образом нарушать принцип невысылки или чтобы отказать в безопасных и эффективных законных путях въезда на территорию Союза, включая право на международную защиту.

---

<*> Регламент (ЕС) 810/2009 Европейского Парламента и Совета ЕС от 13 июля 2009 г. об учреждении Визового Кодекса Сообщества (Визовый кодекс) (ОЖ № L 243, 15.09.2009, стр. 1).

<**> Директива 2013/32/ЕС Европейского Парламента и Совета ЕС от 26 июня 2013 г. об общих процедурах для предоставления и отмены международной защиты (ОЖ № L 180, 29.06.2013, стр. 60).

(61) Некоторые системы ИИ, предназначенные для отправления правосудия и демократических процессов, следует отнести к категории повышенной степени риска, учитывая их потенциально значительное воздействие на демократию, верховенство права, свободы личности, а также право на эффективное средство правовой защиты и справедливое судебное разбирательство. В частности, для устранения рисков, связанных с потенциальной предвзятостью, ошибками и непрозрачностью, целесообразно квалифицировать системы ИИ с высокой степенью риска, предназначенные для использования судебными органами или от их имени для оказания помощи судебным органам в исследовании и интерпретации фактов и законодательства, а также в применении законодательства к конкретному набору фактов. Системы ИИ, предназначенные для использования органами внесудебного разрешения споров в указанных целях, также следует рассматривать как системы с высокой степенью риска, когда результаты альтернативных процедур разрешения споров имеют юридические последствия для сторон. Использование инструментов ИИ может укрепить полномочия судей по принятию решений или судебную независимость, но не должно подменять их: принятие окончательного решения должно оставаться в ведении человека. Однако классификация систем ИИ в качестве систем с высокой степенью риска не должна распространяться на системы ИИ, предназначенные для чисто вспомогательной административной деятельности, которая не влияет на фактическое отправление правосудия в отдельных случаях, таких как анонимизация или псевдонимизация судебных решений, документов или данных, коммуникации между персоналом, выполнения административных задач.

(62) Без ущерба правилам, предусмотренным в Регламенте (ЕС) 2024/900 Европейского Парламента и Совета ЕС <*>, и в целях устранения рисков чрезмерного вмешательства извне в избирательное право, закрепленное в Статье 39 Хартии, и неблагоприятных последствий для демократии и верховенства закона, системы ИИ, предназначенные для использования в целях влияния на результаты выборов или референдума или на электоральное поведение физических лиц при осуществлении ими своего права голоса на выборах или референдумах, должны быть классифицированы как системы ИИ с высокой степенью риска, за исключением систем ИИ, с результатами работы которых физические лица непосредственно не сталкиваются, таких как инструменты, используемые для организации, оптимизации и структурирования политических кампаний с административной и логистической точек зрения.

---

<*> Регламент (ЕС) 2024/900 Европейского Парламента и Совета ЕС от 13 марта 2024 г. о прозрачности и адресном характере политической рекламы (ОЖ № L, 2024/900, 20.03.2024, ELI: http://data.europa.eu/eli/reg/2024/900/oj).

(63) Тот факт, что система ИИ классифицируется как система ИИ с высокой степенью риска в соответствии с настоящим Регламентом, не должен толковаться как указывающий на то, что использование системы является законным в соответствии с другими актами законодательства Союза или с национальным законодательством, совместимым с законодательством Союза, например, о защите персональных данных, об использовании полиграфов или аналогичных инструментов или других систем для выявления эмоционального состояния физических лиц. Любое такое использование должно по-прежнему осуществляться исключительно в соответствии с применимыми требованиями, вытекающими из Хартии и применимых актов вторичного законодательства Союза и национального законодательства. Настоящий Регламент не следует понимать как предусматривающий правовые основания для обработки персональных данных, включая специальные категории персональных данных, при необходимости, если в настоящем Регламенте специально не предусмотрено иное.

(64) Чтобы снизить риски, связанные с размещением на рынке или вводом в эксплуатацию систем ИИ с высокой степенью риска, и обеспечить высокий уровень надежности, к системам ИИ с высокой степенью риска должны применяться определенные обязательные требования с учетом целевого назначения и контекста использования системы ИИ и в соответствии с системой управления рисками, которая должна быть установлена поставщиком. Меры, принимаемые поставщиками для соблюдения обязательных требований настоящего Регламента, должны учитывать общепризнанный уровень развития науки и техники в области ИИ, быть соразмерными и эффективными для достижения целей настоящего Регламента. Исходя из новой законодательной базы, как разъясняется в уведомлении Европейской Комиссии «Синее руководство» по внедрению правил ЕС в отношении продуктов до 2022 г.», общее правило заключается в том, что к одному продукту может быть применимо более одного законодательного акта законодательства Союза о гармонизации, поскольку обеспечение его доступа или ввод в эксплуатацию может иметь место только в том случае, если продукт соответствует всем применимым законодательным актам Союза о гармонизации. Опасности, которые представляют системы ИИ, на которые распространяются требования настоящего Регламента, касаются различных аспектов, отличных от существующего законодательства Союза о гармонизации, и поэтому требования настоящего Регламента будут дополнять существующие законодательные акты Союза. Например, машины и механизмы или медицинские изделия, оснащенные системой ИИ, могут представлять риски, не предусмотренные основными требованиями по охране труда и технике безопасности, изложенными в соответствующем гармонизированном законодательстве Союза, поскольку указанное отраслевое законодательство не регулирует риски, характерные для систем ИИ. Это требует одновременного и взаимодополняющего применения различных законодательных актов. Для того чтобы обеспечить согласованность и избежать ненужного административного бремени и ненужных затрат, поставщики продукта, содержащего одну или несколько систем ИИ с высокой степенью риска, к которым применяются требования настоящего Регламента и законодательства Союза о гармонизации, основанного на новой законодательной базе и перечисленного в приложении к настоящему Регламенту, должны иметь гибкость в принятии оперативных решений о том, как оптимальным образом обеспечить соответствие продукта, содержащего одну или несколько систем ИИ, всем применимым требованиям указанного гармонизированного законодательства Союза. Такая гибкость может означать, например, решение поставщика интегрировать часть необходимых процессов тестирования и отчетности, информации и документации, требуемых в соответствии с настоящим Регламентом, в уже существующую документацию и процедуры, требуемые в соответствии с действующими законодательными актами Союза о гармонизации, основанными на новой законодательной базе и перечисленными в приложении к настоящему Регламенту. Это никоим образом не должно подрывать обязательства поставщика по соблюдению всех применимых требований.

(65) Система управления рисками должна состоять из непрерывного, повторяющегося процесса, который планируется и выполняется на протяжении всего срока эксплуатации системы ИИ с высокой степенью риска. Указанный процесс должен быть направлен на выявление и снижение соответствующих рисков систем ИИ для здоровья, безопасности и основных прав. Система управления рисками должна регулярно пересматриваться и обновляться для обеспечения ее постоянной эффективности, а также обоснования и документирования любых важных решений и действий, принимаемых в соответствии с настоящим Регламентом. Указанный процесс должен гарантировать, что поставщик идентифицирует риски или неблагоприятные воздействия и реализует меры по смягчению известных и разумно прогнозируемых рисков систем ИИ для здоровья, безопасности и основных прав в свете их целевого назначения и обоснованно прогнозируемого неправильного применения, включая возможные риски, возникающие в результате взаимодействия системы ИИ со средой, в рамках которой она функционирует. Система управления рисками должна принимать наиболее подходящие меры по управлению рисками в свете современного состояния науки и техники в области ИИ. При определении наиболее подходящих мер по управлению рисками поставщик должен задокументировать и объяснить сделанный выбор и, при необходимости, привлечь экспертов и внешние заинтересованные стороны. При выявлении обоснованно прогнозируемого неправильного применения систем ИИ с высокой степенью риска поставщик должен учитывать виды использования систем ИИ, которые, хотя на них непосредственно и не распространяется целевое назначение и они не предусмотрены в инструкции по эксплуатации, тем не менее, как можно разумно ожидать, будут результатом легко предсказуемого поведения человека в контексте конкретных характеристик и использования конкретной системы ИИ. Любые известные или прогнозируемые обстоятельства, связанные с использованием системы ИИ с высокой степенью риска в соответствии с ее целевым назначением или в условиях обоснованно прогнозируемого неправильного применения, которые могут привести к угрозам здоровью и безопасности или основным правам, должны быть включены в инструкции по эксплуатации, предоставляемые поставщиком. Это делается для того, чтобы эксплуатирующая организация была осведомлена о них и учитывала их при использовании системы ИИ с высокой степенью риска. Выявление и внедрение мер по снижению рисков прогнозируемого неправильного применения в соответствии с настоящим Регламентом не должно требовать от поставщика специального дополнительного обучения в отношении системы ИИ с высокой степенью риска для устранения прогнозируемого неправильного применения. Однако поставщикам рекомендуется рассмотреть такие дополнительные меры по обучению для смягчения последствий обоснованно прогнозируемого неправильного применения, если это необходимо и уместно.

(66) К системам ИИ с высокой степенью риска должны применяться требования в отношении управления рисками, качества и актуальности используемых наборов данных, технической документации и ведения записей, прозрачности и предоставления информации эксплуатирующим организациям, контроля со стороны человека, а также надежности, точности и кибербезопасности. Указанные требования необходимы для эффективного снижения рисков для здоровья, безопасности и основных прав. Поскольку других, менее ограничительных в торговле мер в разумных пределах не существует, указанные требования не являются неоправданными ограничениями в торговле.

(67) Достоверные данные и доступ к достоверным данным играют жизненно важную роль в обеспечении структуры и производительности многих систем ИИ, особенно когда используются методы, включающие обучение моделей, в целях гарантии того, что система ИИ с высокой степенью риска функционирует так, как задумано, и безопасно и это не становится источником дискриминации, запрещенной законодательством Союза. Наборы достоверных данных для обучения, валидации и тестирования требуют внедрения соответствующих методов управления данными. Наборы данных для обучения, валидации и тестирования, включая этикетки, должны быть релевантными, в достаточной степени репрезентативными и в максимально возможной степени свободными от ошибок и полными с учетом целевого назначения системы. В целях содействия соблюдению законодательства Союза о защите данных, такого как Регламент (ЕС) 2016/679, методы управления данными должны включать, в случае персональных данных, прозрачность в отношении первоначальной цели сбора данных. Наборы данных также должны обладать соответствующими статистическими свойствами, в том числе в отношении лиц или групп лиц, в отношении которых предполагается использовать систему ИИ с высокой степенью риска, уделяя особое внимание уменьшению возможных искажений в наборах данных, которые могут повлиять на здоровье и безопасность людей, оказывают негативное воздействие на основные права или ведут к дискриминации, запрещенной законодательством Союза, особенно в тех случаях, когда выходные данные влияют на исходные данные для будущих операций (петли обратной связи). Например, искажения могут быть присущи базовым наборам данных, особенно если используются данные за прошедшие периоды, или сгенерированные данные при внедрении систем в реальных условиях. На результаты, предоставляемые системами ИИ, могут влиять такие характерные искажения, которые склонны постепенно усиливаться и тем самым сохранять и усугублять существующую дискриминацию, в частности в отношении лиц, принадлежащих к определенным уязвимым группам, включая расовые или этнические группы. Требование к тому, чтобы наборы данных были максимально полными и не содержали ошибок, не должно влиять на использование методов сохранения конфиденциальности в контексте разработки и тестирования систем ИИ. В частности, наборы данных должны учитывать в той мере, в какой это требуется в соответствии с их целевым назначением, особенности, характеристики или элементы, характерные для определенных географических, контекстуальных, поведенческих или функциональных условий, в которых предполагается использовать систему ИИ. Требования, связанные с управлением данными, могут быть соблюдены путем обращения к третьим сторонам, которые предлагают сертифицированные услуги по обеспечению соблюдения требований, включая проверку управления данными, целостности наборов данных, а также методов обучения, валидации и тестирования данных, в той мере, в какой обеспечивается соответствие требованиям к данным настоящего Регламента.

(68) Для разработки и оценки систем ИИ с высокой степенью риска определенные участники, такие как поставщики, нотифицированные органы и другие соответствующие организации, например Европейские центры цифровых инноваций, испытательные и экспериментальные базы, а также исследователи, должны иметь доступ к наборам достоверных данных и использовать их в сферах деятельности тех участников, которые связаны с настоящим Регламентом. Европейские единые пространства данных, установленные Европейской Комиссией, и упрощение обмена данными между предприятиями и правительством в интересах общества будут способствовать обеспечению надежного, подотчетного и недискриминационного подхода к достоверным данным для обучения, валидации и тестирования систем ИИ. Например, в области здравоохранения Европейское пространство данных будет способствовать недискриминационному доступу к медицинским данным и обучению алгоритмов ИИ на основе указанных наборов данных, с сохранением конфиденциальности, безопасным, своевременным, прозрачным и надежным образом и при надлежащем институциональном управлении. Соответствующие компетентные органы, в том числе отраслевые, предоставляющие или поддерживающие доступ к данным, также могут способствовать предоставлению достоверных данных для обучения, валидации и тестирования систем ИИ.

(69) Право на неприкосновенность частной жизни и защиту персональных данных должно быть гарантировано на протяжении всего срока эксплуатации системы ИИ. В связи с этим при обработке персональных данных применяются принципы минимизации данных и защиты данных по определению и по умолчанию, изложенные в законодательстве Союза о защите данных. Меры, принимаемые поставщиками для обеспечения соблюдения указанных принципов, могут включать не только анонимизацию и шифрование, но и использование технологий, которые позволяют применять алгоритмы к данным и позволяют обучать системы ИИ без передачи между сторонами или копирования самих необработанных или структурированных данных, без ущерба требованиям, предъявляемым управлению данными, предусмотренному настоящим Регламентом.

(70) В целях защиты прав других лиц от дискриминации, которая может возникнуть в результате необъективности в системах ИИ, поставщики, в исключительных случаях, в той мере, в какой это строго необходимо для обеспечения обнаружения и исправления необъективности в отношении систем ИИ с высокой степенью риска, при соблюдении соответствующих гарантий основных прав и свобод физических лиц и соблюдении всех применимых условий, изложенных в настоящем Регламенте, в дополнение к условиям, установленным в Регламентах (ЕС) 2016/679 и (ЕС) 2018/1725 и Директиве (ЕС) 2016/680, должны иметь возможность обрабатывать также особые категории персональных данных, представляющих значительный общественный интерес в значении пункта (g) Статьи 9(2) Регламента (ЕС) 2016/679 и пункта (g) Статьи 10(2) Регламента (ЕС) 2018/1725.

(71) Наличие понятной информации о том, как были разработаны системы ИИ с высокой степенью риска и как они функционируют на протяжении всего срока службы, имеет большое значение для обеспечения прослеживаемости указанных систем, проверки соответствия требованиям настоящего Регламента, а также мониторинга их функционирования и постпродажного мониторинга. Это требует ведения учета и наличия технической документации, содержащей информацию, необходимую для оценки соответствия системы ИИ релевантным требованиям и облегчения постпродажного мониторинга. Такая информация должна включать общие характеристики, возможности и ограничения системы, алгоритмы, данные, используемые процессы обучения, тестирования и валидации, а также документацию по соответствующей системе управления рисками, представленную в четкой и всеобъемлющей форме. Техническая документация должна постоянно обновляться на протяжении всего срока службы системы ИИ. Кроме этого, системы ИИ с высокой степенью риска должны технически обеспечивать автоматическую регистрацию событий с помощью журналов событий в течение всего срока службы системы.

(72) Чтобы решить проблемы, связанные с непрозрачностью и сложностью определенных систем ИИ, и помочь эксплуатирующим организациям выполнять свои обязательства в соответствии с настоящим Регламентом, необходимо обеспечить прозрачность систем ИИ с высокой степенью риска до их размещения на рынке или ввода в эксплуатацию. Системы ИИ с высокой степенью риска должны быть спроектированы таким образом, чтобы эксплуатирующие организации могли понять, как работает система ИИ, оценить ее функциональность и осознать ее сильные и слабые стороны. Системы ИИ с высокой степенью риска должны сопровождаться соответствующей информацией в виде инструкций по эксплуатации. Такая информация должна включать характеристики, возможности и ограничения производительности системы ИИ. Сюда может относиться информация о возможных известных и прогнозируемых обстоятельствах, связанных с использованием системы ИИ с высокой степенью риска, включая действия эксплуатирующей организации, которые могут повлиять на поведение и производительность системы, при которых система ИИ может привести к рискам для здоровья, безопасности и основных прав, о заранее определенных изменениях, которые оцениваются поставщиком на предмет соответствия, а также о соответствующих мерах по контролю со стороны человека, включая меры по содействию интерпретации выходных данных системы ИИ эксплуатирующими организациями. Прозрачность, включая прилагаемые инструкции по эксплуатации, должна помочь эксплуатирующим организациям в использовании системы и способствовать принятию ими обоснованных решений. Эксплуатирующие организации, inter alia, должны иметь больше возможностей для правильного выбора системы, которую они намерены использовать, в свете применимых к ним обязательств, должны быть информированы о предполагаемых и недопустимых вариантах использования и должны использовать систему ИИ правильным и надлежащим образом. Чтобы повысить разборчивость и доступность информации, содержащейся в инструкциях по эксплуатации, в соответствующих случаях следует включать наглядные примеры, например, об ограничениях, а также о предполагаемых и недопустимых вариантах использования системы ИИ. Поставщики должны гарантировать, что вся документация, включая инструкции по эксплуатации, содержат значимую, всеобъемлющую, доступную и понятную информацию, с учетом потребностей и предполагаемых знаний целевых эксплуатирующих организаций. Инструкции по эксплуатации должны быть доступны на языке, который может быть легко понятен целевым эксплуатирующим организациям, как это установлено соответствующим государством-членом ЕС.

(73) Системы ИИ с высокой степенью риска должны проектироваться и разрабатываться таким образом, чтобы физические лица могли контролировать их функционирование, обеспечивать их использование по назначению и устранять их воздействие на протяжении всего срока эксплуатации системы. С этой целью поставщик системы должен определить соответствующие меры контроля со стороны человека до ее размещения на рынке или ввода в эксплуатацию. В частности, в соответствующих случаях, такие меры должны гарантировать, что система подвержена встроенным эксплуатационным ограничениям, которые не могут быть преодолены самой системой, и реагирует на действия человека-оператора, а также что физические лица, которым предоставлен контроль со стороны человека, обладают необходимой компетенцией, подготовкой и полномочиями для выполнения указанной роли. Также важно, при необходимости, гарантировать, что системы ИИ с высокой степенью риска включают механизмы для руководства и информирования физического лица, которому предоставлен контроль со стороны человека, для принятия обоснованных решений о том, следует ли вмешаться, когда и каким образом, с тем чтобы избежать негативных последствий или рисков или остановить систему, если она не обеспечивает функциональное назначение. Учитывая значительные последствия для людей в случае неправильного сопоставления с помощью определенных систем биометрической идентификации, целесообразно предусмотреть повышенные требования к контролю со стороны человека для указанных систем, с тем чтобы эксплуатирующая организация не могла принимать никаких мер или решений на основе идентификации, полученной с помощью системы, если только это не было отдельно проверено и подтверждено как минимум двумя физическими лицами. Указанные лица могут быть представителями одной или нескольких организаций и включать в себя лицо, управляющее системой или использующее ее. Настоящее требование не должно создавать ненужной нагрузки или задержек, и может быть достаточно, чтобы отдельные проверки, проведенные разными лицами, автоматически записывались в журналы событий, генерируемые системой. Учитывая специфику областей правоприменения, миграции, пограничного контроля и предоставления убежища, настоящее требование не должно применяться в тех случаях, когда законодательство Союза или национальное законодательство считают применение указанного требования непропорциональным.

(74) Системы ИИ с высокой степенью риска должны стабильно функционировать на протяжении всего срока их эксплуатации и соответствовать надлежащему уровню точности, надежности и кибербезопасности в свете их целевого назначения и в соответствии с общепризнанным уровнем развития науки и техники. Европейской Комиссии, соответствующим организациям и заинтересованным сторонам рекомендуется должным образом рассмотреть вопрос о снижении рисков и о негативном воздействии системы ИИ. Ожидаемый уровень показателей производительности должен быть указан в прилагаемых инструкциях по эксплуатации. Поставщикам настоятельно рекомендуется сообщать указанную информацию эксплуатирующим организациям в ясной и легко понятной форме, без двусмысленностей или вводящих в заблуждение заявлений. Законодательство Союза о законодательной метрологии, включая Директивы 2014/31/ЕС <*> и 2014/32/ЕС <**> Европейского Парламента и Совета ЕС, направлено на обеспечение точности измерений и содействие прозрачности и честности коммерческих сделок. В данном контексте, в сотрудничестве с соответствующими заинтересованными сторонами и организациями, такими как органы по метрологии и сравнительному анализу показателей, Европейская Комиссия должна, при необходимости, поощрять разработку критериев и методик измерения для систем ИИ. При этом Европейская Комиссия должна принять к сведению и сотрудничать с международными партнерами в области метрологии и соответствующих показателей измерений, относящихся к ИИ.

---

<*> Директива 2014/31/ЕС Европейского Парламента и Совета ЕС от 26 февраля 2014 г. о гармонизации законодательства государств-членов ЕС, касающихся выпуска на рынок неавтоматических весоизмерительных приборов (ОЖ № L 96, 29.3.2014, стр. 107).

<**> Директива 2014/32/ЕС Европейского Парламента и Совета ЕС от 26 февраля 2014 г. о гармонизации законодательства государств-членов ЕС, касающихся выпуска на рынок средств измерения (ОЖ № L 96, 29.3.2014, стр. 149).

(75) Техническая надежность является основным требованием к системам ИИ с высокой степенью риска. Они должны быть отказоустойчивыми в отношении вредного или иным образом нежелательного поведения, которое может являться следствием ограничений в системах или среде, в которой они функционируют (например, ошибок, сбоев, несовместимостей, нештатных ситуаций). Следовательно, необходимо принять технические и организационные меры для обеспечения надежности систем ИИ с высокой степенью риска, например, путем проектирования и разработки соответствующих технических решений для предотвращения или минимизации вредного или иного нежелательного поведения. Указанные технические решения могут включать, например, механизмы, позволяющие системе безопасно прерывать свою работу (отказоустойчивые планы) при наличии определенных аномалий или если работа происходит за пределами конкретных заранее определенных границ. Неспособность защитить от указанных рисков может привести к снижению безопасности или негативно сказаться на основных правах, например, вследствие ошибочных решений или неправильных или предвзятых результатов, генерируемых системой ИИ.

(76) Кибербезопасность играет решающую роль в обеспечении устойчивости систем ИИ к попыткам внести изменение в их использование, поведение, производительность или поставить под угрозу их защитные свойства со стороны третьих лиц, злонамеренно использующих уязвимости системы. Кибератаки на системы ИИ могут воздействовать на определенные ресурсы ИИ, такие как наборы обучающих данных (например, «отравление» данных) или обученные модели (например, состязательные атаки или выводы о принадлежности), или использовать уязвимости в цифровых ресурсах системы ИИ или основной ICT-инфраструктуре. Следовательно, для обеспечения уровня кибербезопасности, соответствующего рискам, поставщики систем ИИ с высокой степенью риска должны принимать надлежащие меры, такие как меры по контролю безопасности, также учитывая, в предусмотренных случаях, основную ICT-инфраструктуру.

(77) Без ущерба требованиям, связанным с надежностью и точностью, установленным в настоящем Регламенте, системы ИИ с высокой степенью риска, которые подпадают под сферу применения регламента Европейского Парламента и Совета ЕС о горизонтальных требованиях кибербезопасности для продукции с цифровыми элементами, в соответствии с указанным регламентом могут демонстрировать соответствие требованиям кибербезопасности настоящего Регламента путем выполнения основных требований в области кибербезопасности, установленных в указанном регламенте. Если системы ИИ с высокой степенью риска удовлетворяют основным требованиям регламента Европейского Парламента и Совета ЕС о горизонтальных требованиях кибербезопасности для продукции с цифровыми элементами, они должны считаться соответствующими требованиям к кибербезопасности, изложенным в настоящем Регламенте, в той мере, в какой выполнение указанных требований продемонстрировано в выданной согласно указанному регламенту декларации о соответствии нормативным требованиям ЕС или ее частях. В этой связи оценка рисков кибербезопасности, связанных с продуктом с цифровыми элементами, отнесенными к системе ИИ с высокой степенью риска согласно настоящему Регламенту, проводимая в соответствии с регламентом Европейского Парламента и Совета ЕС о горизонтальных требованиях кибербезопасности для продукции с цифровыми элементами, должна учитывать риски для устойчивости системы к угрозам кибербезопасности в отношении попыток неуполномоченных третьих лиц внести изменения в ее использование, поведение или производительность, включая определенные уязвимости ИИ, такие как «отравление» данных или состязательные атаки, а также, при необходимости, риски основным правам согласно требованиям настоящего Регламента.

(78) Процедура оценки соответствия, предусмотренная настоящим Регламентом, должна применяться в отношении основных требований к кибербезопасности продукта с цифровыми элементами, на которые распространяется регламент Европейского Парламента и Совета ЕС о горизонтальных требованиях кибербезопасности для продукции с цифровыми элементами и которые отнесены к системе ИИ с высокой степенью риска согласно настоящему Регламенту. Однако настоящее правило не должно вести к снижению необходимого уровня надежности критически важной продукции с цифровыми элементами, на которые распространяется регламент Европейского Парламента и Совета ЕС о горизонтальных требованиях кибербезопасности для продукции с цифровыми элементами. Следовательно, путем частичного отступления от настоящего правила, системы ИИ с высокой степенью риска, которые подпадают под сферу применения настоящего Регламента, а также квалифицируются как критически важные продукты с цифровыми элементами согласно регламенту Европейского Парламента и Совета ЕС о горизонтальных требованиях кибербезопасности для продукции с цифровыми элементами, в отношении которых применяется процедура оценки соответствия на основе внутреннего контроля согласно приложению к настоящему Регламенту, подпадают под действие положений об оценке соответствия, изложенных в регламенте Европейского Парламента и Совета ЕС о горизонтальных требованиях кибербезопасности для продукции с цифровыми элементами, в той мере, в какой это касается основных требований к кибербезопасности, предусмотренных указанным регламентом. В данном случае в отношении всех других аспектов, охватываемых настоящим Регламентом, должны применяться соответствующие положения об оценке соответствия на основе внутреннего контроля, изложенные в приложении к настоящему Регламенту. Основываясь на знаниях и опыте ENISA в области политики кибербезопасности и задачах, возложенных на ENISA в соответствии с Регламентом (ЕС) 2019/881 Европейского Парламента и Совета ЕС <*>, Европейская Комиссия должна сотрудничать с ENISA по вопросам, связанным с кибербезопасностью систем ИИ.

---

<*> Регламент (ЕС) 2019/881 Европейского Парламента и Совета ЕС от 17 апреля 2019 г. об Агентстве Европейского Союза по обеспечению кибербезопасности (ENISA) и сертификации кибербезопасности информационно-коммуникационных технологий, а также об отмене Регламента (ЕС) 526/2013 Акт о кибербезопасности) (ОЖ № L 151, 07.06.2019, стр. 15).

(79) Целесообразно, чтобы конкретное физическое или юридическое лицо, определенное в качестве поставщика, несло ответственность за размещение на рынке или ввод в эксплуатацию системы ИИ с высокой степенью риска, вне зависимости от того, является ли указанное физическое или юридическое лицо лицом, спроектировавшим или разработавшим систему.

(80) Как стороны, подписавшие Конвенцию ООН о правах инвалидов, Союз и государства-члены ЕС по закону обязаны защищать инвалидов от дискриминации и содействовать их равенству, гарантировать инвалидам доступ наравне с другими к информационно-коммуникационным технологиям и системам, а также обеспечивать уважение частной жизни инвалидов. Учитывая растущее значение и использование систем ИИ, применение универсальных принципов проектирования ко всем новым технологиям и услугам должно обеспечить полный и равный доступ для всех, кого технологии ИИ могут затронуть или кто использует их, включая инвалидов, таким образом, чтобы в полной мере учитывать присущее им достоинство и разнообразие. Таким образом, важно, чтобы поставщики обеспечивали полное соблюдение требований к доступности, включая Директиву (ЕС) 2016/2102 Европейского Парламента и Совета ЕС <*> и Директиву (ЕС) 2019/882. Поставщики должны гарантировать соответствие указанным требованиям при проектировании. Следовательно, необходимые меры должны быть максимально интегрированы в конструкцию системы ИИ с высокой степенью риска.

---

<*> Директива (ЕС) 2016/2102 Европейского Парламента и Совета ЕС от 26 октября 2016 г. о доступности веб-сайтов и мобильных приложений органов публичного сектора (ОЖ № L 327, 02.12.2016, стр. 1).

(81) Поставщик должен гарантировать наличие надежной системы менеджмента качества, обеспечивать выполнение требуемой процедуры оценки соответствия, подготовить релевантную документацию и внедрить устойчивую систему постпродажного мониторинга. Поставщики систем ИИ с высокой степенью риска, на которых распространяются обязательства в отношении систем менеджмента качества в рамках соответствующего отраслевого законодательства Союза, должны иметь возможность включить элементы системы менеджмента качества, предусмотренные в настоящем Регламенте, в существующую систему менеджмента качества, предусмотренную другим отраслевым законодательством Союза. Взаимодополняемость между настоящим Регламентом и действующим отраслевым законодательством Союза также должна учитываться в будущей деятельности по стандартизации или руководствах, принимаемых Европейской Комиссией. Государственные органы, которые вводят системы ИИ с высокой степенью риска в эксплуатацию для своего собственного использования, могут принять и имплементировать правила в отношении системы менеджмента качества в рамках системы менеджмента качества, принятой на национальном или региональном уровне, при необходимости, учитывая специфику отрасли, а также компетенцию и организацию соответствующего государственного органа.

(82) Для обеспечения соблюдения настоящего Регламента и создания равных условий для операторов, а также учитывая различные формы доступности цифровых продуктов, важно гарантировать, что при любых обстоятельствах лицо, учрежденное в Союзе, может предоставить органам власти всю необходимую информацию о соответствии системы ИИ. Следовательно, до предоставления систем ИИ в Союзе поставщики, учрежденные в третьих странах, по письменному предписанию должны назначить уполномоченного представителя, учрежденного в Союзе. Указанный уполномоченный представитель играет ключевую роль в обеспечении соответствия систем ИИ с высокой степенью риска, размещаемых на рынке или вводимых в эксплуатацию в Союзе теми поставщиками, которые не учреждены в Союзе, а также в качестве их контактного лица, зарегистрированного в Союзе.

(83) В свете характера и сложности цепочки создания стоимости для систем ИИ и в соответствии с новой законодательной базой важно гарантировать правовую определенность и содействовать соблюдению настоящего Регламента. Следовательно, необходимо уточнить роль и определенные обязательства соответствующих операторов в указанной цепочке создания стоимости, таких как импортеры и дистрибьюторы, которые могут внести свой вклад в разработку систем ИИ. В определенных ситуациях указанные операторы могут выступать в нескольких ролях одновременно и поэтому должны выполнять все соответствующие обязательства, связанные с указанными ролями. Например, оператор одновременно может выступать в качестве дистрибьютора и импортера.

(84) Для обеспечения правовой определенности необходимо разъяснить, что при определенных условиях любой дистрибьютор, импортер, эксплуатирующая организация и другая третья сторона считаются поставщиком системы ИИ с высокой степенью риска и, следовательно, принимают на себя все соответствующие обязательства. Это будет иметь место в том случае, если указанная сторона разместит свое наименование или торговый знак на системе ИИ с высокой степенью риска, уже размещенной на рынке или введенной в эксплуатацию, без ущерба договорным соглашениям, предусматривающим иное распределение обязательств. Это также будет иметь место в случае, если указанная сторона вносит существенные изменения в систему ИИ с высокой степенью риска, которая уже была представлена на рынке или уже введена в эксплуатацию, таким образом, чтобы она оставалась системой ИИ с высокой степенью риска в соответствии с настоящим Регламентом, или если она изменяет целевое назначение системы ИИ, включая систему ИИ общего назначения, которая не была отнесена к системам с высокой степенью риска и уже была размещена на рынке или введена в эксплуатацию, таким образом, что система ИИ становится системой ИИ с высокой степенью риска в соответствии с настоящим Регламентом. Указанные положения должны применяться без ущерба более конкретным положениям, установленным в определенном законодательстве Союза о гармонизации, основанном на новой законодательной базе, вместе с которыми должен применяться настоящий Регламент. Например, Статья 16(2) Регламента (ЕС) 2017/745, устанавливающая, что определенные изменения не должны считаться изменениями устройства, которые могут повлиять на его соответствие применимым требованиям, должна и дальше применяться в отношении систем ИИ с высокой степенью риска, которые являются изделиями медицинского назначения в значении указанного Регламента.

(85) Системы ИИ общего назначения могут использоваться в качестве систем ИИ с высокой степенью риска сами по себе или быть компонентами других систем ИИ с высокой степенью риска. Следовательно, вследствие их особого характера и в целях обеспечения справедливого распределения обязанностей в цепочке создания стоимости ИИ, поставщики таких систем, вне зависимости от того, могут ли они использоваться другими поставщиками в качестве систем ИИ с высокой степенью риска как таковые или в качестве компонентов систем ИИ с высокой степенью риска, и если иное не предусмотрено настоящим Регламентом, должны тесно сотрудничать с поставщиками соответствующих систем ИИ с высокой степенью риска для обеспечения соблюдения ими релевантных обязательств согласно настоящему Регламенту, а также с компетентными органами, учрежденными согласно настоящему Регламенту.

(86) Если согласно условиям, установленным в настоящем Регламенте, поставщик, который первоначально разместил систему ИИ на рынке или ввел ее в эксплуатацию, больше не считается поставщиком в целях настоящего Регламента и если указанный поставщик явно не исключил изменение системы ИИ в систему ИИ с высокой степенью риска, первый поставщик, тем не менее, должен тесно сотрудничать и предоставлять необходимую информацию, а также разумно ожидаемый технический доступ и другую помощь, требуемые для выполнения обязательств, установленных в настоящем Регламенте, в частности, в отношении соблюдения оценки соответствия систем ИИ с высокой степенью риска.

(87) Помимо этого, если система ИИ с высокой степенью риска, которая является компонентом обеспечения безопасности продукта, подпадающего под сферу применения законодательства Союза о гармонизации, основанного на новой законодательной базе, не размещена на рынке или не введена в эксплуатацию независимо от продукта, изготовитель продукта, определенный в указанном законодательстве, должен соблюдать обязательства поставщика, установленные в настоящем Регламенте, и, в частности, должен гарантировать соответствие системы ИИ, встроенной в конечный продукт, требованиям настоящего Регламента.

(88) В рамках цепочки создания стоимости ИИ несколько сторон часто предоставляют системы ИИ, инструменты и услуги, а также компоненты или процессы, которые поставщик встраивает в систему ИИ с различными целями, включая обучение модели, переобучение модели, тестирование и оценку модели, интеграцию в программное обеспечение или другие аспекты разработки модели. Указанные стороны играют важную роль в цепочке создания стоимости по отношению к поставщику системы ИИ с высокой степенью риска, в которую интегрированы их системы ИИ, инструменты, услуги, компоненты или процессы, и должны предоставлять по письменному соглашению указанному поставщику необходимую информацию, возможности, технический доступ и другую помощь на основе общепризнанного уровня развития науки и техники, которые позволят поставщику в полной мере соблюдать обязательства, установленные в настоящем Регламенте, без ущерба своим собственным правам интеллектуальной собственности или коммерческой тайне.

(89) Третьи стороны, предоставляющие общественности доступ к инструментам, услугам, процессам или компонентам ИИ, отличным от моделей ИИ общего назначения, не обязаны выполнять требования, касающиеся обязанностей в рамках цепочки создания стоимости ИИ, в частности, по отношению к поставщику, который использовал или интегрировал их, если указанные инструменты, услуги, процессы или компоненты ИИ доступны по бесплатной лицензии с открытым исходным кодом. Разработчикам бесплатных инструментов, услуг, процессов или компонентов ИИ с открытым исходным кодом, кроме моделей ИИ общего назначения, следует рекомендовать внедрять широко распространенные практики документирования, такие как карточки моделей или таблицы данных, в качестве способа ускорения обмена информацией в цепочке создания стоимости ИИ, обеспечивая при этом продвижение надежной системы ИИ в Союзе.

(90) Европейская Комиссия могла бы разработать и рекомендовать добровольные типовые условия договоров между поставщиками систем ИИ с высокой степенью риска и третьими сторонами, которые предоставляют инструменты, услуги, компоненты или процессы, используемые или интегрированные в системы ИИ с высокой степенью риска, для содействия сотрудничеству по всей цепочке создания стоимости. При разработке добровольных типовых условий договора Европейская Комиссия должна также учитывать возможные договорные требования, применимые в конкретных секторах или деловых ситуациях.

(91) Учитывая характер систем ИИ и риски для безопасности и основных прав, которые могут быть связаны с их использованием, в том числе в отношении необходимости гарантировать надлежащий мониторинг работы системы ИИ в реальных условиях, целесообразно установить определенные обязанности эксплуатирующих организаций. В частности, эксплуатирующие организации должны принимать надлежащие технические и организационные меры для обеспечения того, что они используют системы ИИ с высокой степенью риска в соответствии с инструкциями по эксплуатации, и должны быть предусмотрены некоторые другие обязательства в отношении мониторинга функционирования систем ИИ и в отношении ведения учета, при необходимости. Помимо этого, эксплуатирующие организации должны гарантировать, что лица, назначенные для выполнения инструкций по эксплуатации и контроля со стороны человека, как установлено в настоящем Регламенте, обладают необходимой компетенцией, в частности, надлежащим уровнем грамотности в области ИИ, подготовкой и полномочиями для надлежащего выполнения указанных задач. Указанные обязательства должны действовать без ущерба другим обязательствам эксплуатирующей организации в отношении систем ИИ с высокой степенью риска согласно законодательству Союза или национальному законодательству.

(92) Настоящий Регламент действует без ущерба обязательствам работодателей информировать и консультировать работников или их представителей в соответствии с законодательством и практикой Союза или национальным законодательством и практикой, включая Директиву 2002/14/EC Европейского Парламента и Совета ЕС <*>, о решениях по вводу в эксплуатацию или использованию систем ИИ. По-прежнему необходимо обеспечить информирование работников и их представителей о планируемом внедрении систем ИИ с высокой степенью риска на рабочих местах, если не выполняются условия предоставления такой информации или обязательства по предоставлению информации и консультаций, предусмотренные в других правовых актах. Помимо этого, такое право на получение информации является вспомогательным и необходимым для достижения цели защиты основных прав, лежащих в основе настоящего Регламента. Следовательно, для этого необходимо установить в настоящем Регламенте требование к предоставлению информации, не затрагивая любые имеющиеся права работников.

---

<*> Директива 2002/14/EC Европейского Парламента и Совета ЕС от 11 марта 2002 г. об установлении общих положений об информировании и консультировании работников в Европейском Сообществе (ОЖ № L 80, 23.03.2002, стр. 29).

(93) Хотя риски, связанные с системами ИИ, могут возникать в результате способа проектирования таких систем, риски также могут возникать и вследствие способа использования систем ИИ. Таким образом, организации, эксплуатирующие систему ИИ с высокой степенью риска, играют решающую роль в обеспечении защиты основных прав, дополняя обязательства поставщика при разработке системы ИИ. Эксплуатирующие организации имеют наилучшие возможности для понимания того, как конкретно будет использоваться система ИИ с высокой степенью риска, и, следовательно, могут идентифицировать возможные существенные риски, которые не были предусмотрены на этапе разработки, благодаря более точному знанию контекста использования, лиц или групп лиц, которые могут быть затронуты, включая уязвимые группы. Организации, эксплуатирующие системы ИИ с высокой степенью риска, перечисленные в приложении к настоящему Регламенту, также играют решающую роль в информировании физических лиц и должны, при принятии ими решений или оказании помощи в принятии решений, касающихся физических лиц, при необходимости, информировать физических лиц о том, что они подпадают под использование системы ИИ с высокой степенью риска. Указанная информация должна включать в себя целевое назначение и тип принимаемых решений. Эксплуатирующая организация также должна информировать физических лиц об их праве на получение разъяснений, предусмотренных настоящим Регламентом. В том, что касается систем ИИ с высокой степенью риска, используемых в правоохранительных целях, указанное обязательство должно выполняться в соответствии со Статьей 13 Директивы (ЕС) 2016/680.

(94) Любая обработка биометрических данных, связанная с использованием систем ИИ для биометрической идентификации в правоохранительных целях, должна соответствовать Статье 10 Директивы (ЕС) 2016/680, которая допускает такую обработку только в случае крайней необходимости, при условии соблюдения надлежащих гарантий прав и свобод субъекта данных и при наличии разрешения в соответствии с законодательством Союза или государства-члена ЕС. Такое использование, если оно разрешено, также должно соответствовать принципам, изложенным в Статье 4(1) Директивы (ЕС) 2016/680, включая законность, справедливость и прозрачность, целевое ограничение, точность и ограничение хранения.

(95) Без ущерба применимому законодательству Союза, в частности, Регламенту (ЕС) 2016/679 и Директиве (ЕС) 2016/680, учитывая интрузивный характер систем последующей удаленной биометрической идентификации, на использование систем последующей удаленной биометрической идентификации должны распространяться гарантии. Системы последующей удаленной биометрической идентификации всегда должны использоваться пропорционально, на законных основаниях и в строго необходимой мере, и, таким образом, они должны быть целенаправленными с точки зрения лиц, подлежащих идентификации, местоположения, действия по времени и основываться на закрытом наборе данных, содержащем видеоматериалы, полученные законным путем. В любом случае системы последующей удаленной биометрической идентификации не должны использоваться в рамках правоохранительной деятельности, поскольку это может привести к тотальному наблюдению. Условия для последующей удаленной биометрической идентификации ни в коем случае не должны служить основанием для обхода условий запрета и строгих исключений в отношении дистанционной биометрической идентификации в режиме реального времени.

(96) В целях эффективного обеспечения защиты основных прав организации, эксплуатирующие системы ИИ с высокой степенью риска, которые являются органами, деятельность которых регулируется публичным правом, или частными организациями, представляющими общественные услуги, а также организации, эксплуатирующие системы ИИ с высокой степенью риска, перечисленные в приложении к настоящему Регламенту, такие как банковские или страховые организации, должны провести оценку воздействия на основные права до ввода системы в эксплуатацию. Услуги, важные для физических лиц и носящие общественный характер, могут также предоставляться частными организациями. Частные организации, предоставляющие такие общественные услуги, связаны с задачами, представляющими общественный интерес, такими как образование, здравоохранение, социальные услуги, жилищное обустройство, отправление правосудия. Цель оценки воздействия на основные права заключается в том, чтобы эксплуатирующая организация выявила конкретные риски для прав физических лиц или групп лиц, которые могут быть затронуты, и определила меры, которые необходимо принять в случае проявления указанных рисков. Оценка воздействия должна проводиться до внедрения системы ИИ с высокой степенью риска и должна обновляться, если эксплуатирующая организация считает, что изменился любой из соответствующих факторов. Оценка воздействия должна выявлять соответствующие процессы эксплуатирующей организации, в которых система ИИ с высокой степенью риска должна будет использоваться в соответствии с целевым назначением, и должна включать описание срока и периодичности, с которой предполагается использовать систему, а также определенные категории физических лиц и групп лиц, которые могут быть затронуты в определенном контексте использования. Оценка также должна включать идентификацию определенных рисков причинения вреда, которые могут повлиять на основные права указанных лиц или групп. При проведении указанной оценки эксплуатирующая организация должна учитывать информацию, имеющую отношение к надлежащей оценке воздействия, в том числе, среди прочего, информацию, предоставленную поставщиком системы ИИ с высокой степенью риска в инструкциях по эксплуатации. В свете выявленных рисков эксплуатирующие организации должны определять меры, которые необходимо принять в случае проявления указанных рисков, включая, например, механизмы управления в определенном контексте использования, такие как механизмы контроля со стороны человека согласно инструкциям по эксплуатации или процедуры рассмотрения жалоб и возмещения ущерба, поскольку они могут играть важную роль в снижении рисков для основных прав в конкретных случаях использования. После проведения указанной оценки воздействия эксплуатирующая организация должна уведомить соответствующий орган надзора за рынком. По мере необходимости, для сбора релевантной информации, необходимой для проведения оценки воздействия, организации, эксплуатирующие систему ИИ с высокой степенью риска, в частности, если системы ИИ используются в государственном секторе, могут привлекать соответствующие заинтересованные стороны, в том числе представителей групп лиц, которые могут быть затронуты системой ИИ, независимых экспертов и организации гражданского общества к проведению таких оценок воздействия и разработке мер, которые следует принять в случае проявления рисков. Европейское управление искусственным интеллектом (Управление ИИ) должно разработать шаблон опросника для содействия соблюдению требований и сокращения административной нагрузки на эксплуатирующие организации.

(97) В целях обеспечения правовой определенности понятие моделей ИИ общего назначения должно быть четко определено и должно отличаться от понятия систем ИИ. Определение должно основываться на ключевых функциональных характеристиках модели ИИ общего назначения, в частности, на универсальности и способности грамотно выполнять широкий спектр различных задач. Указанные модели, как правило, обучаются на больших объемах данных с помощью различных методов, таких как самоконтролируемое обучение, неконтролируемое обучение, обучение с подкреплением. Модели ИИ общего назначения могут быть размещены на рынке различными способами, в том числе с помощью библиотек, интерфейсов прикладных программ (APIs), в виде прямого скачивания или физической копии. Указанные модели могут быть дополнительно модифицированы или доработаны для соответствия новым моделям. Хотя модели ИИ являются существенными компонентами систем ИИ, сами по себе они не являются системам ИИ. Для того чтобы стать системами ИИ, к моделям ИИ необходимо добавить дополнительные компоненты, например, интерфейс пользователя. Модели ИИ, как правило, интегрируются в системы ИИ или являются их частью. Настоящий Регламент устанавливает определенные правила для моделей ИИ общего назначения и моделей ИИ общего назначения, которые представляют системные риски, которые также должны применяться, если указанные модели интегрированы в системы ИИ или являются их частью. Следует понимать, что обязательства поставщиков моделей ИИ общего назначения должны применяться с момента размещения моделей ИИ общего назначения на рынке. В случае если поставщик модели ИИ общего назначения интегрирует собственную модель в свою собственную систему ИИ, которая доступна на рынке или введена в эксплуатацию, указанная модель должна рассматриваться как размещенная на рынке, и, следовательно, обязательства, предусмотренные настоящим Регламентом в отношении моделей, должны по-прежнему применяться в дополнение к обязательствам, предусмотренным в отношении систем ИИ. Обязательства, установленные для моделей, ни в коем случае не должны применяться, если собственная модель используется исключительно для внутренних процессов, которые не являются существенными для предоставления продукта или услуги третьим лицам, и при этом не затрагиваются права физических лиц. Учитывая их потенциальное значительное негативное воздействие, на модели ИИ общего назначения с системным риском всегда должны распространяться релевантные обязательства в соответствии с настоящим Регламентом. Определение не должно охватывать модели ИИ, использовавшиеся до их размещения на рынке исключительно в целях исследований, разработок и создания прототипов. Это положение действует без ущерба обязательству соблюдать настоящий Регламент, если модель в результате такой деятельности размещается на рынке.

(98) В то время как универсальность модели может, inter alia, также определяться рядом параметров, модели, содержащие как минимум миллиард параметров и обученные работе с большим объемом данных с использованием масштабируемого самоконтроля, должны рассматриваться как обладающие существенной универсальностью и способные на надлежащем уровне выполнять широкий спектр характерных задач.

(99) Большие генерирующие модели ИИ являются типичным примером моделей ИИ общего назначения, с учетом того, что они позволяют гибко генерировать контент, например, в виде текста, аудио, изображений или видео, который может быть легко адаптирован к широкому спектру характерных задач.

(100) В случае если модель ИИ общего назначения интегрирована в систему ИИ или является ее частью, указанную систему следует рассматривать как систему ИИ общего назначения, когда благодаря указанной интеграции данная система способна служить различным целям. Система ИИ общего назначения может использоваться непосредственно или может быть интегрирована в другие системы ИИ.

(101) Поставщики моделей ИИ общего назначения играют особую роль и несут ответственность в цепочке создания стоимости ИИ, поскольку модели, которые они предоставляют, могут стать основой для целого ряда систем, часто предоставляемых нижестоящими поставщиками, что требует хорошего понимания моделей и их возможностей как для обеспечения интеграции таких моделей в их продукцию, так и для выполнения своих обязательств в рамках настоящего или других регламентов. Следовательно, необходимо установить пропорциональные меры по обеспечению прозрачности, включая разработку и поддержание в актуальном состоянии документации, а также предоставление информации о модели ИИ общего назначения для ее применения нижестоящими поставщиками. Техническая документация должна подготавливаться и обновляться поставщиком модели ИИ общего назначения в целях ее предоставления по запросу Управлению ИИ и национальным компетентным органам. Минимальный набор элементов, подлежащих включению в такую документацию, должен быть изложен в определенных приложениях к настоящему Регламенту. Европейская Комиссия вправе вносить изменения в указанные приложения посредством актов делегированного законодательства в свете появляющихся технологических разработок.

(102) Программное обеспечение и данные, включая модели, выпущенные в соответствии с бесплатной лицензией с открытым исходным кодом, которая позволяет открыто обмениваться ими и к которым поставщики могут свободно получать доступ, могут использовать, модифицировать и повторно распространять их или их модифицированные версии, могут содействовать исследованиям и инновациям на рынке и могут обеспечить значительные возможности для роста экономики Союза. Необходимо считать, что модели ИИ общего назначения, выпущенные в соответствии с бесплатными лицензиями с открытым исходным кодом, гарантируют высокий уровень прозрачности и открытости, если их параметры, включая вес, информацию об архитектуре модели и информацию об использовании модели, находятся в общем доступе. Лицензия также считается свободной и с открытым исходным кодом, если она позволяет пользователям запускать, копировать, распространять, изучать, изменять и улучшать программное обеспечение и данные, включая модели, при условии, что указан первоначальный поставщик модели, соблюдаются идентичные или сопоставимые условия распространения.

(103) К бесплатным компонентам ИИ с открытым исходным кодом относятся программное обеспечение и данные, включая модели и модели ИИ общего назначения, инструменты, услуги или процессы системы ИИ. Бесплатные компоненты ИИ с открытым исходным кодом могут предоставляться по различным каналам, включая их разработку в открытых репозитариях. Для целей настоящего Регламента компоненты ИИ, которые предоставляются за плату или иным образом монетизируются, в том числе посредством предоставления технической поддержки или других услуг, в том числе через платформу программного обеспечения, связанных с компонентом ИИ, или использования персональных данных по причинам, отличным от исключительно повышения безопасности, совместимости или функциональной совместимости программного обеспечения, за исключением транзакций между микропредприятиями, не должны зависеть от исключений, предусмотренных для бесплатных компонентов ИИ с открытым исходным кодом. Тот факт, что компоненты ИИ доступны через открытые репозитарии, сам по себе не должен представлять монетизацию.

(104) Поставщики моделей ИИ общего назначения, которые выпускаются в соответствии с бесплатной лицензией с открытым исходным кодом и параметры которых, включая вес, информацию об архитектуре модели и информацию об использовании модели, находятся в открытом доступе, подпадают под действие исключений в отношении связанных с обеспечением прозрачности требований, предъявляемых к моделям ИИ общего назначения, кроме случаев, когда они могут рассматриваться как представляющие системный риск, в таком случае тот факт, что модель прозрачна и сопровождается лицензией с открытым исходным кодом, не следует рассматривать как достаточную причину для исключения соблюдения обязательств в рамках настоящего Регламента. В любом случае, учитывая, что выпуск моделей ИИ общего назначения в рамках бесплатной лицензии с открытым исходным кодом не обязательно раскрывает существенную информацию о наборе данных, используемом для обучения или точной настройки модели, и о том, каким образом было обеспечено соблюдение закона об авторском праве, исключение, предусмотренное для моделей ИИ общего назначения, из соблюдения требований, связанных с прозрачностью, не должно касаться обязательства по составлению краткого обзора о контенте, используемом для обучения модели, и обязательства по внедрению политики соблюдения авторского права в Союзе, в частности, для выявления и соблюдения сохранения прав согласно Статье 4(3) Директивы (ЕС) 2019/790 Европейского Парламента и Совета ЕС <*>.

---

<*> Директива (ЕС) 2019/790 Европейского Парламента и Совета ЕС от 17 апреля 2019 г. об авторском праве и смежных правах на едином цифровом рынке, а также об изменении Директив 96/9/EC и 2001/29/EC (ОЖ № L 130, 17.5.2019, стр. 92).

(105) Модели ИИ общего назначения, в частности, крупные генеративные модели ИИ, способные генерировать текст, изображения и другой контент, не только предоставляют уникальные инновационные возможности, но и бросают вызов художникам, авторам и другим разработчикам, а также способам создания, распространения, использования и потребления их креативного контента. Разработка и обучение таких моделей требует доступа к огромным объемам текста, изображений, видео и других данных. В этом контексте для извлечения и анализа данного контента, который может быть защищен авторским правом и смежными правами, могут широко использоваться методы интеллектуального анализа текста и данных. Любое использование контента, защищенного авторским правом, требует разрешения соответствующего правообладателя, кроме случаев применения соответствующих исключений и ограничений в области авторского права. Директива (ЕС) 2019/790 ввела исключения и ограничения, разрешающие воспроизведение и извлечение произведений или других объектов для целей интеллектуального анализа текста и данных при определенных условиях. В соответствии с указанными правилами правообладатели могут сохранить свои права на указанные произведения или другие объекты, чтобы предотвратить интеллектуальный анализ текста и данных, кроме случаев, когда это делается в целях научных исследований. В случае если право на отказ от использования было соответствующим образом явно сохранено, поставщикам моделей ИИ общего назначения необходимо получить разрешение от правообладателей, если они хотят провести интеллектуальный анализ текста и данных в таких произведениях.

(106) Поставщики, которые размещают модели ИИ общего назначения на рынке Союза, должны обеспечить соблюдение соответствующих обязательств, изложенных в настоящем Регламенте. В этой связи поставщики моделей ИИ общего назначения должны внедрить политику соблюдения законодательства Союза об авторском праве и смежных правах, в частности, для выявления и соблюдения сохранения прав, заявленных правообладателями согласно Статье 4(3) Директивы (ЕС) 2019/790. Любой поставщик, размещающий модель ИИ общего назначения на рынке Союза, должен соблюдать настоящее обязательство, вне зависимости от юрисдикции, в которой действуют акты, касающиеся авторского права, лежащие в основе обучения указанных моделей ИИ общего назначения. Это необходимо для обеспечения равных условий среди поставщиков моделей ИИ общего назначения, когда ни один поставщик не должен иметь возможность получить конкурентное преимущество на рынке Союза посредством применения стандартов авторского права более низких, чем те, которые предусмотрены в Союзе.

(107) В целях повышения прозрачности данных, которые используются при предварительном обучении и последующем обучении моделей ИИ общего назначения, включая текст и данные, охраняемые авторским правом, достаточно, чтобы поставщики таких моделей составляли и публиковали достаточно подробный обзор контента, используемого для обучения модели ИИ общего назначения. Принимая во внимание необходимость защищать коммерческую тайну и конфиденциальную коммерческую информацию, указанный обзор, как правило, должен быть полным по своему охвату, а не технически детализированным, чтобы облегчить сторонам, имеющим законные интересы, включая владельцев авторских прав, осуществление и обеспечение исполнения их прав в рамках законодательства Союза, например, путем перечисления основных коллекций и наборов данных, которые были связаны с обучением модели, например, крупных частных или общедоступных баз данных или архивов данных, а также путем предоставления нарративного описания других используемых источников данных. Управлению ИИ целесообразно предоставить шаблон обзора, который должен быть простым, эффективным и позволять поставщику предоставлять требуемый обзор в описательной форме.

(108) В том, что касается обязательств, налагаемых на поставщиков моделей ИИ общего назначения, по внедрению политики соблюдения законодательства Союза об авторском праве и по опубликованию краткого обзора контента, используемого для обучения, Управление ИИ должно отслеживать, выполнил ли поставщик указанные обязательства, не проверяя или не проводя индивидуальной оценки данных обучения с точки зрения соблюдения авторского права. Настоящий Регламент не затрагивает обеспечение соблюдения правил авторского права, предусмотренных законодательством Союза.

(109) Соблюдение обязательств, применимых к поставщикам моделей ИИ общего назначения, должно быть соизмеримо с типом поставщика моделей, за исключением необходимости соблюдения требований лицами, которые разрабатывают или используют модели для непрофессиональных или научно-исследовательских целей, которых, тем не менее, следует поощрять к добровольному соблюдению указанных требований. Без ущерба законодательству Союза об авторском праве соблюдение указанных обязательств должно учитывать размер поставщика и предусматривать упрощенные способы соблюдения требований SMEs, включая недавно созданные компании, которые не должны приводить к чрезмерным затратам и препятствовать использованию таких моделей. В случае модификации или точной настройки моделей обязательства поставщиков моделей ИИ общего назначения должны ограничиваться указанной модификацией или точной настройкой, например, путем дополнения уже существующей технической документации информацией об изменениях, включая новые источники данных для обучения, в качестве средства соблюдения обязательств в цепочке создания стоимости, предусмотренных в настоящем Регламенте.

(110) Модели ИИ общего назначения могут представлять системные риски, которые включают, помимо прочего, любые фактические или разумно прогнозируемые негативные последствия в связи с крупными происшествиями, сбоями в работе критически важных секторов и серьезными последствиями для здоровья и безопасности населения; любые фактические или разумно прогнозируемые негативные последствия для демократических процессов, общественной и экономической безопасности; распространение незаконного, ложного или дискриминационного контента. Следует понимать, что системные риски возрастают с увеличением возможностей и охвата модели, могут возникать в течение всего срока эксплуатации модели и зависят от условий неправильного использования, надежности модели, равнодоступности и безопасности модели, уровня автономии модели, ее доступа к инструментам, новых или комбинированных моделей, выпуска и стратегий распространения, возможности устранения защитных механизмов и других факторов. В частности, международные подходы на данный момент выявили необходимость уделять внимание следующим рискам: рискам, связанным с потенциальным преднамеренным неправильным использованием или непреднамеренными проблемами контроля относительно согласования с намерениями человека; химическим, биологическим, радиологическим и ядерным рискам, таким как способы снижения барьеров для проникновения, в том числе для разработки, проектирования, приобретения или использования оружия; наступательным возможностям в киберпространстве, таким как способы выявления уязвимостей, их эксплуатации или оперативного использования; последствиям взаимодействия и использования инструментов, включая, например, способность контролировать физические системы и вмешиваться в работу критически важной инфраструктуры; рискам, связанным с моделями, создающими копии самих себя или «самовоспроизводящими» или обучающими другие модели; способам, с помощью которых модели могут порождать вредоносную необъективность и дискриминацию с рисками для отдельных лиц, сообществ или социумов; содействию распространению дезинформации или нанесению ущерба частной жизни с угрозой демократическим ценностям и правам человека; риску того, что конкретное событие может привести к цепной реакции со значительными негативными последствиями, которые могут затронуть весь город, всю деятельность в области или все сообщество.

(111) Целесообразно разработать методику классификации моделей ИИ общего назначения в качестве моделей ИИ общего назначения, представляющих системные риски. Поскольку системные риски являются следствием особенно высоких возможностей, модель ИИ общего назначения следует рассматривать как модель, представляющую системные риски, если она обладает высокоэффективными возможностями, оцениваемыми на основе соответствующих технических инструментов и методик, или оказывает значительное влияние на внутренний рынок в силу своего масштаба. Высокоэффективные возможности моделей ИИ общего назначения означают возможности, которые соответствуют или превосходят те возможности, которые записаны в наиболее передовых моделях ИИ общего назначения. Полный спектр возможностей модели может быть лучше понят после ее размещения на рынке или при взаимодействии эксплуатирующих организаций с моделью. В соответствии с уровнем развития науки и техники на момент вступления в силу настоящего Регламента, совокупный объем вычислений, используемых для обучения модели ИИ общего назначения, измеренный в операциях с плавающей запятой, является одним из соответствующих приближений к возможностям модели. Совокупный объем вычислений, используемых для обучения, включает в себя вычисления, используемые в различных видах деятельности и методах, которые предназначены для расширения возможностей модели до ее реализации, таких как предварительное обучение, генерация синтетических данные и точная настройка. Следовательно, необходимо установить начальное пороговое значение для операций с плавающей запятой, достижение которого моделью ИИ общего назначения ведет к предположению о том, что данная модель является моделью ИИ общего назначения с системными рисками. Указанное пороговое значение должно со временем корректироваться с учетом технологических и производственных изменений, таких как усовершенствование алгоритмов или повышение эффективности аппаратного обеспечения, и должно быть дополнено критериями и показателями возможностей модели. Для информирования об этом Управлению ИИ следует взаимодействовать с научным сообществом, промышленностью, гражданским обществом и другими экспертами. Пороговые значения, а также инструменты и критерии для оценки высокоэффективных возможностей должны надежно предсказывать универсальность, ее возможности и связанные с ними системные риски моделей ИИ общего назначения, а также могут учитывать способ размещения модели на рынке или количество пользователей, на которых она может повлиять. Для дополнения указанной системы Европейская Комиссия должна иметь возможность принимать индивидуальные решения об отнесении модели ИИ общего назначения к модели ИИ общего назначения с системным риском, если будет установлено, что такая модель обладает возможностями или воздействием, эквивалентными тем, которые охватывает установленное пороговое значение. Такое решение должно приниматься на основе общей оценки критериев для определения модели ИИ общего назначения с системным риском, изложенных в приложении к настоящему Регламенту, таких как качество или размер набора данных для обучения, количество корпоративных и конечных пользователей, способы ввода и вывода данных, уровень ее автономии и масштабируемости или инструменты, к которым у нее есть доступ. По мотивированному запросу поставщика, модель которого была определена как модель ИИ общего назначения, представляющая системные риски, Европейская Комиссия должна принять во внимание запрос и может принять решение о повторном рассмотрении вопроса о том, можно ли по-прежнему считать, что модель ИИ общего назначения представляет системные риски.

(112) Также необходимо уточнить процедуру классификации моделей ИИ общего назначения, представляющих системные риски. Предполагается, что модель ИИ общего назначения, которая соответствует применимому пороговому значению для высокоэффективных возможностей, является моделью ИИ общего назначения с системным риском. Поставщик должен уведомить Управление ИИ не позднее чем через две недели после того, как будут выполнены требования или станет известно, что модель ИИ общего назначения будет соответствовать требованиям, которые ведут к такому предположению. Это особенно актуально в отношении порогового значения для операций с плавающей запятой, поскольку обучение моделей ИИ общего назначения требует тщательного планирования, которое включает в себя предварительное распределение вычислительных ресурсов, и, следовательно, поставщики моделей ИИ общего назначения могут знать, соответствует ли их модель пороговому значению, до завершения обучения. В контексте указанного уведомления поставщик должен иметь возможность продемонстрировать, что в силу своих специфических характеристик модель ИИ общего назначения в исключительных случаях не представляет системных рисков и что, тем самым, ее не следует относить к моделям ИИ общего назначения с системными рисками. Указанная информация важна для Управления ИИ, чтобы предвидеть появление на рынке моделей ИИ общего назначения, представляющих системные риски, а поставщики могут начать взаимодействовать с Управлением ИИ на ранней стадии. Указанная информация особенно важна в отношении моделей ИИ общего назначения, которые планируется выпустить с открытым исходным кодом, учитывая, что после выпуска модели с открытым исходным кодом может оказаться сложнее реализовать необходимые меры для обеспечения соблюдения обязательства в соответствии с настоящим Регламентом.

(113) В случае если Европейской Комиссии становится известно о том, что модель ИИ общего назначения отвечает требованиям классификации в качестве модели ИИ общего назначения с системным риском, о котором ранее не было известно или о котором соответствующий поставщик не уведомил Европейскую Комиссию, Европейская Комиссия вправе определить ее в качестве таковой. В дополнение к деятельности Управления ИИ по осуществлению мониторинга, система квалифицированных предупреждений должна гарантировать информирование Управления ИИ научным советом о моделях ИИ общего назначения, которые, возможно, следует классифицировать как модели ИИ общего назначения с системным риском.

(114) На поставщиков моделей ИИ общего назначения, представляющих системные риски, в дополнение к обязательствам, предусмотренным для поставщиков моделей ИИ общего назначения, должны распространяться обязательства, направленные на выявление и смягчение последствий указанных рисков, а также на обеспечение надлежащего уровня защиты кибербезопасности, вне зависимости от того, предоставляется ли она в качестве отдельной модель или встроена в систему или продукт ИИ. Для достижения указанных целей настоящий Регламент должен требовать от поставщиков проведения необходимой оценки моделей, в частности, до их первого размещения на рынке, включая проведение и документирование состязательного тестирования моделей, также, при необходимости, посредством внутреннего и независимого внешнего тестирования. В дополнение к этому, поставщики моделей ИИ общего назначения, представляющих системные риски, должны постоянно оценивать системные риски и смягчать их последствия, в том числе, например, путем внедрения стратегий управления рисками, таких как процессы учета и управления, осуществление постпродажного мониторинга, принятие соответствующих мер в течение всего срока эксплуатации модели и сотрудничество с соответствующими участниками по всей цепочке создания стоимости ИИ.

(115) Поставщики моделей ИИ общего назначения с системными рисками должны оценивать возможные системные риски и смягчать их последствия. Если, несмотря на усилия по выявлению и предотвращению рисков, связанных с моделью ИИ общего назначения, которая может представлять системные риски, разработка или использование модели приводят к серьезному инциденту, поставщик модели ИИ общего назначения должен незамедлительно отследить инцидент и сообщить любую соответствующую информацию и возможные корректирующие меры Европейской Комиссии и национальным компетентным органам. Помимо этого, поставщики должны обеспечивать надлежащий уровень защиты кибербезопасности модели и ее физической инфраструктуры, в соответствующих случаях, на протяжении всего срока эксплуатации модели. Защита кибербезопасности в контексте системных рисков, связанных со злонамеренным использованием или атаками, должна надлежащим образом учитывать случайную утечку данных модели, несанкционированный выпуск, обход мер безопасности и защиту от кибератак, несанкционированного доступа или кражи модели. Указанной защите можно содействовать за счет обеспечения весомости моделей, алгоритмов, серверов и наборов данных, например, с помощью оперативных мер информационной безопасности, специальных стратегий кибербезопасности, адекватных технических и устоявшихся решений, а также средств контроля доступа в киберпространстве и физического доступа, соответствующих обстоятельствам и связанным с этим рискам.

(116) Управление ИИ должно поощрять и облегчать составление, пересмотр и адаптацию сводов практических правил, принимая во внимание международные подходы. К участию могут быть приглашены все поставщики моделей ИИ общего назначения. В целях гарантии того, что своды практических правил отражают современный уровень развития науки и техники и должным образом учитывают различные точки зрения, Управление ИИ должно сотрудничать с национальными компетентными органами и может, при необходимости, консультироваться с организациями гражданского общества и другими соответствующими заинтересованными сторонами и экспертами, включая, научный совет, для разработки таких сводов. Своды практических правил должны охватывать обязательства поставщиков моделей ИИ общего назначения и моделей ИИ общего назначения с системными рисками. В дополнении к этому, в том, что касается системных рисков, своды практических правил должны помогать установить таксономию рисков, отражающую тип и характер системных рисков на уровне Союза, включая их источники. Своды практических правил также должны быть ориентированы на определенную оценку рисков и меры по смягчению их последствий.

(117) Своды практических правил должны стать основным инструментом надлежащего соблюдения обязательств, предусмотренных настоящим Регламентом в отношении поставщиков моделей ИИ общего назначения. Поставщики должны иметь возможность полагаться на своды практических правил для демонстрации соблюдения обязательств. Посредством имплементационных актов Европейская Комиссия может принять решение об утверждении свода практических правил и о придании ему общей юридической силы в Союзе или, в качестве альтернативы, может установить общие правила для выполнения соответствующих обязательств, если к моменту вступления в силу настоящего Регламента свод практических правил не будет окончательно разработан или Управление ИИ не сочтет его приемлемым. Как только единый стандарт будет опубликован и Управление ИИ оценит его как подходящий для выполнения соответствующих обязательств, соблюдение европейского единого стандарта должно предоставить поставщикам презумпцию соответствия. Помимо этого, поставщики моделей ИИ общего назначения должны иметь возможность продемонстрировать соблюдение требований, используя альтернативные надлежащие средства, если своды практических правил или единые стандарты недоступны или они предпочитают на них не полагаться.

(118) Настоящий Регламент регулирует системы ИИ и модели ИИ посредством установления определенных требований и обязательств для соответствующих участников рынка, которые размещают их на рынке, вводят в эксплуатацию или используют в Союзе, тем самым дополняя обязательства поставщиков посреднических услуг, которые внедряют такие системы или модели в свои услуги, регулируемые Регламентом (ЕС) 2022/2065. В той мере, в какой такие системы или модели встроены в определенные очень крупные онлайн-платформы или очень крупные поисковики, они подпадают под действие системы управления рисками, предусмотренной Регламентом (ЕС) 2022/2065. Следовательно, соответствующие обязательства настоящего Регламента считаются выполненными, кроме случаев, когда появляются существенные системные риски, не предусмотренные в Регламенте (ЕС) 2022/2065, и они выявляются в таких моделях. В указанных рамках поставщики очень крупных онлайн-платформ и очень крупных поисковиков обязаны оценивать возможные системные риски, связанные с проектированием, функционированием и использованием их услуг, включая то, как проектирование алгоритмических систем, используемых в услуге, может способствовать возникновению таких рисков, а также системные риски, связанные с возможным неправильным использованием. Указанные поставщики также обязаны принимать надлежащие смягчающие меры для соблюдения основных прав.

(119) Учитывая быстрый темп инноваций и технологическую эволюцию цифровых услуг в рамках различных инструментов законодательства Союза, в частности, принимая во внимание использование и восприятие их получателями, системы ИИ, подпадающие под настоящий Регламент, могут предоставляться в качестве посреднических услуг или их частей в значении Регламента (ЕС) 2022/2065, которые следует интерпретировать технологически нейтральным образом. Например, системы ИИ могут использоваться для обеспечения поисковиков, в частности, в той мере, в какой система ИИ, такая как виртуальный собеседник, выполняет поиск, в принципе, по всем веб-сайтам, затем включает результаты в свои имеющиеся знания и использует обновленные знания для генерирования единого выходного результата, который объединяет различные источники информации.

(120) Помимо этого, обязательства, возложенные настоящим Регламентом на поставщиков определенных систем ИИ и эксплуатирующие их организации, позволяющие выявлять и раскрывать информацию о том, что выходные данные указанных систем сгенерированы или управляются искусственным образом, особенно важны для содействия эффективной имплементации Регламента (ЕС) 2022/2065. Это относится, в частности, к обязательствам поставщиков очень крупных онлайн-платформ или очень крупных поисковиков выявлять и смягчать системные риски, которые могут возникнуть в результате распространения контента, который был сгенерирован искусственным образом или которым управляли искусственным образом, в частности, риск фактического или прогнозируемого отрицательного воздействия на демократические процессы, гражданскую культуру и идеологию и избирательные процессы, в том числе посредством дезинформации.

(121) Стандартизация должна играть ключевую роль в предоставлении поставщикам технических решений в целях обеспечения соблюдения настоящего Регламента в соответствии с современным уровнем развития науки и техники, в целях содействия инновациям, а также конкурентоспособности и росту на едином рынке. Соблюдение единых стандартов, согласно пункту (1)(c) Статьи 2 Регламента (ЕС) 1025/2012 Европейского Парламента и Совета ЕС <*>, которые, как правило, должны отражать современный уровень развития науки и техники, должно являться средством, при помощи которого поставщики подтверждают соблюдение требований настоящего Регламента. Таким образом, следует поощрять сбалансированное представительство интересов всех соответствующих заинтересованных сторон при разработке стандартов, в частности SMEs, организаций потребителей и заинтересованных сторон в области охраны окружающего среды и социальной сферы, в соответствии со Статьями 5 и 6 Регламента (ЕС) 1025/2012. В целях содействия соблюдению требований Европейская Комиссия должна незамедлительно выдавать запросы на стандартизацию. При подготовке запроса на стандартизацию Европейская Комиссия должна проконсультироваться с совещательным форумом и Советом в целях получения соответствующих специальных знаний и практического опыта. Однако в отсутствие соответствующих ссылок на единые стандарты Европейская Комиссия должна иметь возможность устанавливать, посредством имплементационных актов и после консультаций с совещательным форумом, общие спецификации для определенных требований согласно настоящему Регламенту. Общая спецификация должна являться исключительным запасным решением, облегчающим выполнение поставщиком обязательств по соблюдению требований настоящего Регламента, если запрос на стандартизацию не был принят ни одной из европейских организаций по стандартизации, или если соответствующие единые стандарты недостаточно учитывают вопросы, связанные с основными правами, или если единые стандарты не соответствуют запросу, или если существуют задержки с принятием соответствующего единого стандарта. В случае если такая задержка с принятием единого стандарта вызвана технической сложностью указанного стандарта, Европейская Комиссия должна рассмотреть данный вопрос до рассмотрения возможности установления общих спецификаций. При разработке общих спецификаций Европейской Комиссии рекомендуется сотрудничать с международными партнерами и международными органами по стандартизации.

---

<*> Регламент (ЕС) 1025/2012 Европейского Парламента и Совета ЕС от 25 октября 2012 г. о европейской стандартизации, изменении Директив 89/686/ЕЭС и 93/15/ЕЭС Совета ЕС и Директив 94/9/EC, 94/25/EC, 95/16/EC, 97/23/EC, 98/34/EC, 2004/22/EC, 2007/23/EC, 2009/23/EC и 2009/105/EC Европейского Парламента и Совета ЕС и отмене Решения 87/95/ЕЭС Совета ЕС и Решения 1673/2006/EC Европейского Парламента и Совета ЕС (ОЖ № L 316, 14.11.2012, стр. 12).

(122) Целесообразно, чтобы без ущерба использованию единых стандартов и общих спецификаций, поставщики системы ИИ с высокой степенью риска, прошедшие обучение и тестирование на основе данных, отражающих конкретные географические, поведенческие, контекстуальные или функциональные параметры, в рамках которых предполагается использовать систему ИИ, соблюдали соответствующие меры, предусмотренные в соответствии с требованиями об управлении данными, изложенными в настоящем Регламенте. Без ущерба требованиям, связанным с надежностью и точностью, изложенным в настоящем Регламенте, в соответствии со Статьей 54(3) Регламента (ЕС) 2019/881 предполагается, что системы ИИ с высокой степенью риска, которые были сертифицированы или в отношении которых было выдано заявление о соответствии в рамках схемы кибербезопасности согласно указанному Регламенту и ссылки на которые были опубликованы в Официальном Журнале Европейского Союза, соответствуют требованиям настоящего Регламента в отношении кибербезопасности в той мере, в какой сертификат кибербезопасности или заявление о соответствии или их части охватывают требования настоящего Регламента в области кибербезопасности. Это положение действует без ущерба добровольному характеру указанной схемы кибербезопасности.

(123) Для обеспечения высокого уровня надежности систем ИИ с высокой степенью риска, указанные системы должны пройти оценку соответствия до их размещения на рынке или ввода в эксплуатацию.

(124) Целесообразно, чтобы для минимизации нагрузки на операторов и предотвращения любого возможного дублирования, в том, что касается систем ИИ с высокой степенью риска, связанных с продукцией, на которую распространяется действующее законодательство Союза о гармонизации, основанное на новой законодательной базе, соответствие указанных систем ИИ требованиям настоящего Регламента должно оцениваться в рамках оценки соответствия, уже предусмотренной в указанном законодательстве. Таким образом, применимость требований настоящего Регламента не должна затрагивать определенную логику, методику или общую структуру оценки соответствия в рамках релевантного законодательства Союза о гармонизации.

(125) С учетом сложности систем ИИ с высокой степенью риска и связанных с ними рисков, важно разработать надлежащую процедуру оценки соответствия для систем ИИ с высокой степенью риска с участием нотифицированных органов, так называемую стороннюю оценку соответствия. Однако, учитывая текущий опыт профессиональных организаций по предпродажной сертификации в области безопасности продукции и различный характер рисков, целесообразно ограничить, как минимум на начальном этапе применения настоящего Регламента, сферу применения сторонней оценки соответствия для систем ИИ с высокой степенью риска, отличной от тех, которые связаны с продукцией. Следовательно, оценка соответствия таких систем, как правило, должна проводиться поставщиком под его собственную ответственность, за единственным исключением систем ИИ, предназначенных для использования в биометрических целях.

(126) В целях проведения сторонних оценок соответствия, при необходимости, нотифицированные органы должны быть уведомлены согласно настоящему Регламенту национальными компетентными органами, при условии, что они соблюдают ряд требований, в частности, о независимости, компетентности, отсутствии конфликта интересов, и соответствующие требования в области кибербезопасности. Национальные компетентные органы должны направить уведомление о таких органах Европейской Комиссии и другим государствам-членам ЕС при помощи электронного инструмента уведомлений, разработанного и управляемого Европейской Комиссией в соответствии со Статьей R23 Приложения I к Решению 768/2008/EC.

(127) В соответствии с обязательствами Союза в рамках Соглашения Всемирной торговой организации о технических барьерах в торговле, достаточно содействовать взаимному признанию результатов оценки соответствия, полученных компетентными органами по оценке соответствия, независимо от территории, на которой они учреждены, при условии, что указанные органы по оценке соответствия, созданные согласно законодательству третьей страны, отвечают применимым требованиям настоящего Регламента и Союз заключил соответствующее соглашение. В таком контексте Европейской Комиссии следует активно изучать возможные международные документы для достижения указанной цели и, в частности, добиваться заключения соглашений о взаимном признании с третьими странами.

(128) В соответствии с общепринятым представлением о значительном изменении продукции, регулируемой законодательством Союза о гармонизации, целесообразно, чтобы всякий раз, когда происходят изменения, которые могут повлиять на соответствие системы ИИ с высокой степенью риска требованиям настоящего Регламента (например, изменение операционной системы или архитектуры программного обеспечения), или когда изменяется целевое назначение системы, считать указанную систему ИИ новой системой ИИ, в отношении которой требуется проведение новой оценки соответствия. Однако изменения в алгоритме или производительности систем ИИ, которые продолжают «обучаться» после размещения на рынке или ввода в эксплуатацию, а именно автоматическая адаптация способа выполнения функций, не должны представлять собой значительное изменение, при условии, что указанные изменения заранее определены поставщиком и оценены на момент проведения оценки соответствия.

(129) Системы ИИ с высокой степенью риска должны иметь маркировку CE, указывающую на их соответствие настоящему Регламенту, в целях их свободного движения на внутреннем рынке. В том, что касается систем ИИ с высокой степенью риска, встроенных в продукт, необходимо нанести физическую маркировку CE, которая может быть дополнена цифровой маркировкой CE. В том, что касается систем ИИ с высокой степенью риска, предоставляемых только в цифровом виде, необходимо использовать цифровую маркировку CE. Государства-члены ЕС не должны создавать необоснованных препятствий для размещения на рынке или введения в эксплуатацию систем ИИ с высокой степенью риска, которые соответствуют требованиям, установленным в настоящем Регламенте, и имеют маркировку CE.

(130) При определенных условиях быстрая доступность инновационных технологий может иметь решающее значение для здоровья и безопасности людей, защиты окружающей среды и изменения климата, а также для общества в целом. Таким образом, целесообразно, чтобы в исключительных случаях, связанных с общественной безопасностью или защитой жизни и здоровья физических лиц, защитой окружающей среды и ключевых промышленных и инфраструктурных объектов, органы надзора за рынком могли разрешать размещение на рынке или ввод в эксплуатацию систем ИИ, которые не прошли оценку соответствия. В должным образом обоснованных ситуациях, предусмотренных в настоящем Регламенте, правоохранительные органы или органы по защите гражданского населения могут ввести определенную систему ИИ с высокой степенью риска в эксплуатацию без разрешения органа надзора за рынком, при условии, что такое разрешение будет незамедлительно запрошено во время или после использования системы.

(131) В целях содействия работе Европейской Комиссии и государств-членов ЕС в области ИИ, а также повышения прозрачности в интересах общественности от поставщиков систем ИИ с высокой степенью риска, не связанных с продукцией, подпадающей под сферу применения соответствующего действующего законодательства Союза о гармонизации, а также от поставщиков, которые считают, что система ИИ, указанная в примерах использования систем, представляющих высокий риск, в приложении к настоящему Регламенту, не является системой с высокой степенью риска на основании частичного отступления, следует требовать, чтобы они зарегистрировались и указали информацию о своей системе ИИ в базе данных ЕС, которая должна быть создана и должна управляться Европейской Комиссией. Прежде чем использовать систему ИИ, указанную в примерах использования систем, представляющих высокий риск, в приложении к настоящему Регламенту, эксплуатирующие системы ИИ с высокой степенью риска организации, которые являются государственными органами, агентствами или ведомствами, должны зарегистрироваться в такой базе данных и выбрать систему, которую они предполагают использовать. Другие эксплуатирующие организации вправе сделать это добровольно. Данный раздел базы данных ЕС должен быть общедоступным, бесплатным, информация должна быть легко доступной для навигации, понятной и машиночитаемой. База данных ЕС должна быть также удобной для пользователя, например, за счет предоставления функций поиска, в том числе по ключевым словам, позволяющих широкой общественности находить соответствующую информацию, которая должна быть предоставлена при регистрации систем ИИ с высокой степенью риска, о примерах использования систем ИИ с высокой степенью риска, изложенных в приложении к настоящему Регламенту, которому соответствуют системы ИИ с высокой степенью риска. Любое существенное изменение систем ИИ с высокой степенью риска также должно быть зарегистрировано в базе данных ЕС. В том, что касается систем ИИ с высокой степенью риска в области правоохранительной деятельности, миграции, предоставления убежища и пограничного контроля, обязательства по регистрации должны быть выполнены в защищенном закрытом разделе базы данных ЕС. Доступ к защищенному закрытому разделу должен быть строго ограничен Европейской Комиссией, а также органами надзора за рынком в отношении их национального раздела указанной базы данных. Системы ИИ с высокой степенью риска в области критической инфраструктуры должны регистрироваться только на национальном уровне. Европейская Комиссия должна быть контролером базы данных ЕС в соответствии с Регламентом (ЕС) 2018/1725. В целях обеспечения полной функциональности базы данных ЕС при ее развертывании процедура настройки базы данных должна включать разработку Европейской Комиссией функциональных спецификаций и отчет о проведении независимой аудиторской проверки. Европейская Комиссия должна принимать во внимание риски кибербезопасности при выполнении своих задач в качестве контролера данных в базе данных ЕС. В целях обеспечения максимальной доступности и использования базы данных общественностью, база данных ЕС, включая доступную через нее информацию, должна соответствовать требованиям Директивы (ЕС) 2019/882.

(132) Определенные системы ИИ, предназначенные для взаимодействия с физическими лицами или для создания контента, могут представлять определенные риски имперсонации или обмана, вне зависимости от того, относятся ли они к категории высокой степени риска или нет. Поэтому при определенных обстоятельствах использование указанных систем должно регулироваться конкретными обязательствами по обеспечению прозрачности без ущерба требованиям и обязательствам, предъявляемым к системам ИИ с высокой степенью риска, и с учетом целенаправленных исключений, учитывающих особые потребности правоохранительных органов. В частности, физические лица должны быть уведомлены о том, что они взаимодействуют с системой ИИ, за исключением случаев, когда это очевидно с точки зрения физического лица, которое достаточно хорошо информировано, наблюдательно и осмотрительно, принимая во внимание обстоятельства и контекст использования. При выполнении указанного обязательства следует учитывать характеристики физических лиц, принадлежащих к уязвимым группам в силу их возраста или инвалидности, в той мере, в какой система ИИ предназначена для взаимодействия с указанными группами. Помимо этого, физические лица должны быть уведомлены в тех случаях, когда они подвергаются воздействию систем ИИ, которые, обрабатывая их биометрические данные, могут идентифицировать или определять эмоции или намерения указанных лиц или относить их к определенным категориям. Такие определенные категории могут быть связаны с такими аспектами, как пол, возраст, цвет волос, цвет глаз, татуировки, личные качества, этническое происхождение, личные предпочтения и интересы. Такая информация и уведомления должны предоставляться в форматах, доступных для лиц с ограниченными возможностями.

(133) Различные системы ИИ могут генерировать большое количество синтетического контента, который людям становится все труднее отличать от созданного человеком аутентичного контента. Широкая доступность и растущие возможности указанных систем оказывают значительное влияние на целостность и доверие к информационной экосистеме, повышая новые риски масштабной дезинформации и манипуляции, мошенничества, имперсонации и обмана потребителей. В свете этих воздействий, быстрого развития технологий и потребности в новых методах и техниках отслеживания происхождения информации целесообразно требовать от поставщиков указанных систем внедрять технические решения, позволяющие выполнять маркировку в машиночитаемом формате и обнаруживать, что выходные данные были сгенерированы или обработаны системой ИИ, а не человеком. Такие технологии и способы должны быть достаточно надежными, совместимыми, эффективными и устойчивыми, насколько это технически осуществимо, принимая во внимание доступные технологии или комбинацию таких технологий, как водяные знаки, идентификация с помощью метаданных, криптографические методы для подтверждения происхождения и подлинности контента, методы сбора данных, отпечатки пальцев или другие методы, в соответствующих случаях. При выполнении указанного обязательства поставщики должны также учитывать специфику и ограничения различных типов контента, а также соответствующие технологические и рыночные изменения в этой области, нашедшие отражение в общепризнанном уровне развития науки и техники. Такие методы и способы могут быть реализованы на уровне системы ИИ или на уровне модели ИИ, включая модели ИИ общего назначения, генерирующие контент, тем самым облегчая выполнение данного обязательства нижестоящим поставщиком системы ИИ. Чтобы сохранить пропорциональность, целесообразно предусмотреть, что данное обязательство по маркировке не должно распространяться на системы ИИ, выполняющие в основном вспомогательную функцию для стандартного редактирования, или системы ИИ, существенно не изменяющие входные данные, предоставляемые эксплуатирующей организацией, или их семантику.

(134) В дополнение к техническим решениям, используемым поставщиками систем ИИ, эксплуатирующие организации, которые используют систему ИИ для создания изображений, аудио- или видеоконтента или манипулирования ими, которые заметно напоминают существующих людей, объекты, места, сущности или события и могут ложно казаться человеку подлинными или правдивыми (глубинные фейки), также должны четким и различимым образом указать, что контент был создан искусственно или подвергся манипуляциям, соответствующим образом маркируя выходные данные ИИ и раскрывая их искусственное происхождение. Соблюдение указанного обязательства по обеспечению прозрачности не должно толковаться как указание на то, что использование системы ИИ или ее результатов препятствует осуществлению права на свободу выражения мнений и права на свободу занятия искусством и наукой, гарантированных Хартией, в частности, в тех случаях, когда контент является частью явно творческого, сатирического, художественного, вымышленного или аналогичного произведения или программы, при условии соблюдения надлежащих гарантий прав и свобод третьих лиц. В таких случаях обязательство по обеспечению прозрачности в отношении глубинных фейков, изложенное в настоящем Регламенте, ограничивается раскрытием информации о существовании такого надлежащим образом сгенерированного или обработанного контента, который не препятствует показу или получению удовольствия от произведения, включая его нормальную эксплуатацию и использование, при сохранении полезности и качества произведения. Кроме того, также целесообразно предусмотреть аналогичное обязательство по раскрытию информации в отношении созданного или обработанного с помощью ИИ текста, в той мере, в какой он публикуется с целью информирования общественности по вопросам, представляющим общественный интерес, за исключением случаев, когда контент, созданный с помощью ИИ, подвергся процессу проверки человеком или редакторскому контролю и физическое или юридическое лицо несет редакционную ответственность за публикацию контента.

(135) Без ущерба обязательному характеру и полной применимости обязательств по обеспечению прозрачности, Европейская Комиссия также может рекомендовать и облегчать разработку сводов практических правил на уровне Союза для содействия эффективной имплементации обязательств, касающихся выявления и маркировки искусственно сгенерированного или управляемого контента, в том числе для содействия практическим мерам по обеспечению доступности механизмов выявления и содействию сотрудничеству с другими участниками цепочки создания стоимости, по распространению контента или проверке его подлинности и происхождения, чтобы общественность могла эффективно распознавать контент, созданный с помощью ИИ.

(136) Обязательства, возложенные настоящим Регламентом на поставщиков определенных систем ИИ и на эксплуатирующие их организации, по обеспечению возможности обнаружения и раскрытия информации о том, что выходные данные указанных систем искусственно создаются или управляются, особенно важны для содействия эффективному внедрению Регламента (ЕС) 2022/2065. Это относится, в частности, к обязательствам поставщиков очень крупных онлайн-платформ или очень крупных поисковиков выявлять и снижать системные риски, которые могут возникнуть в результате распространения искусственно созданного или управляемого контента, в частности, риск фактического или прогнозируемого негативного воздействия на демократические процессы, гражданскую культуру и идеологию и избирательные процессы, в том числе с помощью дезинформации. Требование маркировать контент, созданный системами ИИ, в соответствии с настоящим Регламентом действует без ущерба обязательству, предусмотренному в Статье 16(6) Регламента (ЕС) 2022/2065, по обработке поставщиками услуг хостинга уведомлений о незаконном контенте, полученных в соответствии со Статьей 16(1) указанного Регламента, и не должно влиять на оценку и принятие решения о незаконности конкретного контента. Такая оценка должна проводиться исключительно в соответствии с правилами, регулирующими законность контента.

(137) Соблюдение обязательств по обеспечению прозрачности для систем ИИ, предусмотренных настоящим Регламентом, не должно толковаться как указание на то, что использование системы ИИ или ее выходных данных является законным в соответствии с настоящим Регламентом или другим законодательством Союза и государств-членов ЕС, и должно действовать без ущерба другим обязательствам по обеспечению прозрачности организаций, эксплуатирующих системы ИИ согласно законодательству Союза или национальному законодательству.

(138) ИИ является быстро развивающимся семейством технологий, которое требует надзора со стороны контролирующих органов и безопасного и контролируемого пространства для экспериментов, гарантируя при этом ответственные инновации и интеграцию надлежащих гарантий безопасности и мер по снижению рисков. В целях обеспечения правовой структуры, содействующей инновациям, перспективной и устойчивой к сбоям, государства-члены ЕС должны гарантировать, что их национальные компетентные органы создадут как минимум одну регулятивную изолированную среду ИИ на национальном уровне для содействия разработкам и тестированию инновационных систем ИИ под строгим надзором со стороны контролирующих органов до размещения указанных систем на рынке или ввода в эксплуатацию иным образом. Государства-члены ЕС могли бы также выполнить данное обязательство, участвуя в уже существующих регулятивных изолированных системах или создавая совместную изолированную среду с одним или несколькими компетентными органами государств-членов ЕС, в той мере, в какой такое участие обеспечивает эквивалентный уровень национального охвата участвующих государств-членов ЕС. Регулятивная изолированная среда ИИ может быть создана в физической, цифровой или гибридной форме и может содержать как физические, так и цифровые продукты. Учреждающие органы также должны обеспечить, чтобы регулятивные изолированные системы располагали достаточными ресурсами для их функционирования, включая финансовые и кадровые ресурсы.

(139) Целью регулятивной изолированной среды ИИ должно быть стимулирование инноваций в области ИИ путем создания контролируемой среды для экспериментов и тестирования на этапе разработки и предварительного маркетинга в целях обеспечения соответствия инновационных систем ИИ настоящему Регламенту и другому законодательству Союза и национальному законодательству. Кроме этого, регулятивная изолированная среда ИИ должна быть направлена на повышение правовой определенности для новаторов, а также на надзор и понимание компетентными органами возможностей, возникающих рисков и последствий использования ИИ, чтобы способствовать нормативно-правовому обучению органов власти и предприятий, в том числе с целью будущей адаптации законодательной базы, для поддержки сотрудничества и обмена передовым опытом с органами власти, участвующими в регулятивной изолированной среде ИИ, и для ускорения доступа к рынкам, в том числе путем устранения барьеров для SMEs, включая недавно созданные компании. Регулятивная изолированная среда ИИ должна быть широко доступна в Союзе, и особое внимание следует уделить ее доступности для SMEs, включая недавно созданные компании. Участие в регулятивной изолированной среде ИИ должно быть сосредоточено на вопросах, которые создают правовую неопределенность для поставщиков и потенциальных поставщиков, связанную с инновациями, экспериментами с ИИ в Союзе и содействием изучению нормативно-правовой базы, основанной на фактических данных. Таким образом, надзор за системами ИИ в регулятивной изолированной среде ИИ должен охватывать их разработку, обучение, тестирование и валидацию до того, как системы будут размещены на рынке или введены в эксплуатацию, а также понятие и возникновение существенных изменений, которые могут потребовать проведения новой процедуры оценки соответствия. Любые существенные риски, выявленные в ходе разработки и тестирования таких систем ИИ, должны вести к адекватному смягчению последствий и, в противном случае, к приостановке процесса разработки и тестирования. В предусмотренных случаях, национальные компетентные органы, создающие регулятивные изолированные среды ИИ, должны сотрудничать с другими соответствующими органами, в том числе с теми, кто контролирует защиту основных прав, и могут допускать вовлечение других участников экосистемы ИИ, таких как национальные или европейские организации по стандартизации, нотифицированные органы, испытательные и экспериментальные базы, исследовательские лаборатории, европейские центры цифровых инноваций и соответствующие заинтересованные стороны и организации гражданского общества. Чтобы обеспечить единообразное внедрение в Союзе и экономию за счет масштаба, целесообразно установить общие правила внедрения регулятивной изолированной среды ИИ и рамок сотрудничества между соответствующими органами, участвующими в надзоре за изолированными системами. Регулятивные изолированные среды ИИ, установленные в соответствии с настоящим Регламентом, должны действовать без ущерба другому законодательству, допускающему создание других изолированных систем, направленных на обеспечение соответствия законодательству, отличному от настоящего Регламента. При необходимости, соответствующие компетентные органы, отвечающие за другие регулятивные изолированные системы, должны рассмотреть преимущества использования указанных изолированных систем также с целью обеспечения соответствия систем ИИ настоящему Регламенту. По соглашению между национальными компетентными органами и участниками регулятивной изолированной среды ИИ тестирование в реальных условиях также может проводиться и контролироваться в рамках регулятивной изолированной среды ИИ.

(140) Настоящий Регламент должен обеспечить правовую основу для поставщиков и потенциальных поставщиков в рамках регулятивной изолированной среды ИИ для использования персональных данных, собранных для других целей, для разработки определенных систем ИИ в общественных интересах в рамках регулятивной изолированной среды ИИ, только при определенных условиях, в соответствии со Статьей 6(4) и пунктом (g) Статьи 9(2) Регламента (ЕС) 2016/679 и Статьями 5, 6 и 10 Регламента (ЕС) 2018/1725, а также без ущерба Статье 4(2) и Статье 10 Директивы (ЕС) 2016/680. Все другие обязательства контролеров данных и права субъектов данных в соответствии с Регламентами (ЕС) 2016/679 и (ЕС) 2018/1725 и Директивой (ЕС) 2016/680 остаются в силе. В частности, настоящий Регламент не должен обеспечивать правовую основу в значении пункта (b) Статьи 22(2) Регламента (ЕС) 2016/679 и пункта (b) Статьи 24(2) Регламента (ЕС) 2018/1725. Поставщики и потенциальные поставщики в рамках регулятивной изолированной среды ИИ должны обеспечивать надлежащие меры безопасности и сотрудничать с компетентными органами, в том числе следовать их рекомендациям и действовать оперативно и добросовестно для адекватного снижения любых выявленных существенных рисков для безопасности, здоровья и основных прав, которые могут возникнуть в ходе разработки, тестирования и экспериментов в такой изолированной среде.

(141) В целях ускорения процесса разработки и размещения на рынке систем ИИ с высокой степенью риска, перечисленных в приложении к настоящему Регламенту, важно, чтобы поставщики или потенциальные поставщики таких систем также могли воспользоваться специальным режимом тестирования указанных систем в реальных условиях, не принимая участия в регулятивной изолированной среде ИИ. Однако в таких случаях, принимая во внимание возможные последствия такого тестирования для физических лиц, следует гарантировать, чтобы настоящий Регламент предусматривал надлежащие и достаточные гарантии и условия для поставщиков или потенциальных поставщиков. Такие гарантии должны включать, inter alia, запрос информированного согласия физических лиц на участие в тестировании в реальных условиях, за исключением правоохранительной деятельности, где запрос информированного согласия помешает тестированию системы ИИ. Согласие субъектов на участие в таком тестировании в соответствии с настоящим Регламентом отличается от согласия субъектов данных на обработку их персональных данных в соответствии с релевантным законодательством о защите данных и без ущерба для него. Также важно минимизировать риски и обеспечить надзор со стороны компетентных органов и, следовательно, требовать от потенциальных поставщиков предоставления в компетентный орган надзора за рынком плана проведения испытаний в реальных условиях, регистрации тестирования в специальных разделах базы данных ЕС с некоторыми ограниченными исключениями, установления ограничений на период, в течение которого может проводиться тестирование, а также требовать дополнительных гарантий для лиц, принадлежащих к определенным уязвимым группам, а также письменное соглашение, определяющее роли и обязанности потенциальных поставщиков и эксплуатирующих организаций, и эффективный надзор со стороны компетентного персонала, участвующего в тестировании в реальных условиях. Помимо этого, целесообразно предусмотреть дополнительные меры обеспечения безопасности в целях гарантии того, чтобы прогнозы, рекомендации или решения системы ИИ могут быть эффективно отменены и проигнорированы, а персональные данные защищены и удалены, когда субъекты отозвали свое согласие на участие в тестировании, без ущерба их правам как субъектов данных в рамках законодательства Союза о защите данных. В том, что касается передачи данных, целесообразно также предусмотреть, что данные, собранные и обработанные с целью тестирования в реальных условиях, должны передаваться третьим странам только в том случае, если соблюдаются надлежащие и применимые гарантии в соответствии с законодательством Союза, в частности, в соответствии с основаниями для передачи персональных данных согласно законодательству Союза о защите персональных данных, при этом в отношении данных, не относящихся к персональным, предусмотрены соответствующие меры обеспечения безопасности в соответствии с законодательством Союза, например, Регламенты (ЕС) 2022/868 <*> и (ЕС) 2023/2854 <**> Европейского Парламента и Совета ЕС.

---

<*> Регламент (ЕС) 2022/868 Европейского Парламента и Совета ЕС от 30 мая 2022 г. о европейском управлении данными, а также об изменении Регламента (ЕС) 2018/1724 (Акт об управлении данными) (ОЖ № L 152, 03.06.2022, стр. 1).

<**> Регламент (ЕС) 2023/2854 Европейского Парламента и Совета ЕС от 13 декабря 2023 г. о гармонизированных правилах справедливого доступа к данным и их использования, а также об изменении Регламента (ЕС) 2017/2394 и Директивы (ЕС) 2020/1828 (Акт о данных) (ОЖ № L, 2023/2854, 22.12.2023, ELI: http://data.europa.eu/eli/reg/2023/2854/oj).

(142) Для обеспечения того, чтобы ИИ привел к социально и экологически выгодным результатам, государствам-членам ЕС рекомендуется поддерживать и продвигать исследования и разработки решений на основе ИИ для достижения социально и экологически выгодных результатов, таких как решения на основе ИИ для повышения доступности для инвалидов, устранения социально-экономического неравенства или достижения экологических целей, путем выделения достаточных ресурсов, включая государственное финансирование и финансирование на уровне Союза, и, в соответствующих случаях, при условии соблюдения критериев приемлемости и отбора, учитывая, в частности, проекты, преследующие такие цели. Указанные проекты должны основываться на принципе междисциплинарного сотрудничества между разработчиками ИИ, экспертами по вопросам неравенства и недискриминации, доступности, прав потребителей, окружающей среды и цифровых прав, а также научными кругами.

(143) Для продвижения и защиты инноваций важно, чтобы особым образом учитывались интересы SMEs, включая недавно созданные компании, которые являются поставщиками систем ИИ или эксплуатирующими их организациями. С этой целью государствам-членам ЕС следует разработать инициативы, ориентированные на указанных операторов, в том числе по повышению осведомленности и распространению информации. Государства-члены ЕС должны предоставлять SMEs, в том числе недавно созданным компаниям, юридический адрес или филиал которых находится в Союзе, приоритетный доступ к регулятивным изолированным системам ИИ при условии, что они соблюдают условия приемлемости и критерии отбора и не препятствуют другим поставщикам и потенциальным поставщикам в получении доступа к изолированным системам, при соблюдении аналогичных условий и критериев. Государствам-членам ЕС следует использовать существующие каналы и, при необходимости, создавать новые специализированные каналы связи со SMEs, включая недавно созданные компании, разработчиков, других новаторов и, при необходимости, местные органы государственной власти, для поддержки SMEs на протяжении всего пути их развития посредством предоставления рекомендаций и ответов на вопросы об имплементации настоящего Регламента. В предусмотренном случае, указанные каналы должны функционировать сообща, чтобы создать синергию и обеспечить единообразие в своих рекомендациях для SMEs, включая недавно созданные компании, и эксплуатирующих организаций. Помимо этого, государства-члены ЕС должны способствовать участию SMEs и других соответствующих заинтересованных сторон в процессах разработки стандартов. Кроме того, при установлении нотифицированными органами платы за оценку соответствия следует учитывать конкретные интересы и потребности поставщиков, являющихся SMEs, включая недавно созданные компании. Европейская Комиссия должна регулярно оценивать затраты на сертификацию и соблюдение требований для SMEs, включая недавно созданные компании, посредством прозрачных консультаций и должна работать с государствами-членами ЕС над снижением таких затрат. Например, расходы на перевод, связанные с обязательной документацией и общением с государственными органами, могут представлять собой значительные затраты для поставщиков и других операторов, особенно для компаний меньшего масштаба. Государствам-членам ЕС, возможно, следует гарантировать, что один из языков, определенных и принятых ими для документации соответствующих поставщиков и для связи с операторами, является языком, который в целом понимает наибольшее число трансграничных эксплуатирующих организаций. В целях удовлетворения конкретных потребностей SMEs, включая недавно созданные компании, Европейская Комиссия должна предоставить стандартизированные шаблоны для областей, охватываемых настоящим Регламентом, по запросу Совета. Помимо этого, Европейская Комиссия должна дополнить усилия государств-членов ЕС, предоставив единую информационную платформу с простой в использовании информацией относительно настоящего Регламента для всех поставщиков и эксплуатирующих организаций, путем создания соответствующих информационных кампаний для повышения осведомленности об обязательствах, вытекающих из настоящего Регламента, а также путем оценки и содействия сближению передовой практики в процедурах государственных закупок, связанных с системами ИИ. Средние предприятия, которые до недавнего времени квалифицировались как малые предприятия в значении Приложения к Рекомендации 2003/361/EC Европейской Комиссии <*>, должны иметь доступ к указанным мерам поддержки, поскольку таким новым средним предприятиям иногда может не хватать правовых ресурсов и подготовки, необходимых для обеспечения надлежащего понимания и соблюдения требований настоящего Регламента.

---

<*> Рекомендация Европейской Комиссии от 6 мая 2003 г. относительно определения микро-, малых и средних предприятий (ОЖ № L 124, 20.05.2003, стр. 36).

(144) Для содействия и защиты инноваций, платформа AI-on-demand, все соответствующие программы и проекты Союза в области фондирования, такие как программа «Цифровая Европа», «Горизонт-Европа», имплементированные Европейской Комиссией и государствами-членами ЕС на уровне Союза или на национальном уровне должны, при необходимости, содействовать достижению целей настоящего Регламента.

(145) В целях минимизации рисков для имплементации, возникающих вследствие недостатка знаний и опыта на рынке, а также для содействия соблюдению поставщиками, в частности SMEs, включая недавно созданные компании, и нотифицированными органами их обязательств согласно настоящему Регламенту, платформа AI-on-demand, Европейские центры цифровых инноваций и испытательные и экспериментальные базы, созданные Европейской Комиссией и государствами-членами ЕС на уровне Союза или на национальном уровне, должны содействовать имплементации настоящего Регламента. В рамках своих соответствующих задач и сфер компетенции, платформа AI-on-demand, Европейские центры цифровых инноваций и испытательные и экспериментальные базы способны, в частности, оказывать техническую и научную поддержку поставщикам и нотифицированным органам.

(146) Помимо этого, в свете очень незначительного размера некоторых операторов и для обеспечения пропорциональности расходов на инновацию целесообразно разрешить микропредприятиям выполнять одно из наиболее затратных обязательств, а именно внедрить систему менеджмента качества, упрощенным образом, что снизило бы административную нагрузку и расходы для указанных предприятий без ущерба уровню защиты и необходимости соблюдать требования, предъявляемые к системам ИИ с высокой степенью риска. Европейская Комиссия должна разработать руководство, определяющее элементы системы менеджмента качества, которые микропредприятия должны выполнять таким упрощенным образом.

(147) Целесообразно, чтобы Европейская Комиссия, насколько это возможно, содействовала доступу к испытательным и экспериментальным базам органам, группам или лабораториям, учрежденным или аккредитованным согласно любому законодательству Союза о гармонизации, которые выполняют задачи в контексте оценки соответствия продуктов или устройств, подпадающих под действие указанного законодательства Союза о гармонизации. Это, в частности, относится к экспертным советам, квалифицированным лабораториям и метрологическим лабораториям в области изделий медицинского назначения согласно Регламентам (ЕС) 2017/745 и (ЕС) 2017/746.

(148) Настоящий Регламент должен создать рамочную основу управления, которая позволит координировать и поддерживать применение настоящего Регламента на национальном уровне, а также развивать потенциал на уровне Союза и интегрировать заинтересованные стороны в области ИИ. Эффективная имплементация и обеспечение исполнения настоящего Регламента требуют наличия рамочной основы управления, которая позволит координировать и наращивать централизованный опыт на уровне Союза. Управление ИИ было учреждено Решением Европейской Комиссии <*>, и его задачей является развитие опыта и знаний, а также потенциала Союза в области ИИ и содействие имплементации законодательства Союза в отношении ИИ. Государства-члены ЕС должны содействовать задачам Управления ИИ в целях поддержки развития знаний и возможностей Союза на уровне Союза и усиления функционирования единого цифрового рынка. Помимо этого, следует создать Совет, состоящий из представителей государств-членов ЕС, научный совет по интеграции научного сообщества и совещательный форум для содействия участию заинтересованных сторон в имплементации настоящего Регламента на уровне Союза и национальном уровне. Развитие знаний и возможностей Союза также должно включать использование существующих ресурсов и знаний, в частности, посредством взаимодействия со структурами, созданными в контексте обеспечения соблюдения других законодательных актов на уровне Союза, и взаимодействия с соответствующими инициативами на уровне Союза, такими как Европейское совместное предприятие по развитию высокопроизводительных вычислений (EuroHPC JU) и испытательные и экспериментальные базы ИИ в рамках программы «Цифровая Европа».

---

<*> Решение Европейской Комиссии от 24.01.2024 об учреждении Европейского управления в области искусственного интеллекта C(2024) 390.

(149) Для содействия плавной, эффективной и согласованной имплементации настоящего Регламента необходимо учредить Совет. Совет должен отражать различные интересы экосистемы ИИ и состоять из представителей государств-членов ЕС. Совет должен отвечать за выполнение ряда консультативных задач, включая предоставление заключений, рекомендаций, советов или содействие руководству по вопросам, связанным с имплементацией настоящего Регламента, в том числе по вопросам правоприменения, техническим спецификациям или существующим стандартам в отношении требований, установленных в настоящем Регламенте, а также предоставление консультаций Европейской Комиссии и государствам-членам ЕС и их национальным компетентным органам по конкретным вопросам, связанным с ИИ. Для того чтобы предоставить государствам-членам ЕС определенную гибкость при назначении своих представителей в Совет, такими представителями могут являться любые лица, принадлежащие к государственным органам, которые должны обладать соответствующей компетенцией и полномочиями для содействия координации на национальном уровне и содействия выполнению задач Совета. Совет должен создать две постоянные подгруппы, которые обеспечат платформу для сотрудничества и обмена информацией между органами надзора за рынком и уведомляющими органами по вопросам, связанным, соответственно, с надзором за рынком и нотифицированными органами. Постоянная подгруппа в отношении надзора за рынком должна действовать в качестве группы по административному сотрудничеству (ADCO) в целях настоящего Регламента в значении Статьи 30 Регламента (ЕС) 2019/1020. В соответствии со Статьей 33 указанного Регламента Европейская Комиссия должна оказывать содействие деятельности постоянной подгруппы в отношении надзора за рынком путем проведения оценок или исследований рынка, в частности, для выявления аспектов настоящего Регламента, требующих определенной и срочной координации между органами надзора за рынком. Совет может учредить другие постоянные или временные подгруппы, при необходимости, в целях изучения определенных проблем. Совет также должен сотрудничать, в соответствующих случаях, с релевантными органами Союза, группами экспертов и сетями, действующими в контексте соответствующего законодательства Союза, включая, в частности, те, которые действуют в рамках соответствующего законодательства Союза о данных, цифровых продуктах и услугах.

(150) Для обеспечения участия заинтересованных сторон в имплементации и применении настоящего Регламента необходимо создать совещательный форум для консультирования и предоставления технических знаний и опыта Совету и Европейской Комиссии. Для обеспечения разнообразного и сбалансированного представительства заинтересованных сторон, представляющих коммерческие и некоммерческие интересы, и в рамках категории коммерческих интересов в отношении SMEs и других предприятий совещательный форум должен включать в себя, inter alia, промышленность, недавно созданные компании, SMEs, научные круги, гражданское общество, включая социальных партнеров, а также Агентство по основным правам, ENISA, Европейский комитет по стандартизации (CEN), Европейский комитет по стандартизации в электротехнике (CENELEC) и Европейский институт стандартов связи (ETSI).

(151) В целях содействия имплементации и обеспечению исполнения настоящего Регламента, в частности, деятельности Управления ИИ по мониторингу моделей ИИ общего назначения, необходимо создать научный совет независимых экспертов. Независимые эксперты, входящие в состав научного совета, должны отбираться на основе современных научных и технических знаний и опыта в области ИИ и должны выполнять свои задачи беспристрастно и объективно и обеспечивать конфиденциальность информации и данных, полученных при выполнении ими своих задач и осуществлении своей деятельности. Чтобы обеспечить укрепление национального потенциала, необходимого для эффективного применения настоящего Регламента, государства-члены ЕС должны иметь возможность запрашивать поддержку у пула экспертов, входящих в научный совет, для своей правоприменительной деятельности.

(152) В целях поддержки надлежащего правоприменения в отношении систем ИИ и укрепления потенциала государств-членов ЕС необходимо создать структуры поддержки тестирования ИИ в Союзе и обеспечить их доступность для государств-членов ЕС.

(153) Государства-члены ЕС играют ключевую роль в применении и обеспечении исполнения настоящего Регламента. В этой связи каждое государство-член ЕС должно назначить как минимум один уведомляющий орган и как минимум один орган надзора за рынком в качестве национальных компетентных органов для цели надзора за применением и имплементацией настоящего Регламента. Государства-члены ЕС могут принять решение о назначении любого государственного органа для выполнения задач национальных компетентных органов в значении настоящего Регламента в соответствии со своими определенными национальными организационными характеристиками и потребностями. Для повышения организационной эффективности государств-членов ЕС и создания единого контактного центра для общественности и других партнеров на уровне государств-членов ЕС и Союза каждое государство-член ЕС должно назначить орган надзора за рынком, который будет выполнять функции единого контактного центра.

(154) Национальные компетентные органы должны осуществлять свои полномочия независимо, беспристрастно и объективно, с тем чтобы гарантировать принципы объективности своей деятельности и задач и обеспечить применение и имплементацию настоящего Регламента. Члены указанных органов должны воздерживаться от любых действий, несовместимых с их обязанностями, и должны соблюдать правила конфиденциальности, предусмотренные настоящим Регламентом.

(155) В целях гарантии того, что поставщики систем ИИ с высокой степенью риска могут учитывать опыт использования систем ИИ с высокой степенью риска для совершенствования своих систем и процесса проектирования и разработки или могут своевременно принимать любые возможные корректирующие меры, все поставщики должны иметь в распоряжении систему постпродажного мониторинга. При необходимости, постпродажный мониторинг должен включать в себя анализ взаимодействия с другими системами ИИ, в том числе с другими устройствами и программным обеспечением. Постпродажный мониторинг не должен охватывать конфиденциальные оперативные данные эксплуатирующих организаций, которые являются правоохранительными органами. Указанная система крайне важна для обеспечения более эффективного и своевременного устранения возможных рисков, связанных с системами ИИ, которые продолжают «обучаться» после размещения на рынке или ввода в эксплуатацию. В данном контексте поставщики также обязаны иметь в распоряжении систему, позволяющую предоставлять соответствующим органам отчеты о любых серьезных инцидентах, возникающих в результате использования их систем ИИ, то есть об инциденте или сбое в работе, ведущем к смерти или серьезному ущербу здоровью, серьезному и необратимому нарушению в управлении и эксплуатации критически важной инфраструктуры, нарушениям обязательств в рамках законодательства Союза, направленных на защиту основных прав, или серьезному ущербу для имущества или окружающей среды.

(156) В целях обеспечения надлежащего и эффективного выполнения требований и обязательств, изложенных в настоящем Регламенте, который является законодательством Союза о гармонизации, система надзора за рынком и соответствия продукции требованиям, установленная Регламентом (ЕС) 2019/1020, должна применяться в полном объеме. Органы надзора за рынком, назначенные согласно настоящему Регламенту, должны обладать всеми полномочиями в сфере правоприменения, изложенными в настоящем Регламенте и в Регламенте (ЕС) 2019/1020, и должны осуществлять свои полномочия и исполнять свои обязанности независимо, беспристрастно и объективно. Хотя большинство систем ИИ не подпадают под определенные требования и обязательства согласно настоящему Регламенту, органы надзора за рынком могут принимать меры в отношении всех систем ИИ, если они представляют риск в соответствии с настоящим Регламентом. Вследствие особого характера учреждений, агентств и органов Союза, подпадающих под сферу применения настоящего Регламента, целесообразно назначить в их отношении европейского инспектора по защите данных в качестве компетентного органа надзора за рынком. Это положение должно действовать без ущерба назначению национальных компетентных органов государствами-членами ЕС. Деятельность по надзору за рынком не должна влиять на способность поднадзорных организаций независимо выполнять свои задачи, если такая независимость требуется законодательством Союза.

(157) Настоящий Регламент действует без ущерба компетенции, задачам, полномочиям и независимости релевантных национальных государственных органов или ведомств, которые контролируют применение законодательства Союза, защищающего основные права, включая органы по обеспечению равенства и органы по защите данных. В случае если это необходимо для выполнения предоставленных полномочий, указанные национальные государственные органы или ведомства также должны иметь доступ к любой документации, составленной в рамках настоящего Регламента. Необходимо установить особую защитную процедуру для обеспечения надлежащего и своевременного применения мер в отношении систем ИИ, представляющих угрозу здоровью, безопасности и основным правам. Процедура для таких систем ИИ, представляющих риск, должна применяться к представляющим риск системам ИИ с высокой степенью риска, запрещенным системам, которые были размещены на рынке, введены в эксплуатацию или использовались в обход запрещенных методов, установленных в настоящем Регламенте, и к системам ИИ, которые были доступны в нарушение требований к прозрачности, установленных в настоящем Регламенте, и представляют риск.

(158) Законодательство Союза о финансовых услугах включает в себя правила и требования внутреннего управления и управления рисками, которые применяются к регулируемым финансовым учреждениям в ходе предоставления указанных услуг, в том числе тогда, когда они используют системы ИИ. Для обеспечения согласованного применения и обеспечения исполнения обязательств согласно настоящему Регламенту, а также релевантных правил и требований правовых актов Союза в области финансовых услуг, компетентные органы по надзору и обеспечению исполнения указанных правовых актов, в частности компетентные органы, установленные в Регламенте (ЕС) 575/2013 Европейского Парламента и Совета ЕС <1> и в Директивах 2008/48/EC <2>, 2009/138/EC <3>, 2013/36/ЕС <4>, 2014/17/ЕС <5> и (ЕС) 2016/97 <6> Европейского Парламента и Совета ЕС, должны быть назначены в рамках их соответствующих компетенций в качестве компетентных органов по надзору за имплементацией настоящего Регламента, в том числе в рамках деятельности по надзору за рынком, в отношении систем ИИ, предоставленных или используемых регулируемыми и поднадзорными финансовыми учреждениями, кроме случаев, когда государства-члены ЕС принимают решение о назначении другого органа для выполнения указанных задач по надзору за рынком. Указанные компетентные органы должны обладать всеми полномочиями согласно настоящему Регламенту и Регламенту (ЕС) 2019/1020 для обеспечения соблюдения требований и обязательств, предусмотренных настоящим Регламентом, включая полномочия по осуществлению деятельности по надзору за рынком постфактум, которая может быть интегрирована, при необходимости, в их существующие механизмы и процедуры надзора в соответствии с релевантным законодательством Союза о финансовых услугах. Целесообразно предусмотреть, что, выступая в качестве органов надзора за рынком согласно настоящему Регламенту, национальные органы, отвечающие за надзор за кредитными организациями, деятельность которых регулируется Директивой 2013/36/ЕС, которые участвуют в Едином механизме надзора, учрежденном Регламентом (ЕС) 1024/2013 Совета ЕС <7>, должны незамедлительно предоставлять Европейскому Центральному Банку любую информацию, выявленную в ходе их деятельности по надзору за рынком, которая может представлять потенциальный интерес для выполнения Европейским Центральным Банком задач пруденциального надзора, изложенных в указанном Регламенте. Для дальнейшего повышения согласованности между настоящим Регламентом и правилами, применимыми к кредитным организациям, деятельность которых регулируется Директивой 2013/36/ЕС, также целесообразно интегрировать некоторые процедурные обязательства поставщиков в отношении управления рисками, постпродажного мониторинга и документации в существующие обязательства и процедуры, предусмотренные Директивой 2013/36/ЕС. Во избежание дублирования следует также предусмотреть ограниченные отступления в отношении системы менеджмента качества поставщиков и обязательства по мониторингу, возложенного на организации, эксплуатирующие системы ИИ с высокой степенью риска, в той мере, в какой они применимы к кредитным организациям, деятельность которых регулируется Директивой 2013/36/ЕС. Аналогичный режим должен применяться к предприятиям страхования и перестрахования и страховым холдинговым компаниям в соответствии с Директивой 2009/138/ЕС, а также к страховым посредникам в соответствии с Директивой (ЕС) 2016/97 и к другим типам финансовых учреждений в соответствии с требованиями, касающимися внутреннего управления, механизмов или процессов, установленных в соответствии с релевантным законодательством Союза о финансовых услугах для обеспечения последовательности и равного отношения в финансовом секторе.

---

<1> Регламент (ЕС) 575/2013 Европейского Парламента и Совета ЕС от 26 июня 2013 г. о пруденциальных требованиях к кредитным организациям и инвестиционным фирмам и внесении изменений в Регламент (ЕС) 648/2012 (ОЖ № L 176, 27.6.2013, стр. 1).

<2> Директива 2008/48/EC Европейского Парламента и Совета ЕС от 23 апреля 2008 г. о договорах потребительского кредитования и отмене Директивы 87/102/ЕЭС Совета ЕС (ОЖ № L 133, 22.05.2008, стр. 66).

<3> Директива 2009/138/EC Европейского Парламента и Совета ЕС от 25 ноября 2009 г. об учреждении и осуществлении бизнеса в области страхования и перестрахования (Директива о платежеспособности страховых компаний II) (ОЖ № L 335, 17.12.2009, стр. 1).

<4> Директива 2013/36/ЕС Европейского Парламента и Совета ЕС от 26 июня 2013 г. о доступе к деятельности кредитных организаций и пруденциальном надзоре за кредитными организациями и инвестиционными компаниями, а также о внесении изменений в Директиву 2002/87/EC и об отмене Директив 2006/48/EC и 2006/49/EC (ОЖ № L 176, 27.06.2013, стр. 338).

<5> Директива 2014/17/ЕС Европейского Парламента и Совета ЕС от 4 февраля 2014 г. о кредитных соглашениях с потребителями в отношении жилого недвижимого имущества и изменении Директив 2008/48/EC и 2013/36/ЕС и Регламента (ЕС) 1093/2010 (ОЖ № L 60, 28.02.2014, стр. 34).

<6> Директива (ЕС) 2016/97 Европейского Парламента и Совета ЕС от 20 января 2016 г. о дистрибуции страховых услуг (ОЖ № L 26, 02.02.2016, стр. 19).

<7> Регламент (ЕС) 1024/2013 Совета ЕС от 15 октября 2013 г. о возложении на Европейский Центральный Банк специальных функций в части политики, относящейся к пруденциальному надзору за кредитными организациями (ОЖ № L 287, 29.10.2013, стр. 63).

(159) Каждый орган надзора за рынком в отношении систем ИИ с высокой степенью риска в области биометрии, перечисленных в приложении к настоящему Регламенту, в той мере, в какой указанные системы используются для целей правоприменения, управления миграцией, предоставлением убежища и пограничным контролем, а также для отправления правосудия и демократических процессов, должен обладать эффективными следственными и корректирующими полномочиями, в том числе как минимум правом на получение доступа ко всем обрабатываемым персональным данным и ко всей информации, необходимой для выполнения его задач. Органы надзора за рынком должны иметь возможность осуществлять свои полномочия, действуя с полной независимостью. Любые ограничения их доступа к конфиденциальным оперативным данным согласно настоящему Регламенту должны действовать без ущерба полномочиям, предоставленным им Директивой (ЕС) 2016/680. Никакие исключения в отношении раскрытия данных национальным органам по защите данных в соответствии с настоящим Регламентом не должны влиять на текущие или будущие полномочия указанных органов, выходящие за рамки настоящего Регламента.

(160) Органы надзора за рынком и Европейская Комиссия должны иметь возможность предлагать совместные мероприятия, в том числе совместные расследования, которые должны проводиться органами надзора за рынком или органами надзора за рынком совместно с Европейской Комиссией, в целях содействия соблюдению требований, выявления случаев несоответствия, повышения осведомленности и предоставления рекомендаций, касающихся настоящего Регламента, в отношении определенных категорий систем ИИ с высокой степенью риска, которые, как установлено, представляют серьезную опасность в двух или более государствах-членах ЕС. Совместная деятельность по содействию соблюдению требований должна осуществляться в соответствии со Статьей 9 Регламента (ЕС) 2019/1020. Управление ИИ должно оказывать координационную помощь в проведении совместных расследований.

(161) Необходимо разъяснить обязанности и компетенции на уровне Союза и на национальном уровне в отношении систем ИИ, созданных на основе моделей ИИ общего назначения. Во избежание дублирования компетенций, в тех случаях, когда система ИИ основана на модели ИИ общего назначения и модель и система предоставлены одним и тем же поставщиком, надзор должен проводиться на уровне Союза через Управление ИИ, которое должно обладать для указанной цели полномочиями органа надзора за рынком в значении Регламента (ЕС) 2019/1020. Во всех остальных случаях национальные органы надзора за рынком продолжают нести ответственность за надзор за системами ИИ. Однако в том, что касается систем ИИ общего назначения, которые могут использоваться непосредственно эксплуатирующими организациями как минимум для одной цели, которая классифицируется как рискованная, органы надзора за рынком должны сотрудничать с Управлением ИИ для проведения оценки соответствия и информирования Совета и других органов надзора за рынком соответственно. Помимо прочего, органы надзора за рынком должны иметь возможность обратиться за помощью к Управлению ИИ в тех случаях, когда орган надзора за рынком не может завершить расследование в отношении системы ИИ с высокой степенью риска вследствие невозможности получить доступ к определенной информации, связанной с моделью ИИ общего назначения, на которой основывается система ИИ с высокой степенью риска. В таких случаях процедура, касающаяся взаимной помощи в трансграничных делах, согласно Главе VI Регламента (ЕС) 2019/1020 должна применяться mutatis mutandis.

(162) Чтобы наилучшим образом использовать централизованные знания и опыт Союза и синергию на уровне Союза, полномочия по надзору и обеспечению соблюдения обязательств поставщиков моделей ИИ общего назначения должны находиться в компетенции Европейской Комиссии. Управление ИИ должно иметь возможность принимать все необходимые меры для контроля за эффективной имплементацией настоящего Регламента в отношении моделей ИИ общего назначения. Оно должно иметь возможность расследовать возможные нарушения правил, принятых в отношении поставщиков моделей ИИ общего назначения, как по собственной инициативе, на основе результатов деятельности по контролю, так и по запросу органов надзора за рынком в соответствии с условиями, изложенными в настоящем Регламенте. В целях содействия эффективному контролю со стороны Управления ИИ, оно должно предусмотреть возможность подачи нижестоящими поставщиками жалоб на возможные нарушения правил поставщиками моделей и систем ИИ общего назначения.

(163) В целях дополнения систем управления в отношении моделей ИИ общего назначения научный совет должен оказывать содействие деятельности Управления ИИ по контролю и в определенных случаях может предоставлять квалифицированные предупреждения Управлению ИИ, которые инициируют последующие действия, такие как расследования. Сюда относится тот случай, когда у научного совета есть основания подозревать, что модель ИИ общего назначения представляет конкретный и идентифицируемый риск на уровне Союза. Помимо этого, сюда относится случай, когда у научного совета есть основания подозревать, что модель ИИ общего назначения соответствует критериям, которые могут привести к ее классификации в качестве модели ИИ общего назначения, представляющей системный риск. Для снабжения научного совета информацией, требуемой для выполнения указанных задач, необходим механизм, при помощи которого научный совет может обратиться к Европейской Комиссии с просьбой запросить у поставщика документацию или информацию.

(164) Управление ИИ должно иметь возможность предпринимать необходимые действия для контроля за эффективной имплементацией и соблюдением обязательств поставщиков моделей ИИ общего назначения, установленных в настоящем Регламенте. Управление ИИ должно иметь возможность расследовать возможные нарушения в соответствии с полномочиями, предусмотренными в настоящем Регламенте, в том числе посредством запроса документации и информации, проведения оценок, а также при помощи запроса мер у поставщиков моделей ИИ общего назначения. При проведении оценок, для того чтобы использовать независимые знания и опыт, Управление ИИ должно иметь возможность привлекать независимых экспертов к проведению оценок от своего имени. Соблюдение обязательства должно быть обеспечено, inter alia, посредством запросов о принятии соответствующих мер, включая меры по снижению риска в случае выявленных системных рисков, а также посредством ограничения доступности на рынке, изъятия или отзыва модели. В качестве гарантии, когда это необходимо, помимо процессуальных прав, предусмотренных в настоящем Регламенте, поставщики моделей ИИ общего назначения должны обладать процессуальными правами, предусмотренными Статьей 18 Регламента (ЕС) 2019/1020, которые должны применяться mutatis mutandis, без ущерба более конкретным процессуальным правилам, предусмотренным в настоящем Регламенте.

(165) Разработка систем ИИ, кроме систем ИИ с высокой степенью риска, в соответствии с требованиями настоящего Регламента может привести к более широкому внедрению этичного и заслуживающего доверия ИИ в Союзе. Поставщикам систем ИИ, которые не являются системами с высоким риском, необходимо рекомендовать создавать правила поведения, в том числе соответствующие механизмы управления, предназначенные для содействия добровольному применению некоторых или всех обязательных требований, применимых к системам ИИ с высокой степенью риска, адаптированных в свете целевого назначения систем и снижения риска и с учетом имеющихся технических решений и передового отраслевого опыта, таких как карты модели и данных. Поставщикам всех систем ИИ, с высокой степенью риска или без нее, и моделей ИИ, а также, в соответствующих случаях, эксплуатирующим их организациям следует рекомендовать применять на добровольной основе дополнительные требования, связанные, например, с элементами руководств Союза по этике, касающихся надежной экологической устойчивости, мер по повышению грамотности в области ИИ, инклюзивного и разнообразного технического проектирования систем ИИ, в том числе уделяя внимание уязвимым лицам и обеспечению доступности для людей с ограниченными возможностями, участию заинтересованных сторон с привлечением, при необходимости, соответствующих заинтересованных сторон, таких как организации бизнеса и организации гражданского общества, научные круги, исследовательские организации, профессиональные союзы и организации по защите прав потребителей, в проектировании и разработке систем ИИ, а также разнообразию команд разработчиков, включая гендерный баланс. Для обеспечения эффективности добровольных правил поведения они должны основываться на четких целях и ключевых показателях эффективности для оценки достижения указанных целей. Их также следует разрабатывать инклюзивным образом, при необходимости, с привлечением соответствующих заинтересованных сторон, таких как организации бизнеса и организации гражданского общества, научные круги, исследовательские организации, профессиональные союзы и организации по защите прав потребителей. Европейская Комиссия может разработать инициативы, в том числе отраслевого характера, способствующие снижению технических барьеров, препятствующих трансграничному обмену данными для развития ИИ, в том числе в отношении инфраструктуры доступа к данным, семантической и технической совместимости различных типов данных.

(166) Важно, чтобы системы ИИ, относящиеся к продуктам, которые не представляют высокий риск в соответствии с настоящим Регламентом и, тем самым, не обязаны соответствовать требованиям, предъявляемым к системам ИИ с высокой степенью риска, тем не менее являлись безопасными при размещении на рынке или вводе в эксплуатацию. Для достижения настоящей цели в качестве гарантии будет применяться Регламент (ЕС) 2023/988 Европейского Парламента и Совета ЕС <*>.

---

<*> Регламент (ЕС) 2023/988 Европейского Парламента и Совета ЕС от 10 мая 2023 г. об общей безопасности продукции, о внесении изменений в Регламент (ЕС) 1025/2012 Европейского Парламента и Совета ЕС и в Директиву (ЕС) 2020/1828 Европейского Парламента и Совета ЕС, а также об отмене Директивы 2001/95/EC Европейского Парламента и Совета ЕС и Директивы 87/357/ЕЭС Совета ЕС (ОЖ № L 135, 23.05.2023, стр. 1).

(167) Для обеспечения доверительного и конструктивного сотрудничества компетентных органов на уровне Союза и на национальном уровне все стороны, участвующие в применении настоящего Регламента, должны соблюдать конфиденциальность информации и данных, полученных при выполнении ими своих задач в соответствии с законодательством Союза или национальным законодательством. Они должны выполнять свои задачи и осуществлять свою деятельность таким образом, чтобы защищать, в частности, права интеллектуальной собственности, конфиденциальную коммерческую информацию и торговые тайны, эффективную имплементацию настоящего Регламента, интересы общественной и национальной безопасности, целостность уголовного и административного судопроизводства и целостность секретной информации.

(168) Соблюдение настоящего Регламента должно обеспечиваться при помощи введения санкций и других мер принудительного характера. Государства-члены ЕС должны принимать все необходимые меры для обеспечения имплементации положений настоящего Регламента, в том числе путем установления эффективных, пропорциональных и оказывающих сдерживающее воздействие санкций за их нарушение, а также для соблюдения принципа ne bis in idem. Для усиления и гармонизации административных наказаний за нарушение настоящего Регламента необходимо установить верхние пределы административных штрафов за определенные нарушения. При определении размера штрафов государства-члены ЕС в каждом отдельном случае должны учитывать все релевантные обстоятельства конкретной ситуации, принимая во внимание, в частности, характер, тяжесть и продолжительность нарушения и его последствий, а также размер поставщика, в частности, если поставщик является SME, включая недавно созданные компании. Европейский инспектор по защите данных должен обладать правом налагать штрафы на учреждения, агентства и органы Союза, подпадающие под действие настоящего Регламента.

(171) Пострадавшие лица имеют право на получение разъяснений в тех случаях, когда решение эксплуатирующей организации основывается главным образом на результатах работы определенных систем ИИ с высокой степенью риска, которые подпадают под сферу применения настоящего Регламента, и когда указанное решение создает правовые последствия или аналогичным образом существенно влияет на указанных лиц таким образом, который, по их мнению, имеет неблагоприятное воздействие на их здоровье, безопасность или основные права. Указанное разъяснение должно быть четким и содержательным и должно обеспечивать основу, на которой пострадавшие лица смогут осуществлять свои права. Право на получение разъяснения не должно распространяться на использование систем ИИ, в отношении которых исключения или ограничения следуют из законодательства Союза или национального законодательства, и должно применяться только в той мере, в какой указанное право еще не предусмотрено законодательством Союза.

---

<*> Директива (ЕС) 2019/1937 Европейского Парламента и Совета ЕС от 23 октября 2019 г. о защите лиц, сообщающих о нарушениях законодательства Союза (ОЖ № L 305, 26.11.2019, стр. 17).

(173) Для гарантии того, что нормативно-правовая база, при необходимости, может быть адаптирована, Европейской Комиссии должны быть делегированы полномочия по принятию актов в соответствии со Статьей 290 TFEU для внесения изменений в условия, при которых система ИИ не считается системой с высокой степенью риска, в перечень систем ИИ с высокой степенью риска, в положения относительно технической документации, содержание декларации о соответствии нормативным требованиям ЕС, положения относительно процедур оценки соответствия, положения, устанавливающие системы ИИ с высокой степенью риска, к которым должна применяться процедура оценки соответствия, основанная на оценке системы менеджмента качества и технической документации, в пороговые значения, контрольные показатели и критерии, в том числе путем дополнения указанных критериев и контрольных показателей в правилах классификации моделей ИИ общего назначения с системным риском, критерии отнесения моделей ИИ общего назначения к моделям с системным риском, в техническую документацию для поставщиков моделей ИИ общего назначения и в информацию о прозрачности для поставщиков моделей ИИ общего назначения. Крайне важно, чтобы Европейская Комиссия проводила соответствующие консультации в ходе своей подготовительной работы, в том числе на уровне экспертов, и чтобы указанные консультации проводились в соответствии с принципами, установленными в Межинституциональном соглашении от 13 апреля 2016 г. по совершенствованию законодательной работы <*>. В частности, для обеспечения равного участия в подготовке актов делегированного законодательства Европейский Парламент и Совет ЕС получают все документы одновременно с экспертами государств-членов ЕС, а их эксперты имеют систематический доступ к заседаниям экспертных групп Европейской Комиссии, занимающихся подготовкой актов делегированного законодательства.

---

<*> ОЖ № L 123, 12.05.2016, стр. 1.

(174) С учетом быстрого темпа развития технологий и технических знаний, необходимых для эффективного применения настоящего Регламента, Европейская Комиссия должна оценить и пересмотреть настоящий Регламент до 2 августа 2029 г. и каждые четыре года впоследствии и должна представить отчет Европейскому Парламенту и Совету ЕС. В дополнение к этому, принимая во внимание возможные последствия для сферы применения настоящего Регламента, Европейская Комиссия один раз в год должна проводить оценку необходимости внесения изменений в перечень систем ИИ с высокой степенью риска и в перечень запрещенных методов. Помимо этого, до 2 августа 2028 г. и каждые четыре года впоследствии Европейская Комиссия должна провести оценку и представить Европейскому Парламенту и Совету ЕС отчет о необходимости внесения изменений в названия областей с высокой степенью риска в приложении к настоящему Регламенту, о системах ИИ в рамках обязательств по обеспечению прозрачности, об эффективности системы надзора и управления, а также о прогрессе в разработке результатов стандартизации в области энергоэффективной разработки моделей ИИ общего назначения, включая необходимость дальнейших мер или действий. Наконец, к 2 августа 2028 г. и каждые три года после этого Европейская Комиссия должна оценивать воздействие и эффективность добровольных правил поведения, чтобы способствовать применению требований, предусмотренных относительно систем ИИ с высокой степенью риска, в случае систем ИИ, отличных от систем ИИ с высокой степенью риска, и, возможно, других дополнительных требований к таким системам ИИ.

(175) В целях обеспечения единообразных условий для имплементации настоящего Регламента Европейской Комиссии должны быть предоставлены имплементирующие полномочия. Указанные полномочия должны осуществляться в соответствии с Регламентом (ЕС) 182/2011 Европейского Парламента и Совета ЕС <*>.

---

<*> Регламент (ЕС) 182/2011 Европейского Парламента и Совета ЕС от 16 февраля 2011 г., устанавливающий правила и общие принципы относительно механизмов контроля государствами-членами ЕС выполнения Европейской Комиссией имплементационных полномочий (ОЖ № L 55, 28.02.2011, стр. 13).

(176) Поскольку цель настоящего Регламента, а именно улучшение функционирования внутреннего рынка и содействие внедрению ориентированного на человека и надежного искусственного интеллекта (ИИ), обеспечивая при этом высокий уровень защиты здоровья, безопасности и основных прав, закрепленных в Хартии, включая демократию, верховенство права и охрану окружающей среды от вредного воздействия систем ИИ в Союзе и поддержку инноваций, не может быть в достаточной степени достигнута государствами-членами ЕС, но в силу масштаба и последствий действий может быть эффективнее достигнута на уровне Союза, Союз может принять меры в соответствии с принципов субсидиарности, указанным в Статье 5 TEU. В соответствии с принципом пропорциональности, указанным в данной Статье, настоящий Регламент не выходит за пределы того, что необходимо для достижения указанной цели.

(177) В целях обеспечения правовой определенности, обеспечения надлежащего периода адаптации для операторов и предотвращения перебоев на рынке, в том числе путем обеспечения непрерывности использования систем ИИ, целесообразно, чтобы настоящий Регламент применялся к системам ИИ с высокой степенью риска, размещенным на рынке или введенным в эксплуатацию до общей даты их применения, только в том случае, если с указанной даты в конструктивные решения или целевое назначение указанных систем будут внесены значительные изменения. Целесообразно уточнить, что в указанном отношении понятие значительного изменения следует понимать как эквивалентное по существу понятию значительной модификации, которое применяется только в отношении систем ИИ с высокой степенью риска согласно настоящему Регламенту. В порядке исключения и в свете государственной подотчетности операторы систем ИИ, которые являются компонентами крупномасштабных IT-систем, установленных законодательными актами, перечисленными в приложении к настоящему Регламенту, и операторы систем ИИ с высокой степенью риска, которые предназначены для использования государственными органами власти, должны, соответственно, принимать необходимые меры для выполнения требований настоящего Регламента к концу 2030 г. и к 2 августа 2030 г.

(178) Поставщики систем ИИ с высокой степенью риска могут начать соблюдать соответствующие обязательства настоящего Регламента на добровольной основе уже в течение переходного периода.

(179) Настоящий Регламент применяется с 2 августа 2026 г. Однако, принимая во внимание недопустимый риск, связанный с использованием ИИ определенными способами, запреты, а также общие положения настоящего Регламента должны применяться уже с 2 февраля 2025 г. Хотя юридическая сила указанных запретов в полном объеме действует с момента вступления в силу настоящего Регламента, важно заранее предусмотреть применение запретов, чтобы учесть недопустимые риски и повлиять на другие процедуры, например, в гражданском праве. Помимо этого, инфраструктура, связанная с управлением и системой оценки соответствия, должна быть введена в действие до 2 августа 2026 г., поэтому положения о нотифицированных органах и структуре управления должны применяться с 2 августа 2025 г. Учитывая быстрые темпы технологического прогресса и внедрения моделей ИИ общего назначения, обязательства поставщиков моделей ИИ общего назначения применяются с 2 августа 2025 г. Своды правила должны быть готовы к 2 мая 2025 г., чтобы предоставить поставщикам возможность своевременно подтвердить соблюдение требований. Управление ИИ должно гарантировать, что правила и процедуры классификации соответствуют современным требованиям в свете технологических изменений. Кроме этого, государства-члены ЕС должны разработать правила применения санкций, включая административные штрафы, уведомить о них Европейскую Комиссию, а также гарантировать их надлежащее и эффективное применение до даты вступления в силу настоящего Регламента. Следовательно, положения о санкциях применяются с 2 августа 2025 г.

(180) В соответствии со Статьей 42(1) и (2) Регламента (ЕС) 2018/1725 были проведены консультации с Европейским инспектором по защите данных и Европейским советом по защите данных, которые дали свое совместное заключение 18 июня 2021 г.,

Приняли настоящий Регламент: