---
title: "Регламент N 2024/1689 Европейского парламента и Совета Европейского Союза"
number: "2024/1689"
issuer: "Европейский Союз"
status: действует
canonical: "https://bukva.ai/docs/reglament-20241689/statya-15"
---

# Статья 15

### <a id="p100575"></a>Статья 15


<a id="p100576"></a>**Точность, эксплуатационная надежность и кибербезопасность**

1. <a id="p100577"></a>Системы ИИ с высокой степенью риска должны проектироваться и разрабатываться таким образом, чтобы они достигали соответствующего уровня точности, эксплуатационной надежности и кибербезопасности и чтобы они стабильно функционировали в указанных областях на протяжении всего срока эксплуатации.
2. <a id="p100578"></a>Для рассмотрения технических аспектов того, как измерять соответствующие уровни точности и надежности, установленные в [параграфе 1](https://bukva.ai/docs/reglament-20241689/statya-15#p100577), и любые другие релевантные показатели эффективности, Европейская Комиссия в сотрудничестве с соответствующими заинтересованными лицами и организациями, такими как органы по метрологии и сопоставительному анализу, должна поощрять, при необходимости, разработку контрольных показателей и методик измерения.
3. <a id="p100579"></a>Уровни точности и соответствующие показатели точности систем ИИ с высокой степенью риска должны быть указаны в прилагаемых инструкциях по эксплуатации.
4. <a id="p100580"></a>Системы ИИ с высокой степенью риска должны быть максимально устойчивы к ошибкам, отказам или несоответствиям, которые могут возникать в системе или в среде, в которой функционирует система, в частности, вследствие их взаимодействия с физическими лицами или другими системами. В этой связи необходимо принять технические и организационные меры.
<a id="p100581"></a>Надежность систем ИИ с высокой степенью риска может быть достигнута при помощи технических решений по резервированию, которые могут включать планы резервного копирования или отказоустойчивости.
<a id="p100582"></a>Системы ИИ с высокой степенью риска, обучение которых продолжается после их размещения на рынке или ввода в эксплуатацию, должны разрабатываться таким образом, чтобы исключить или нивелировать, насколько это возможно, риск возможного смещения выходных данных, влияющих на входные данные в будущих операциях (петли обратной связи) и чтобы гарантировать должное рассмотрение любых таких петлей обратной связи с помощью соответствующих мер по смягчению последствий.
5. <a id="p100583"></a>Системы ИИ с высокой степенью риска должны быть устойчивы к попыткам неуполномоченных третьих лиц изменить их использование, выходные данные или эффективность путем использования уязвимостей системы.
<a id="p100584"></a>Технические решения, направленные на обеспечение кибербезопасности систем ИИ с высокой степенью риска, должны соответствовать определенным обстоятельствам и рискам.

<div align="center">

<a id="p100585"></a>**Технические решения для устранения уязвимостей, характерных для ИИ, должны включать, в соответствующих случаях, меры по предотвращению, выявлению, реагированию, нейтрализации и контролю атак, направленных на манипулирование набором данных для обучения ("отравление" данных) или предварительно обученными компонентами, используемыми в обучении ("отравление" модели), входными данными, предназначенными для того, чтобы модель ИИ допустила ошибку (состязательные примеры или обход модели), атак на конфиденциальность или недостатков модели.**

<a id="p100586"></a>**Раздел 3**

</div>


<a id="p100587"></a>ОБЯЗАТЕЛЬСТВА ПОСТАВЩИКОВ СИСТЕМ ИИ С ВЫСОКОЙ СТЕПЕНЬЮ

<div align="center">

**РИСКА, ЭКСПЛУАТИРУЮЩИХ ИХ ОРГАНИЗАЦИЙ И ДРУГИХ СТОРОН**