Статья 15Регламент № 2024/1689 Европейского парламента и Совета Европейского Союза

Точность, эксплуатационная надежность и кибербезопасность

1. Системы ИИ с высокой степенью риска должны проектироваться и разрабатываться таким образом, чтобы они достигали соответствующего уровня точности, эксплуатационной надежности и кибербезопасности и чтобы они стабильно функционировали в указанных областях на протяжении всего срока эксплуатации.

2. Для рассмотрения технических аспектов того, как измерять соответствующие уровни точности и надежности, установленные в параграфе 1, и любые другие релевантные показатели эффективности, Европейская Комиссия в сотрудничестве с соответствующими заинтересованными лицами и организациями, такими как органы по метрологии и сопоставительному анализу, должна поощрять, при необходимости, разработку контрольных показателей и методик измерения.

3. Уровни точности и соответствующие показатели точности систем ИИ с высокой степенью риска должны быть указаны в прилагаемых инструкциях по эксплуатации.

4. Системы ИИ с высокой степенью риска должны быть максимально устойчивы к ошибкам, отказам или несоответствиям, которые могут возникать в системе или в среде, в которой функционирует система, в частности, вследствие их взаимодействия с физическими лицами или другими системами. В этой связи необходимо принять технические и организационные меры.

Надежность систем ИИ с высокой степенью риска может быть достигнута при помощи технических решений по резервированию, которые могут включать планы резервного копирования или отказоустойчивости.

Системы ИИ с высокой степенью риска, обучение которых продолжается после их размещения на рынке или ввода в эксплуатацию, должны разрабатываться таким образом, чтобы исключить или нивелировать, насколько это возможно, риск возможного смещения выходных данных, влияющих на входные данные в будущих операциях (петли обратной связи) и чтобы гарантировать должное рассмотрение любых таких петлей обратной связи с помощью соответствующих мер по смягчению последствий.

5. Системы ИИ с высокой степенью риска должны быть устойчивы к попыткам неуполномоченных третьих лиц изменить их использование, выходные данные или эффективность путем использования уязвимостей системы.

Технические решения, направленные на обеспечение кибербезопасности систем ИИ с высокой степенью риска, должны соответствовать определенным обстоятельствам и рискам.

ОБЯЗАТЕЛЬСТВА ПОСТАВЩИКОВ СИСТЕМ ИИ С ВЫСОКОЙ СТЕПЕНЬЮ