Статья 9Регламент № 2024/1689 Европейского парламента и Совета Европейского Союза

Система управления рисками

1. В отношении систем ИИ с высокой степенью риска необходимо создать, внедрить и документально оформить систему управления рисками, а также поддерживать ее функционирование.

(a) выявление и анализ известных и обоснованно прогнозируемых рисков, которые система ИИ с высокой степенью риска может представлять для здоровья, безопасности и основных прав в тех случаях, когда система ИИ с высокой степенью риска применяется в соответствии со своим целевым назначением;

(b) примерное определение и оценка рисков, которые могут иметь место при применении системы ИИ с высокой степенью риска в соответствии с ее целевым назначением и в условиях обоснованно прогнозируемого неправильного применения;

(c) оценка других возможных рисков на основе анализа данных, собранных системой постпродажного мониторинга, указанной в Статье 72;

(d) принятие надлежащих и адресных мер по управлению рисками, направленных на устранение рисков, выявленных согласно пункту (a).

4. Меры по управлению рисками, указанные в пункте (d) параграфа 2, должны уделять должное внимание последствиям и возможному взаимодействию, возникающему вследствие комплексного применения требований, установленных в настоящем Разделе, в целях более эффективного нивелирования рисков при одновременном достижении соответствующего баланса в ходе реализации мер по выполнению указанных требований.

При определении наиболее подходящих мер по управлению рисками должно быть гарантировано следующее:

(a) устранение или снижение рисков, выявленных и оцененных согласно параграфу 2, насколько это технически возможно, путем соответствующего проектирования и разработки системы ИИ с высокой степенью риска;

(b) по мере необходимости, осуществление надлежащих мер по смягчению последствий и контролю, направленных на устранение рисков, которые невозможно устранить;

(c) предоставление информации, требуемой согласно Статье 13, и в соответствующих случаях, обучение персонала эксплуатирующей организации.

В целях устранения или снижения рисков, связанных с использованием системы ИИ с высокой степенью риска, должное внимание следует уделять техническим знаниям, опыту, образованию, обучению, которое ожидает эксплуатирующая организация, и возможному контексту, в котором предполагается использовать систему.

6. Системы ИИ с высокой степенью риска необходимо протестировать в целях выявления наиболее подходящих и адресных мер по управлению рисками. Тестирование должно гарантировать, что системы ИИ с высокой степенью риска стабильно работают по своему целевому назначению и что они соответствуют требованиям, изложенным в настоящем Разделе.

7. Процедуры тестирования могут включать в себя тестирование в реальных условиях в соответствии со Статьей 60.

8. Тестирование систем ИИ с высокой степенью риска должно проводиться, по мере необходимости, в любое время на протяжении всего процесса разработки и, в любом случае, до их размещения на рынке или ввода в эксплуатацию. Тестирование должно осуществляться по заранее определенным метрикам и вероятностным пороговым значениям, которые соответствуют целевому назначению системы ИИ с высокой степенью риска.

9. При внедрении системы управления рисками, как это предусмотрено в параграфах 1 - 7, поставщики должны принимать во внимание, может ли система ИИ с высокой степенью риска оказывать неблагоприятное воздействие на лиц, не достигших 18-летнего возраста, и, по мере необходимости, на другие уязвимые группы, исходя из ее целевого назначения.

10. В том, что касается поставщиков систем ИИ с высокой степенью риска, на которые распространяются требования относительно внутренних процессов управления рисками согласно другим релевантным положениям законодательства Союза, аспекты, предусмотренные в параграфах 1 - 9, могут быть частью процедур управления рисками, установленных согласно такому законодательству, или сочетаться с ними.