Статья 14Регламент № 2024/1689 Европейского парламента и Совета Европейского Союза

Надзор со стороны человека

1. Системы ИИ с высокой степенью риска должны проектироваться и разрабатываться таким образом, в том числе с применением соответствующих средств человеко-машинного интерфейса, чтобы физические лица могли эффективно контролировать их в течение срока их использования.

2. Контроль со стороны человека должен быть направлен на предотвращение или минимизацию рисков для здоровья, безопасности или основных прав, которые могут возникнуть при использовании системы ИИ с высокой степенью риска в соответствии с ее целевым назначением или в условиях обоснованно прогнозируемого неправильного применения, в частности, если указанные риски сохраняются вопреки применению других требований, изложенных в настоящем Разделе.

3. Меры контроля должны быть сопоставимы с рисками, уровнем автономии и контекстом использования системы ИИ с высокой степенью риска, и должны обеспечиваться с помощью одного или обоих следующих типов мер:

(a) меры, определенные и встроенные, если это технически возможно, в систему ИИ с высокой степенью риска поставщиком до ее размещения на рынке или ввода в эксплуатацию;

(b) меры, определенные поставщиком до размещения системы ИИ с высокой степенью риска на рынке или ввода ее в эксплуатацию, которые должны быть реализованы эксплуатирующей организацией.

4. В целях имплементации параграфов 1, 2 и 3 система ИИ с высокой степенью риска должна предоставляться эксплуатирующей организации таким образом, чтобы физические лица, за которыми закреплен контроль, могли надлежащим и соразмерным образом:

(a) правильно понимать соответствующие возможности и ограничения системы ИИ с высокой степенью риска и иметь возможность должным образом контролировать ее работу, в том числе с целью выявления и устранения аномалий, сбоев в работе и непредвиденных результатов;

(b) осознавать возможную склонность к автоматическому или чрезмерному доверию к выходным данным, полученным системой ИИ с высокой степенью риска (необъективность автоматизации), в частности, когда системы ИИ с высокой степенью риска предоставляют информацию или рекомендации, на основе которых физические лица принимают решения;

(c) правильно интерпретировать выходные данные системы ИИ с высокой степенью риска, с учетом, например, доступных инструментов и методов интерпретации;

(d) в любой определенной ситуации принимать решение не использовать систему ИИ с высокой степенью риска или иным образом игнорировать, отменять или изменять выходные данные системы ИИ с высокой степенью риска;

(e) вмешиваться в работу системы ИИ с высокой степенью риска или прерывать работу системы с помощью кнопки «стоп» или аналогичной процедуры, позволяющей системе остановиться в безопасном состоянии.

5. В том, что касается систем ИИ с высокой степенью риска, указанных в пункте 1(a) Приложения III, меры, указанные в параграфе 3 настоящей Статьи, должны быть такими, чтобы гарантировать, что, помимо прочего, эксплуатирующая организация не предпринимает никаких действий или решений на основе идентификации, полученной с помощью системы, кроме случаев, когда указанная идентификация была отдельно проверена и подтверждена как минимум двумя физическими лицами, обладающими необходимой компетенцией, подготовкой и полномочиями.

Требование о проведении отдельной проверки как минимум двумя физическими лицами не распространяется на системы ИИ с высокой степенью риска, применяемые в целях обеспечения правопорядка, миграции, пограничного контроля или предоставления убежища, если законодательство Союза или национальное законодательство считает применение указанного требования непропорциональным.