Статья 5Регламент № 2024/1689 Европейского парламента и Совета Европейского Союза

Запрещенные методы в области ИИ

(a) размещение на рынке, ввод в эксплуатацию или использование системы ИИ, которая использует подсознательные методы, недоступные сознанию человека, или целенаправленные манипулятивные или вводящие в заблуждение методы, с целью или результатом существенного изменения поведения лица или группы лиц путем существенного ухудшения их способности принимать взвешенное решение, тем самым вынуждая их принимать решение, которое они в противном случае не приняли бы, таким способом, который причиняет или с достаточной степенью вероятности может причинить значительный вред указанному лицу, другому лицу или группе лиц;

(b) размещение на рынке, ввод в эксплуатацию или использование системы ИИ, которая использует любую из уязвимостей физического лица или определенной группы лиц в силу их возраста, недееспособности или конкретной социальной или экономической ситуации, с целью или результатом существенного изменения поведения указанного лица или лица, принадлежащего к указанной группе, таким образом, который причиняет или с достаточной степенью вероятности может причинить значительный вред указанному лицу или другому лицу;

(c) размещение на рынке, ввод в эксплуатацию или использование систем ИИ для оценки или классификации физических лиц или групп лиц за определенный промежуток времени на основе их социального поведения или известных, предполагаемых или прогнозируемых личных или личностных характеристик, при этом рейтинг социального доверия влечет за собой одно или оба из следующих последствий:

(i) негативное или неблагоприятное обращение с определенными физическими лицами или группами лиц в социальном контексте, который не связан с контекстом, в котором изначально были сгенерированы или собраны данные;

(ii) негативное или неблагоприятное обращение с определенными физическими лицами или группами лиц, которое является неоправданным или несоразмерным с учетом их социального поведения или его важности;

(d) размещение на рынке, ввод в эксплуатацию с указанной конкретной целью или использование системы ИИ для проведения оценки рисков физических лиц для оценки или прогнозирования вероятности совершения физическим лицом уголовного преступления исключительно на основе формирования профиля физического лица или на основе оценки его индивидуальных особенностей и характеристик; указанный запрет не распространяется на системы ИИ, используемые для поддержки оценки человеком причастности лица к преступной деятельности, которая уже основана на объективных и проверяемых фактах, непосредственно связанных с преступной деятельностью;

(e) размещение на рынке, ввод в эксплуатацию с указанной конкретной целью или использование систем ИИ, которые создают или расширяют базы данных для распознавания лиц путем нецелевого извлечения изображений лиц из интернета или записей с камер видеонаблюдения;

(f) размещение на рынке, ввод в эксплуатацию с указанной конкретной целью или использование систем ИИ для вывода об эмоциях физического лица на рабочих местах или в образовательных учреждениях, за исключением случаев, когда предполагается, что система ИИ будет внедрена или размещена на рынке по медицинским соображениям или по соображениям безопасности;

(g) размещение на рынке, ввод в эксплуатацию с указанной конкретной целью или использование систем биометрической категоризации, которые располагают по отдельным категориям физические лица на основе их биометрических данных в целях установления или определения их расы, политических убеждений, членства в профсоюзах, религиозных или философских воззрений, половой жизни или сексуальной ориентации; указанный запрет не охватывает маркировку или фильтрацию полученных на законном основании наборов биометрических данных, например, изображений, основанных на биометрических данных, или категоризацию биометрических данных в области правоохранительной деятельности;

(h) использование систем дистанционной биометрической идентификации в режиме реального времени в общедоступных пространствах в правоохранительных целях, кроме случаев и в той мере, в какой такое использование строго необходимо для достижения одной из следующих целей:

(i) целенаправленный поиск конкретных жертв похищения, торговли людьми или сексуальной эксплуатации людей, а также поиск пропавших без вести лиц;

(ii) предотвращение определенной, существенной и непосредственной угрозы жизни или физической безопасности физических лиц или реальной и существующей в настоящий момент или реальной и прогнозируемой угрозы террористического акта;

(iii) установление местонахождения или идентификации лица, подозреваемого в совершении уголовного преступления, в целях проведения уголовного расследования или судебного преследования или исполнения уголовного наказания за преступления, указанные в Приложении II и предусматривающие в соответствующем государстве-члене ЕС наказания в виде лишения свободы или ордера на арест на максимальный срок не менее четырех лет.

Пункт (h) первого подпараграфа действует без ущерба Статье 9 Регламента (ЕС) 2016/679 в отношении обработки биометрических данных в целях, отличных от целей правоохранительной деятельности.

2. Использование систем дистанционной биометрической идентификации в режиме реального времени в общедоступном пространстве в правоохранительной деятельности для достижения любой из целей, указанных в пункте (h) первого подпараграфа параграфа 1, должно осуществляться в целях, установленных в указанном пункте, только для подтверждения личности целенаправленно изучаемого лица, и оно должно учитывать следующие элементы:

(a) характер ситуации, приводящей к возможному использованию, в частности, серьезность, вероятность и масштаб вреда, который мог бы быть причинен, если бы система не использовалась;

В дополнение к этому, использование систем дистанционной биометрической идентификации в режиме реального времени в общедоступном пространстве в правоохранительной деятельности для достижения любой из целей, указанных в пункте (h) первого подпараграфа параграфа 1 настоящей Статьи, должно соответствовать необходимым и пропорциональным гарантиям и условиям в отношении использования в соответствии с национальным законодательством, разрешающим их использование, в частности, в отношении временных, географических и личностных ограничений. Использование системы дистанционной биометрической идентификации в режиме реального времени в общедоступном пространстве разрешается только в том случае, если правоохранительный орган завершил оценку воздействия на основные права согласно Статье 27 и зарегистрировал систему в базе данных ЕС согласно Статье 49. Однако в должным образом обоснованных случаях срочности использование таких систем может быть начато без регистрации в базе данных ЕС, при условии, что такая регистрация будет своевременно завершена.

Компетентный судебный орган или независимый административный орган, решение которого является обязательным, должен выдать разрешение только в том случае, если он на основании предоставленных ему объективных доказательств или четких указаний убежден в том, что использование соответствующей системы дистанционной биометрической идентификации в режиме реального времени необходимо и пропорционально достижению одной из целей, определенных в пункте (h) первого подпараграфа параграфа 1, как установлено в запросе, и, в частности, ограничено тем, что строго необходимо с точки зрения временного, территориального и личностного охвата. При принятии решения по поводу запроса указанный орган должен учитывать элементы, указанные в параграфе 2. Никакое решение, имеющее неблагоприятные правовые последствия для лица, не может быть принято только на основе выходных данных системы дистанционной биометрической идентификации в режиме реального времени.

4. Без ущерба действию параграфа 3 о каждом использовании системы дистанционной биометрической идентификации в режиме реального времени в общедоступном пространстве для правоохранительных целей необходимо уведомлять соответствующий орган надзора за рынком и национальный орган по защите данных в соответствии с национальными правилами, указанными в параграфе 5. Уведомление как минимум должно содержать информацию, определенную в параграфе 6, и не должно включать в себя конфиденциальные эксплуатационные данные.

5. Государство-член ЕС может принять решение о предоставлении возможности полного или частичного разрешения на использование систем дистанционной биометрической идентификации в режиме реального времени в общедоступном пространстве в правоохранительных целях в пределах и на условиях, перечисленных в пункте (h) первого подпараграфа параграфа 1 и в параграфах 2 и 3. Соответствующие государства-члены ЕС должны установить в своем национальном законодательстве необходимые подробные правила запроса, выдачи и осуществления разрешений, указанных в параграфе 3, а также надзора и отчетности в их отношении. В указанных правилах также должно быть установлено, в отношении каких целей, перечисленных в пункте (h) первого подпараграфа параграфа 1, в том числе в отношении каких уголовных преступлений, указанных в пункте (h)(iii), компетентным органам может быть разрешено использовать указанные системы в правоохранительных целях. Государства-члены ЕС должны уведомить Европейскую Комиссию об указанных правилах не позднее чем через 30 дней после их принятия. Государства-члены ЕС в соответствии с законодательством Союза могут вводить более строгие законы об использовании систем дистанционной биометрической идентификации.

6. Национальные органы надзора за рынком и национальные органы по защите данных государств-членов ЕС, которые были уведомлены об использовании систем дистанционной биометрической идентификации в общедоступных пространствах в правоохранительных целях согласно параграфу 4, должны предоставлять Европейской Комиссии ежегодные отчеты о таком использовании. Для этого Европейская Комиссия должна предоставить государствам-членам ЕС и национальным органам надзора за рынком и органам по защите данных шаблон, включающий информацию о количестве решений, принятых компетентными судебными органами или независимым административным органом, решения которых являются обязательными, по запросам о выдаче разрешений в соответствии с параграфом 3, и об их результатах.

7. Европейская Комиссия должна публиковать ежегодные отчеты об использовании систем дистанционной биометрической идентификации в режиме реального времени в общедоступном пространстве в правоохранительных целях на основе сводных данных в государствах-членах ЕС на основании ежегодных отчетов, указанных в параграфе 6. Указанные ежегодные отчеты не должны включать в себя конфиденциальные эксплуатационные данные о соответствующей деятельности правоохранительных органов.

8. Настоящая Статья не затрагивает запреты, которые применяются в тех случаях, когда действия в области ИИ нарушают другие законодательные акты Союза.

Раздел 1

КЛАССИФИКАЦИЯ СИСТЕМ ИИ КАК СИСТЕМ С ВЫСОКОЙ СТЕПЕНЬЮ РИСКА