Статья 10Регламент № 2024/1689 Европейского парламента и Совета Европейского Союза

1. Системы ИИ с высокой степенью риска, которые используют методы, включающие в себя обучение моделей ИИ с данными, должны разрабатываться на основе наборов данных для обучения, валидации и тестирования, которые отвечают критериям качества, указанным в параграфах 2 - 5, при использовании таких наборов данных.

2. Наборы данных для обучения, валидации и тестирования подпадают под методы распоряжения и управления данными, характерные для целевого назначения системы ИИ с высокой степенью риска. Указанные методы должны касаться, в частности:

(a) соответствующих проектных решений;

(b) процессов сбора данных и происхождения данных, а в случае с персональными данными — первоначальной цели сбора данных;

(c) соответствующих операций по подготовке и обработке данных, например, аннотирование, маркировка, очистка, обновление, обогащение и агрегирование;

(d) формулирования допущений, в частности, в отношении информации, которую, данные должны измерять и представлять;

(e) оценки наличия, качества и пригодности необходимых наборов данных;

(f) изучения с учетом возможных необъективностей, которые могут повлиять на здоровье и безопасность людей, негативно сказаться на основных правах или привести к дискриминации, запрещенной законодательством Союза, особенно в тех случаях, когда выходные данные влияют на входные данные в будущих операциях;

(g) соответствующих мер по выявлению, предотвращению и смягчению возможных необъективностей, выявленных согласно пункту (f);

(h) выявления соответствующих пробелов в данных или недостатков, которые препятствуют соблюдению настоящего Регламента, а также способов устранения указанных пробелов и недостатков.

3. Наборы данных для обучения, валидации и тестирования должны быть актуальными, в достаточной степени репрезентативными и, насколько это возможно, не должны содержать ошибок и должны быть полными с учетом целевого назначения. Они должны обладать соответствующими статистическими свойствами, в том числе, по мере необходимости, относительно лиц или группы лиц, в отношении которых предполагается использовать систему ИИ с высокой степенью риска. Указанные характеристики наборов данных могут встречаться на уровне отдельных наборов данных или на уровне их комбинации.

4. Наборы данных должны учитывать в той мере, в какой это необходимо для целевого назначения, характеристики или элементы, характерные для конкретной географической, контекстуальной, поведенческой или функциональной среды, в которой предполагается использовать систему ИИ с высокой степенью риска.

5. В той степени, в какой это строго необходимо в целях обеспечения выявления и исправления необъективностей в отношении систем ИИ с высокой степенью риска в соответствии с пунктами (f) и (g) параграфа 2 настоящей Статьи, поставщики таких систем могут в порядке исключения обрабатывать особые категории персональных данных, при условии соблюдения надлежащих гарантий основных прав и свобод физических лиц. В дополнение к положениям, установленным в Регламентах (ЕС) 2016/679 и (ЕС) 2018/1725 и Директиве (ЕС) 2016/680, для осуществления такой обработки должны быть выполнены все следующие условия:

(a) выявление и исправление необъективностей не могут быть эффективно выполнены путем обработки других данных, включая искусственные или обезличенные данные;

(b) на особые категории персональных данных распространяются технические ограничения на повторное использование персональных данных, а также современные меры по обеспечению безопасности и конфиденциальности, включая псевдонимизацию;

(d) другие стороны не должны предоставлять, передавать или иным образом получать доступ к особым категориям персональных данных;

(f) записи об обработке данных согласно Регламентам (ЕС) 2016/679 и (ЕС) 2018/1725 и Директиве (ЕС) 2016/680 включают в себя причины, по которым обработка особых категорий персональных данных была строго необходима для выявления и исправления необъективностей, и причины того, почему не удалось достичь указанной цели путем обработки других данных.

6. При разработке систем ИИ с высокой степенью риска, в которых не используются методы обучения моделей ИИ, параграфы 2 - 5 применяются только в отношении наборов данных для тестирования.