Статья 60Регламент № 2024/1689 Европейского парламента и Совета Европейского Союза

1. Тестирование систем ИИ с высокой степенью риска в реальных условиях вне регулятивной изолированной среды ИИ может проводиться поставщиками или потенциальными поставщиками систем ИИ с высокой степенью риска, перечисленных в Приложении III, в соответствии с настоящей Статьей и планом проведения тестовых испытаний в реальных условиях, указанным в настоящей Статье, без ущерба запретам согласно Статье 5.

Европейская Комиссия посредством имплементационных актов должна определить подробные элементы плана проведения тестовых испытаний в реальных условиях. Указанные имплементационные акты должны быть приняты в соответствии с процедурой проверки, указанной в Статье 98(2).

Настоящий параграф должен действовать без ущерба законодательству Союза или национальному законодательству о тестировании в реальных условиях систем ИИ с высокой степенью риска, относящихся к продукции, подпадающей под действие законодательных актов Союза о гармонизации, указанных Приложении I.

2. Поставщики или потенциальные поставщики могут проводить тестирование систем ИИ с высокой степенью риска, указанных в Приложении III, в реальных условиях в любое время до размещения на рынке или ввода в эксплуатацию системы ИИ самостоятельно или в рамках партнерства с одной или несколькими эксплуатирующими организациями или потенциальными эксплуатирующими организациями.

3. Тестирование систем ИИ с высокой степенью риска в реальных условиях согласно настоящей Статье должно проводиться без ущерба любой этической экспертизе, требуемой законодательством Союза или национальным законодательством.

4. Поставщик или потенциальный поставщик может проводить тестирование в реальных условиях только при соблюдении всех следующих условий:

(a) поставщик или потенциальный поставщик составил план проведения тестовых испытаний в реальных условиях и представил его в орган надзора за рынком в государстве-члене ЕС, в котором планируется проведение тестирования в реальных условиях;

(b) орган надзора за рынком в государстве-члене ЕС, в котором планируется проведение тестирования в реальных условиях, утвердил тестирование в реальных условиях и план проведения тестового испытания в реальных условиях; если орган надзора за рынком не предоставил ответ в течение 30 дней, тестирование в реальных условиях и план проведения тестового испытания в реальных условиях считаются утвержденными; если национальное законодательство не предусматривает молчаливое согласие, тестирование в реальных условиях должно проводиться только при наличии разрешения;

(c) поставщик или потенциальный поставщик, за исключением поставщиков или потенциальных поставщиков систем ИИ с высокой степенью риска, указанных в пунктах 1, 6 и 7 Приложения III, в области правоохранительной деятельности, миграции, предоставления убежища и управления пограничным контролем, а также систем ИИ с высокой степенью риска, указанных в пункте 2 Приложения III, зарегистрировал тестирование в реальных условиях в соответствии со Статьей 71(4) с присвоением уникального идентификационного номера Союза и с информацией, указанной в Приложении IX; поставщик или потенциальный поставщик систем ИИ с высокой степенью риска, указанных в пунктах 1, 6 и 7 Приложения III, в области правоохранительной деятельности, миграции, предоставления убежища и управления пограничным контролем, зарегистрировал тестирование в реальных условиях в защищенном закрытом разделе базы данных ЕС в соответствии с пунктом (d) Статьи 49(4), с присвоением уникального идентификационного номера Союза и с указанной в нем информацией; поставщик или потенциальный поставщик систем ИИ с высокой степенью риска, указанных в пункте 2 Приложения III, зарегистрировал тестирование в реальных условиях в соответствии со Статьей 49(5);

(d) поставщик или потенциальный поставщик, проводящий тестирование в реальных условиях, зарегистрирован в Союзе или назначил законного представителя, который зарегистрирован в Союзе;

(e) данные, собранные и обработанные с целью тестирования в реальных условиях, должны быть переданы третьим странам только при условии соблюдения надлежащих и применимых гарантий безопасности согласно законодательству Союза;

(f) тестирование в реальных условиях длится не дольше, чем это необходимо для достижения его целей, и в любом случае не более шести месяцев, которые могут быть продлены на дополнительные шесть месяцев при условии предварительного уведомления органа надзора за рынком со стороны поставщика или потенциального поставщика, с предоставлением объяснения необходимости такого продления;

(g) участники тестирования в реальных условиях, которые являются лицами, принадлежащими к уязвимым группам в силу своего возраста или инвалидности, получают надлежащую защиту;

(h) если поставщик или потенциальный поставщик организует тестирование в реальных условиях в сотрудничестве с одной или несколькими эксплуатирующими организациями или потенциальными эксплуатирующими организациями, последние были проинформированы обо всех аспектах тестирования, которые относятся к их решению участвовать, и им были даны соответствующие инструкции по эксплуатации системы ИИ согласно Статье 13; поставщик или потенциальный поставщик и эксплуатирующая организация или потенциальная эксплуатирующая организация должны заключить соглашение, определяющее их функции и обязательства, в целях обеспечения соблюдения положений о тестировании в реальных условиях согласно настоящему Регламенту и другому действующему законодательству Союза или национальному законодательству;

(i) субъекты тестирования в реальных условиях дали информированное согласие в соответствии со Статьей 61, или в случае правоохранительных органов, когда получение информированного согласия помешало бы тестированию системы ИИ, само тестирование и результаты тестирования в реальных условиях не должны оказывать отрицательное воздействие на субъектов, а их персональные данные должны быть удалены после проведения тестового испытания;

(j) тестирование в реальных условиях эффективно контролируется поставщиком или потенциальным поставщиком, а также эксплуатирующими организациями или потенциальными эксплуатирующими организациями через лиц, которые имеют соответствующую квалификацию в релевантной области и обладают необходимыми возможностями, подготовкой и полномочиями для выполнения своих задач;

(k) прогнозы, рекомендации и решения системы ИИ могут быть эффективно изменены и не приниматься во внимание.

5. Любые субъекты тестирования в реальных условиях или их законно назначенный представитель, в соответствующем случае, без какого-либо ущерба для себя и без необходимости предоставления какого-либо обоснования могут в любое время отказаться от участия в тестировании, отозвав свое информированное согласие, и могут потребовать немедленного и окончательного удаления своих персональных данных. Отзыв информированного согласия не должен влиять на уже проведенные мероприятия.

6. В соответствии со Статьей 75 государства-члены ЕС должны наделить свои органы надзора за рынком полномочиями требовать от поставщиков или потенциальных поставщиков предоставления информации, проводить необъявленные дистанционные проверки или проверки на местах, а также выполнять проверки проведения тестирования в реальных условиях и связанных с ними систем ИИ с высокой степенью риска. Органы надзора за рынком должны использовать указанные полномочия для обеспечения безопасной разработки тестовых испытаний в реальных условиях.

7. О любом серьезном инциденте, выявленном в ходе тестирования в реальных условиях, необходимо сообщить в национальный орган надзора за рынком в соответствии со Статьей 73. Поставщик или потенциальный поставщик должен принять незамедлительные меры по смягчению последствий или, в противном случае, приостановить тестирование в реальных условиях до тех пор, пока не будут приняты меры по смягчению последствий, или иным образом закончить его. Поставщик или потенциальный поставщик должен установить процедуру быстрого отзыва системы ИИ после такого завершения тестирования в реальных условиях.

8. Поставщики или потенциальные поставщики должны уведомить национальный орган надзора за рынком в государстве-члене ЕС, в котором планируется проведение тестирования в реальных условиях, о приостановлении или завершении тестирования в реальных условиях и об окончательных результатах.

9. Поставщик или потенциальный поставщик несет ответственность в соответствии с применимым законодательством Союза и национальным законодательством об ответственности за любой ущерб, причиненный в ходе проводимого им тестирования в реальных условиях.