---
title: "\"Модельный закон о технологиях искусственного интеллекта\""
number: "58-8"
issuer: "Межпарламентская Ассамблея СНГ"
status: действует
canonical: "https://bukva.ai/docs/modelnyy-zakon-58-8/statya-24"
---
# Статья 24. Требования к управлению рисками при функционировании технологий искусственного интеллекта с высоким риском (высокорисковых)
### Статья 24. Требования к управлению рисками при функционировании технологий искусственного интеллекта с высоким риском (высокорисковых)
1. Система управления рисками представляет собой непрерывный процесс планирования и выполнения действий, направленных на выявление и снижение рисков, на протяжении всего жизненного цикла технологий искусственного интеллекта с высоким риском (высокорисковых).
2. При функционировании технологий искусственного интеллекта с высоким риском (высокорисковых) должны применяться требования к управлению рисками, а именно:
- использование проверенного и качественного набора данных (для обучения, проверки и тестирования);
- наличие технической документации до выхода продукции на рынок (включающей описание технологии искусственного интеллекта и процесса ее разработки, информацию о мониторинге, функционировании и управлении, список стандартов, применяемых полностью или частично, описание системы управления рисками и любых внесенных в течение жизненного цикла технологии искусственного интеллекта изменений);
- наличие механизма автоматической записи событий (автоматического ведения журнала с записью событий) и доступа к его содержанию, включая идентификацию физических лиц, участвующих в проверке результатов;
- прозрачность и доступность информации о технологии искусственного интеллекта для пользователей (наличие инструкции по эксплуатации, которая была бы актуальна, доступна и понятна пользователям, контактных данных поставщика или его уполномоченных представителей, характеристик технологии искусственного интеллекта, включая возможности и ограничения, описания назначения технологии искусственного интеллекта и обстоятельств, которые приводят к рискам для безопасности и (или) нарушению прав);
- возможность контроля технологии искусственного интеллекта человеком для предотвращения или минимизации рисков;
- точность, надежность и безопасность (использование уровней и метрик точности, устойчивость в отношении ошибок, соответствие стандартам безопасности);
- наличие внутренних проверок технологии искусственного интеллекта (процесса управления рисками, способов минимизации или устранения рисков, необходимых условий использования технологии искусственного интеллекта, тестирования технологии искусственного интеллекта);
- наличие системы управления рисками (включая описание системы управления качеством, ее политики, процедур, наличие инструкции);
- периодичность экзаменов, испытаний и валидации;
- прикладные технические условия (включая стандарты);
- наличие управления данными;
- наличие системы послепродажного мониторинга;
- возможность сообщения о серьезных инцидентах и неисправностях;
- наличие структуры подотчетности.