Статья 24. Требования к управлению рисками при функционировании технологий искусственного интеллекта с высоким риском (высокорисковых)Модельный закон о технологиях искусственного интеллекта

1. Система управления рисками представляет собой непрерывный процесс планирования и выполнения действий, направленных на выявление и снижение рисков, на протяжении всего жизненного цикла технологий искусственного интеллекта с высоким риском (высокорисковых).

2. При функционировании технологий искусственного интеллекта с высоким риском (высокорисковых) должны применяться требования к управлению рисками, а именно:

• использование проверенного и качественного набора данных (для обучения, проверки и тестирования);
• наличие технической документации до выхода продукции на рынок (включающей описание технологии искусственного интеллекта и процесса ее разработки, информацию о мониторинге, функционировании и управлении, список стандартов, применяемых полностью или частично, описание системы управления рисками и любых внесенных в течение жизненного цикла технологии искусственного интеллекта изменений);
• наличие механизма автоматической записи событий (автоматического ведения журнала с записью событий) и доступа к его содержанию, включая идентификацию физических лиц, участвующих в проверке результатов;
• прозрачность и доступность информации о технологии искусственного интеллекта для пользователей (наличие инструкции по эксплуатации, которая была бы актуальна, доступна и понятна пользователям, контактных данных поставщика или его уполномоченных представителей, характеристик технологии искусственного интеллекта, включая возможности и ограничения, описания назначения технологии искусственного интеллекта и обстоятельств, которые приводят к рискам для безопасности и (или) нарушению прав);
• возможность контроля технологии искусственного интеллекта человеком для предотвращения или минимизации рисков;
• точность, надежность и безопасность (использование уровней и метрик точности, устойчивость в отношении ошибок, соответствие стандартам безопасности);
• наличие внутренних проверок технологии искусственного интеллекта (процесса управления рисками, способов минимизации или устранения рисков, необходимых условий использования технологии искусственного интеллекта, тестирования технологии искусственного интеллекта);
• наличие системы управления рисками (включая описание системы управления качеством, ее политики, процедур, наличие инструкции);
• периодичность экзаменов, испытаний и валидации;
• прикладные технические условия (включая стандарты);
• наличие управления данными;
• наличие системы послепродажного мониторинга;
• возможность сообщения о серьезных инцидентах и неисправностях;
• наличие структуры подотчетности.