ПНСТ 1005-2025/ISO/TR 22100-5:2021. Предварительный национальный стандарт Российской Федерации. Безопасность машин. Взаимосвязь с ИСО 12100. Часть 5. Примеры последствий машинного обучения

(утв. и введен в действие Приказом Росстандарта от 05.06.2025 № 15-пнст)

Предисловие

3 УТВЕРЖДЕН И ВВЕДЕН В ДЕЙСТВИЕ Приказом Федерального агентства по техническому регулированию и метрологии от 5 июня 2025 г. № 15-пнст

4 Настоящий стандарт идентичен международному документу ISO/TR 22100-5:2021 «Безопасность машин. Взаимосвязь с ISO 12100. Часть 5. Последствия обучения машин с искусственным интеллектом» (ISO/TR 22100-5:2021 «Safety of machinery — Relationship with ISO 12100 — Part 5: Implications of artificial intelligence machine learning», IDT).

Международный документ разработан Техническим комитетом ТК 199 «Безопасность машин» Международной организации по стандартизации (ИСО).

Наименование настоящего стандарта изменено относительно наименования указанного международного документа для приведения в соответствие с ГОСТ Р 1.5-2012 (пункт 3.5).

Дополнительные сноски в тексте стандарта, выделенные курсивом, приведены для пояснения текста оригинала

Правила применения настоящего стандарта и проведения его мониторинга установлены в ГОСТ Р 1.16-2011 (разделы 5 и 6).

Федеральное агентство по техническому регулированию и метрологии собирает сведения о практическом применении настоящего стандарта. Данные сведения, а также замечания и предложения по содержанию стандарта можно направить не позднее чем за 4 мес до истечения срока его действия разработчику настоящего стандарта по адресу: 603079 Нижний Новгород, Московское шоссе, д. 213а, офис 805, e-mail: info@nickd.ru и/или в Федеральное агентство по техническому регулированию и метрологии по адресу: 123112 Москва, Пресненская набережная, д. 10, стр. 2.

В случае отмены настоящего стандарта соответствующая информация будет опубликована в ежемесячном информационном указателе «Национальные стандарты» и также будет размещена на официальном сайте Федерального агентства по техническому регулированию и метрологии в сети Интернет (www.rst.gov.ru)

Введение

Основная цель настоящего стандарта состоит в предоставлении примеров применения в машиностроении обучения машин с искусственным интеллектом (ИИ), т.е. машинного обучения. Существенная сложность внедрения машинного обучения может привести к снижению безопасности при эксплуатации машин.

Система управления может использовать машинное обучение (технологию ИИ) для улучшения работы машины или выполнения задач. В процессе обучения система управления изучает требуемое поведение машины. Это включает в себя два этапа: обучение и логические выводы (автономная работа).

Настоящий стандарт может помочь проектировщикам машин в разработке решений, подходящих для конкретных областей применения. В настоящем стандарте приведено описание применения процесса оценки риска в соответствии с ИСО 12100 к машинному обучению в машиностроении.

1 Область применения

---

<1> См. ГОСТ ЕН 1070-2003 «Безопасность оборудования. Термины и определения» (пункт 3.7).

В настоящем стандарте приведено описание опасностей, связанных с применением машинного обучения в машинах или системах машин, предназначенных для работы в пределах установленных границ, а также то, как эти опасности следует рассматривать в процессе оценки рисков.

Настоящий стандарт не применим к машинам или системам машин с использованием машинного обучения, предназначенным для работы за пределами установленных границ, что может привести к непредсказуемым последствиям.

В настоящем стандарте не рассмотрены системы безопасности с использованием ИИ, например датчики безопасности и другие компоненты систем управления, связанные с безопасностью.

2 Нормативные ссылки

В настоящем стандарте нормативные ссылки отсутствуют.

3 Термины и определения

В настоящем стандарте применены следующие термины с соответствующими определениями.

ИСО и МЭК ведут терминологические базы данных для использования в области стандартизации по следующим адресам:

• платформа онлайн-просмотра ИСО: доступна по адресу http://www.iso.org/obp;

3.1 искусственный интеллект, ИИ (artificial intelligence AI): Отрасль науки, занимающаяся разработкой систем обработки данных, которые выполняют функции, обычно ассоциирующиеся с интеллектом человека, такие как, например, логические заключения, обучение и самосовершенствование <2>.

---

<2> См. также ГОСТ 33707-2016 «Информационные технологии. Словарь» (пункт 4.464), ГОСТ Р 59895-2021 «Технологии искусственного интеллекта в образовании. Общие положения и терминология» (пункт 2.1.3).

[ISO/IEC 2382:2015, 2121393, изменено — Слово «компьютерной» было исключено из определения]

3.2 машинное обучение (machine learning): Процесс обучения машин с ИИ на основе существующих данных для прогнозирования будущих результатов без использования явного программирования <1>.

---

<1> См. также ГОСТ 33707-2016 «Информационные технологии. Словарь» (пункт 4.801), ГОСТ Р 59895-2021 «Технологии искусственного интеллекта в образовании. Общие положения и терминология» (пункт 2.1.7).

4 Использование искусственного интеллекта в машиностроении

4.1 Общие положения

Организации машиностроительного комплекса постоянно разрабатывают решения с использованием ИИ для различных прикладных процессов, таких как:

a) контроль качества;

b) оптимизация процессов;

c) мониторинг состояния/отказов;

d) предупредительное техническое обслуживание.

Основными целями такого применения являются:

• оптимизация функционирования машин/задач, выполняемых машиной;

• улучшение условий труда.

Некоторые применения ИИ могут влиять на функции машины, следовательно, на ее безопасность. Возможность непосредственного воздействия ИИ на безопасность машины зависит от предполагаемого результата оптимизации и ее практической реализации в конструкции машины.

4.2 Примеры использования машинного обучения

4.2.1 Примеры, не имеющие отношения к безопасности

4.2.1.1 Общие положения

Существует много примеров, когда процессы оптимизации не воздействуют на безопасность, например, упаковочные роботы оптимизируют погрузку на тележку или поддон изделий различных размеров. Цель в данном случае — сформировать упаковку, не превышающую определенных размеров или веса. Таким образом, эти процессы предопределены. Они не влияют на безопасность. В таких ситуациях применение ИИ не создает новых опасностей или повышения рисков, которые не могут быть устранены мерами по снижению риска, применяемыми к упаковочному роботу без ИИ.

4.2.1.2 Оптимизация машины для опрыскивания гербицидами <2>)

---

<2> Например, машины для разбрызгивания жидкости Blue River Technology Inc., с которыми можно ознакомиться по следующему адресу: http://smartmachines.bluerivertechnology.com. Это пример продукции, имеющейся в продаже. Данная информация приведена для удобства пользователей настоящего стандарта и не является одобрением данной продукции со стороны ИСО.

Система ИИ, позволяющая идентифицировать большее разнообразие растений как сельскохозяйственных культур, так и сорняков (распознавание образов с помощью глубокого обучения), обеспечивает необходимую точность для принятия решений по управлению действиями в области растениеводства (точное земледелие) на месте. Для применения этой системы ИИ машины для опрыскивания гербицидами оснащены множеством камер, которые соединены со специальными форсунками. На основе распознавания образов на месте (культурное растение или сорняк) включением отдельных форсунок обеспечивается оптимальное расходование гербицида.

Что касается соответствующей функции машины (опрыскивание гербицидом), то безопасность при эксплуатации такого типа опрыскивателей обеспечивает надлежащая защита оператора машины от аэрозоля с гербицидом в виде кабины (с фильтром или системой избыточного давления) самого опрыскивателя или сельскохозяйственного трактора, буксирующего опрыскиватель. Предписанное применение машины с ИИ по сравнению с обычной машиной не создает никаких дополнительных опасностей и не увеличивает уже существующие опасности. Таким образом, нет необходимости в принятии дополнительных мер по обеспечению безопасности машины.

4.2.1.3 Оптимизация системы перемещения деталей в станке для лазерной резки <1>

---

<1> Например, см. информационный бюллетень «Примеры искусственного интеллекта» на сайте TRUMPF (https://www.trumpf.com). Это пример продукции, имеющейся в продаже. Данная информация приведена для удобства пользователей настоящего стандарта и не является одобрением данной продукции со стороны ИСО.

Полностью автоматизированный станок для лазерной резки металла вырезает детали из металлического листа и удаляет их со станка. Ассортимент форм, размеров и толщины деталей практически бесконечен. Станок может удалять детали из листа различными способами, используя присоски и штифты; если этого не делать, деталь может заклинить, и станок остановится. Благодаря наличию более 2500 присосок для удаления деталей из оставшегося листа, переместить деталь часто удается с первой попытки. Если этого не происходит, машина может самостоятельно принять решение о повторении своих действий столько раз, сколько необходимо. Наличие 180 штифтов, используемых для выдавливания детали из оставшегося листа металла, позволяет использовать другой способ перемещения детали. Этот способ работает более эффективно благодаря принятию решения с помощью ИИ. Каждый раз, когда с первой попытки не удается извлечь деталь, но затем она успешно извлекается, это приводит к получению новых данных. Автоматический централизованный процесс анализирует данные и сравнивает их с другими данными. Результаты сравнения данных затем могут быть переданы с одного станка на все станки того же типа. Таким образом, другие станки получают информацию о наилучшем способе удаления аналогичной детали с первой попытки. Можно надеяться, что в будущем такие системы будут постоянно совершенствоваться на основе данных, полученных от сотен тысяч пользователей всей совокупности таких станков.

Что касается основной функции станка (резка и перемещение металлических деталей), то безопасную эксплуатацию станка для лазерной резки такого типа обеспечивают ограничения доступа к режущему столу с помощью ограждений (неподвижных и/или подвижных). Предписанное применение машины с ИИ по сравнению с обычной функцией машины не создает дополнительных опасностей и не увеличивает уже существующие опасности. Таким образом, нет необходимости в принятии дополнительных мер по обеспечению безопасности станков.

4.2.2 Примеры воздействия на безопасность

Примером воздействия на безопасность является автоматически управляемое транспортное средство (AGV), которое работает в пространстве, не ограниченном по периметру защитными устройствами (например, стационарными ограждениями, световыми завесами безопасности), и самостоятельно оптимизирует свое перемещение с помощью ИИ. В этом случае применение ИИ создает новые опасности или увеличивает риски, которые не учитывают при оценке риска AGV без ИИ, работающего в пространстве, ограниченном по периметру защитными устройствами.

Примечание - Под AGV также понимают «промышленный грузовой автомобиль без водителя» (см. ИСО 3691-4).

AGV без ИИ движется по заранее определенным маршрутам. Маршруты в основном отделены от окружающего пространства.

В обоих случаях (для AGV без ИИ, работающего в пространстве, ограниченном защитными устройствами, и автономного AGV с ИИ, работающего в пространстве, не ограниченном защитными устройствами) применимы принципы оценки и снижения риска, установленные в ИСО 12100.

Автономное AGV может передвигаться по территории организации маршрутами, которые не отделены от других зон (например, рабочих мест). Здесь люди находятся в случайных местах. ИИ рассчитывает предпочтительный маршрут и скорость AGV для оптимизации общего процесса транспортировки.

В таблице 1 описаны основные аспекты процесса оценки и снижения риска в соответствии с ИСО 12100 для AGV с ИИ по сравнению с AGV без ИИ.

Важные аспекты оценки и снижения риска в соответствии

ИСО 12100	AGV без ИИ	AGV с ИИ
Эксплуатационные ограничения	Передвижение по заранее определенным маршрутам	Автономное передвижение по изменяемым маршрутам с изменяемой скоростью, оптимизированное ИИ с учетом расстояний, известного окружения и препятствий
Пространственные ограничения	Определен диапазон перемещений машины. Определено взаимодействие человека с машиной	Перемещение машины изменяется в пределах заданных границ. Взаимодействие человека с машиной в пределах этих границ не определено
Временные ограничения	Определена и предсказуема деградация изнашиваемых деталей (например, тормозов)	Износ изнашиваемых деталей (например, тормозов) различен и частично предсказуем
Прочие ограничения (ограничения для транспортных средств)	Определена скорость	Оптимизированная скорость изменяется в заданных пределах
Идентификация опасностей	Столкновение с человеком или препятствиями (наезд/столкновение, разрушение и т.п.)
Оценка риска (при столкновении)	Основной риск для AGV без ИИ зависит от: - скорости; - ускорения; - массы; - формы; - нагрузки; - способности торможения и других параметров	По сравнению с основными рисками для AGV без ИИ дополнительные риски могут возникнуть, например, в результате: - увеличения скорости; - увеличения ускорения; - резких изменений направления движения; - движения AGV в зонах с недостаточным обзором; - воздействия ИИ на систему управления AGV
Оценка риска (другие ситуации)	Применение мер по снижению риска	Применение мер по снижению риска
Снижение риска	Защитные ограждения	Обнаружение человека с помощью сенсорных систем для регулировки скорости (вплоть до остановки AGV), корректировки маршрута движения или сочетания того и другого. Настройка области обнаружения в соответствии с фактической скоростью и положением AGV в пределах заданных границ. Ограничение потребления энергии путем ограничения скорости AGV таким образом, чтобы контакты с людьми не приводили к причинению им вреда
Оценка остаточного риска после снижения риска, включая информацию об использовании	Достигнуто адекватное снижение риска, собрана информация для использования

- определение предполагаемого использования и, в частности, ограничений использования машины (гибкость управления в пределах заданных границ);

- снижение риска за счет систем обнаружения на основе датчиков (в отличие от защитных устройств), которые способны регулировать/останавливать опасные перемещения машины (усилие, энергия, скорость, крутящий момент и т.д.).

Примечание — В соответствии с ИСО 3691-4 и ИСО 17757 существуют стандарты, которые регулируют аспекты безопасности, относящиеся к автоматическим и полуавтоматическим машинам.

5 Заключение

Риски, связанные с использованием ИИ в машиностроении, могут быть полностью устранены с помощью методов оценки и обработки рисков, приведенных в ИСО 12100, где риски, связанные с ИИ, рассмотрены в соответствии с предполагаемым использованием и ограничениями использования (заранее установленными границами), указанными изготовителем машины.

БИБЛИОГРАФИЯ

[1]	ISO/IEC 2382:2015	Information technology — Vocabulary
[2]	ISO 3691-4	Industrial trucks — Safety requirements and verification — Part 4: Driverless industrial trucks and their systems
[3]	ISO 12100	Safety of machinery — General principles for design — Risk assessment and risk reduction
[4]	ISO 17757	Earth-moving machinery and mining — Autonomous and semi-autonomous machine system safety
[5]	ISO/IEC 38505-1:2017	Information technology — Governance of IT — Governance of data — Part 1: Application of ISO/IEC 38500 to the governance of data

УДК 658.562:65.012.122:006.354	ОКС 13.110
Ключевые слова: безопасность машин, взаимосвязь, ИСО 12100, примеры, последствия, машинное обучение

---