ГОСТ Р 72756-2026. Национальный стандарт Российской Федерации. Игрушки с применением технологий искусственного интеллекта. Общие требования

(утв. и введен в действие Приказом Росстандарта от 10.06.2026 № 643-ст)

1 сентября 2026 года

Предисловие

1 РАЗРАБОТАН Ассоциацией предприятий индустрии детских товаров «АИДТ» (Ассоциация «АИДТ»)

2 ВНЕСЕН Техническим комитетом по стандартизации ТК 181 «Игрушки и товары для детства»

3 УТВЕРЖДЕН И ВВЕДЕН В ДЕЙСТВИЕ Приказом Федерального агентства по техническому регулированию и метрологии от 10 июня 2026 г. № 643-ст

4 ВВЕДЕН ВПЕРВЫЕ

Правила применения настоящего стандарта установлены в статье 26 Федерального закона от 29 июня 2015 г. № 162-ФЗ «О стандартизации в Российской Федерации». Информация об изменениях к настоящему стандарту публикуется в ежегодном (по состоянию на 1 января текущего года) информационном указателе «Национальные стандарты», а официальный текст изменений и поправок — в ежемесячном информационном указателе «Национальные стандарты». В случае пересмотра (замены) или отмены настоящего стандарта соответствующее уведомление будет опубликовано в ближайшем выпуске ежемесячного информационного указателя «Национальные стандарты». Соответствующая информация, уведомление и тексты размещаются также в информационной системе общего пользования — на официальном сайте Федерального агентства по техническому регулированию и метрологии в сети Интернет (www.rst.gov.ru)

Введение

Искусственный интеллект (ИИ) все шире применяется в детских товарах — от интерактивных кукол и роботизированных игрушек до обучающих устройств. Использование ИИ в игрушках открывает новые возможности: персонализированное обучение, интерактивное общение и игровой опыт, недоступный традиционным игрушкам. Современные ИИ-игрушки способны распознавать голосовые команды и отвечать на вопросы, как своего рода детские голосовые помощники, обучать программированию или иностранным языкам в игровой форме, а также имитировать роль друга или питомца для ребенка.

Однако вместе с потенциальной пользой появляются и новые риски. Специалисты предупреждают, что «умные» игрушки, обладая доступом к данным ребенка и возможностью автономного поведения, могут представлять угрозы при отсутствии должного контроля. Возникают обоснованные опасения относительно безопасности (как физической, так и информационной), конфиденциальности данных детей, а также психологического влияния подобных устройств. Известны случаи, когда недостаточно защищенные ИИ-игрушки подвергались взлому: например, «говорящая» кукла, в которой через уязвимое подключение злоумышленники подслушивали разговоры детей и даже общались с ними от лица игрушки. Также произошли утечки персональных данных. Эти ситуации подчеркнули необходимость выработки специальных требований к ИИ-игрушкам.

Настоящий стандарт направлен на обеспечение комплексной безопасности и качества игрушек с ИИ, предназначенных для детей от 1 года до 14 лет. Цель стандарта — установить единые термины и классификацию, технические требования и критерии безопасности, которым должны соответствовать ИИ-игрушки, чтобы их применение приносило пользу развитию ребенка и не наносило вреда. При разработке данного стандарта учтены принципы этичного и ответственного дизайна смарт-устройств для детей, согласно которым такие игрушки должны защищать, обучать и расширять возможности детей при одновременном обеспечении их права на защиту и приватность. Стандарт предназначен для производителей, разработчиков, испытательных организаций и регуляторов, заинтересованных в безопасном внедрении технологий ИИ в сферу детских игрушек.

1 Область применения

Настоящий стандарт распространяется на игрушки с применением технологий искусственного интеллекта (далее — ИИ-игрушки), предназначенные для детей в возрасте от 1 года до 14 лет, которые содержат компоненты искусственного интеллекта или программно-аппаратные средства с элементами искусственного интеллекта (ИИ). К таким изделиям относятся детские игрушки, спроектированные таким образом, что они способны автоматически воспринимать действия пользователя, обучаться или взаимодействовать с пользователем за счет встроенных алгоритмов ИИ.

Настоящий стандарт устанавливает общие требования и требования безопасности к ИИ-игрушкам, включая требования к их программным алгоритмам, датчикам, коммуникационным интерфейсам, а также аспекты защиты данных и этичного применения. Настоящий стандарт дополняет действующие нормы безопасности ИИ-игрушек, не заменяя требований к физическим, механическим, химическим и электрическим свойствам традиционных игрушек.

Примерами ИИ-игрушек являются интерактивные куклы и фигурки с распознаванием речи, роботизированные игрушки (включая игровых роботов, умных питомцев и др.), умные обучающие устройства, игровые консоли и аксессуары с элементами ИИ, а также гибридные продукты (физическая игрушка в сочетании с мобильным приложением или облачным сервисом ИИ).

Настоящий стандарт не распространяется на программное обеспечение и цифровые сервисы общего назначения (например, мобильные приложения или игры без физического носителя, не позиционируемые как игрушка), а также на специализированные устройства для медицинской или терапевтической помощи детям, которые не предназначены для игровой деятельности. Кроме того, стандарт не охватывает устройства, не являющиеся игрушками по своему функциональному назначению (например, умные колонки или голосовые помощники общего назначения), даже если они могут использоваться детьми.

2 Нормативные ссылки

В настоящем стандарте использованы нормативные ссылки на следующие стандарты:

ГОСТ 25779 Игрушки. Общие требования безопасности и методы контроля

ГОСТ 35099 Игрушки. Классификация. Термины и определения

ГОСТ EN 71-1 Игрушки. Требования безопасности. Часть. 1. Механические и физические свойства

ГОСТ IEC 62115 Игрушки электрические. Безопасность

ГОСТ ISO 8124-2 Безопасность игрушек. Часть 2. Воспламеняемость

ГОСТ Р 60.0.0.4/ИСО 8373:2021 Роботы и робототехнические устройства. Термины и определения

ГОСТ Р 56939 Защита информации. Разработка безопасного программного обеспечения. Общие требования

ГОСТ Р 59880 Эргономика. Проектирование и применение испытаний речевых технологий. Методика определения показателей качества синтеза речи по тексту

ГОСТ Р 71476 Искусственный интеллект. Концепции и терминология искусственного интеллекта

ГОСТ Р 72027.1 (ISO/IEC TR 23842-1:2020) Информационные технологии в обучении, образовании и подготовке. Руководящие указания по контенту виртуальной реальности с учетом человеческого фактора. Часть 1. Рекомендации по использованию контента виртуальной реальности

ГОСТ Р 72027.2 (ISO/IEC TR 23842-2:2020) Информационные технологии в обучении, образовании и подготовке. Руководящие указания по контенту виртуальной реальности с учетом человеческого фактора. Часть 2. Рекомендации по разработке контента виртуальной реальности

Примечание — При пользовании настоящим стандартом целесообразно проверить действие ссылочных стандартов в информационной системе общего пользования — на официальном сайте Федерального агентства по техническому регулированию и метрологии в сети Интернет или по ежегодному информационному указателю «Национальные стандарты», который опубликован по состоянию на 1 января текущего года, и по выпускам ежемесячного информационного указателя «Национальные стандарты» за текущий год. Если заменен ссылочный стандарт, на который дана недатированная ссылка, то рекомендуется использовать действующую версию этого стандарта с учетом всех внесенных в данную версию изменений. Если заменен ссылочный стандарт, на который дана датированная ссылка, то рекомендуется использовать версию этого стандарта с указанным выше годом утверждения (принятия). Если после утверждения настоящего стандарта в ссылочный стандарт, на который дана датированная ссылка, внесено изменение, затрагивающее положение, на которое дана ссылка, то это положение рекомендуется применять без учета данного изменения. Если ссылочный стандарт отменен без замены, то положение, в котором дана ссылка на него, рекомендуется применять в части, не затрагивающей эту ссылку.

3 Термины и определения

В настоящем стандарте применены термины по ГОСТ 35099, ГОСТ Р 71476, ГОСТ Р 60.0.0.4, а также следующие термины с соответствующими определениями:

3.1 игрушка с искусственным интеллектом (ИИ-игрушка, игрушка с ИИ, умная игрушка): Игрушка, оснащенная встроенной системой искусственного интеллекта, с помощью которой она способна автоматически воспринимать окружающую среду и действия пользователя, автономно адаптировать поведение на основе машинного обучения во время игры.

Примечание - Отличительным признаком ИИ-игрушки является наличие функциональности, выходящей за рамки заранее запрограммированных сценариев, то есть способность создавать новые отклики на основе полученных данных (обучение и адаптация).

3.2

искусственный интеллект: Комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение, поиск решений без заранее заданного алгоритма и достижение инсайта) и получать при выполнении конкретных практически значимых задач обработки данных результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека. Примечание — Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе в котором используются методы машинного обучения), процессы и сервисы по обработке данных, анализу и синтезу решений. [ГОСТ Р 59277-2020, пункт 3.18]

3.3

система искусственного интеллекта: Техническая система, в которой используются технологии искусственного интеллекта. [ГОСТ Р 59277-2020, пункт 3.40]

Примечание - В контексте ИИ-игрушек системой ИИ может выступать как встроенное программное обеспечение самой игрушки (например, нейросетевая модель распознавания речи), так и внешняя облачная платформа ИИ, с которой игрушка взаимодействует через сеть. Система ИИ обычно включает компоненты для восприятия (микрофоны, камеры, датчики), обработки данных (алгоритмы машинного обучения, экспертные правила) и выдачи результатов (синтез речи, движение механизмов, отображение визуальной информации).

3.4

технологии искусственного интеллекта: Комплекс технологических решений, направленных на создание систем искусственного интеллекта. [ГОСТ Р 59277-2020, пункт 3.44]

3.5

персональные данные: Любая информация, относящаяся к прямо или косвенно определенному или определяемому физическому лицу (субъекту персональных данных). [[1], статья 3]

Примечание — К персональным данным относятся имя, аудиозаписи голоса, изображения (фотографии, видео), биометрические данные (например, параметры лица или голоса), сведения о местоположении, об окружении и образе жизни и т.д. Обработка персональных данных детей регулируется законодательством ([1] и др.) и допускается только с согласия их законных представителей — родителей или лиц, несущих ответственность за ребенка (далее — родители), за исключением случаев, прямо предусмотренных законом.

3.6 психоэмоциональная безопасность: Отсутствие опасности для психического здоровья пользователя при взаимодействии с ИИ-игрушкой.

Примечание - Критерии психоэмоциональной безопасности включают также учет возрастных особенностей восприятия — например, для детей дошкольного возраста (от 3 до 7 лет) исключается поведение игрушки, способное напугать ребенка; для детей младшего школьного возраста (от 7 до 11 лет) — подавление инициативы и способности к воображению ребенка; а для детей старшего школьного возраста (от 11 до 14 лет) — манипулирование ребенком, навязывание зависимости игрового поведения от заложенной в игрушку электронной программы.

3.7 автономный режим (работы игрушки): Способность игрушки функционировать и принимать решения без постоянного прямого управления со стороны человека, включая возможность работы без подключения к Интернету.

Примечание - В автономном режиме ИИ-игрушка может самостоятельно инициировать определенные действия (например, начать диалог, двигаться, обучаться новым фразам) на основе заложенных алгоритмов и данных, собранных с датчиков.

3.8 смарт-устройство (умное, интеллектуальное): Электронное устройство с возможностью подключения к другим устройствам и сетям передачи данных через беспроводные способы доступа (Bluetooth, NFC, Wi-Fi, 3G и т.д.).

3.9 пользователи: Дети в возрасте от 1 года до 14 лет.

4 Классификация ИИ-игрушек

Игрушки с искусственным интеллектом подразделяют:

4.1 По функциональному [воспитательному (педагогическому)] назначению

4.1.1 Дидактические ИИ-игрушки с элементами обучения в процессе игры

Данные игрушки помогают изучать буквы, слова, иностранные языки, основы программирования, математику и другие предметы, с помощью ИИ адаптируются к индивидуальным потребностям ребенка, подстраиваются под уровень его знаний и возможностей, могут использоваться в дополнение к образовательным программам дошкольного, общего и дополнительного образования детей.

Пример: игрушки-репетиторы; роботы-преподаватели; ИИ-игрушки с дополненной виртуальной реальностью. Требования к контенту виртуальной реальности приведены в ГОСТ Р 72027.1, ГОСТ Р 72027.2.

При классификации обучающих игрушек следует учитывать, что в возрастных группах до 5 лет обучение с использованием электронных средств обучения не проводится.

4.1.2 Развлекательные (досуговые) ИИ-игрушки, игрушки-забавы

ИИ в них отвечает за реалистичное поведение или расширенные игровые возможности. Такие ИИ-игрушки призваны увлекать ребенка посредством диалога, движений, звуков и других взаимодействий.

Пример - Интерактивные куклы и фигурки персонажей, реагирующие на голос и прикосновения.

4.1.3 Интерактивные технические ИИ-игрушки

Данные игрушки знакомят детей с элементами науки и техники, освоения цифровых технологий, ИИ в них выполняет роль улучшения пользовательского опыта и автоматизации отдельных функций игрушки.

Пример - Робототехническая и цифровая игрушечная техника с элементами ИИ, интерактивные игровые наборы — умные конструкторы, которые сами проверяют правильность сборки; модели техники с автопилотом; умные машинки, способные автономно объезжать препятствия; железная дорога с ИИ-локомотивом, который соблюдает расписание и реагирует на команды.

4.1.4 Социально-коммуникативные ИИ-игрушки (компаньоны)

Данные игрушки предназначены для развития чувств и эмпатии, коммуникативной компетентности детей, поддержки эмоционального благополучия. ИИ-игрушки могут распознавать настроение ребенка, поддерживать диалог (а не просто реагировать на стилизованные запросы), напоминать о режиме дня в дружеской форме. К социально-коммуникативным ИИ-игрушкам (компаньонам) предъявляют повышенные требования психолого-педагогической безопасности.

Пример - Роботы-компаньоны (имитирующие питомцев или фантастических существ), роботы-помощники для детей с особыми потребностями (интерактивный робот-мяч для развития социальных навыков у детей с расстройствами аутистического спектра).

4.2 По типу ИИ и технологии взаимодействия

4.2.1 ИИ-игрушки с голосовым помощником

Оборудованы микрофоном, динамиком и алгоритмами распознавания и синтеза речи. Такие ИИ-игрушки умеют понимать простые голосовые команды и отвечать голосом. С помощью ИИ они отвечают на вопросы ребенка, обращаясь к онлайн-базе знаний. Особенность — необходимость обработки естественного языка и диалоговой системы.

Пример - Интеллектуальные куклы и мягкие игрушки.

4.2.2 Визуально-интерактивные ИИ-игрушки

Оснащены камерами или другими датчиками изображения и способны «видеть» окружающий мир. Они распознают лица (например, определяют своего владельца), жесты или цветовые метки. Технологии компьютерного зрения позволяют таким ИИ-игрушкам играть в игры («прятки» — робот-игрушка ищет яркий объект, или «двигающаяся мишень» и т.п.) и более глубоко понимать контекст.

Пример - Робот-игрушка с интеллектуальной системой навигации и функцией распознавания лица и речи; ИИ-игрушка, реагирующая на показанные карточки с изображениями.

4.2.3 ИИ-игрушки, обучающиеся от пользователя

В некоторых изделиях реализован функционал самообучения — например, ИИ-игрушка может запоминать информацию о предпочтениях ребенка, расширять свой словарный запас на основе того, что слышит, или менять характер игры по мере того, как ребенок взрослеет. Такие ИИ-игрушки могут использовать методы машинного обучения.

Пример - Интеллектуальный персонаж, который анализирует, какие игры больше нравятся ребенку, и чаще предлагает их, либо интерактивный конструктор, подсказывающий проекты соответствующего уровня сложности на основе успешности предыдущих сборок.

4.2.4 Связанные (онлайн) и автономные (офлайн) ИИ-игрушки

В зависимости от способа работы ИИ можно выделить ИИ-игрушки, требующие подключения к интернету, и ИИ-игрушки, работающие автономно. Онлайн-игрушки полагаются на внешние сервисы — например, отправляют голосовые запросы на сервер и получают ответ с доступом к интернету. Их возможности часто шире за счет облачных вычислений, но они зависят от сети и связаны с вопросами передачи данных. Офлайн-игрушки выполняют все вычисления на самом устройстве, без внешних подключений (или с минимальными, например, только для обновления). Они более автономны и безопасны с точки зрения утечки данных, однако их функционал может быть ограничен вычислительными ресурсами устройства.

4.2.4.1 Робототехнические ИИ-игрушки с автономным поведением

Мобильные роботы или механические игрушки (машинки, животные), которые перемещаются и взаимодействуют в пространстве. В них ИИ отвечает за навигацию, избегание препятствий, балансировку и пр. Такие ИИ-игрушки часто объединяют сенсорику (камера, датчики расстояния) и актуаторы (моторы), а ИИ-алгоритмы (например, машинного обучения или заранее настроенные) обеспечивают реалистичность движения и реакций.

Пример - Интерактивная робот-собака с ИИ, способная обучаться новым трюкам и реагировать на жесты.

4.3 По возрастной категории детей

Классификация ИИ-игрушек по возрастной категории детей в соответствии с ГОСТ 35099.

Для детей раннего возраста (от 1 года до 3 лет) применение ИИ-игрушек ограничено ввиду строгих требований к гигиенической безопасности (органолептических, санитарно-химических, токсиколого-гигиенических, микробиологических показателей, физических факторов) и когнитивных особенностей пользователей. Такие ИИ-игрушки, как правило, имеют несложные интерактивные функции.

Пример - Музыкальные ИИ-игрушки-забавы, способные повторять слова, звуки и жесты.

4.3.1 ИИ-игрушки для детей дошкольного возраста (от 3 до 7 лет)

Для возрастной группы от 3 до 7 лет существуют говорящие или поющие ИИ-игрушки, обучающие ИИ-игрушки. ИИ в них реализует базовые сценарии — распознавание самых простых голосовых команд, реакция на сенсорные датчики. Для детей младше 5 лет ИИ-игрушки должны быть максимально простыми, безопасными и понятными, с акцентом на сенсорное восприятие (звук, свет) и развитие моторики, а не на сложный контент. Специальный высокотехнологичный контент с переизбытком электронных функций, который может мешать развитию, отвлекая ребенка от живого общения, в ИИ-игрушках для этой возрастной группы не используется.

Пример - ИИ-игрушки, рассказывающие сказки, называющие цвета и формы при нажатии на кнопки.

4.3.2 ИИ-игрушки для детей младшего школьного возраста (от 7 до 11 лет)

В данной категории возможности ИИ-игрушек расширяются, так как дети способны воспринимать более сложные правила и обучающие программы. Для данного возраста характерно активное использование голосовых технологий — ребенок 7 — 9 лет уже свободно разговаривает с устройством, задает вопросы, и игрушка с ИИ может выступать дополнительным источником знаний. ИИ-игрушки для этой группы могут также включать мини-игры с дополненной реальностью и другими инновациями, но все элементы должны быть ориентированы на развитие детей данной возрастной группы (элементы учебной программы, творческие задания).

Пример - Образовательные роботы и конструкторы, позволяющие освоить основы программирования и логики. Также востребованы интерактивные игровые персонажи (например, персонажи мультфильмов, с которыми можно пообщаться) и голосовые помощники для детей.

4.3.3 ИИ-игрушки для старшего школьного возраста (от 11 до 14 лет)

ИИ-игрушки для детей старшего школьного возраста постепенно переходят в категорию гаджетов и сложных моделей. В этом возрасте дети способны критически воспринимать возможности ИИ, и ИИ-игрушка может выполнять роль платформы для творчества: предоставлять набор инструментов, а ребенок сам программирует или обучает алгоритмы (например, игры, где можно обучить виртуального питомца новым трюкам через специальный интерфейс). ИИ-игрушки с онлайн-функциями в этой категории, помимо родительского контроля, могут предполагать участие самого ребенка в понимании правил безопасной работы — например, объяснять пользователю этику общения в сети, основы приватности (элементы цифровой грамотности). Это соответствует принципу подготовки детей к цифровому миру при помощи самих технологий.

Пример — Робототехнические наборы, дроны, технические игры, требующие самостоятельного конструирования и настройки ИИ (например, самостоятельное обучение нейросети в простейшей форме, соревнования роботов). Также сюда относятся виртуальные игры с физическими компонентами — например, VR/AR-игры с аксессуарами.

5 Требования безопасности

5.1 Общие требования безопасности

5.1.1 Общие требования безопасности к игрушкам с ИИ — по [2], ГОСТ 25779, ГОСТ EN 71-1, ГОСТ IEC 62115 и ГОСТ ISO 8124-2.

5.1.2 Требования к санитарно-химической, токсиколого-гигиенической и гигиенической безопасности — в соответствии с [2].

5.1.3 Безопасность ИИ-игрушек — многоаспектное понятие, включающее как общие требования (механическая, электрическая, пожарная безопасность), использование нетоксичных материалов и отсутствие мелких деталей, которые опасны для детей раннего возраста, так и новые направления, связанные с безопасностью психического здоровья ребенка и защитой персональных данных ребенка, членов его семьи и лиц, осуществляющих уход за ним. Ответственность за возможные негативные психологические последствия и эмоциональный дискомфорт, нанесенный ребенку ИИ-игрушкой, и защиту данных ребенка несет производитель игрушки.

5.1.4 Рекомендации в отношении условий использования, возможностей и процессов при разработке и применении приложений на основе ИИ приведены в [3].

5.2 Психоэмоциональная безопасность

5.2.1 Игрушки с ИИ не должны причинять вред психическому здоровью ребенка и соответствовать критериям, приведенным в п. 5.2.2.

5.2.2 Производитель обязан учитывать следующие воздействия ИИ-игрушек на эмоциональное состояние и развитие ребенка:

• недопущение в дизайне и функционале ИИ-игрушки элементов, которые могут вызывать у детей эмоциональный дискомфорт: страх, тревогу, стресс или агрессию, формировать привязанность к электронному устройству и препятствовать нормальному эмоциональному и социальному развитию. ИИ-игрушка должна быть спроектирована так, чтобы быть психоэмоционально безопасной для ребенка: содержать только соответствующую возрасту информацию/контент согласно [5], поддерживать дружеский стиль общения, не подавлять инициативу и способность к воображению ребенка, не производить внезапных световых/звуковых эффектов, способных вызвать испуг у ребенка. Уровни звука (звукового давления) в игрушках должны соответствовать требованиям гигиенической безопасности, установленным в [2];
• отсутствие пугающего или стрессового контента. В поведении и ответах ИИ-игрушки не должно быть элементов, способных напугать ребенка и привести к негативным психологическим последствиям. Запрещено использование агрессивных образов, сцен насилия или упоминания смерти и других тем, не соответствующих возрасту. Все фразы, которые произносит или отображает ИИ-игрушка, должны быть позитивными или нейтральными по тону, даже при обучении (недопустимы оскорбления, насмешки над ошибками ребенка и т.п.);
• недопущение нарушения социального развития. ИИ-игрушка не должна заменять общение с людьми и отдалять ребенка от семьи или сверстников. Рекомендуется: для детей раннего возраста (от 1 года до 3 лет) и для детей дошкольного возраста (от 3 до 7 лет) ИИ-игрушка должна быть спроектирована так, чтобы привлекать родителей к игре, либо реализовывать совместные сценарии (игры, в которые ребенок может играть с другом и умной игрушкой одновременно). Для детей младшего школьного возраста (от 7 до 11 лет) и детей старшего школьного возраста (от 11 до 14 лет) ИИ-игрушка может поощрять командные занятия (например, соревновательные задачи, требующие компанию). В руководстве для родителей должно быть ясно указано, что ИИ-игрушка — это лишь дополнение, а не замена человека. Также интерфейс ИИ-игрушки не должен «уводить» ребенка полностью в свой мир: например, если ребенок долго играет только с ИИ-игрушкой без перерыва, необходимо, чтобы ИИ-игрушка сама напомнила о реальности («Может, пора отдохнуть и поговорить с друзьями?»);
• предотвращение привязанности и зависимости. Дети могут одушевлять игрушки с ИИ, поэтому важно, чтобы устройство не поощряло излишнюю привязанность или круглосуточное внимание. Алгоритмы должны избегать фраз типа «Мне так плохо без тебя» или постоянных просьб играть без перерывов. Если ребенок играет очень долго, ИИ-игрушка может тактично предложить сделать паузу, перенести игру на потом — это часть ответственности разработчиков за формирование здоровых привычек. Также необходимо исключить игровые механики, напоминающие азартные игры или вызывающие зависимое поведение (например, постоянная система наград, настроенная так, чтобы ребенок не хотел прекращать). Психоэмоциональная безопасность подразумевает, что игра с ИИ-игрушкой оставляет у ребенка положительные эмоции, не вызывает агрессии или апатии;
• этичность взаимоотношений «ребенок — игрушка». ИИ-игрушка должна быть спроектирована так, чтобы уважительно «относиться» к ребенку. Важно в программу заложить корректный стиль общения. Например, она должна терпимо реагировать на возможные грубости со стороны ребенка (некоторые дети могут испытывать границы терпения игрушки, ругаясь на нее), в ответ ИИ-игрушка не должна ругать ребенка, а спокойно ответить, или сменить тему, или отключиться, либо сказать, что ей «неприятно». ИИ-игрушка должна быть спроектирована так, чтобы не навязывать ребенку мнение, советовать по личным вопросам или каким-либо образом манипулировать чувствами. Недопустимо, чтобы ИИ-игрушка «поощряла» антисоциальное поведение, дискриминацию или иные аморальные вещи — алгоритмы должны предотвращать появление таких фраз даже случайно (например, фильтрацией ответов). Если ИИ-игрушка позиционируется как «друг», она должна быть добрым другом. Производителю следует ориентироваться на утвержденные психологические методики и привлекать экспертов при проработке поведенческого сценария устройства. Требования к этическим и социальным аспектам приведены в [5];

- соответствие информационной продукции возрасту. Любая информация, которую предоставляет ИИ-игрушка (тексты, аудио, изображения), должна быть маркирована и соответствовать возрастной категории пользователей в соответствии с [4]. То есть ИИ-игрушка для категории 6+ не должна содержать информацию 12+ и т.д. Контент базы знаний и ответы облачного ИИ должны соответствовать возрасту ребенка.

5.3 Защита данных

Защита персональных данных ребенка, членов его семьи и лиц, осуществляющих уход за ним, и приватности — один из важнейших аспектов безопасности умных игрушек — осуществляется в соответствии с требованиями законодательства Российской Федерации о персональных данных в соответствии с [1], в т.ч.:

• минимизация сбора данных. ИИ-игрушка должна быть спроектирована так, чтобы собирать только те сведения, которые необходимы для ее функционирования. Вся обработка должна вестись анонимно или локально. Если образец голоса используется только для распознавания команд на устройстве, нет надобности сохранять аудиозаписи. Все дополнительные данные (день рождения ребенка, адрес для доставки обновлений, успеваемость и т.п.) могут собираться только по добровольному информированному согласию родителей и при наличии четкой цели;
• согласие на обработку персональных данных. Перед началом использования родители должны быть уведомлены, какие данные ИИ-игрушка может собирать и передавать. Это должно быть прописано в инструкции и (или) показано при настройке мобильного приложения, связанного с ИИ-игрушкой. Необходимо получить согласие от родителя на обработку персональных данных. При активации онлайн-функций приложение может запросить подтверждение согласия на передачу голосовых команд на сервер. Без согласия такие функции либо не активируются, либо ИИ-игрушка работает только в офлайн-режиме. Необходимо предусмотреть механизмы отзыва согласия на обработку персональных данных ребенка, в том числе прекращения обработки персональных данных ребенка и их удаления;
• шифрование и защита хранения. Все персональные данные, передаваемые между ИИ-игрушкой и внешними серверами или приложениями, должны передаваться по зашифрованным каналам связи. Данные, хранящиеся в ИИ-игрушке (например, в памяти — имя ребенка, выученные слова), должны быть зашифрованы и защищены, чтобы при утере ИИ-игрушки посторонний не мог извлечь из нее личную информацию. Если ИИ-игрушка подключается к смартфону, в ней не должно сохраняться открытых учетных данных (паролей Wi-Fi в явном виде и т.п.);
• ограничение доступа и передачи третьим лицам. Персональные данные ребенка, собранные ИИ-игрушкой, не могут передаваться третьим сторонам (например, рекламным компаниям) без отдельного разрешения родителя. Любые серверы, куда отправляются данные, должны находиться под контролем производителя или его доверенного оператора и быть указаны в политике приватности. Недопустим скрытый аудиоконтроль: ИИ-игрушка не должна выступать в качестве прослушивающего устройства, передающего звук постоянно на внешние серверы. Передача аудио или видео возможна только для непосредственного выполнения функции (например, отправка голосового вопроса на сервер для ответа) и не должна архивироваться. Запрещена скрытая запись разговоров ребенка или семьи — такие действия противозаконны;
• безопасность облачной инфраструктуры. Если ИИ-игрушка зависит от облачных сервисов, провайдер должен обеспечивать высокий уровень кибербезопасности этих сервисов. Необходимо принимать меры против взлома баз данных и утечек. Стандарт требует от производителей проведения аудитов безопасности и постоянного мониторинга. При обнаружении уязвимостей (например, утечки API) сервис должен оперативно информировать пользователей и устранять проблему (релиз патча для игрушки, смена паролей и т.д.). Хранение персональных данных — в соответствии с [1];
• пароли и учетные записи. Если ИИ-игрушка требует создания учетной записи (например, в приложении родителя), то политика паролей должна быть строгой: требование минимальной длины, смешение символов и так далее. Пароль по умолчанию в устройстве должен быть уникальным или требовать смены при первой настройке. Производитель не должен использовать один и тот же пароль или PIN для всех экземпляров ИИ-игрушки;
• обработка биометрических данных. Функции ИИ-игрушки, собирающей биометрическую информацию (изображение лица, голос как биометрический идентификатор), должны быть отключаемыми или вынесенными в отдельный согласовательный функционал. Хранение биометрических данных осуществляют в соответствии с [4]. При наличии у ИИ-игрушки функции биометрии для распознавания лица ребенка, чтобы называть его по имени, необходимо предварительное получение согласия родителя. При отсутствии согласия родителя функция отключается. Все шаблоны лиц и голосов, получаемые ИИ-игрушкой, хранятся в зашифрованном виде;

- протоколирование и права родителей. Необходимо предусмотреть, чтобы родитель имел возможность просмотреть, какие данные ИИ-игрушка хранит и передает. Через приложение можно предоставить журнал запросов (что ребенок спрашивал у ИИ-игрушки и какие ответы получил). Родитель должен иметь право потребовать удаления персональных данных, т.е. обеспечить функцию сброса и удаления всех связанных записей, включая данные, находящиеся на сервере. Персональные данные хранятся не дольше, чем требуется для функционирования ИИ-игрушки.

5.4 Ограничение доступа к онлайн-средам

5.4.1 Многие ИИ-игрушки подключаются к Интернету, что несет риски, связанные с неограниченным доступом ко всем ресурсам сети и возможностью контактов с посторонними. Для внедрения ограничений и защитных механизмов, гарантирующих безопасную онлайн-среду для ребенка, необходимо следующее:

• фильтрация интернет-контента. Если ИИ-игрушка получает из Интернета информацию (ответы на вопросы, музыку, видео и т.п.), должна использоваться система фильтрации, соответствующая возрасту ребенка и законодательству о защите детей от вредной информации [4]. Например, при запросе «покажи видео про животных» ИИ-игрушка может обратиться к видеосервису, но обязана использовать безопасный режим, исключающий нежелательный контент. Любые поисковые запросы, генерируемые ИИ-игрушкой, должны включать фильтры безопасности. Если ИИ-игрушка имеет браузер, он должен быть ограничен списком разрешенных сайтов или категорий;
• исключение общения с посторонними. ИИ-игрушка не должна предоставлять канал коммуникации, через который посторонний человек мог бы напрямую связаться с ребенком. Соединения ИИ-игрушки с внешними устройствами (смартфон родителя, компьютер) должны быть проверенными и авторизованными. ИИ-игрушка не должна подключаться к случайным телефонам или принимать соединения от неизвестных адресов. Если устройство имеет функцию чата или голосовых сообщений, они должны работать только с доверенными контактами, выбранными родителем (например, отправлять голосовые сообщения только родителям). Онлайн-игры через ИИ-игрушку, если предусматриваются, должны проходить на модерируемых платформах, то есть ребенок не должен оказаться в открытом игровом чате с взрослыми незнакомцами;
• ограничение функциональности Интернета. В некоторых случаях целесообразно сузить возможности ИИ-игрушки. Если ИИ-игрушка имеет доступ к сети, она должна использовать ее только для заранее определенных сервисов (например, обновление прошивки с официального сайта, ответы на вопросы из детской энциклопедии);
• родительский контроль и время использования. ИИ-игрушка должна быть спроектирована так, чтобы предоставлять родителям возможность контролировать онлайн-функции. Например, через приложение родители могут отключить доступ к Интернету на ночь или ограничить общее время в сети (например, не более 1 ч активных запросов в день). Некоторые устройства реализуют режим «без сети» — родитель может физически переключить ИИ-игрушку в офлайн-режим, и она работает с ограниченным функционалом, без внешних соединений;
• защита от удаленного внешнего управления. Игрушка с ИИ имеет функции обновления или управления через облако. Важно, чтобы только администратор, отвечающий за системное обеспечение, мог посылать такие команды. Например, если существует возможность «административного входа» на ИИ-игрушку по сети, она должна быть закрыта или защищена. Недопустимо, чтобы злоумышленник мог удаленно послать ИИ-игрушке команду выполнять определенные действия (например, двигаться). Это достигается аутентификацией всех команд с сервера (подпись), отсутствием скрытых каналов и тщательным тестированием на уязвимости. Коммуникационный протокол между ИИ-игрушкой и сервером должен быть устойчив к подделке команд.

5.4.2 Онлайн-функции ИИ-игрушки должны быть безопасными и ограниченными, расширение возможностей должно осуществляться под контролем родителей. Выполнение этих требований гарантирует, что, подключая ИИ-игрушку к сети, родители не подвергают ребенка опасностям нежелательного общения или доступа к неподходящему контенту.

5.5 Физическая безопасность при эксплуатации

5.5.1 ИИ-игрушка должна быть спроектирована так, чтобы быть конструктивно безопасной, надежной и соответствовать всем нормам, предъявляемым к детским игрушкам. Интеграция ИИ не должна ухудшать эти показатели.

5.5.2 Безопасность ИИ-игрушек обеспечивается соблюдением требований [2], в том числе:

• конструкция ИИ-игрушек должна удовлетворять требованиям ГОСТ 25779, ГОСТ EN 71-1, ГОСТ ISO 8124-2 по механической прочности, отсутствию острых кромок и концов, токсичности материалов, пожаробезопасности и т.п.;
• безопасность движущихся частей ИИ-игрушек должна удовлетворять требованиям ГОСТ 25779, ГОСТ EN 71-1. Скорость и сила движения ИИ-игрушки должны быть ограничены (например, робот-игрушка не должен сдавливать пальцы и другие части тела пользователей, наносить удары и совершать действия, представляющие опасность для жизни и здоровья ребенка).

В случае роботизированных ИИ-игрушек, которые передвигаются или имеют движущиеся части (манипуляторы, колеса, крылья и пр.), необходимо исключить риск травмирования. Скорость и сила движения должны быть ограничены. Все зазоры в подвижных механизмах должны быть либо слишком малы для пальца ребенка, либо достаточно велики, чтобы не возникало эффекта зажатия. Должны быть предусмотрены датчики препятствий — если ИИ-игрушка столкнулась с человеком или животным, она должна остановиться или отступить. Чтобы исключить возможность травмирования ребенка при пользовании ИИ-игрушкой (летающий дрон, подскакивающий мяч-робот), материалы должны быть легкими и гладкими, чтобы при столкновениях не причинять вред;

• электрические компоненты ИИ-игрушек должны удовлетворять требованиям ГОСТ IEC 62115. Не допускается наличие хрупких стеклянных деталей или открытых нагревающихся элементов. Если встроена батарея, корпус должен исключать доступ ребенка к ней и предотвращать вытекание электролита;
• использование безопасных материалов должно удовлетворять требованиям ГОСТ 25779, ГОСТ EN 71-1, ГОСТ IEC 62115. Все материалы, из которых изготовлена ИИ-игрушка, должны быть нетоксичными и гипоаллергенными. Пластик должен быть прочным, не разбивающимся на острые осколки при ударе. Отделка должна быть без легко отслаивающейся краски. Проводки и электронные платы внутри должны быть надежно изолированы; даже если ребенок разломает корпус, он не должен получить доступ к опасным компонентам (например, литиевый аккумулятор должен быть экранирован). При наличии дисплея или светящихся элементов следует использовать ударопрочное стекло или пластик;
• требования к зарядке и питанию. Если ИИ-игрушка заряжается от сети, зарядное устройство или кабель должны соответствовать требованиям [6] и [7]. Предпочтительно использовать зарядку с низким безопасным напряжением (USB 5 В) во избежание риска поражения током. Коннекторы должны быть защищены от короткого замыкания. Зарядка должна быть безопасной (например, индукционная или через док-станцию, чтобы исключить контакт с вилкой), т.к. дети могут самостоятельно ставить ИИ-игрушку на подзарядку. Время подзарядки и индикация должны исключать перегрев: если ИИ-игрушка полностью заряжена, должен сработать ограничитель, чтобы аккумулятор не перезаряжался;
• прочность и устойчивость. ИИ-игрушки, содержащие дорогую электронику, должны выдерживать характерное для детей обращение: падения с высоты стола, встряхивания, возможные удары. При конструировании ИИ-игрушки крепления плат должны быть виброустойчивыми, корпус — с амортизирующими элементами. Если ИИ-игрушка стационарная (например, робот весом несколько килограммов), она должна иметь устойчивое основание, предотвращающее опрокидывание, или соответствующие датчики наклона, выключающие движение при риске падения. Любые мелкие детали должны быть надежно закреплены и не должны раскручиваться;
• электромагнитная безопасность. ИИ-игрушка, содержащая электронику и передатчики, должна соответствовать требованиям безопасности к электромагнитному излучению в соответствии с [2], [7]. Производитель обязан пройти сертификацию и убедиться, что устройство не создает помех другим приборам. ИИ-игрушка может использоваться рядом с медицинскими приборами (например, если ребенок болен и рядом оборудование) — нужно протестировать электробезопасность во взаимодействии;
• отказоустойчивость и предсказуемость. В целях безопасности следует предусмотреть реакции на программный сбой, например, ИИ-игрушка не должна хаотично двигаться или издавать громкие звуки. При критической ошибке система должна перейти в безопасное состояние (остановиться, выключиться). Например, если игрушка с ИИ потеряла связь с облаком и не знает, что делать, — она должна остановиться и сообщить о потере связи. Предсказуемое поведение снижает риск любых происшествий;

- документация по безопасности. Производитель обязан предоставить инструкцию, где указаны все требования безопасной эксплуатации: не предназначено для погружения в воду (если не водонепроницаемо), беречь от огня, не пытаться вскрыть корпус, рекомендуемый температурный диапазон использования и т.д. Особенно должны быть отмечены возрастные ограничения: например, «не предназначено для детей младше 3 лет» — если есть мелкие детали, или «дети 3 — 6 лет должны играть под присмотром взрослых» — если ИИ-игрушка сложная. На самой игрушке и упаковке должны быть соответствующие значки и маркировки (возраст, сертификаты ЕАЭС и пр.).

6 Технические требования к ИИ-игрушкам

В данном разделе изложены общие технические требования к конструкции и программному обеспечению игрушек с ИИ, обеспечивающие их качественное функционирование и готовность к безопасной эксплуатации. Требования охватывают основные составляющие ИИ-игрушки: сенсоры и устройства ввода, алгоритмы и модели искусственного интеллекта, аппаратные средства обработки, интерфейсы связи, а также аспекты автономности, обучаемости и взаимодействия с пользователем.

6.1 Датчики и оборудование ввода

6.1.1 Игрушка с ИИ может быть оснащена различными датчиками — микрофонами, камерами, инфракрасными дальномерами, датчиками касания, гироскопами и др. Все сенсоры, используемые в изделии, должны соответствовать требованиям безопасности (например, лазерные или ИК-излучатели — классу, безопасному для зрения) и иметь возможность для корректной работы алгоритмов.

6.1.2 Необходимо предусматривать индикаторы активности датчиков: например, при активации микрофона или камеры должна загораться индикаторная лампа, чтобы ребенок и родители знали, что идет запись/наблюдение. Это повышает доверие и прозрачность.

6.1.3 Датчики должны быть защищены от случайного повреждения — от доступа посторонних (например, камера должна быть «утоплена» или закрыта ударопрочным стеклом).

6.2 Обработка данных и алгоритмы ИИ

6.2.1 Программное обеспечение ИИ-игрушек должно соответствовать ГОСТ Р 56939.

6.2.2 Алгоритмы ИИ, отвечающие за распознавание речи, изображений, принятие решений, должны быть разработаны с учетом использования их детьми. Например, система распознавания голоса должна быть настроена на детскую речь (с учетом дикции, возможных грамматических ошибок); иначе ИИ-игрушка не будет выполнять команды, что может разочаровать ребенка.

6.2.3 Алгоритмы ИИ в игрушке должны обеспечивать отсутствие ошибок, способных напугать пользователей, оказать на них вредное воздействие [например, если ИИ-игрушка перепутает предметы и даст опасные инструкции и (или) советы, угрожающие безопасности и (или) здоровью детей].

6.2.4 Рекомендуется использовать модели, исключающие вредоносный или неприемлемый контент. Фильтрация контента является обязательной: если ИИ-игрушка генерирует тексты или ответы из Интернета, в ней должны быть фильтры, отсекающие информацию, не предназначенную детям (насилие, нецензурная лексика и пр.), в соответствии с законодательством о защите детей от вредной информации [4].

6.3 Автономность и энергоснабжение

6.3.1 Игрушка с ИИ часто является портативным электронным устройством, работающим от аккумулятора или батареек. Необходимо внедрять автоотключение при длительном отсутствии активности пользователя для экономии энергии и препятствия нежелательной активности.

6.3.2 Система энергопитания должна быть безопасна, включая защиту от перегрева, короткого замыкания. Если ИИ-игрушка стационарная и работает от сети, блок питания должен быть сертифицирован по [7].

6.3.3 Аппаратная платформа (процессор, память) должна иметь резерв мощности для выполнения ИИ-задач в реальном времени: задержки в диалоге или подвисания нежелательны. Для сетевых функций (Wi-Fi, Bluetooth) используются сертифицированные модули, соответствующие требованиям [7].

6.4 Связь и подключение к сетям

6.4.1 Если ИИ-игрушка предусматривает подключение к Интернету или к другим устройствам (планшету, смартфону) по беспроводной связи, она должна соответствовать требованиям информационной безопасности и совместимости.

6.4.2 Все сетевые соединения (Wi-Fi, Bluetooth) должны быть защищенными: передача данных — с использованием криптографических методов (например, протокол HTTPS для интернет-связи, шифрование BLE-соединения).

6.4.3 В ИИ-игрушке не должно быть незащищенных беспроводных интерфейсов, открытых для произвольного подключения. Например, Bluetooth-модуль должен сопрягаться только после аутентификации — через ввод PIN-кода, подтверждение на доверенном устройстве или сканирование QR-кода. Простой процесс подключения без пароля недопустим.

6.4.4 Для Wi-Fi рекомендуется поддержка только защищенных сетей. ИИ-игрушка не должна автоматически подключаться к незнакомым точкам доступа.

6.4.5 Производитель обязан заложить в программное обеспечение механизмы обновления прошивки: при обнаружении уязвимостей или при выпуске улучшений должна быть возможность безопасно обновить программное обеспечение ИИ-игрушки (автоматически с подтверждения родителя). При этом сами обновления должны быть подписаны и проверяться на целостность, чтобы исключить загрузку несанкционированного кода.

6.5 Обучаемость и пользовательские настройки

6.5.1 Многие ИИ-игрушки предусматривают адаптацию под пользователя. Технически это реализуется либо путем локального обучения (например, запись новых голосовых команд), либо через настройки родительского приложения. Требование — предсказуемость и обратимость обучения.

6.5.2 ИИ-игрушка не должна обучиться навыкам, которые сделают ее поведение нежелательным. Например, если в процессе использования ИИ-игрушку обучили словам и выражениям, не соответствующим нормам современного русского литературного языка, в том числе нецензурной брани, должна быть предусмотрена возможность очистить эту фразу из «памяти» устройства (сброс до заводских настроек или управление списком выученных слов через приложение).

6.5.3 Обучающие алгоритмы должны иметь встроенные ограничения (например, не отвечать фразами, которых нет в проверенном списке, либо ограничить имитацию речи определенным стилем).

6.5.4 Любой адаптивный контент (например, усложняющиеся задания) должен оставаться в рамках возрастной группы, заявленной для ИИ-игрушки.

6.5.5 Настройки, влияющие на ИИ-функции (уровень сложности игр, язык, режимы общения: «учебный», «развлекательный» и др.), должны быть доступны родителям для конфигурации — от переключателей на самой ИИ-игрушке до параметров в мобильном приложении.

6.6 Взаимодействие с пользователем

6.6.1 Интерфейс ИИ-игрушки — голосовой, визуальный, тактильный — должен быть разработан с учетом возможностей ребенка.

6.6.2 Если используется управление голосом, то ИИ-игрушка должна быть спроектирована так, чтобы четко подсказать, как к ней обращаться (например, начать с фразы-пробуждения или нажать кнопку перед командой).

6.6.3 Речевые ответы устройства должны быть короткими и понятными для заявленного возраста. Если есть экран или проекция, интерфейсные элементы (иконки, текст) должны быть крупными и простыми.

6.6.4 Для детей раннего возраста (от 1 года до 3 лет) предпочтительно интерактивное управление с помощью нажатий, качаний и пр.

6.6.5 Ввиду важности получения ребенком ответной реакции от ИИ-игрушки она должна быть спроектирована так, чтобы при обращении или действии ребенка возможно было понять, что игрушка «услышала/увидела», подтвердив это кивком, звуком, фразой. Это предотвращает разочарование и повторные запросы.

6.6.6 Техническое требование — минимальная задержка реакции: взаимодействие должно происходить в реальном времени, задержки более 1 — 2 с могут затруднить коммуникацию ИИ-игрушки с ребенком. Если ИИ-игрушке требуется более длительное время для обработки информации и (или) поиска ответа в Интернете, то алгоритмом должна быть предусмотрена возможность оповещения пользователей вербальным и (или) визуальным способом (в зависимости от возрастной группы детей).

6.6.7 Необходимо обеспечить регулировку громкости звука до комфортного уровня и ограничение максимальной громкости во избежание риска для слуха ребенка в соответствии с [2].

6.6.8 В комплекте с ИИ-игрушкой обязательно должна быть приложена понятная инструкция для родителей, объясняющая все режимы работы.

7 Ограничения на использование ИИ в детских игрушках (законодательные и нормативные)

7.1 Запрет скрытых функций слежения

7.1.1 В конструкции ИИ-игрушки недопустимо наличие скрытых от пользователя сенсоров — все датчики должны быть указаны, а нежелательные для родителей функции (например, постоянная запись окружения) — исключены технически. Активация датчиков должна сопровождаться световым/звуковым сигналом длительностью более или равным 3 с.

7.1.2 ИИ-игрушка, оборудованная скрытым микрофоном или камерой, передающими данные без явного уведомления, может быть признана незаконным средством слежки в соответствии с [8].

7.2 Соблюдение норм рекламы и коммерческой деятельности

7.2.1 В игрушках с ИИ нельзя применять прямые рекламные или маркетинговые механизмы, обращенные к ребенку, без уведомления родителей.

7.2.2 Ограничения на рекламу, обращенную к несовершеннолетним, принимаются в соответствии с [9].

7.2.3 ИИ-игрушка должна быть спроектирована таким образом, чтобы не провоцировать ребенка купить какие-либо товары или просить привести друзей, чтобы «стать популярнее», и т.п.

7.2.4 Если ИИ-игрушка интегрирована с коммерческими сервисами (например, может заказать что-то онлайн), эти сервисы должны требовать авторизации родителя.

7.2.5 Финансовые транзакции или реклама через детские игрушки с ИИ должны быть запрещены.

7.3 Соответствие требованиям сертификации и оценки соответствия

7.3.1 В Таможенном союзе (ЕАЭС) безопасность ИИ-игрушек подтверждается прохождением процедуры оценки соответствия требованиям [2]. Перед выпуском в обращение они должны получить знак ЕАЭС, подтверждающий соответствие базовым требованиям безопасности.

7.3.2 При наличии элементов радиосвязи и шифрования могут требоваться дополнительные согласования: например, уведомление уполномоченного органа по надзору в сфере связи (для радиочастот) или уполномоченного органа, ответственного за безопасность государства внутри страны (если используется криптография).

7.3.3 ИИ-игрушка, не прошедшая необходимых разрешительных процедур, не допускается на рынок. Производители должны закладывать время и ресурсы на сертификацию.

7.4 Эксплуатация уязвимостей детей — запрет практик

7.4.1 В подходах к регулированию ИИ отдельно оговаривается запрет систем, которые могут оказывать неблагоприятное воздействие на ребенка.

7.4.2 Это означает, что алгоритмы не должны специально манипулировать поведением ребенка, используя его доверчивость или внушаемость, в ущерб здоровью или благополучию. Например, ИИ-игрушка должна быть спроектирована так, чтобы не допускать длительную игру ребенка без перерывов и (или) в ущерб рациональной организации режима дня (включая время на сон, учебу, прогулки, физическую активность и пр.), не давать опасных советов и инструкций, например провести самостоятельно эксперимент с огнем.

7.5 Ограничения по функциям распознавания лиц и эмоций

7.5.1 Если ИИ-игрушка имеет функцию распознавания лица ребенка для идентификации настроения или здоровья, эта функция должна соответствовать [10].

7.5.2 Функционал ИИ-игрушки должен быть адаптирован производителем таким образом, чтобы избежать ошибочной интерпретации эмоционального состояния ребенка.

7.6 Соответствие возрастным ограничениям при продаже

7.6.1 Согласно [2] ИИ-игрушки должны продаваться в соответствии с маркировкой по возрасту.

7.6.2 Если ИИ-игрушка содержит ИИ-функции, например доступ к Интернету, то производитель обязан указывать на маркировке ограничения по возрасту «12+».

7.7 Отчетность и ответственность

7.7.1 В случае негативных последствий, связанных с использованием ИИ-игрушки (например, разглашение персональных данных), на производителя должна возлагаться ответственность в соответствии с законодательством Российской Федерации.

7.7.2 Производитель должен на этапе разработки ИИ-игрушки исключить функции, которые могут противоречить требованиям законодательства или этическим нормам по отношению к детям.

8 Ограничения на использование ИИ детьми (этические и правовые аспекты)

8.1 Возрастные ограничения самостоятельного использования

8.1.1 В соответствии с законодательством Российской Федерации [11] дети до 18 лет являются несовершеннолетними, и все действия в цифровой среде (акцепт условий использования, регистрация аккаунтов, соглашение на обработку данных) должны совершаться от имени их родителей или под их контролем.

8.1.2 Ребенок не должен самостоятельно заключать пользовательские соглашения на онлайн-сервисы ИИ-игрушки — это делают родители. Производители должны настроить процессы так, чтобы ребенок технически не мог обойти это.

Пример — Если ИИ-игрушка предлагает подключиться к онлайн-сервису, необходимо подтверждение через аккаунт родителя.

8.2 Этические ограничения на тип контента для детей

8.2.1 Дети не должны получать доступ к определенным знаниям или возможностям ИИ-систем. Например, генеративные модели, которые могут демонстрировать непредсказуемый контент (случайные интернет-данные, изображения), детям использовать запрещается.

8.2.2 Если в ИИ-игрушке имеется функция «свободный чат с ИИ» (например, аналог ChatGPT), она должна быть строго модерирована либо доступна только детям старшего школьного возраста с согласия родителей.

8.2.3 Недопустимо, чтобы дети тестировали ИИ-системы. Все алгоритмы должны быть заранее «отрегулированы» производителями.

8.3 Обучение детей безопасному обращению с ИИ

8.3.1 В процессе использования ИИ-игрушки дети должны усваивать правила цифрового этикета и безопасности. Например, ИИ-игрушка может подсказывать: «Никогда не сообщай мне свои личные данные, я же всего лишь игрушка» — тем самым обучая ребенка, что нельзя доверять технике личную информацию. Или в игре, если ребенок задает заведомо грубый/неуместный вопрос, ИИ-игрушка может мягко указать на это «Давай поговорим о чем-то другом».

8.3.2 Дети не должны привыкать грубо обращаться с ИИ или эксплуатировать его, так как ребенок может перенести грубое обращение на общение с людьми. ИИ-игрушка не должна поощрять, если с ней обращаются плохо (бьют, оскорбляют), она должна либо отключиться, либо сказать, что ей «больно» (симулируя эмоцию, если концепция игрушки позволяет).

8.3.3 Для детей дошкольного возраста обучение должно ограничиваться базовыми правилами (например, не называть адрес).

8.4 Роль родителей

8.4.1 Дети могут пользоваться ИИ-игрушкой только под контролем родителей. Производитель должен предполагать сценарий совместного пользования: включить родительский режим, отчетность.

8.4.2 Родителям рекомендуется ограничивать время, которое ребенок проводит с ИИ-игрушкой, осуществлять контроль тематик разговоров ребенка с ИИ-игрушкой во избежание опасного контента.

8.5 Право ребенка на отключение ИИ

8.5.1 У ребенка должно быть право перестать играть, выключить ИИ-игрушку, не ощущая давления.

8.5.2 ИИ-игрушка не должна «упрашивать» ее включить снова или тем более винить ребенка, если тот давно не играл («Ты меня бросил, мне было одиноко» — недопустимо использование данных выражений). Это может вызывать чувство вины или стыда.

8.5.3 Ребенок должен сохранять свободу выбора: поиграть с ИИ-игрушкой или поиграть в кубики. Ограничением является недопущение психологической зависимости (как упоминалось в 5.2). Таким образом, родители могут установить правило: игрушка с ИИ — не более 1 ч в день, и устройство должно уметь корректно завершать игру по таймеру.

8.6 Ответственность производителя за действия ИИ

8.6.1 Любые указания ИИ-игрушки, связанные с физическими действиями ребенка, должны быть безопасными и в рамках игры.

8.6.2 Разработчики должны предотвращать использование ИИ-игрушки вне ее прямого назначения (например, убедиться, что ребенок не сможет через ИИ-игрушку получить доступ к операционной системе и использовать ее как обычный компьютер для хакерства).

8.7 Этическое воспитание и контент

8.7.1 Использование ИИ детьми должно происходить в безопасных условиях, под руководством родителей и с соблюдением принципа «не навреди».

8.7.2 ИИ-игрушка не должна подрывать авторитет родителей или учителей («Твои родители ошибаются, делай по-другому» — абсолютно запрещено).

8.7.3 ИИ-игрушка не должна затрагивать спорные темы (политика, религия), если только это не одобрено родителями и не входит в образовательную задачу в нейтральной форме. Этический принцип ИИ — нейтральность и позитив. Все сложные и дискуссионные вопросы не должны решаться ИИ-игрушкой. Алгоритмы ИИ должны быть настроены соответствующим образом.

Пример - ИИ-игрушка должна быть спроектирована таким образом, чтобы на вопрос: «Что такое смерть?» — корректно отреагировать, например дать совет обратиться с данным вопросом к родителям.

9 Безопасное применение ИИ (этические принципы, открытость, контроль)

9.1 Принцип приоритета благополучия ребенка

9.1.1 Во всех аспектах проектирования и эксплуатации ИИ-игрушки центральным должны быть интересы ребенка.

9.1.2 Производитель обязан оценивать каждую функцию устройства на основании вопроса: приносит ли это пользу ребенку? Если какая-то ИИ-функция добавлена ради «эффекта» или маркетинга, но несет потенциальный риск, лучше отказаться от нее. Благополучие включает физическое, эмоциональное, интеллектуальное развитие.

9.2 Принцип справедливости и недискриминации

9.2.1 Алгоритмы ИИ не должны содержать скрытых предубеждений или вести себя по-разному с разными детьми на основании признаков, не относящихся к игре. Например, ИИ-игрушка должна быть спроектирована так, чтобы одинаково доброжелательно и уважительно взаимодействовать с детьми, независимо от социальных, гендерных, расовых, культурных, религиозных различий, их состояния здоровья.

9.2.2 Если в ИИ-игрушке используется голосовой ассистент, он должен распознавать речь с особенностями произношения, связанными с региональными, национальными, культурными различиями (акцент), и дефектами речи. Качество синтеза речи должно соответствовать требованиям ГОСТ Р 59880.

9.2.3 Недопустимо, чтобы ИИ, обученный на данных одной национальной культуры, давал ответы, оскорбительные для другой национальной культуры.

9.2.4 Этически важно воспитывать в детях уважение и равенство, и ИИ-игрушка должна быть спроектирована так, чтобы этому способствовать.

9.3 Принцип открытости (объяснимости)

9.3.1 Ребенку и особенно родителям должны быть понятны возможности и ограничения ИИ-игрушки:

а) ИИ-игрушка — это не живое существо. Дети дошкольного и младшего школьного возраста могут этого не осознавать, родители должны объяснить. ИИ-игрушка не должна обманывать ребенка: например, можно в какой-то момент сказать: «Я — электронная игрушка и многого не знаю, но я стараюсь учиться»;

б) объяснимость решений. В случае отказа ИИ-игрушки выполнить какое-либо действие ИИ-игрушка может дать ответ (например, «Я не понял твой вопрос» или «Мне не положено об этом говорить»). При обращении в службу поддержки производителя должны быть инструменты анализа (логи, данные сенсоров);

в) открытость данных. Производитель должен публиковать политику в отношении ИИ: какие алгоритмы используются, какие данные собираются, как обучалась модель. Это повысит доверие родителей. Если используются сторонние сервисы ИИ — указать, какие (например, «голосовые ответы предоставляет сервис X, с фильтрацией по таким-то правилам»).

9.4 Принцип родительского контроля

9.4.1 Родитель должен сохранять контроль над ИИ-системой.

9.4.2 Все ключевые функции (доступ в Интернет, камера, микрофон, обновления) должны быть отключаемыми вручную. Например, отдельная кнопка «Wi-Fi» или программный тумблер в приложении. Если возникает подозрение на некорректную работу, родители должны иметь возможность отключить ИИ-функциональность (вплоть до полного выключения игрушки).

9.4.3 Родительский смартфон или панель управления должны позволять: просматривать статистику использования, устанавливать таймеры, фильтровать темы (например, запретить упоминание определенных тем, если родитель считает их нежелательными). ИИ не может отменять команды родителя. Например, если родитель поставил «ночной режим» — ИИ-игрушка не должна включаться, даже если ребенок просит (или должна ответить: «Время спать, продолжим утром»).

9.5 Принцип ответственности и возможности аудита

9.5.1 Производители несут ответственность за алгоритмы ИИ-игрушки и должны проводить тестирование на предмет контента и поведения, способного нанести вред пользователям при ее эксплуатации по назначению.

9.5.2 Производитель должен быть готов улучшать модель по результатам аудита.

9.6 Этика заложенных данных и моделей

9.6.1 При обучении ИИ, используемого в ИИ-игрушке, следует учитывать этические нормы. Если использованы данные, содержащие предвзятость или неуместный контент, модель должна быть «дообучена». Особенно это касается языковых моделей: необходимо убрать из ответов оскорбительные или некорректные фразы.

9.6.2 Производитель должен протестировать ИИ-игрушку в различных ситуациях: например, «Что будет, если ребенок спросит про суицид?» — ИИ-игрушка должна корректно реагировать (посоветовать обратиться к родителям или психологу).

9.7 Соответствие принципам приватности и безопасности

9.7.1 Принципы приватности и безопасности должны быть заложены в ИИ-игрушке с самого начала. Для ИИ-игрушек все потенциально чувствительные функции (микрофон, камера, Интернет) должны быть изначально спроектированы безопасно и не требовать доработок. Например, хранение данных — сразу шифровать, обмен — сразу по HTTPS.

9.7.2 Недопустимо выпускать ИИ-игрушку, которая отправляет разговоры пользователя на нешифрованный сервер. Нельзя давать ИИ-игрушке возможности, которые трудно контролировать (например, свободный доступ в Интернет).

9.8 Участие заинтересованных сторон

9.8.1 В процессе разработки ИИ-игрушки необходимо привлекать экспертов по детской психологии, педагогов, представителей родителей, в целях соотнесения с реальными потребностями детей. Например, ИИ-игрушка, предназначенная для обучения, должна быть разработана в соответствии с рекомендациями специалистов в сфере образования, чтобы контент был педагогически ценен.

9.8.2 В приложении А приведен примерный меморандум по применению ИИ в детских товарах.

(справочное)

В данном приложении приведен пример условного меморандума или кодекса практики, который производители и разработчики ИИ-игрушек могут принять для обязательств соблюдения безопасного применения ИИ (этические принципы, открытость, контроль). Меморандум служит примером того, как компании могут самостоятельно закрепить приверженность этичным и безопасным подходам.

искусственного интеллекта в детских игрушках

Мы, разработчики и производители детских товаров с ИИ, признавая свою ответственность перед детьми, родителями и обществом, берем на себя следующие обязательства:

1 Принцип безопасности и благополучия детей. При разработке и выпуске любых продуктов с ИИ для детей мы ставим на первое место безопасность, здоровье и всестороннее развитие ребенка. Все игрушки, включая ИИ-игрушки, должны служить целям умственного, нравственного, физического и эстетического воспитания детей, что необходимо учитывать при их разработке. Ни коммерческие, ни иные интересы не превалируют над этой задачей.

2 Этичность и уважение прав ребенка. Наши ИИ-игрушки будут уважать права ребенка на приватность, защиту и участие. Мы не допускаем функций, которые могли бы эксплуатировать доверие или уязвимость детей. ИИ-алгоритмы спроектированы так, чтобы содержательно поддерживать позитивные ценности — дружбу, творчество, обучение — и ни в коем случае не подрывать их.

3 Открытость технологий. Мы стремимся сделать работу ИИ-игрушек понятной и открытой для пользователей. Информация о возможностях и ограничениях наших ИИ-систем будет доступна родителям в понятной форме. По запросу мы предоставим дополнительные разъяснения компетентным организациям. Продукт четко информирует, что он является электронным устройством, а не человеком, чтобы не вводить детей в заблуждение. При обнаружении утечки данных компания обязана уведомить пользователей в течение 24 ч.

4 Родительский контроль. Все наши ИИ-решения в игрушках находятся под контролем родителя. Родители обладают инструментами управления — от настройки параметров до полного отключения ИИ-функций. Мы гарантируем возможность безопасного отключения или изменения поведения ИИ-системы по воле пользователя в любой момент.

5 Защита данных и приватности. Мы придерживаемся принципов приватности и безопасности — защита персональных данных ребенка встроена в архитектуру наших продуктов. Сбор данных минимален и строго согласован, все персональные сведения надежно защищены или анонимизированы. Мы ни при каких условиях не продаем и не передаем данные о детях третьим сторонам. Каждый пользователь имеет право знать, какие данные собираются, и требовать их удаления.

6 Безопасность от киберугроз. Принцип «Безопасность по замыслу» — основа наших разработок. Мы обеспечиваем шифрование коммуникаций, защиту от несанкционированного доступа и регулярно проводим аудит безопасности. Обновления безопасности выпускаются оперативно при появлении новых угроз. Учитывая особую значимость защиты детей, мы нацелены быть на шаг впереди потенциальных злоумышленников.

7 Недопущение предубеждений и дискриминации. Мы обучаем и тестируем наши ИИ-игрушки таким образом, чтобы исключить проявления каких-либо социальных, гендерных, расовых или культурных предубеждений в поведении игрушек. Все дети равны, и наши продукты взаимодействуют со всеми одинаково доброжелательно и уважительно, учитывая индивидуальные потребности каждого ребенка.

8 Ответственное контентное наполнение. Мы контролируем и фильтруем весь контент, генерируемый или передаваемый ИИ-игрушками, чтобы он соответствовал возрасту и был безопасен. ИИ-игрушка не предоставит ребенку информацию или медиа, которые не подходят для его возрастной категории, и тем более не будет пропагандировать запрещенный или вредный контент. Мы руководствуемся законодательством и экспертными рекомендациями по возрастному контенту.

9 Вовлечение экспертов и пользователей. В процессе разработки и улучшения продуктов мы сотрудничаем с детскими психологами, педагогами, врачами, специалистами по ИИ-этике. Мы также внимательно прислушиваемся к обратной связи от родителей и воспитателей. Наши ИИ-игрушки проходят испытания в реальных условиях использования (с согласия всех сторон) для выявления возможных проблем и их устранения до массового выпуска.

10 Непрерывное улучшение и ответственность. Подписываясь под этим меморандумом, мы подтверждаем свою ответственность за наши ИИ-игрушки на протяжении всего их жизненного цикла. Мы готовы оперативно реагировать на любые ситуации или вопросы, связанные с работой ИИ, сотрудничать с регуляторами и общественностью. Мы привержены постоянному повышению стандартов безопасности и этичности и будем обновлять настоящие обязательства по мере развития технологий и лучших практик.

БИБЛИОГРАФИЯ

[1]	Федеральный закон от 27 июля 2006 г. № 152-ФЗ «О персональных данных»
[2]	Технический регламент Таможенного союза ТР ТС 008/2011	О безопасности игрушек
[3]	ИСО/МЭК 5339:2024 Информационные технологии. Искусственный интеллект. Руководство по применению искусственного интеллекта
[4]	Федеральный закон от 29 декабря 2010 г. № 436-ФЗ «О защите детей от информации, причиняющей вред их здоровью и развитию»
[5]	ISO/IEC TR 24368:2022	Информационные технологии. Искусственный интеллект. Обзор этических и социальных вопросов
[6]	Технический регламент Таможенного союза ТР ТС 004/2011	О безопасности низковольтного оборудования
[7]	Технический регламент Таможенного союза ТР ТС 020/2011	Электромагнитная совместимость технических средств
[8]	Уголовный кодекс Российской Федерации от 13 июня 1996 г. № 63-ФЗ
[9]	Федеральный закон от 13 марта 2006 г. № 38-ФЗ «О рекламе»
[10]	Федеральный закон от 29 декабря 2022 г. № 572-ФЗ «Об осуществлении идентификации и (или) аутентификации физических лиц с использованием биометрических персональных данных, о внесении изменений в отдельные законодательные акты Российской Федерации и признании утратившими силу отдельных положений законодательных актов Российской Федерации»
[11]	Федеральный закон от 24 июля 1998 г. № 124-ФЗ «Об основных гарантиях прав ребенка в Российской Федерации»

УДК 688.72:006.354	ОКС 97.200.50
Ключевые слова: игрушки, искусственный интеллект, безопасность, ребенок, защита

---