Требования

к характеристикам систем искусственного интеллекта

повышенной опасности, обеспечивающим открытость,

объяснимость, подконтрольность, точность, надежность и

цифровую устойчивость таких систем

Глава 1. Общие положения

Глава 2. Перечень требований к характеристикам систем искусственного интеллекта повышенной опасности

§ 1. Требования к характеристикам, обеспечивающим открытость систем искусственного интеллекта повышенной опасности

§ 2. Требования к характеристикам, обеспечивающим объяснимость систем искусственного интеллекта повышенной опасности

§ 3. Требования к характеристикам, обеспечивающим подконтрольность систем искусственного интеллекта повышенной опасности

§ 4. Требования к характеристикам, обеспечивающим точность систем искусственного интеллекта повышенной опасности

§ 5. Требования к характеристикам, обеспечивающим надежность систем искусственного интеллекта повышенной опасности

§ 6. Требования к характеристикам, обеспечивающим цифровую устойчивость систем искусственного интеллекта повышенной опасности

Глава 3. Заключительные положения

Глава 1. Общие положения

1. Требования к характеристикам систем искусственного интеллекта повышенной опасности, обеспечивающим открытость, объяснимость, подконтрольность, точность, надежность и цифровую устойчивость таких систем (далее - Требования), разработаны в соответствии с Цифровым кодексом Кыргызской Республики.

2. Термины и понятия, используемые в настоящих Требованиях, используются в значениях, указанных в Цифровом кодексе Кыргызской Республики.

3. Настоящие Требования устанавливают минимально необходимый уровень соответствия систем искусственного интеллекта повышенной опасности отраслевым принципам, установленным Цифровым кодексом Кыргызской Республики для проектирования, разработки и использования таких систем.

4. Владельцы систем искусственного интеллекта повышенной опасности обязаны обеспечить соответствие данным Требованиям на всех этапах жизненного цикла систем искусственного интеллекта повышенной опасности.

5. Владельцы систем искусственного интеллекта повышенной опасности самостоятельно определяют меры, позволяющие обеспечить соответствие систем искусственного интеллекта повышенной опасности установленным Требованиям, с учетом положений законодательства Кыргызской Республики, правил и стандартов профессионального объединения владельцев систем искусственного интеллекта (при наличии), общепризнанной международной практики.

Глава 2. Перечень требований к характеристикам систем

искусственного интеллекта повышенной опасности

§ 1. Требования к характеристикам, обеспечивающим открытость

систем искусственного интеллекта повышенной опасности

6. Информация о принципах работы систем искусственного интеллекта повышенной опасности, используемых данных и алгоритмах, технической документации должна быть общедоступна, если это не противоречит требованиям безопасности и законодательству об интеллектуальной собственности.

7. Характеристики систем искусственного интеллекта повышенной опасности должны обеспечивать пользователю, не обладающему специальными техническими познаниями, возможность понять и надлежащим образом использовать результат их работы.

8. Владельцы систем искусственного интеллекта повышенной опасности должны обеспечить предоставление пользователям таких систем информацию:

1) об источниках данных/входных данных, использовавшихся для обучения и тестирования систем искусственного интеллекта повышенной опасности;

2) о факторах, процессах и/или логике, влияющих на результат работы систем искусственного интеллекта повышенной опасности;

3) об ограничениях функционирования систем искусственного интеллекта повышенной опасности, намеренно внедренных при их разработке или вытекающих из современного уровня развития техники.

Указанная информация предоставляется в простой и понятной для восприятия форме путем ее опубликования на официальных веб-сайтах владельцев систем в общедоступном разделе, обеспечения постоянного доступа к такой информации непосредственно через пользовательский интерфейс системы и другими способами, обеспечивающими соблюдение принципа открытости. Информация должна быть актуальной, достоверной и доводиться до пользователей до начала использования системы.

9. Владельцы систем искусственного интеллекта повышенной опасности обязаны разместить на своих веб-сайтах и раскрыть в документации на такие системы следующую информацию:

1) условия обработки данных, загружаемых в них пользователем систем искусственного интеллекта повышенной опасности;

2) сфера целевого использования систем искусственного интеллекта повышенной опасности, в рамках которых возможные риски для пользователя таких систем или иных заинтересованных лиц не превышают приемлемых значений в силу характеристик самих систем искусственного интеллекта повышенной опасности;

3) требования к пользователям систем искусственного интеллекта повышенной опасности;

4) описание остаточных рисков, которые могут возникнуть при целевом использовании систем искусственного интеллекта повышенной опасности, а также рекомендуемые владельцами систем искусственного интеллекта повышенной опасности меры по их устранению или снижению.

§ 2. Требования к характеристикам, обеспечивающим

объяснимость систем искусственного интеллекта повышенной

опасности

10. Системы искусственного интеллекта повышенной опасности должны быть спроектированы таким образом, чтобы рекомендуемые ими решения или действия были понятны и объяснимы пользователям. Владельцы таких систем должны обеспечить понятность предпосылок (оснований) для решений или рекомендаций систем и возможность проверки таких оснований.

11. Если системы искусственного интеллекта повышенной опасности предназначены для получения результата, который используется для принятия или рекомендации решения, способного повлечь нарушение прав, свобод или законных интересов физических или юридических лиц, характеристики системы должны обеспечивать физическому лицу возможность понять и проверить предпосылки, а также способы получения и применения соответствующего результата (решения или рекомендации), полученного с использованием таких систем.

12. Если характеристики систем искусственного интеллекта повышенной опасности не позволяют без специальных знаний понять и проверить предпосылки, а также способы получения и применения соответствующего результата, информация о наличии такого специального знания должна быть доведена до пользователей систем искусственного интеллекта повышенной опасности до начала их использования.

13. Характеристики систем искусственного интеллекта повышенной опасности должны обеспечивать достоверность информации о предпосылках принятых системами решений, способе получения решений или рекомендаций.

14. Объяснение характеристик систем, предпосылок для решений или рекомендаций, способы получения и применения соответствующего результата должны быть доступны для пользователей по их запросу на веб-сайтах владельцев, изложены в простой и понятной форме, с возможным использованием визуальных средств для иллюстрации логики работы систем искусственного интеллекта повышенной опасности.

§ 3. Требования к характеристикам,

обеспечивающим подконтрольность систем

искусственного интеллекта повышенной опасности

15. Системы искусственного интеллекта повышенной опасности должны быть разработаны таким образом, чтобы обеспечивать эффективный контроль человеком их применения, а также возможность в критически важных ситуациях вмешательства человека в их работу.

16. Подконтрольность систем искусственного интеллекта повышенной опасности достигается выполнением, по крайней мере, следующих двух условий:

1) система предоставляет физическому лицу, осуществляющему контроль за эффективностью работы такой системы, информацию о своем состоянии (например, внутренние параметры или наблюдаемые характеристики) таким образом, чтобы такое физическое лицо могло контролировать систему;

2) система настроена на прием и выполнение управляющих инструкций от физического лица, осуществляющего контроль за эффективностью работы такой системы, вызывающих требуемые изменения (корректировки) в состоянии системы.

17. Для реализации требований подконтрольности, характеристик систем искусственного интеллекта повышенной опасности должны обеспечивать:

1) возможность для физического лица эффективно контролировать их в период применения;

2) автоматическое ведение журнала их работы;

3) возможность их независимой проверки на соответствие обязательным требованиям в течение всего жизненного цикла систем.

18. Физическим лицам, осуществляющим контроль за эффективностью работы систем искусственного интеллекта повышенной опасности, должны быть предоставлены необходимые технические/программные средства и информация, доступная в простой и понятной форме, обеспечивающие возможность:

1) эффективно работать с системами;

2) понимать принципиальные ограничения возможностей систем, критически воспринимать результат их работы и выявлять их недостатки;

3) при необходимости отказаться от использования систем в пользу других способов решения поставленной задачи;

4) безопасно приостановить работу систем и, когда это необходимо и возможно, обратить (вернуть в исходное состояние) последствия такой работы.

19. Журнал работы систем искусственного интеллекта повышенной опасности должен содержать цифровые записи об обстоятельствах работы систем искусственного интеллекта повышенной опасности, требуемые для контроля и при необходимости предотвращения неблагоприятных последствий их работы, а также о действиях физических лиц, осуществляющих контроль за эффективностью работы таких систем.

§ 4. Требования к характеристикам, обеспечивающим точность

систем искусственного интеллекта повышенной опасности

20. Способы проектирования, разработки и применения систем искусственного интеллекта повышенной опасности должны обеспечивать достоверность результатов применения таких систем, соответствующих их целевому назначению.

21. Данные, используемые для обучения и работы систем искусственного интеллекта повышенной опасности, должны быть достоверными (валидными), точными, полными, актуальными и репрезентативными, регулярно обновляться, чтобы обеспечить их актуальность и соответствие реальным условиям и целям применения системы.

22. Характеристики систем должны содержать механизмы для отслеживания изменений в данных, корректировки систем искусственного интеллекта при необходимости и проверки данных на предмет ошибок, несоответствий, предвзятости.

23. Условия измерения характеристик, обеспечивающих точность систем искусственного интеллекта повышенной опасности, должны быть приближены к возможным условиям их целевого использования.

24. Владельцы систем искусственного интеллекта повышенной опасности обязаны обеспечить точность входящих данных в той мере, в которой это необходимо для обеспечения корректной и качественной работы систем искусственного интеллекта повышенной опасности.

25. В случае невозможности проверки точности входных данных техническими средствами (например, автоматической проверкой на соответствие входящих данных определенным метрикам качества), пользователи систем искусственного интеллекта повышенной опасности должны быть предупреждены (путем опубликования соответствующей информации на веб-сайтах владельцев в общем доступе, включения такой информации в документацию на системы) об этом с указанием рекомендаций по проверке точности входящих данных самими пользователями.

26. Владельцы систем искусственного интеллекта повышенной опасности обязаны обеспечить точность исходящих данных (решений, рекомендаций) систем искусственного интеллекта повышенной опасности в соответствии с метриками, предусмотренными технической документацией на системы искусственного интеллекта повышенной опасности, исходя из их целевого назначения.

27. Подтверждение факта соответствия точности исходящих данных таким метрикам производится с помощью испытаний (тестирования) систем, проводимых их владельцами самостоятельно или с привлечением третьих лиц.

28. Методика проведения таких испытаний, а также их результаты должны быть размещены владельцами систем искусственного интеллекта повышенной опасности на своих веб-сайтах в виде общедоступных цифровых записей.

§ 5. Требования к характеристикам, обеспечивающим надежность

систем искусственного интеллекта повышенной опасности

29. Системы искусственного интеллекта повышенной опасности должны быть устойчивы к случайным сбоям и неполадкам. Владельцы таких систем должны обеспечивать принятие мер по предотвращению возможных перебоев в их работе и сохранности их основных функций при сбоях или внеплановых внешних воздействиях.

30. Характеристики надежности систем искусственного интеллекта повышенной опасности должны обеспечивать:

1) устойчивость к ошибкам, сбоям или несоответствиям, которые могут возникнуть в системах или в среде их применения, в частности, из-за взаимодействия систем с другими цифровыми технологическими системами или с физическими лицами;

2) принятие мер для обеспечения технической избыточности, включая меры резервирования и отказоустойчивости;

3) возможность для пользователей предотвращать и устранять предвзятость в выборке цифровых данных, используемых для обучения, если системы продолжают обучаться после ввода в гражданский оборот или в эксплуатацию.

31. Владельцы систем искусственного интеллекта повышенной опасности должны обеспечивать разработку и применение внутренних механизмов защиты систем от несанкционированных вмешательств, а также информировать пользователей о правилах безопасности при использовании/применении систем путем размещения соответствующей общедоступной информации на веб-сайтах и/или в технической документации на системы.

32. Характеристики надежности систем искусственного интеллекта повышенной опасности закладываются при их проектировании и указываются в документации на системы.

33. Владельцы систем искусственного интеллекта повышенной опасности должны проводить регулярные проверки соответствия реальных показателей надежности систем тем, что указаны в документации на них.

Методика проведения таких проверок и их периодичность определяются владельцами систем искусственного интеллекта повышенной опасности с учетом положений законодательства Кыргызской Республики, правил и стандартов профессионального объединения владельцев систем искусственного интеллекта (при их наличии), общепризнанной международной практики.

§ 6. Требования к характеристикам, обеспечивающим

цифровую устойчивость систем искусственного интеллекта

повышенной опасности

34. Владельцы систем искусственного интеллекта повышенной опасности должны стремиться обеспечивать непрерывность их функционирования путем реализации следующих мер:

1) обеспечение целостности и доступности систем, конфиденциальности обрабатываемых цифровых данных;

2) осуществление мониторинга и предупреждение инцидентов и обмена данными о них;

3) управление рисками на основе системы управления рисками;

4) управление ресурсами, необходимыми для обеспечения непрерывности функционирования таких систем.

35. Владельцы систем искусственного интеллекта повышенной опасности самостоятельно определяют требуемые для цифровой устойчивости финансовые, технические, человеческие ресурсы исходя из характера, объема, целевого назначения систем, их жизненного цикла.

При принятии решений о необходимых ресурсах для обеспечения цифровой устойчивости принимаются во внимание следующие факторы:

1) уровень развития науки и техники;

2) уровень знаний и навыков людей, участвующих в создании и использовании систем;

3) характер, объем и цели эксплуатации систем;

4) жизненный цикл систем, начиная с этапа проектирования соответствующего объекта;

5) права и законные интересы владельцев и пользователей систем.

36. Характеристики систем, обеспечивающие их цифровую устойчивость и непрерывность функционирования, должны предполагать возможность реализации мер, обеспечивающих устойчивость к попыткам неправомерного вмешательства в работу систем за счет использования их уязвимостей.

В необходимых случаях такие меры должны включать технические решения, предотвращающие целенаправленное искажение цифровых данных, используемых для обучения таких систем.

37. Владельцы систем искусственного интеллекта повышенной опасности обеспечивают регулярные проверки цифровой устойчивости систем самостоятельно или с привлечением третьих лиц.

Методика проведения таких проверок и их периодичность определяются владельцами систем искусственного интеллекта повышенной опасности с учетом положений законодательства Кыргызской Республики, правил и стандартов профессионального объединения владельцев систем искусственного интеллекта (при их наличии), общепризнанной международной практики.

38. Владельцы систем искусственного интеллекта повышенной опасности обязаны регулярно пересматривать характеристики цифровой устойчивости систем искусственного интеллекта повышенной опасности с учетом появляющейся информации о новых методах неправомерного вмешательства в работу систем и развития технологий, используемых злоумышленниками для организации такого неправомерного вмешательства.

Глава 3. Заключительные положения

39. Информация о соблюдении настоящих Требований подлежит размещению на веб-сайтах владельцев систем искусственного интеллекта в простой и понятной для пользователей - физических лиц форме, а также в формате открытых данных, доступных в машиночитаемом формате без ограничений на их повторное использование, за исключением информации, относящейся к государственным секретам.