Требования

к технической документации на системы

искусственного интеллекта повышенной опасности

Глава 1. Общие положения

Глава 2. Перечень требований к технической документации на системы искусственного интеллекта повышенной опасности

Глава 3. Заключительные положения

Глава 1. Общие положения

1. Требования к технической документации на системы искусственного интеллекта повышенной опасности (далее - Требования) разработаны в соответствии с Цифровым кодексом Кыргызской Республики в целях обеспечения доступности пользователей таких систем и иных заинтересованных лиц ко всей необходимой информации, требуемой для их целевого использования, снижения или устранения рисков при использовании таких систем, обеспечения подконтрольности деятельности владельцев систем искусственного интеллекта повышенной опасности.

2. Термины и понятия, используемые в настоящих Требованиях, используются в значениях, указанных в Цифровом кодексе Кыргызской Республики.

3. Владельцы систем искусственного интеллекта повышенной опасности обязаны разработать надлежащую техническую документацию на свои системы, обеспечить сохранность журналов работы таких систем в период их нахождения под их контролем и общедоступность технической документации.

4. Техническая документация на системы искусственного интеллекта повышенной опасности должна быть разработана до их ввода в гражданский оборот или эксплуатацию и впоследствии поддерживаться в актуальном состоянии.

5. Техническая документация должна быть разработана таким образом, чтобы при ознакомлении с ней любое заинтересованное лицо могло оценить целевое назначение систем, возможность и правила их эксплуатации, соответствие систем обязательным требованиям.

6. Руководство по эксплуатации систем искусственного интеллекта повышенной опасности должно быть полным, достоверным, изложено в простой и понятной форме и содержать всю информацию, имеющую значение для пользователей.

Глава 2. Перечень требований к технической документации на

системы искусственного интеллекта повышенной опасности

7. Техническая документация на системы искусственного интеллекта повышенной опасности должна включать:

1) общее описание систем искусственного интеллекта повышенной опасности, включая:

- их целевое назначение, наименование разработчика и версии систем, отражающие их связь с предыдущими версиями;

- описание, как эти системы взаимодействуют или могут использоваться для взаимодействия с оборудованием или программным обеспечением, включая другие системы искусственного интеллекта, которые не являются частью самих систем (где применимо);

- требования к оборудованию и программному обеспечению, необходимых для использования систем;

- если системы являются компонентом иного программного обеспечения или товара, фотографии или иллюстрации, внешние характеристики, маркировку и внутреннюю компоновку такого программного обеспечения или товара;

- базовое описание пользовательского интерфейса и инструкции для пользователей систем искусственного интеллекта повышенной опасности;

2) подробное описание элементов систем искусственного интеллекта повышенной опасности и процесса их разработки, включая:

- описание систем искусственного интеллекта и иного программного обеспечения, разработанных третьими лицами и интегрированных в данные системы, а также описание деталей их модификации при интеграции, если применимо;

- детали проектирования систем, общую логику систем и их алгоритмов;

- принятые владельцами ключевые решения на стадии проектирования, их обоснование и использованные гипотезы, в том числе в отношении лиц или групп лиц, в отношении которых системы предназначены для использования;

- описание ожидаемых результатов работы систем и их качества;

- описание архитектур систем, объясняющие, как программные компоненты надстраиваются или взаимодействуют друг с другом и интегрируются в общую обработку;

- вычислительные ресурсы, используемые для разработки, обучения, тестирования и проверки систем;

- методики и методы обучения, а также использованные для обучения наборы данных, включая общее описание этих наборов данных, информацию об их происхождении, области применения и основных характеристиках;

- оценку мер по обеспечению подконтрольности систем человеку, включая оценку принятых технических мер, необходимых для облегчения понимания пользователями результатов их работы;

- использованные владельцами процедуры тестирования, включая информацию об использованных для этого цифровых данных и их основных характеристиках;

- метрики, используемые для измерения точности, надежности;

- потенциально возможные случаи дискриминации при использовании систем;

- журналы тестирования и все отчеты о тестировании, датированные и подписанные ответственными лицами;

- принятые меры по поддержанию цифровой устойчивости;

3) подробную информацию о мониторинге, функционировании и контроле систем искусственного интеллекта повышенной опасности, включая:

- описание их возможностей и ограничений в производительности, степени точности для конкретных лиц или групп лиц, для которых системы предназначены;

- общий ожидаемый уровень точности по отношению к их целевому назначению;

- разумно ожидаемое нецелевое использование и источники рисков для охраняемых благ с учетом целевого назначения систем;

- используемые меры контроля со стороны человека, включая технические меры, принятые для облегчения понимания результатов применения систем пользователями;

- требования к входным цифровым данным;

4) описание соответствия показателей качества систем искусственного интеллекта повышенной опасности установленным требованиям;

5) описание систем управления рисками;

6) описание соответствующих изменений, внесенных владельцами в системы в течение их жизненного цикла;

7) список использованных стандартов, кодексов этики и иных источников общепризнанной международной практики;

8) журналы работы систем.

8. Журналы работы систем искусственного интеллекта повышенной опасности должны вестись владельцами в виде цифровых записей на протяжении всего жизненного цикла систем и должны отражать, как минимум, следующую информацию:

1) описание случаев причинения системами вреда охраняемым благам;

2) описание случаев нецелевого использования систем или иного нарушения установленных правил их использования;

3) записи периодов использования систем (дата и время начала сессии, их длительность, дата и время окончания), а также регистрационные данные о пользователях, открывших такие сессии;

4) сведения о физических лицах, осуществляющих контроль за функционированием систем на стороне их владельцев.

Глава 3. Заключительные положения

9. Техническая документация подлежит размещению на веб-сайтах владельцев систем искусственного интеллекта повышенной опасности в простой и понятной для пользователей - физических лиц форме, а также в формате открытых данных, доступных в машиночитаемом формате без ограничений на их повторное использование, за исключением информации, относящейся к государственным секретам.

10. Владельцы систем искусственного интеллекта повышенной опасности обязаны обеспечить сохранность технической документации, включая сведения о содержании и дате принятия всех версий технической документации, введенной в действие после выпуска систем искусственного интеллекта повышенной опасности в гражданский оборот или ввода их в эксплуатацию, в течение 3 (трех) лет с даты утверждения такой документации владельцами.