Требования

к методике оценки опасности

систем искусственного интеллекта

Глава 1. Общие положения

Глава 2. Перечень требований к методике оценки опасности систем искусственного интеллекта

Глава 3. Заключительные положения

Глава 1. Общие положения

1. Требования к методике оценки опасности систем искусственного интеллекта (далее - Требования) разработаны в соответствии с Цифровым кодексом Кыргызской Республики и устанавливают порядок определения и применения методики оценки опасности систем искусственного интеллекта их владельцами.

2. Термины и понятия, используемые в настоящих Требованиях, используются в значениях, указанных в Цифровом кодексе Кыргызской Республики.

3. Все системы искусственного интеллекта, применяемые в Кыргызской Республике, подлежат оценке опасности, которую их применение может создать для охраняемых благ, к которым относятся:

1) жизнь и здоровье людей;

2) права и свободы человека и гражданина;

3) окружающая среда;

4) обороноспособность государства;

5) национальная безопасность государства;

6) общественный порядок.

4. Целями проведения оценки опасности систем искусственного интеллекта являются:

1) выявление оснований, позволяющих отнести оцениваемые системы искусственного интеллекта к системам искусственного интеллекта повышенной опасности, подпадающих под обязательные требования, установленные Цифровым кодексом Кыргызской Республики;

2) определение рисков причинения вреда охраняемым благам, которые могут возникнуть в результате применения оцениваемых систем искусственного интеллекта;

3) оценка вероятности наступления и размера причинения вреда охраняемым благам, которые могут возникнуть в результате применения оцениваемых систем искусственного интеллекта.

5. Результатами оценки опасности являются принимаемые владельцами систем искусственного интеллекта решения о наличии или отсутствии оснований для отнесения оцениваемых систем к системам искусственного интеллекта повышенной опасности.

6. Оценка опасности осуществляется владельцами систем искусственного интеллекта:

1) на этапе проектирования систем искусственного интеллекта или планирования изменений в них;

2) по завершении разработки и до начала применения систем искусственного интеллекта или внесенных в них запланированных изменений;

3) при любых незапланированных изменениях, произошедших в системах искусственного интеллекта или в среде их применения, которые стали известны владельцам или пользователям систем и могут повлиять на результат оценки их опасности.

7. Оценка опасности систем искусственного интеллекта осуществляется владельцами систем искусственного интеллекта по методике, определенной ими самостоятельно в соответствии с настоящими Требованиями.

Владельцы систем искусственного интеллекта вправе использовать несколько методик оценки опасности систем искусственного интеллекта при условии, что их применение отвечает указанным в пункте 4 настоящих Требований целям оценки опасности и приводит к указанным в пункте 5 Требований результатам.

8. Методика должна обеспечивать реализацию принципов открытости и подконтрольности, установленных Цифровым кодексом Кыргызской Республики для проектирования, разработки и применения систем искусственного интеллекта, включая доступность технической документации на такие системы, возможность перепроверки результатов проведенной оценки любым заинтересованным лицом.

Глава 2. Перечень требований к методике оценки опасности

систем искусственного интеллекта

9. Методика оценки опасности систем искусственного интеллекта (далее - методика) должна обеспечивать возможность их проведения на любой стадии жизненного цикла таких систем.

При проведении оценки опасности систем искусственного интеллекта, системы тестируются по определенным критериям, которые включают категории лиц, которые могут быть затронуты применением таких систем, характер возникающих рисков причинения вреда охраняемым благам, указанным в пункте 3 настоящих Требований, для принятия мер к управлению такими рисками в целях их минимизации.

10. При разработке методики владельцы систем искусственного интеллекта учитывают стандарты и рекомендации, опубликованные международными организациями, в том числе (не ограничиваясь):

1) Организацией экономического сотрудничества и развития (ОЭСР);

2) Международной организацией по стандартизации (International Organization for Standardization, ISO);

3) Национальным институтом стандартов и технологий США (The National Institute of Standards and Technology, NIST);

4) Европейским комитетом по стандартизации и Европейским комитетом по электротехническим стандартам (CEN/CENELEC);

5) Советом Европы (в том числе, Методикой оценки рисков и воздействия систем искусственного интеллекта с точки зрения прав человека, демократии и верховенства закона - HUDERIA Methodology).

Данный перечень не является исчерпывающим и не препятствует учету иных актуальных международных источников.

11. В методике должны быть указаны следующие характеристики (обязательные критерии оценки) систем искусственного интеллекта:

1) назначение и цели использования систем искусственного интеллекта, предусмотренные владельцами таких систем при их разработке;

2) разумно предсказуемое нецелевое использование этих систем пользователями, в том числе в связи с недостаточным обучением правилам пользования ими;

3) степень автономности действия систем и возможность принятия юридически значимых решений в отношении третьих лиц в автоматическом (без участия человека) режиме, исходя из целевого назначения систем, включая зависимость от результатов таких решений, обратимость полученных системами результатов, возможность отказа, пересмотра таких решений без использования систем;

4) возможность обрабатывать персональные данные или информацию, относящуюся к государственным секретам или к иной охраняемой законом тайне, с помощью таких систем в рамках заявленных целей их использования;

5) вероятность причинения вреда охраняемым благам при их использовании для заявленных целей или при нецелевом использовании пользователями;

6) наличие, разновидность и вероятность наступления остаточных рисков после принятия всех рекомендованных мер по снижению возможных рисков применения таких систем;

7) описание процессов, в которых системы искусственного интеллекта будут использоваться в соответствии с их назначением;

8) описание периода времени, в течение которого и с какой частотой предполагается использовать системы;

9) категории физических лиц и групп, на которые может повлиять использование систем или для которых существует риск причинения вреда от их использования в конкретном контексте;

10) оценка морально-этической допустимости применения систем искусственного интеллекта, включая соответствие профессиональным этическим стандартам, недопустимость использования систем в ситуациях, требующих высокой степени этической ответственности, оценку риска дискриминации и нарушения принципов справедливости, а также необходимость обеспечения человеческого контроля и прозрачности принимаемых системами решений.

12. Указанный в пункте 11 настоящих Требований перечень характеристик, по которым должна производиться оценка опасности, не является исчерпывающим.

Владельцы вправе включить в оценку иные дополнительные характеристики систем и произвести такую оценку с учетом обязательных и дополнительных критериев, имеющих значение для выявления вреда охраняемым благам и/или отнесения к системам искусственного интеллекта повышенной опасности.

13. Методика должна предусматривать выполнение, как минимум, следующих действий:

1) выявление и описание целей использования систем искусственного интеллекта, а также возможного нецелевого их использования;

2) выявление и описание рисков причинения вреда охраняемым благам при целевом, а также возможном нецелевом использовании этих систем;

3) оценку вероятности наступления и последствий причинения вреда охраняемым благам, если риски причинения такого вреда были выявлены;

4) принятие решения об отнесении (не отнесении) оцениваемых систем к системам искусственного интеллекта повышенной опасности.

14. При определении целей использования систем искусственного интеллекта лицо, проводящее оценку, обязано принимать во внимание действующее законодательство Кыргызской Республики и ограничения, установленные разработчиками или владельцами этих систем.

Для установления целей использования систем и их возможного нецелевого использования, в методику необходимо включить описание данных, на которых была обучена использованная в системах модель искусственного интеллекта или на которых предполагается ее дообучение, а также имеющую значение для оценки информацию об особенностях работы такой модели, предусмотренную ее разработчиком в технической документации.

15. Для выявления и описания рисков причинения вреда охраняемым благам, методика должна включать описание прогнозируемого воздействия оцениваемых систем на категории/группы лиц, чьи интересы могут быть затронуты целевым или возможным нецелевым использованием таких систем, а также внутренние (для владельцев систем искусственного интеллекта) и внешние факторы, влияющие на эти воздействия.

16. Методика должна учитывать потенциально возможные риски, а также известные владельцам случаи реализации рисков при использовании систем искусственного интеллекта, созданных теми же разработчиками или имеющие сравнимые или сопоставимые технические характеристики и/или алгоритмы работы.

17. В методике необходимо предусматривать возможность сравнения рисков причинения вреда охраняемым благам с преимуществами, которые влекут использование таких систем для заявленных целей. Результат такого сравнения используется для оценки последствий возможного причинения вреда охраняемым благам.

18. На этапе оценки вероятности наступления и последствий причинения вреда охраняемым благам в методике должны содержаться механизмы для установления пороговых значений, при которых выявленные риски требуют принятия мер по управлению ими и влекут отнесение оцениваемых систем к системам искусственного интеллекта повышенной опасности.

19. Для принятия решения об отнесении оцениваемых систем к системам искусственного интеллекта повышенной опасности методика должна содержать критерии, позволяющие определить, носит ли использование оцениваемых систем исключительно вспомогательный характер для принятия решений и/или совершения действий при их целевом использовании.

Методика должна исключать отнесение систем, которые носят исключительно вспомогательный характер при принятии решений и/или совершении действий, к системам повышенной опасности.

20. В документации, описывающей методику, должно содержаться указание на использованные источники данных, вовлеченных лиц при проведении оценки, обоснование выводов такой оценки.

21. Результаты проведенной оценки опасности систем искусственного интеллекта используются при дальнейшем управлении выявленными рисками, в том числе путем принятия организационных и технических мер по недопущению или минимизации причинения вреда охраняемым благам при применении оцениваемых систем искусственного интеллекта.

22. В методике также определяются требования к лицу или группе лиц, привлекаемых владельцами систем искусственного интеллекта для оценки ее опасности. Такие лица могут как состоять в штате владельцев систем искусственного интеллекта, так и привлекаться на договорной основе, должны иметь необходимые знания для проведения оценки и доступ к информации об оцениваемых системах искусственного интеллекта.

23. В методике должны быть указаны кем и в каком порядке производится приемка результатов оценки опасности, а также перечень необходимых мер по смягчению возможных вредных последствий охраняемым благам и ответственные за их реализацию.

Глава 3. Заключительные положения

24. Методика подлежит размещению на веб-сайтах владельцев систем искусственного интеллекта в простой и понятной для пользователей - физических лиц форме, а также в формате открытых данных, доступных в машиночитаемом формате без ограничений на их повторное использование, за исключением информации, относящейся к государственным секретам.

25. Владельцы систем искусственного интеллекта должны не реже одного раза в год проверять используемую методику на ее соответствие установленным обязательным требованиям, действующему законодательству Кыргызской Республики, а также общепризнанной международной практике, включая отраслевые и международные стандарты и рекомендации для систем искусственного интеллекта.

26. Результаты указанной проверки соответствия методики оформляются актом об отсутствии оснований для ее пересмотра либо принятием и опубликованием новой версии методики.