Жасалма интеллект тутумдарынын

кооптуулугун баалоо методикасына

талаптар

1-глава. Жалпы жоболор

2-глава. Жасалма интеллект тутумдарынын кооптуулугун баалоо методикасына талаптардын тизмеги

3-глава. Корутунду жоболор

1-глава. Жалпы жоболор

1. Жасалма интеллект тутумдарынын кооптуулугун баалоо методикасына талаптар (мындан ары - Талаптар) Кыргыз Республикасынын Санарип кодексине ылайык иштелип чыккан жана жасалма интеллект тутумдарынын ээлери тарабынан алардын кооптуулугун баалоо методикасын аныктоо жана колдонуу тартибин белгилейт.

2. Ушул Талаптарда колдонулган терминдер жана түшүнүктөр Кыргыз Республикасынын Санарип кодексинде көрсөтүлгөн маанилерде колдонулат.

3. Кыргыз Республикасында колдонулуучу бардык жасалма интеллект тутумдары аларды колдонуу төмөнкүдөй корголуучу байлыктар үчүн жаратышы мүмкүн болгон кооптуулугун баалоого жатат:

1) адамдардын өмүрү жана ден соолугу;

2) адамдын жана жарандын укуктары менен эркиндиги;

3) айлана-чөйрө;

4) мамлекеттин коргонуу жөндөмдүүлүгү;

5) мамлекеттин улуттук коопсуздугу;

6) коомдук тартип.

4. Жасалма интеллект тутумдарынын кооптуулугуна баалоо жүргүзүүнүн максаттары болуп төмөнкүлөр саналат:

1) баалануучу жасалма интеллект тутумдарын Кыргыз Республикасынын Санарип кодексинде белгиленген милдеттүү талаптарга ылайык келген жогорку кооптуулуктагы жасалма интеллект тутумдарына киргизүүгө мүмкүндүк берүүчү негиздерди аныктоо;

2) баалануучу жасалма интеллект тутумдарын колдонуунун натыйжасында келип чыгышы мүмкүн болгон корголуучу байлыктарга зыян келтирүү тобокелдиктерин аныктоо;

3) баалануучу жасалма интеллект тутумдарын колдонуунун натыйжасында келип чыгышы мүмкүн болгон корголуучу байлыктарга зыян келтирүүнүн ыктымалдыгын жана өлчөмүн баалоо.

5. Кооптуулукту баалоонун натыйжалары болуп жасалма интеллект тутумдарынын ээлери тарабынан бааланып жаткан тутумдарды жогорку кооптуулуктагы жасалма интеллект тутумдарына киргизүү үчүн негиздердин бар же жок экендиги жөнүндө кабыл алынган чечим саналат.

6. Кооптуулукту баалоо жасалма интеллект тутумдарынын ээлери тарабынан жүргүзүлөт:

1) жасалма интеллект тутумдарын долбоорлоо же аларга өзгөртүүлөрдү киргизүүнү пландаштыруу этабында;

2) жасалма интеллект тутумдары же аларга киргизилген пландаштырылган өзгөртүүлөр иштелип чыккандан кийин жана колдонуу башталганга чейин;

3) тутумдардын ээлерине же пайдалануучуларына белгилүү болгон жана алардын кооптуулугун баалоонун жыйынтыгына таасир этиши мүмкүн болгон жасалма интеллект тутумдарында же аларды колдонуу чөйрөсүндө болуп өткөн ар кандай пландаштырылбаган өзгөрүүлөрдө.

7. Жасалма интеллект тутумдарынын кооптуулугун баалоо жасалма интеллект тутумдарынын ээлери тарабынан ушул Талаптарга ылайык өз алдынча алар аныктаган методика боюнча жүргүзүлөт.

Жасалма интеллект тутумдарынын ээлери, аларды колдонуу ушул Талаптардын 4-пунктунда көрсөтүлгөн кооптуулукту баалоонун максаттарына жооп берген жана Талаптардын 5-пунктунда көрсөтүлгөн натыйжаларга алып келген шартта жасалма интеллект тутумдарынын кооптуулугун баалоонун бир нече методикасын колдонууга укуктуу.

8. Методика Кыргыз Республикасынын Санарип кодексинде жасалма интеллект тутумдарын долбоорлоо, иштеп чыгуу жана колдонуу үчүн белгиленген ачыктык жана контролдонуучулук принциптерин, анын ичинде мындай системалардын техникалык документтеринин жеткиликтүүлүгүн, кандай болбосун кызыкдар жактын жүргүзүлгөн баалоонун жыйынтыктарын кайра текшерүү мүмкүнчүлүгүн камсыз кылууга тийиш.

2-глава. Жасалма интеллект тутумдарынын кооптуулугун

баалоо методикасына талаптардын тизмеги

9. Жасалма интеллект тутумдарынын кооптуулугун баалоо методикасы (мындан ары - методика) мындай тутумдардын иштөө түрмөгүнүн каалаган баскычында аларды жүргүзүү мүмкүнчүлүгүн камсыз кылууга тийиш.

Жасалма интеллект тутумдарынын кооптуулугуна баалоо жүргүзүүдө тутумдар аныкталган критерийлер боюнча тестирленет, аларга мындай тутумдарды колдонуудан жабыр тартышы мүмкүн болгон адамдардын категориялары, мындай тобокелдиктерди азайтуу максатында аларды башкаруу боюнча чараларды көрүү үчүн ушул Талаптардын 3-пунктунда көрсөтүлгөн корголуучу байлыктарга зыян келтирүү тобокелдиктеринин мүнөзү кирет.

10. Жасалма интеллект тутумдарынын ээлери методиканы иштеп чыгууда төмөнкүдөй эл аралык уюмдар тарабынан жарыяланган стандарттарды жана сунуштамаларды эске алат, анын ичинде (чектелип калбастан):

1) Экономикалык кызматташтык жана өнүктүрүү уюму (ЭКӨУ);

2) Стандартташтыруу боюнча эл аралык уюм (International Organization for Standardization, ISO);

3) АКШнын Улуттук стандарттар жана технологиялар институту (The National Institute of Standards and Technology, NIST);

4) Европалык стандартташтыруу боюнча комитет жана Европалык электр техникалык стандарттар боюнча комитет (CEN/CENELEC);

5) Европа Кеңеши (анын ичинде, Адам укуктары, демократия жана мыйзам үстөмдүгү жагынан жасалма интеллект тутумдарынын тобокелдиктерин жана таасирин баалоо методикасы - HUDERIA Methodology).

Бул тизмек толук эмес жана башка актуалдуу эл аралык булактарды эсепке алууга тоскоолдук кылбайт.

11. Методикада жасалма интеллект тутумдарынын төмөнкүдөй мүнөздөмөлөрү (баалоонун милдеттүү критерийлери) көрсөтүлүшү керек:

1) жасалма интеллект тутумдарын иштеп чыгууда мындай тутумдардын ээлери тарабынан каралган алардын багыты жана колдонуу максаттары;

2) пайдалануучулар тарабынан бул тутумдарды жөндүү болжолдуу максатсыз колдонуу, анын ичинде аларды колдонуу эрежелери жетишсиз деңгээлде үйрөтүлгөндүгүнө байланыштуу;

3) тутумдардын иштөөсүнүн автономдуулук даражасы жана тутумдардын максаттуу багытына жараша үчүнчү жактарга карата автоматтык (адамдын катышуусуз) режимде юридикалык маанилүү чечимдерди кабыл алуу мүмкүнчүлүгү, анын ичинде мындай чечимдердин натыйжаларынан көз карандылык, система алган жыйынтыктын кайтарымдуулугу, тутумдарды колдонбостон мындай чечимдерден баш тартуу, аларды кайра карап чыгуу мүмкүнчүлүгү;

4) тутумдарды пайдалануунун билдирилген максаттарынын алкагында мындай тутумдардын жардамы менен жеке маалыматтарды же мамлекеттик сырларга же мыйзам тарабынан корголуучу башка жашыруун сырга тиешелүү маалыматты иштеп чыгуу мүмкүнчүлүгү;

5) аларды билдирилген максаттары үчүн пайдаланууда же пайдалануучулар тарабынан максатсыз пайдаланылганда корголуучу байлыктарга зыян келтирүү ыктымалдыгы;

6) мындай тутумдарды колдонуунун мүмкүн болгон тобокелдиктерин азайтуу боюнча бардык сунушталган чаралар көрүлгөндөн кийин калган тобокелдиктердин болушу, ар түрдүүлүгү жана пайда болуу ыктымалдыгы;

7) жасалма интеллект тутумдары өз максаттарына ылайык колдонула турган процесстердин сыпаттамасы;

8) тутумдарды колдонуу болжолдонгон мезгилдин жана жыштыктын сыпаттамасы;

9) тутумдарды колдонуу таасир этиши мүмкүн болгон же конкреттүү контекстте аны колдонуудан зыян келтирүү коркунучу бар жеке адамдардын жана топтордун категориялары;

10) жасалма интеллект тутумдарын колдонууга моралдык-этикалык жеткиликтүүлүктү, анын ичинде кесиптик этикалык стандарттарга шайкештикти баалоо, жогорку этикалык жоопкерчилик даражасын, адилеттүүлүк принциптерин басмырлоо жана бузуу тобокелдигин баалоону талап кылган кырдаалдарда тутумдарды пайдаланууга жол бербөө, ошондой эле адам контролун жана тутумдар тарабынан кабыл алынган чечимдердин ачыктыгын камсыз кылуу зарылчылыгы.

12. Ушул Талаптардын 11-пунктунда көрсөтүлгөн кооптуулукту баалоо жүргүзүлө турган мүнөздөмөлөрдүн тизмеги толук болуп саналбайт.

Ээлери баалоого тутумдардын башка кошумча мүнөздөмөлөрүн киргизүүгө жана корголуучу байлыктарга зыян келтирүүнү аныктоо жана/же жогорку кооптуулуктагы жасалма интеллект тутумдарына киргизүү үчүн маанилүү болгон милдеттүү жана кошумча критерийлерди эске алуу менен мындай баалоону жүргүзүүгө укуктуу.

13. Методика эң аз дегенде төмөнкүдөй иш-аракеттерди аткарууну кароого тийиш:

1) жасалма интеллект тутумдарын колдонуу максаттарын, ошондой эле алардын мүмкүн болгон максатсыз колдонулушун аныктоо жана сыпаттоо;

2) бул тутумдарды максаттуу, ошондой эле мүмкүн болгон максатсыз колдонууда корголуучу байлыктарга зыян келтирүү тобокелдиктерин аныктоо жана сыпаттоо;

3) эгерде зыян келтирүү тобокелдиктери аныкталса, корголуучу байлыктарга зыян келтирүүнүн келип чыгуу ыктымалдыгын жана кесепеттерин баалоо;

4) баалануучу тутумдарды жогорку кооптуулуктагы жасалма интеллект тутумдарына киргизүү (киргизбөө) жөнүндө чечим кабыл алуу.

14. Жасалма интеллект тутумдарын пайдалануу максаттарын аныктоодо баалоо жүргүзүп жаткан жак Кыргыз Республикасынын колдонуудагы мыйзамдарын жана бул тутумдарды иштеп чыгуучулар же ээлери тарабынан белгиленген чектөөлөрдү эске алууга милдеттүү.

Тутумдарды пайдалануу максаттарын жана алардын мүмкүн болгон максатсыз пайдаланылышын аныктоо үчүн методикага тутумдарда колдонулган жасалма интеллект модели үйрөтүлгөн же аны кошумча үйрөтүү болжолдонгон маалыматтардын сыпаттамасы, ошондой эле анын иштеп чыгуучусу тарабынан техникалык документтерде каралган мындай моделдин иштөө өзгөчөлүктөрү жөнүндө маалыматты баалоо үчүн маанилүү маалыматтар киргизилиши керек.

15. Корголуучу байлыктарга зыян келтирүү тобокелдиктерин аныктоо жана сыпаттоо үчүн методика баалануучу тутумдардын максаттуу же мүмкүн болгон максатсыз колдонулушунан улам кызыкчылыктары жабыркашы мүмкүн болгон адамдардын категорияларына/топторуна болжолдонгон таасирин, ошондой эле бул таасирлерге таасир этүүчү ички (жасалма интеллект тутумдарынын ээлери үчүн) жана тышкы факторлорду сыпаттоону камтышы керек.

16. Методика потенциалдуу мүмкүн болуучу тобокелдиктерди, ошондой эле ээлерине белгилүү болгон, ошол эле иштеп чыгуучулар тарабынан түзүлгөн же салыштырмалуу же окшош техникалык мүнөздөмөлөргө жана/же иштөө алгоритмдерине ээ болгон жасалма интеллект тутумдарын колдонууда тобокелдиктерди ишке ашыруу учурларын эске алышы керек.

17. Методикада корголуучу байлыктарга зыян келтирүү тобокелдиктерин мындай тутумдарды билдирилген максаттар үчүн колдонуу алып келген артыкчылыктар менен салыштыруу мүмкүнчүлүгү каралышы керек. Мындай салыштыруунун жыйынтыгы корголуучу байлыктарга мүмкүн болгон зыян келтирүүнүн кесепеттерин баалоо үчүн колдонулат.

18. Корголуучу байлыктарга зыян келтирүү ыктымалдыгын жана кесепеттерин баалоо этабында методикада аныкталган тобокелдиктерди башкаруу боюнча чараларды көрүүнү талап кылган жана бааланып жаткан тутумдарды жогорку кооптуулуктагы тутумдарга киргизүүгө алып келген босоголук маанилерди белгилөө үчүн механизмдер камтылууга тийиш.

19. Бааланып жаткан тутумдарды жогорку кооптуулуктагы жасалма интеллект тутумдарына киргизүү жөнүндө чечим кабыл алуу үчүн методика бааланып жаткан тутумдарды максаттуу колдонууда чечимдерди кабыл алуу жана/же иш-аракеттерди жасоо үчүн көмөкчү мүнөзгө ээ же ээ эмес экендигин аныктоого мүмкүндүк берген критерийлерди камтууга тийиш.

Методика чечимдерди кабыл алууда жана/же иш-аракеттерди жасоодо көмөкчү мүнөзгө гана ээ болгон тутумдарды жогорку кооптуулуктагы тутумдарга киргизүүнү жокко чыгарышы керек.

20. Методиканы сыпаттаган документтерде баалоо жүргүзүүдө колдонулган дайындар булактары, тартылган адамдар, мындай баалоонун жыйынтыктарынын негиздемеси камтылууга тийиш.

21. Жасалма интеллект тутумдарынын кооптуулугуна жүргүзүлгөн баалоонун жыйынтыктары андан ары аныкталган тобокелдиктерди башкарууда, анын ичинде баалануучу жасалма интеллект тутумдарын колдонууда корголуучу байлыктарга зыян келтирүүгө жол бербөө же азайтуу боюнча уюштуруучулук жана техникалык чараларды көрүү жолу менен колдонулат.

22. Методикада жасалма интеллект тутумдарынын ээлери тарабынан анын кооптуулугун баалоо үчүн тартылган адамга же адамдар тобуна карата талаптар да аныкталат. Мындай адамдар жасалма интеллект тутумдарынын ээлеринин штатында болушу да, келишимдик негизде тартылышы да мүмкүн, баалоо жүргүзүү үчүн зарыл болгон билими жана бааланып жаткан жасалма интеллект тутумдары жөнүндө маалыматка жетүү мүмкүндүгү болушу керек.

23. Методикада кооптуулукту баалоонун жыйынтыктарын ким жана кандай тартипте кабыл ала тургандыгы, ошондой эле корголуучу байлыктарга мүмкүн болгон зыяндуу кесепеттерди жеңилдетүү боюнча зарыл чаралардын тизмеги жана аларды ишке ашырууга жооптуулар көрсөтүлүшү керек.

3-глава. Корутунду жоболор

24. Методика жасалма интеллект тутумдарынын ээлеринин веб-сайттарында пайдалануучулар - жеке адамдар үчүн жөнөкөй жана түшүнүктүү түрдө, ошондой эле мамлекеттик сырларга тиешелүү маалыматтарды кошпогондо, кайра колдонууга чектөөсүз машина окуй турган форматта жеткиликтүү болгон ачык дайындар форматында жайгаштырылууга тийиш.

25. Жасалма интеллект тутумдарынын ээлери колдонулган методиканы Кыргыз Республикасынын колдонуудагы мыйзамдарында белгиленген милдеттүү талаптарга, ошондой эле жалпы таанылган эл аралык практикага, анын ичинде жасалма интеллект тутумдары үчүн тармактык жана эл аралык стандарттарга жана сунуштамаларга шайкеш келүүсүн жылына кеминде бир жолу текшерип турууга тийиш.

26. Методиканын шайкештигин текшерүүнүн жыйынтыктары аны кайра карап чыгуу үчүн негиздердин жоктугу жөнүндө акт менен же методиканын жаңы версиясын кабыл алуу жана жарыялоо менен таризделет.