ISO 42001 və EU AI Act: hüquqi baxımdan etibarlı süni intellekt idarəetmə sistemi üçün bələdçi

Giriş: süni intellekt eksperimentdən biznes üçün kritik infrastruktura çevriləndə

İstər avtomatlaşdırılmış müştəri ünsiyyəti, istər proqnozlaşdırıcı texniki xidmət (Predictive Maintenance), istərsə də inkişaf proseslərində generativ süni intellekt: süni intellekt artıq gələcək layihəsi deyil. O, bütün sahələrdəki şirkətlərdə operativ dəyər yaradılmasını irəli aparır. Lakin fayda eksponensial artdıqca risklər də artır – qüsurlu alqoritmlərdən və müəllif hüquqlarının pozulmasından tutmuş hallüsinasiyalara, ciddi məlumat mühafizəsi və məsuliyyət məsələlərinə qədər.

Avropa EU AI Act-in qüvvəyə minməsi və beynəlxalq ISO/IEC 42001 standartının dərc olunması ilə şirkətlər paradiqma dəyişikliyi ilə üzləşir: “kölgə süni intellektin” nəzarətsiz istifadəsi başa çatıb. Tələb olunan sistemli, audit edilə bilən Artificial Intelligence Management System (AIMS)-dir.

Bu bələdçidə ISO 42001-in nə tələb etdiyini, onun EU AI Act ilə necə əlaqəli olduğunu və şirkətinizi addım-addım sertifikatlaşdırmaya necə aparacağınızı öyrənəcəksiniz.

ISO/IEC 42001 nədir?

ISO/IEC 42001 süni intellekt üçün dünyada ilk sertifikatlaşdırıla bilən idarəetmə standartıdır. Keyfiyyət üçün ISO 9001 və ya informasiya təhlükəsizliyi üçün ISO 27001 kimi, ISO 42001 təşkilatlara strukturlaşdırılmış çərçivə (sözügedən Harmonized Structure) verir. Bu çərçivə ilə təşkilatlar:

1. süni intellekt sistemlərini bütün həyat dövrü boyunca məsuliyyətlə hazırlayır, əldə edir və istismar edir,
2. etik, tənzimləyici və biznes risklərini sistemli şəkildə müəyyən edir və idarə edir,
3. maraqlı tərəflərə (müştərilər, tərəfdaşlar, nəzarət orqanları) sübut edilə bilən etibarlılıq siqnalı verir.

Standart açıq şəkildə yalnız öz təməl modellərini (Foundational Models) öyrədən texnologiya nəhənglərinə deyil, süni intellekt tətbiqlərini mövcud biznes proseslərinə inteqrasiya edən hər bir şirkətə – kiçik və orta müəssisədən qlobal korporasiyaya qədər – ünvanlanıb.

EU AI Act ilə körpü: uyğunluq mühərriki kimi sertifikatlaşdırma

EU AI Act süni intellekt sistemlərini risk potensialına görə təsnif edir (minimal risk, xüsusi şəffaflıq riskləri, yüksək riskli sistemlər və yolverilməz sistemlər). Xüsusilə yüksək riskli sistemlərin təchizatçıları və operatorları ciddi tələbləri yerinə yetirməlidir:

• Tam sənədləşdirmə və risklərin qiymətləndirilməsi
• Təlim və test məlumatlarının keyfiyyəti və idarəetməsi
• İnsan nəzarəti (Human-in-the-loop)
• Dayanıqlılıq, kibertəhlükəsizlik və dəqiqlik

ISO 42001 ən böyük əlavə dəyərini məhz burada yaradır: o, Aİ tənzimləməsinin mücərrəd şəkildə tələb etdiyi, praktikada sınaqdan çıxmış idarəetmə strukturunu verir. ISO 42001 üzrə idarəetmə sistemi quran hər kəs EU AI Act-ə riayət üçün zəruri olan təşkilati prosesləri avtomatik olaraq tətbiq edir. ISO 42001 sertifikatı biznes tərəfdaşları və dövlət orqanları qarşısında “state-of-the-art” süni intellekt idarəçiliyinin etibarlı sübutu kimi xidmət edir.

Süni intellekt idarəetmə sisteminin (AIMS) əsas tərkib hissələri

ISO 42001 üzrə effektiv AIMS beş mərkəzi dayağa söykənir:

1. Korporativ süni intellekt siyasəti (AI Policy)

Rəhbərlik məcburi istiqamətləri müəyyən edir: şirkətdə süni intellektin istifadəsi üçün hansı dəyərlər və etik sərhədlər keçərlidir? Hansı istifadə halları arzuolunandır, hansılar açıq şəkildə qadağandır?

2. Süni intellektin təsirinin qiymətləndirilməsi və risklərin idarə edilməsi

Hər bir süni intellekt sistemi sistemli risk qiymətləndirməsindən keçməlidir. Qiymətləndirmə yalnız texniki nasazlıq ehtimalını deyil, həm də məxfiliyə təsirləri, ayrı-seçkilik risklərini (bias) və biznesin fasiləsizliyini əhatə edir.

3. Məlumatların idarə edilməsi və məlumatların mənşəyi

“Garbage in, garbage out” prinsipi süni intellektdə kvadrat dərəcədə keçərlidir. Standart verilənlər dəstlərinin yoxlanılması üçün şəffaf proseslər tələb edir: təlim məlumatları haradan gəlir? Müəllif hüquqları aydınlaşdırılıbmı? Təhriflər necə aşkar edilir və minimuma endirilir?

4. Şəffaflıq və izaholunma

İstifadəçilər və təsirə məruz qalan şəxslər süni intellektin qərarlara nə vaxt və necə təsir etdiyini və ya onları hazırladığını başa düşə bilməlidir. Model parametrlərinin və qərar məntiqinin sənədləşdirilməsi standartın mərkəzi hissəsidir.

5. Davamlı monitorinq və insidentlərin idarə edilməsi (Incident Management)

Süni intellekt modelləri dinamikdir. “Data Drift” və ya dəyişən mühit səbəbindən nəticələr zamanla pisləşə bilər. İşlək AIMS müntəzəm fəaliyyət yoxlamaları və nasazlıq halı üçün aydın fövqəladə planlar tələb edir.

ISO 42001 sertifikatlaşdırmasına 4 addımda

AIMS-in tətbiqi sınaqdan çıxmış PDCA dövrünə (Plan-Do-Check-Act) uyğun gedir:

1. Boşluq təhlili (mövcud vəziyyətin qiymətləndirilməsi): Mövcud bütün süni intellekt alətləri, istifadə halları və daxili siyasətlər qeydə alınır. Standartın tələblərinə nisbətən boşluqlar müəyyən edilir.
2. Sistemin qurulması və tətbiqi: Süni intellekt siyasətinin hazırlanması, risklərin qiymətləndirilməsi prosesinin yaradılması və iştirak edən komandaların təlimi.
3. Daxili audit və idarəetmənin təhlili: Bütün tədbirlərin effektivliyinin təlim keçmiş daxili auditorlar tərəfindən yoxlanılması.
4. Sertifikatlaşdırma auditi: cert-authority.com (ICB) kimi tanınmış sertifikatlaşdırma orqanı tərəfindən xarici audit. Uğurlu iki mərhələli yoxlamadan (sənədlərin yoxlanılması və yerində və ya uzaqdan yoxlama) sonra rəsmi sertifikat verilir.

Nəticə və perspektiv

Sual artıq şirkətlərin süni intellektdən istifadə edib-etməməsi deyil, bunun nə qədər nəzarətli və məsuliyyətli baş verməsidir. ISO 42001 ilə yayğın süni intellekt risklərini strukturlaşdırılmış rəqabət üstünlüyünə çevirirsiniz. Müştərilər və sifarişçilər getdikcə daha çox şəffaflıq tələb edir – müstəqil sertifikatlaşdırma ilə öndə gedənlər sərfəli B2B müqavilələrini təmin edir.

Süni intellekt idarəetmə sisteminizi audit etdirmək istəyirsiniz?
ISO 42001 standartları və sertifikatlaşdırma təkliflərimiz haqqında məlumat alın və ya qiymət səhifəmizdə audit xərclərinizi işçi sayına görə şəffaf şəkildə hesablayın.