ISO 42001 i EU AI Act: vodič za pravno siguran sistem menadžmenta vještačkom inteligencijom

Uvod: kada vještačka inteligencija od eksperimenta postane ključna poslovna infrastruktura

Bilo da je riječ o automatizovanoj komunikaciji sa kupcima, prediktivnom održavanju ili generativnoj vještačkoj inteligenciji u razvojnim procesima: vještačka inteligencija odavno više nije projekat budućnosti, nego pokretač operativnog stvaranja vrijednosti u preduzećima svih djelatnosti. Uz eksponencijalnu korist rastu i rizici – od pogrešnih algoritama i povreda autorskih prava, preko halucinacija, do ozbiljnih pitanja zaštite podataka i odgovornosti.

Stupanjem na snagu evropskog EU AI Acta i objavom međunarodnog standarda ISO/IEC 42001 preduzeća se nalaze pred promjenom paradigme: nekontrolisana upotreba „sjenovite vještačke inteligencije“ je gotova. Traži se sistematičan i podložan auditu Artificial Intelligence Management System (AIMS).

U ovom vodiču saznat ćete šta ISO 42001 zahtijeva, kako se odnosi prema EU AI Actu i kako preduzeće korak po korak dovesti do certifikacije.

Šta je ISO/IEC 42001?

ISO/IEC 42001 je prvi svjetski certifikabilni standard menadžmenta namijenjen posebno vještačkoj inteligenciji. Slično kao ISO 9001 za kvalitet ili ISO 27001 za informacionu bezbjednost, ISO 42001 definiše uređen okvir (tzv. Harmonized Structure) pomoću kojeg organizacije:

1. odgovorno razvijaju, nabavljaju i koriste sisteme vještačke inteligencije tokom cijelog životnog ciklusa,
2. sistemski prepoznaju i upravljaju etičkim, regulatornim i poslovnim rizicima,
3. zainteresovanim stranama (kupcima, partnerima, nadzornim organima) daju dokazivu poruku o pouzdanosti.

Standard izričito nije namijenjen samo tehnološkim koncernima koji obučavaju vlastite temeljne modele, nego svakom preduzeću koje aplikacije vještačke inteligencije ugrađuje u postojeće poslovne procese (od malog i srednjeg preduzeća do globalnog koncerna).

Most ka EU AI Actu: certifikacija kao motor usklađenosti

EU AI Act razvrstava sisteme vještačke inteligencije prema potencijalu rizika (minimalni rizik, posebni rizici transparentnosti, sistemi visokog rizika i nedozvoljeni sistemi). Posebno pružaoci i korisnici sistema visokog rizika moraju ispuniti stroge obaveze:

• potpuna dokumentacija i procjena rizika
• kvalitet podataka i upravljanje podacima za obuku i testiranje
• ljudski nadzor (Human-in-the-loop)
• otpornost, sajber-bezbjednost i tačnost

Tu ISO 42001 donosi najveću dodatnu vrijednost: daje u praksi provjerenu strukturu menadžmenta koju uredba EU traži na apstraktnom nivou. Ko uspostavi sistem menadžmenta prema ISO 42001, automatski uvodi organizacione procese potrebne za poštovanje EU AI Acta. Certifikat ISO 42001 poslovnim partnerima i organima služi kao čvrst dokaz upravljanja vještačkom inteligencijom na nivou „State-of-the-Art“.

Ključni dijelovi sistema menadžmenta vještačkom inteligencijom (AIMS)

Djelotvoran AIMS prema ISO 42001 počiva na pet središnjih stubova:

1. Politika preduzeća za vještačku inteligenciju (AI Policy)

Rukovodstvo utvrđuje obavezujuće smjernice: koje vrijednosti i etičke granice važe za upotrebu vještačke inteligencije u preduzeću? Koji su slučajevi upotrebe poželjni, a koji izričito zabranjeni?

2. Procjena uticaja vještačke inteligencije i upravljanje rizicima

Svaki sistem vještačke inteligencije mora proći sistemsku procjenu rizika. Ne ocjenjuju se samo tehničke vjerovatnoće greške, nego i uticaj na privatnost, rizici diskriminacije (pristrasnost) i kontinuitet poslovanja.

3. Upravljanje podacima i porijeklo podataka

„Garbage in, garbage out“ kod vještačke inteligencije važi na kvadrat. Standard traži transparentne procese provjere skupova podataka: odakle potiču podaci za obuku? Jesu li autorska prava razjašnjena? Kako se prepoznaju i smanjuju iskrivljenja?

4. Transparentnost i objašnjivost

Korisnici i lica na koja se odluke odnose moraju moći razumjeti kada i kako vještačka inteligencija utiče na odluke ili ih priprema. Dokumentovanje parametara modela i logike odlučivanja središnji je dio standarda.

5. Stalni nadzor i upravljanje incidentima

Modeli vještačke inteligencije su dinamični. Zbog „Data Drifta“ ili promjene okruženja rezultati vremenom mogu slabiti. Funkcionalan AIMS traži redovne provjere učinka i jasne planove za slučaj kvarova.

U 4 koraka do certifikacije ISO 42001

Uvođenje AIMS-a prati provjereni ciklus PDCA (Plan-Do-Check-Act):

1. Analiza jaza (popis stanja): popis svih postojećih alata vještačke inteligencije, slučajeva upotrebe i internih smjernica. Utvrđivanje praznina u odnosu na zahtjeve standarda.
2. Izgradnja i uvođenje sistema: izrada smjernice za vještačku inteligenciju, uspostava procesa procjene rizika i obuka uključenih timova.
3. Interni audit i ocjena rukovodstva: provjera djelotvornosti svih mjera od strane obučenih internih auditora.
4. Certifikacijski audit: vanjski audit priznatog certifikacijskog tijela kao što je cert-authority.com (ICB). Nakon uspješne dvostepene provjere (provjera dokumentacije i provjera na licu mjesta ili na daljinu) izdaje se zvanični certifikat.

Zaključak i pogled unaprijed

Pitanje odavno više nije hoće li preduzeća koristiti vještačku inteligenciju, nego koliko kontrolisano i odgovorno to čine. Uz ISO 42001 raspršene rizike vještačke inteligencije pretvarate u uređenu konkurentsku prednost. Kupci i naručioci sve više traže transparentnost – ko ovdje ide naprijed sa nezavisnom certifikacijom, obezbjeđuje unosne B2B poslove.

Želite li dati na audit svoj sistem menadžmenta vještačkom inteligencijom?
Informišite se o našim standardima i ponudama certifikacije ISO 42001 ili transparentno izračunajte trošak audita prema broju uposlenika na našoj stranici cijena.