logo
language iconarrow
menu icon

ISO/IEC 42001:2023

42001-06 Procjena posljedica za sisteme vještačke inteligencije

4 min čitanja · V, IA, EA

Svi članci

Za: V, IA, EA
Izvor: ISO/IEC 42001:2023(en), engleski. 3.24, 6.1.4, 8.4, A.5, B.5

Procjena posljedica nije ocjenjivanje rizika. 6.1.2 ocjenjuje rizike vještačke inteligencije, uključujući moguće posljedice za organizaciju, osobe i društva. 6.1.4 jeste zaseban proces. Njegovi rezultati moraju se uzeti u obzir u ocjenjivanju rizika. Napomena uz 6.1.2 dopušta da se procjena posljedica koristi pri ocjenjivanju posljedica. „Can“. Ona ne zamjenjuje 6.1.4.

6.1.4 zahtijeva da se definiše proces radi ocjenjivanja mogućih posljedica za osobe ili grupe osoba ili oboje i za društva koje mogu proizaći iz razvoja, pružanja ili korištenja sistema vještačke inteligencije. Procjena posljedica mora utvrditi moguće posljedice koje pružanje, namjeravano korištenje i predvidiva pogrešna primjena sistema vještačke inteligencije imaju za te osobe i za društva. Ona mora voditi računa o konkretnom tehničkom i društvenom kontekstu u kojem se sistem pruža, i o primjenjivim pravnim prostorima. Rezultat mora biti dokumentovan. U mjeri u kojoj je primjereno, rezultat se može učiniti dostupnim relevantnim zainteresovanim stranama, kako ih organizacija utvrdi. „Can“.

Napomena kaže da u nekim kontekstima, na primjer kod sistema kritičnih za sigurnost ili privatnost, organizacija može zahtijevati da se procjene posljedica specifične za struku, na primjer o safety, privatnosti ili security, provode kao dio cjelokupnih aktivnosti rizika. „Can“.

8.4 zahtijeva da se procjene posljedica prema 6.1.4 provode u planiranim razmacima ili kada se predlaže da nastupe bitne izmjene. Engleski doslovan tekst jeste „proposed to occur“. Nije isti kao u 8.2, tamo „proposed or occur“.

A.5 jeste referentna grupa u tabeli A.1. Cilj: ocijeniti uticaje sistema vještačke inteligencije na osobe ili grupe ili oboje i na društva tokom životnog ciklusa. Da li je red potreban proizlazi iz 6.1.3. Ako je potrebna, mjera glasi:

A.5.2: uspostaviti proces radi ocjenjivanja mogućih posljedica za osobe ili grupe ili oboje i za društva koje mogu proizaći iz sistema vještačke inteligencije tokom njegovog životnog ciklusa.

A.5.3: dokumentovati rezultate i čuvati ih tokom utvrđenog perioda. Norma ne imenuje broj godina.

A.5.4: ocijeniti i dokumentovati moguće uticaje na osobe ili grupe osoba tokom životnog ciklusa.

A.5.5: ocijeniti i dokumentovati moguće društvene uticaje tokom životnog ciklusa.

Prilog B ponavlja ove mjere pretežno sa „should“ i daje uputstvo za primjenu. B.5.2 kaže da se organizaciji preporučuje da na osnovu svrhe i korištenja ocijeni da li sistem tiče pravnog položaja ili životnih šansi osoba, njihovog tjelesnog ili psihičkog blagostanja, univerzalnih ljudskih prava ili društava. Postupcima se preporučuje da uključe okolnosti, elemente, tijelo koje provodi, korištenje procjene i osobe i društva koja mogu biti pogođena, ali da se na to ne ograniče. Elementi mogu obuhvatiti identifikaciju, analizu, ocjenjivanje, tretiranje te dokumentaciju, izvještavanje i komunikaciju. „Can include“. To nije druga lista preporuka pored 6.1.4. Isto uputstvo kaže da procesi mogu varirati zavisno od uloge, domene i struke, na primjer security, privatnost i safety. Organizaciji se preporučuje da utvrdi da li procjene specifične za struku u upravljanju rizikom dovoljno obuhvataju razmatranja vještačke inteligencije. ISO/IEC 23894 opisuje, prema napomeni, kako organizacija može provoditi analize posljedica kao dio upravljanja rizikom. Norma nije dostupna.

B.5.3: dokumentacija može pomoći da se utvrdi šta se preporučuje saopćiti korisnicima i drugim stranama. Procjene se preporučuje čuvati i po potrebi ažurirati. Rokovi čuvanja mogu slijediti rokove organizacije ili biti informisani pravnim ili drugim zahtjevima. Šta se preporučuje dokumentovati uputstvo navodi kao tačke koje se mogu razmotriti, među njima namjeravano korištenje i razumno predvidivu pogrešnu primjenu, pozitivne i negativne uticaje, predvidive greške, relevantne demografske grupe, složenost, ulogu ljudi uključujući nadzor, zaposlenje i kvalifikaciju. „Should consider“, a ne doslovan tekst A.5.3.

B.5.4: pri ocjenjivanju organizaciji se preporučuje da vodi računa o svojim načelima kontrole, politici vještačke inteligencije i ciljevima. Specifične potrebe zaštite grupa kao što su djeca, osobe s oštećenjem, starije osobe i zaposleni preporučuje se uzeti u obzir. Područja koja se, zavisno od svrhe i korištenja, mogu razmatrati obuhvataju između ostalog pravičnost, polaganje računa, transparentnost i objašnjivost, security i privatnost, safety i zdravlje, finansijske posljedice, pristupačnost i ljudska prava. „Can include“. Gdje je potrebno, organizaciji se preporučuje da konsultuje stručnjake.

B.5.5: društveni uticaji mogu biti korisni ili štetni. Primjeri uputstva su životna sredina, privreda, država, zdravlje i sigurnost, norme i kultura. Organizaciji se preporučuje da razmatra uticaje u vezi sa svojim ciljevima za životnu sredinu, moguću zloupotrebu i historijsku štetu, te pozitivne kao i negativne rezultate. ISO/IEC TR 24368 navodi se kao pregled etičkih i društvenih zabrinutosti i ne prepričava se. Primjeri su uputstvo, a ne obavezna matrica.

Dokumentovana informacija: Rezultat procjene posljedica mora se dokumentovati (6.1.4). Čuvana dokumentovana informacija o rezultatima svih procjena posljedica (8.4). Ako je A.5.3 potrebna, rezultati se moraju dokumentovati i čuvati tokom utvrđenog perioda.

Nije u ovom tekstu: metoda procjene posljedica, obaveza da se obradi svaka tačka iz B.5.4 i B.5.5, i vještačenje o ljudskim pravima ili o životnoj sredini. 6.1.4 i, u mjeri u kojoj je potrebno, A.5 jesu zahtjevi. Ocjenjivanje rizika ostaje 6.1.2.