ISO 42001 a EU AI Act: sprievodca právne istým systémom manažérstva umelej inteligencie

Úvod: Keď sa umelá inteligencia z experimentu stáva kritickou infraštruktúrou podniku

Či už ide o automatizovanú komunikáciu so zákazníkmi, prediktívnu údržbu alebo generatívnu umelú inteligenciu vo vývojových procesoch: umelá inteligencia už dávno nie je projektom budúcnosti, ale poháňa operatívne vytváranie hodnoty vo firmách všetkých odvetví. S exponenciálnym prínosom však rastú aj riziká – od chybných algoritmov a porušenia autorských práv cez halucinácie až po závažné otázky ochrany údajov a zodpovednosti.

Nadobudnutím účinnosti európskeho EU AI Act a vydaním medzinárodnej normy ISO/IEC 42001 stoja podniky pred zmenou paradigmy: nekontrolované používanie „tieňovej umelej inteligencie“ sa skončilo. Požaduje sa systematický, auditovateľný Artificial Intelligence Management System (AIMS).

V tomto sprievodcovi sa dozviete, čo ISO 42001 vyžaduje, ako sa má k EU AI Act a ako svoju firmu krok za krokom dovediete k certifikácii.

Čo je ISO/IEC 42001?

ISO/IEC 42001 je celosvetovo prvý certifikovateľný štandard manažérstva určený špeciálne pre umelú inteligenciu. Podobne ako ISO 9001 pre kvalitu alebo ISO 27001 pre informačnú bezpečnosť definuje ISO 42001 štruktúrovaný rámec (tzv. Harmonized Structure), pomocou ktorého organizácie:

1. zodpovedne vyvíjajú, obstarávajú a prevádzkujú systémy umelej inteligencie počas celého ich životného cyklu,
2. systematicky identifikujú a riadia etické, regulačné a obchodné riziká,
3. zainteresovaným stranám (zákazníkom, partnerom, dozorným orgánom) preukázateľne signalizujú dôveryhodnosť.

Norma sa výslovne neobrací len na technologické koncerny, ktoré trénujú vlastné foundational models, ale na každý podnik, ktorý aplikácie umelej inteligencie začleňuje do existujúcich obchodných procesov (od MSP až po globálny koncern).

Most k EU AI Act: certifikácia ako motor súladu

EU AI Act zaraďuje systémy umelej inteligencie podľa ich rizikového potenciálu (minimálne riziko, špecifické riziká transparentnosti, vysokorizikové systémy a neprípustné systémy). Najmä poskytovatelia a prevádzkovatelia vysokorizikových systémov musia plniť prísne požiadavky:

• úplná dokumentácia a posúdenie rizík
• kvalita údajov a správa tréningových a testovacích dát
• ľudský dohľad (Human-in-the-loop)
• odolnosť, kybernetická bezpečnosť a presnosť

Práve tu prináša ISO 42001 najväčšiu pridanú hodnotu: poskytuje v praxi overenú štruktúru manažérstva, ktorú nariadenie EÚ požaduje len abstraktne. Kto zavedie systém manažérstva podľa ISO 42001, automaticky implementuje organizačné procesy potrebné na dodržanie EU AI Act. Certifikát ISO 42001 slúži voči obchodným partnerom a orgánom ako spoľahlivý dôkaz riadenia umelej inteligencie na úrovni „state of the art“.

Základné súčasti systému manažérstva umelej inteligencie (AIMS)

Účinný AIMS podľa ISO 42001 stojí na piatich hlavných pilieroch:

1. Podniková smernica pre umelú inteligenciu (AI Policy)

Vedenie spoločnosti stanoví záväzné zásady: Aké hodnoty a etické hranice platia pre používanie umelej inteligencie vo firme? Ktoré prípady použitia sú žiaduce a ktoré sú výslovne zakázané?

2. Posúdenie vplyvov umelej inteligencie a riadenie rizík

Každý systém umelej inteligencie musí prejsť systematickým hodnotením rizík. Neposudzujú sa len technické pravdepodobnosti chýb, ale aj dopady na súkromie, riziká diskriminácie (bias) a kontinuitu podnikania.

3. Správa údajov a pôvod dát

Pri umelej inteligencii platí „garbage in, garbage out“ dvojnásobne. Norma požaduje transparentné procesy overovania súborov údajov: Odkiaľ pochádzajú tréningové dáta? Sú vyriešené autorské práva? Ako sa rozpoznávajú a obmedzujú skreslenia?

4. Transparentnosť a vysvetliteľnosť

Používatelia a dotknuté osoby musia vedieť pochopiť, kedy a ako umelá inteligencia ovplyvňuje alebo pripravuje rozhodnutia. Dokumentácia parametrov modelu a logiky rozhodovania je ústrednou súčasťou štandardu.

5. Priebežné sledovanie a riadenie incidentov

Modely umelej inteligencie sú dynamické. V dôsledku „data drift“ alebo meniaceho sa prostredia sa môžu výsledky časom zhoršovať. Fungujúci AIMS vyžaduje pravidelné kontroly výkonnosti a jasné núdzové plány pre prípad zlyhania.

Ku certifikácii ISO 42001 v 4 krokoch

Zavedenie AIMS sleduje overený cyklus PDCA (Plan-Do-Check-Act):

1. Analýza medzier (zmapovanie stavu): Zachytenie všetkých existujúcich nástrojov umelej inteligencie, prípadov použitia a interných smerníc. Identifikácia medzier voči požiadavkám normy.
2. Vybudovanie a zavedenie systému: Vypracovanie smernice pre umelú inteligenciu, zavedenie procesu hodnotenia rizík a zaškolenie zúčastnených tímov.
3. Interný audit a preskúmanie manažmentom: Overenie účinnosti všetkých opatrení vyškolenými internými audítormi.
4. Certifikačný audit: Externý audit uznaným certifikačným orgánom, ako je cert-authority.com (ICB). Po úspešnom dvojstupňovom preskúmaní (kontrola dokumentácie a kontrola na mieste alebo na diaľku) sa vydá oficiálny certifikát.

Záver a výhľad

Otázka už dávno neznie, či podniky umelú inteligenciu používajú, ale ako kontrolovane a zodpovedne to robia. S ISO 42001 premeníte nejasné riziká umelej inteligencie na štruktúrovanú konkurenčnú výhodu. Zákazníci a objednávatelia čoraz viac požadujú transparentnosť – kto tu ide príkladom s nezávislou certifikáciou, zabezpečí si lukratívne zákazky B2B.

Chcete dať auditovať svoj systém manažérstva umelej inteligencie?
Informujte sa o našich štandardoch a ponukách certifikácie ISO 42001 alebo si transparentne vypočítajte náklady na audit podľa počtu zamestnancov na našej stránke s cenami.