AI governance

Čo je AI governance?

AI governance je súbor procesov, štandardov a kontrolných mechanizmov, ktorými organizácia riadi vývoj, nasadenie a používanie systémov umelej inteligencie. Patria sem interné politiky, rozdelenie zodpovednosti za jednotlivé modely, dokumentácia rozhodnutí a priebežný dohľad nad správaním systému v prevádzke. Zámerom je udržať AI systémy bezpečné, transparentné a v súlade s platnou reguláciou.

Pojem sa používa v dvoch rovinách. Prvou je verejná politika, teda regulácia AI na úrovni štátov a EÚ. Druhou je interná disciplína v organizácii, označovaná aj ako artificial intelligence governance. V IT tímoch prevažuje druhý význam: rieši sa, kto schvaľuje nasadenie modelu, čo sa o ňom eviduje a ako sa postupuje pri incidente.

Prečo organizácie zavádzajú AI governance

Zavedenie AI governance vychádza z kombinácie regulačného tlaku a prevádzkového rizika. Modely zlyhávajú inak než klasický softvér: menia sa vstupné dáta, mení sa správanie modelu a chyba sa prejaví až v produkčnej prevádzke. Pravidlá dohľadu sa preto zhrnú do dokumentu označovaného ako AI governance framework a opierajú sa o zavedené rámce:

• NIST AI RMF – dobrovoľný rámec z roku 2023 postavený na štyroch funkciách: Govern, Map, Measure a Manage
• ISO/IEC 42001 – medzinárodný štandard pre systém manažérstva AI, ktorý je na rozdiel od NIST AI RMF certifikovateľný
• AI Act – pravidlá správy a povinnosti poskytovateľov GPAI modelov sa v EÚ uplatňujú od 2. augusta 2025

AI governance sa čiastočne prekrýva s data governance, nie je s ňou však totožná. Data governance rieši kvalitu, pôvod a dostupnosť dát. AI governance k tomu pridáva dohľad nad modelom, ktorý sa z týchto dát učí – nad jeho testovaním, schvaľovaním a správaním po nasadení.

V praxi sa AI governance premieta do konkrétnych artefaktov. Býva to register nasadených modelov, hodnotenie pred uvedením do prevádzky, evidencia zmien a monitoring odchýlok vo výkone. Poisťovníctvo a bankovníctvo tu majú náskok, keďže model risk management poznajú z regulácie dávno pred nástupom generatívnej AI.

Praktický tip:

AI governance sa nezačína politikou, ale inventárom. Bez zoznamu nasadených modelov (kto ho vlastní, na akých dátach beží, aké rozhodnutia ovplyvňuje) nemá dohľad na čom stáť. Ak zavádzaš governance v tíme, začni registrom modelov a až potom píš pravidlá — opačné poradie vytvára dokumentáciu, ktorá neopisuje realitu.

Výzvy súvisiace s AI governance

Najčastejšie kritizovaným miestom AI governance je rozdiel medzi deklarovanými princípmi a reálnou praxou. Odborná literatúra ho označuje ako principles-to-practices gap a časť autorov ho spája s pojmom ethics washing, teda s deklaráciou etických zásad bez zmeny každodenného fungovania organizácie.

Zodpovednosť býva rozdelená medzi viacero rolí. Dátoví vedci hodnotia model, produktoví vlastníci rozhodujú o nasadení, právne tímy sledujú regulačné povinnosti a bezpečnostné tímy riešia zneužitie systému. Bez jasného vlastníka rozhodnutia sa dohľad rozpadá na sériu neformálnych konzultácií.

Druhým obmedzením je všeobecnosť samotných rámcov. Opisujú, aké výsledky sa očakávajú, nie ako presne merať riziko konkrétneho modelu. Bez dátovej infraštruktúry na priebežné meranie ostáva časť programov v rovine dokumentácie. Nástup generatívnej AI a agentických systémov navyše posúva predmet dohľadu z jedného modelu na celý reťazec nástrojov a dát, čo mnohé rámce zatiaľ pokrývajú len čiastočne.

Zdroje k téme:

• IBM – What is AI Governance?: https://www.ibm.com/think/topics/ai-governance
• NIST AI Resource Center – AI Risk Management Framework: https://airc.nist.gov/airmf-resources/airmf/
• European Commission – AI Act: https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai