High-risk AI system (vysokorizikový systém AI)

Čo je high-risk AI system?

High-risk AI system (v slovenskom preklade vysokorizikový systém AI) je klasifikačná kategória podľa nariadenia (EÚ) 2024/1689, známeho ako AI Act. Patria do nej systémy AI, ktorých použitie môže významne ovplyvniť zdravie, bezpečnosť alebo základné práva osôb. Zaradenie nevyplýva zo samotnej technológie, ale zo zamýšľaného účelu a kontextu nasadenia systému.

AI Act pristupuje k regulácii stupňovito – od zakázaných praktík cez vysokorizikové systémy až po systémy s obmedzenými povinnosťami transparentnosti. Kategória high-risk AI tvorí jadro celého režimu, pretože sa s ňou spája najrozsiahlejší súbor požiadaviek.

Klasifikácia a rozsah pôsobnosti high-risk AI systémov

Klasifikáciu upravuje článok 6 nariadenia a rozlišuje dve cesty. Prvou je systém, ktorý je výrobkom alebo bezpečnostným komponentom výrobku podľa harmonizačných predpisov v prílohe I a podlieha posudzovaniu zhody treťou stranou – napríklad zdravotnícke pomôcky. Druhou je použitie v oblastiach vymenovaných v prílohe III: biometria, kritická infraštruktúra, vzdelávanie, zamestnanosť a riadenie pracovníkov, prístup k základným službám, presadzovanie práva, migrácia a súdnictvo.

Pre poisťovníctvo je podstatné, že príloha III zahŕňa aj hodnotenie úverovej bonity a hodnotenie rizika a stanovovanie cien v životnom a zdravotnom poistení, rovnako ako nástroje na výber uchádzačov o zamestnanie. Článok 6 ods. 3 pripúšťa výnimku pre systémy, ktoré nepredstavujú významné riziko ujmy a podstatne neovplyvňujú výsledok rozhodovania. Systém uvedený v prílohe III, ktorý profiluje fyzické osoby, sa však za vysokorizikový považuje vždy. Poskytovateľ, ktorý sa na výnimku odvoláva, svoje posúdenie dokumentuje a systém registruje.

Rozdiel oproti zakázaným praktikám je zásadný. Vysokorizikové systémy sú na trhu EÚ povolené, no viažu sa na ne podmienky; zakázané praktiky, napríklad sociálne skórovanie, na trh vstúpiť nemôžu.

Kľúčové požiadavky a termíny pre high-risk AI systémy

S kategóriou sa spája súbor požiadaviek na celý životný cyklus systému: riadenie rizík, kvalita tréningových a testovacích dát, technická dokumentácia, automatické záznamy o prevádzke, ľudský dohľad a primeraná úroveň presnosti, robustnosti a kybernetickej bezpečnosti. Pred uvedením na trh systém prechádza posudzovaním zhody a registráciou v databáze EÚ.

Časová os sa v roku 2026 posunula. Pôvodná účinnosť povinností pre samostatné systémy z prílohy III bola stanovená na 2. august 2026. Novela AI Actu známa ako digital omnibus, prijatá inštitúciami EÚ v júni 2026, presúva tento termín na 2. december 2027 a pri systémoch zabudovaných do regulovaných výrobkov na 2. august 2028. Účinnosť nadobúda tretí deň po vyhlásení v Úradnom vestníku EÚ. Kým k vyhláseniu nedôjde, zostáva záväzný pôvodný termín 2. augusta 2026. 

Sankcie sú odstupňované: za nesplnenie povinností prevádzkovateľov vysokorizikových systémov hrozia pokuty do 15 miliónov EUR alebo 3 % celosvetového ročného obratu, pri zakázaných praktikách je horná hranica vyššia.

Klasifikácia nie je nemenná. Komisia môže zoznam v prílohe III upravovať a jej usmernenia k článku 6 uvádzajú príklady, ktoré nie sú vyčerpávajúce. Tímy preto zaradenie systému prehodnocujú pri každej zmene účelu, používateľov alebo výstupov systému.

Zdroje k téme:

• EUR-Lex – Nariadenie – EÚ – 2024/1689 – SK – EUR-Lex: https://eur-lex.europa.eu/eli/reg/2024/1689/oj?locale=sk
• European Commission (AI Act Service Desk) – Article 6: Classification rules for high-risk AI systems: https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-6
• Council of the European Union – Artificial Intelligence: Council gives final green light to simplify and streamline rules: https://www.consilium.europa.eu/en/press/press-releases/2026/06/29/artificial-intelligence-council-gives-final-green-light-to-simplify-and-streamline-rules/