HOTL – human on the loop

Čo je HOTL?

HOTL (human on the loop) je režim ľudského dohľadu, v ktorom systém AI vykonáva rozhodnutia autonómne a človek jeho činnosť priebežne monitoruje. Zásah prichádza až vtedy, keď sa objaví anomália, hraničný prípad alebo prekročenie stanoveného prahu. Kontrola sa teda neviaže na jednotlivé rozhodnutie, ale na správanie systému ako celku.

Tým sa líši od prísnejšieho režimu human in the loop, kde človek schvaľuje akciu pred jej vykonaním. Koncept pochádza zo supervízorskej kontroly automatizovaných systémov a do AI governance sa preniesol s rastúcou autonómiou agentických nasadení. Zodpovednosť za výsledok pritom zostáva na strane človeka, aj keď akciu vykonal model.

Kedy sa HOTL uplatňuje

HOTL umožňuje škálovať nasadenie AI tam, kde by kontrola každého jednotlivého rozhodnutia nebola prakticky udržateľná. Organizácie ho volia pri úlohách s vysokým objemom, nízkou chybovosťou a napraviteľnými dôsledkami – napríklad pri moderovaní obsahu, triedení incidentov v IT prevádzke alebo označovaní podozrivých transakcií. Naopak pri nezvratných alebo silne regulovaných rozhodnutiach ostáva bežnou voľbou schvaľovanie pred vykonaním.

Voľba režimu nie je jednorazová. V produkčných nasadeniach sa autonómia zvyšuje postupne: tím začína prísnejším dohľadom, sleduje chybovosť a k HOTL prechádza až po tom, čo systém preukáže stabilné správanie v reálnej prevádzke. Požiadavka ľudského dohľadu podľa AI Actu tento model nevylučuje – schválenie každého rozhodnutia človekom pred jeho vykonaním sa nevyžaduje.

Praktický tip:

Pri návrhu HOTL rozlišuj medzi režimom management by consent, v ktorom operátor postup aktívne potvrdzuje, a management by exception, v ktorom systém osloví človeka až pri odchýlke. HOTL zodpovedá druhému z nich. Kľúčovou metrikou je miera zásahov (override rate) – ako často operátor reálne vstúpi do behu systému. Nulová miera zásahov býva varovným signálom, nie dôkazom kvality modelu.

Výzvy súvisiace s HOTL

Najznámejším rizikom je automatizačné skreslenie (automation bias). Prispievajú k nemu dlhé obdobia stabilnej prevádzky s minimom kritických rozhodnutí, monotónnosť a únava – teda presne tie podmienky, ktoré supervízorský dohľad vytvára.

Druhou výzvou je vykonateľnosť zásahu. Ak rozhranie nezobrazí odchýlku včas, operátor sa o zlyhaní dozvie až podľa jeho následkov. HOTL zároveň predpokladá, že beh systému sa dá bezpečne prerušiť a vrátiť do kontrolovaného stavu; bez tejto vlastnosti zostáva možnosť zásahu iba deklaratívna. Časť výskumníkov preto upozorňuje, že pasívne logovanie bez definovanej cesty k akcii nie je dohľadom.

V praxi tak vzniká dohľad, ktorý existuje v dokumentácii, no prevádzku nijako neovplyvňuje. HOTL nie je univerzálnou náhradou prísnejších režimov, ale modelom vhodným pre presne vymedzenú triedu úloh.

Zdroje k téme:

• European Commission, AI Act Service Desk – Article 14: Human oversight: https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-14
• Joint Air Power Competence Centre – Is Human-On-the-Loop the Best Answer for Rapid Relevant Responses?: https://www.japcc.org/essays/is-human-on-the-loop-the-best-answer-for-rapid-relevant-responses/
• arXiv – Human-Centered Artificial Intelligence (HCAI): Foundations and Approaches: https://arxiv.org/pdf/2601.01247