HITL – Human in the Loop

Čo je HITL?

HITL (human in the loop), v slovenskom preklade človek v slučke, je návrhový vzor, pri ktorom sa človek aktívne podieľa na prevádzke, dohľade alebo rozhodovaní automatizovaného systému. Slučka označuje cyklus interakcie a spätnej väzby: model vygeneruje výstup, človek ho schváli, zamietne alebo upraví a tento zásah sa vracia späť do systému. Cieľom je spojiť efektivitu automatizácie s presnosťou a zodpovednosťou ľudského úsudku.

Pojem sa používa v dvoch rovinách. Pri trénovaní modelu označuje zapojenie človeka do prípravy a korekcie dát. Pri prevádzke označuje kontrolný bod, cez ktorý výstup prechádza skôr, než sa premietne do reálnej akcie. HITL je najprísnejší z režimov ľudského dohľadu: človek rozhoduje pred vykonaním akcie, nie až po ňom.

Prečo je human in the loop dôležitý

Význam HITL rastie s mierou autonómie systému – čím viac krokov model vykoná bez zásahu, tým vyššia je cena jeho chyby. Aj pokročilé modely zlyhávajú pri nejednoznačných zadaniach, skreslených dátach a hraničných prípadoch, ktoré sa odlišujú od tréningových dát.

V strojovom učení znamená prístup human in the loop najmä anotáciu tréningových dát, hodnotenie výstupov a opravu chybných predikcií. Zozbieraná spätná väzba sa vracia do modelu a slúži na jeho zlepšovanie. Rovnaký princíp využíva metóda RLHF, ktorá ľudské preferencie premieta do správania jazykových modelov.

V produkčnom nasadení má HITL podobu kontrolného bodu: model alebo AI agent sa pri rizikovej akcii zastaví a čaká na rozhodnutie človeka. S týmto vzorom počíta aj regulácia – pri vysokorizikových systémoch AI ho ako jednu z možností pripúšťa požiadavka ľudského dohľadu podľa AI Actu.

Praktický tip:

Konkrétnym mechanizmom HITL je approval gate (schvaľovacia brána) – kontrolný bod, ktorý zastaví beh systému pred citlivou akciou a čaká na ľudské rozhodnutie. Frameworky pre agentické systémy ho ponúkajú priamo, napríklad LangGraph cez funkciu interrupt(). Bránu nastav len na nezvratné operácie (finančné transakcie, zápis do produkčných dát, komunikácia navonok), nie na všetko – schvaľovanie každého kroku spomalí proces natoľko, že prínos automatizácie zmizne.

Výzvy súvisiace s HITL

Najčastejšou slabinou je formálne schvaľovanie (rubber-stamping), pri ktorom recenzent výstupy potvrdzuje bez reálneho posúdenia. Prispieva k nemu vysoký objem rozhodnutí, časový tlak a únava. Brána, ktorá sa nikdy nespustí, poskytuje falošnú istotu: organizácia verí, že dohľad existuje, a toleruje rizikovejšie správanie systému než bez neho.

Sledovať preto treba mieru zamietnutí a úprav, nie počet schválení. Ak sa podiel zásahov blíži nule, dohľad je pravdepodobne len formálny. Recenzentovi zobrazuj kontext rozhodnutia – vstupy, dôvod návrhu a odhad dopadu – nie iba tlačidlá schváliť a zamietnuť. Tam, kde by schvaľovanie každej akcie proces zablokovalo, sa volí voľnejší režim human on the loop.

Zdroje k téme:

• IBM – What Is Human In The Loop (HITL)?: https://www.ibm.com/think/topics/human-in-the-loop
• Databricks – What is Human-in-the-Loop (HITL)?: https://www.databricks.com/blog/human-in-the-loop
• European Commission AI Act Service Desk – Article 14: Human oversight: https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-14