Human in the loop este un control operațional, nu simpla prezență a unui buton de aprobare. Persoana trebuie să aibă informația, competența, timpul și autoritatea necesare pentru a se abate de la recomandarea sistemului. Poziția controlului depinde de impact: înaintea unei acțiuni ireversibile, pe excepții sau prin eșantionare pentru risc redus. Eficiența sa se măsoară prin corecții, override-uri, incidente și rezultatul procesului.
Termeni înrudiți
- Agent AI — Un agent AI este un sistem care folosește un model pentru a selecta și executa pași ori instrumente în vederea unui obiectiv, în limitele și permisiunile definite.
- AI Act — AI Act este regulamentul Uniunii Europene care stabilește reguli pentru furnizarea și utilizarea sistemelor AI în funcție de rol, scop și risc.
- Sistem AI cu Risc Ridicat — Un sistem AI high-risk este un sistem care intră în condițiile de clasificare din articolul 6 și anexele AI Act, în funcție de produs și scop.