Shadow AI este utilizarea de chatboți, copilots, extensii sau agenți AI fără vizibilitatea și controalele organizației. Riscul depinde de datele introduse, planul produsului, permisiuni, scop și decizia influențată. O interdicție generică poate muta utilizarea în conturi personale, de aceea politica trebuie să ofere instrumente și use cases aprobate. Inventarul, clasificarea datelor, accesul administrat, review-ul și raportarea incidentelor sunt controale de bază.
Termeni înrudiți
- AI Literacy — AI literacy reprezintă cunoștințele și abilitățile necesare pentru a folosi sau opera un sistem AI în mod adecvat contextului și riscului.
- Prompt Injection — Prompt injection este o intrare care încearcă să schimbe instrucțiunile sau comportamentul unui sistem bazat pe modele de limbaj.
- Human in the Loop — Human in the loop este un control prin care o persoană competentă verifică, aprobă, corectează sau oprește o recomandare ori acțiune AI.