O halucinație AI poate apărea când modelul completează un răspuns fără surse suficiente ori combină greșit contextul. Fluența și un scor intern de încredere nu confirmă adevărul. Citările verificabile, RAG, reguli, evaluări și refuzul pot reduce riscul, fără a-l elimina. Impactul trebuie analizat pe severitate: o formulare aproximativă nu este echivalentă cu o instrucțiune financiară falsă.
Termeni înrudiți
- RAG — Retrieval-Augmented Generation — RAG recuperează fragmente relevante din surse externe și le oferă unui model drept context pentru generarea unui răspuns.
- Human in the Loop — Human in the loop este un control prin care o persoană competentă verifică, aprobă, corectează sau oprește o recomandare ori acțiune AI.
- LLM — Large Language Model — Un LLM (Large Language Model) este un model AI antrenat să estimeze și să genereze secvențe de limbaj din tipare învățate din date.