O halucinație AI poate apărea când modelul completează un răspuns fără surse suficiente ori combină greșit contextul. Fluența și un scor intern de încredere nu confirmă adevărul. Citările verificabile, RAG, reguli, evaluări și refuzul pot reduce riscul, fără a-l elimina. Impactul trebuie analizat pe severitate: o formulare aproximativă nu este echivalentă cu o instrucțiune financiară falsă.
Termeni înrudiți
- RAG — Retrieval-Augmented Generation — RAG (Retrieval-Augmented Generation) este o tehnică AI care combină un motor de căutare în documente proprii cu un LLM, permițând modelului să răspundă pe baza informațiilor specifice ale companiei tale.
- Human in the Loop — Human in the loop este un control prin care o persoană competentă verifică, aprobă, corectează sau oprește o recomandare ori acțiune AI.
- LLM — Large Language Model — Un LLM (Large Language Model) este un model de inteligență artificială antrenat pe cantități masive de text, capabil să înțeleagă și să genereze limbaj natural cu precizie ridicată.