Definizione di Allucinazione
Un’allucinazione è una risposta di un modello AI che sembra plausibile e ben scritta ma è di fatto sbagliata o inventata. Succede perché i modelli linguistici non “sanno” le cose nel senso umano del termine: predicono la parola più probabile in base a quanto hanno letto in addestramento, e quando il dato non c’è, o c’è in modo confuso, riempiono il vuoto con la versione più verosimile. È il motivo per cui un assistente AI può citare con sicurezza una sentenza che non esiste o un articolo di legge sbagliato. Per ridurre il rischio si combinano tre cose: prompt chiari, sistemi RAG che ancorano la risposta a documenti reali, e una verifica umana sui passaggi critici. In azienda, in scuola e in PA l’allucinazione va trattata come un rischio operativo, non come una curiosità tecnica.
Vedi anche: RAG, LLM, Prompt Engineering