Definizione di Finestra di contesto
La finestra di contesto è la quantità di testo, misurata in token, che un modello AI può tenere in considerazione in una singola conversazione o richiesta. Comprende sia ciò che l’utente scrive sia ciò che il modello ha già risposto. Modelli moderni arrivano a centinaia di migliaia o milioni di token, l’equivalente di interi libri. La finestra di contesto definisce i limiti pratici: oltre un certo volume di documenti, devi spezzarli (chunking) e usare un sistema RAG invece di “incollare tutto nella chat”. Per chi lavora con bandi, contratti, dispense scolastiche o pratiche amministrative è un parametro chiave da conoscere prima di scegliere uno strumento.