Definizione di Pre-training e Fine-tuning

Pre-training e fine-tuning sono le due fasi tipiche con cui nasce un modello AI moderno. Il pre-training è l’addestramento generale: il modello “legge” enormi quantità di testo, codice o immagini per imparare il linguaggio, i concetti, le strutture del mondo. È costoso (milioni di euro, infrastrutture grandi) e lo fanno solo poche aziende. Il fine-tuning è il passo successivo: si prende un modello già pre-addestrato e lo si specializza su un compito o un dominio, usando un dataset più piccolo e mirato: i tuoi documenti aziendali, le tue conversazioni con i clienti, i tuoi casi giuridici. È molto più economico ed è la via concreta con cui una PMI o una scuola può avere un’AI “propria” senza partire da zero. Spesso oggi al fine-tuning si preferisce il RAG, più economico e più trasparente.

Vedi anche: Machine Learning, RLHF, LoRA, RAG