Definizione di Parametri

I parametri di un modello AI sono i valori numerici che il modello ha appreso durante l’addestramento. Quando si legge “modello da 70 miliardi di parametri”, significa che dentro al modello ci sono 70 miliardi di numeri che, lavorando insieme, trasformano un input in un output. In linea di massima, più parametri permettono di catturare più conoscenza, ma non sempre più grande è meglio: l’efficienza, l’architettura (es. MoE), la qualità del dataset contano almeno quanto la dimensione. Capire l’ordine di grandezza dei parametri aiuta a leggere le notizie sui nuovi rilasci con un minimo di sostanza, invece che con la sola impressione del marketing.

Vedi anche: Addestramento, MoE, Quantizzazione