Blu7, azienda in corso di riconoscimento MIM per corsi in aula e online. Iscriviti a 7 Pillole Blu.
Capita di sentirsi proporre un’intelligenza artificiale «aperta», di solito con l’idea implicita che sia più economica, più nostra, meno legata a un fornitore americano. La parola tecnica dietro quella proposta è pesi aperti, in inglese open weights. Vale la pena capirla prima di firmare qualcosa, perché promette meno di quanto sembra e insieme qualcosa di molto concreto.
Cosa sono i pesi di un modello
Un modello linguistico, alla fine di tutto l’addestramento, è un elenco enorme di numeri. Sono i pesi: la forma che ha preso il modello dopo aver letto una quantità sterminata di testo, nonché l’unica cosa che serve per farlo funzionare. Il resto (l’interfaccia, la chat, l’app) è contorno.
Dire che un modello ha i pesi aperti vuol dire che il produttore ha pubblicato quei numeri: chiunque può scaricarli e farli girare su un computer proprio. Non serve chiedere il permesso a nessuno, non serve una connessione verso il fornitore, non c’è un contatore che scatta a ogni domanda.
Perché non è la stessa cosa di «open source»
Qui si fa quasi sempre confusione. La differenza conta.
Nel software libero si pubblica il codice sorgente: si può leggere come è fatto, capirlo, correggerlo. Con i pesi aperti si pubblica il risultato dell’addestramento, non la ricetta. Restano quasi sempre riservati i dati su cui il modello è stato addestrato, il procedimento seguito e le scelte fatte per correggerne il comportamento. È come ricevere una torta, con il permesso di mangiarla, rivenderla e perfino modificarla, ma senza la ricetta e senza sapere che farina è stata usata.
Da qui una conseguenza pratica: pesi aperti non significa che si può verificare come il modello è stato costruito. Significa che si può usare senza dipendere da chi l’ha fatto. Sono due libertà diverse: chi vende tende a chiamarle con lo stesso nome.
Anche la legge europea distingue con precisione. L’AI Act, all’articolo 53(2), solleva da una parte degli obblighi di documentazione i modelli distribuiti con licenza libera e aperta, ma solo a una condizione scritta per esteso: che siano pubblici i parametri, compresi i pesi, le informazioni sull’architettura del modello e quelle sul suo utilizzo. E l’esenzione, dice subito dopo, non vale per i modelli che presentano rischi sistemici. Chi vi propone un modello «aperto» sta usando una parola che in Europa ha un contenuto definito, non uno slogan.
Cosa cambia davvero per una piccola impresa
Tre cose, in ordine di quanto pesano nella pratica.
I dati non escono. Un modello coi pesi aperti gira dentro la vostra macchina, quindi i documenti che gli date in pasto restano lì. Per uno studio professionale che tratta pratiche di clienti, o per un’azienda che lavora su progetti coperti da riservatezza, questa è spesso la ragione principale, molto prima del prezzo.
Il costo cambia forma. Si smette di pagare a consumo e si comincia a pagare una macchina. Non è automaticamente più conveniente: dipende da quanto la usate, ed è un conto che abbiamo già fatto per esteso in AI in azienda invece che a consumo e in quanto costa l’intelligenza artificiale a token.
Il modello non vi cambia sotto i piedi. Quando usate un servizio in abbonamento, il modello dietro viene aggiornato, cambiato o ritirato senza che voi possiate farci niente. Un flusso di lavoro tarato bene può smettere di comportarsi come prima. I pesi che avete scaricato restano quelli finché siete voi a decidere.
Quando è la scelta sbagliata
Quasi sempre, se la domanda arriva prima del problema.
I modelli coi pesi aperti che si possono far girare su hardware ragionevole sono più piccoli e più deboli dei migliori modelli commerciali. Vanno benissimo per classificare documenti, estrarre dati da moduli, riassumere, rispondere a domande su materiale vostro. Sono un gradino sotto quando serve ragionamento lungo o scrittura di qualità.
E c’è un costo che nei preventivi non compare mai: qualcuno deve occuparsene. Aggiornamenti, copie di sicurezza, la macchina che si pianta il venerdì pomeriggio. Se in azienda non c’è nessuno che se ne prende carico, quel qualcuno diventa un fornitore, da mettere nel conto insieme all’hardware.
La regola pratica che usiamo con i clienti: si parte da un servizio in abbonamento, si misura per qualche settimana quanto e per cosa lo si usa davvero. Solo allora si guarda se un modello in casa avrebbe senso. Il contrario, comprare la macchina e poi cercare a cosa serve, è il modo più affidabile per spendere bene e ottenere poco.
In una riga
Pesi aperti vuol dire che i numeri che compongono il modello sono pubblici e che potete farlo girare a casa vostra, senza chiedere niente a nessuno. Non vuol dire che sapete come è stato costruito. Non vuol dire nemmeno che vi convenga. Vuol dire che la scelta è vostra, che è già molto più di quanto offrano quasi tutti gli altri strumenti che usate ogni giorno.
Blu7, azienda in corso di riconoscimento MIM per corsi in aula e online. Iscriviti a 7 Pillole Blu.