GPT

Definizione GPT — Generative Pre-trained Transformer

GPT è l’acronimo di Generative Pre-trained Transformer (Trasformatore Generativo Pre-Addestrato). È un modello di intelligenza artificiale sviluppato da OpenAI, progettato per comprendere e generare testo in linguaggio naturale in modo coerente e contestualizzato.

Cosa significa l’acronimo

• Generative (Generativo): è in grado di produrre nuovi contenuti testuali, non solo analizzare quelli esistenti.
  
• Pre-trained (Pre-addestrato): prima di essere utilizzato, viene addestrato su enormi quantità di testi provenienti da internet, libri e altre fonti, imparando grammatica, sintassi, fatti e sfumature del linguaggio.
  
• Transformer: si basa sull’architettura Transformer, introdotta da Google nel 2017, che utilizza un meccanismo chiamato self-attention per comprendere le relazioni tra le parole all’interno di un testo, indipendentemente dalla loro distanza nella frase.

Come funziona

Il processo di sviluppo di un modello GPT avviene in due fasi principali:

1. Pre-addestramento: il modello analizza miliardi di testi e impara le regolarità statistiche del linguaggio — come le parole si collegano tra loro, i contesti, gli stili.
   
2. Fine-tuning: il modello viene successivamente affinato per compiti specifici, spesso tramite una tecnica chiamata RLHF (Reinforcement Learning from Human Feedback), in cui valutatori umani guidano il modello verso risposte più utili, accurate e sicure.

GPT rientra nella categoria dei Large Language Model (LLM), ovvero modelli di linguaggio di grandi dimensioni, caratterizzati da miliardi di parametri interni che determinano la qualità delle risposte.

Evoluzione storica

OpenAI ha rilasciato una serie progressiva di modelli, ognuno significativamente più potente del precedente:

Con GPT-4, il modello ha introdotto anche la multimodalità, ovvero la capacità di elaborare non solo testo, ma anche immagini e altri tipi di input.

Principali applicazioni

• Generazione automatica di testi originali
• Chatbot conversazionali (es. ChatGPT)
• Traduzione automatica
• Sintesi e riassunto di documenti
• Scrittura creativa (racconti, poesie, sceneggiature)
• Generazione di codice informatico
• Assistenza in ambito educativo, legale, medico e aziendale

Limitazioni da conoscere

Nonostante le capacità avanzate, GPT presenta alcuni limiti importanti:

• Allucinazioni: può generare informazioni false presentandole come vere.
• Knowledge cutoff: la conoscenza del modello si ferma alla data dell’ultimo addestramento, senza accesso a informazioni in tempo reale (salvo integrazioni specifiche).
• Bias: può riflettere pregiudizi presenti nei dati di addestramento.
• Assenza di ragionamento logico nativo: lavora per associazioni statistiche, non per deduzione logica vera e propria.

GPT e gli altri modelli simili

GPT è il modello di OpenAI, ma esistono modelli analoghi sviluppati da altre aziende con nomi diversi:

Il termine GPT viene spesso usato impropriamente nel linguaggio comune per indicare qualsiasi chatbot basato su intelligenza artificiale generativa, ma tecnicamente si riferisce esclusivamente ai modelli sviluppati da OpenAI.

Definizione in collaborazione con Perplexity.ai e Claude.ai

Articolo Semplice e Chiaro di “Come si costruisce un Prompt perfetto” passo dopo passo!

• Governance dell’AI in azienda: tre domande, non un comitato
  «Governance dell’intelligenza artificiale» è una di quelle espressioni che in un’azienda di dodici persone fanno alzare gli occhi al cielo, non a torto: evoca comitati, regolamenti interni e consulenti che vendono documenti. In pratica però significa una cosa sola, molto meno solenne: sapere chi decide, chi controlla e chi risponde quando in azienda si usa… Read more: Governance dell’AI in azienda: tre domande, non un comitato
• API: la parola che compare sempre nei preventivi e non spiega mai nessuno
  Prima o poi arriva in un preventivo, di solito in una riga che nessuno commenta: «integrazione via API», «costi API a consumo», «il gestionale espone le API». È una di quelle parole che chi le usa dà per scontate e chi le riceve non chiede, per non fare la figura di quello che non sa.… Read more: API: la parola che compare sempre nei preventivi e non spiega mai nessuno
• Matilde Giglio costruisce ospedali a Bangalore integra AI nel processo
  Nel 2020 tre trentenni aprono una società sanitaria in uno dei mercati più regolamentati e difficili del pianeta. Sei anni dopo hanno 400.000 iscritti, un ospedale accreditato, un secondo in costruzione e circa 80 milioni di dollari raccolti da Khosla Ventures, Founders Fund e DST Global. Questa è la storia di Even Healthcare. E di… Read more: Matilde Giglio costruisce ospedali a Bangalore integra AI nel processo
• Pesi aperti: cosa vuol dire che un’intelligenza artificiale è «aperta»
  Capita di sentirsi proporre un’intelligenza artificiale «aperta», di solito con l’idea implicita che sia più economica, più nostra, meno legata a un fornitore americano. La parola tecnica dietro quella proposta è pesi aperti, in inglese open weights. Vale la pena capirla prima di firmare qualcosa, perché promette meno di quanto sembra e insieme qualcosa di… Read more: Pesi aperti: cosa vuol dire che un’intelligenza artificiale è «aperta»
• Previsioni sull’intelligenza artificiale: analisi o oroscopo?
  C’è un genere di testo che ha imparato a somigliare all’analisi. Racconta come andrà l’intelligenza artificiale nei prossimi dodici mesi, è scritto con ritmo e si chiude con una frase che sembra una diagnosi. Lo si legge in dieci minuti, se ne esce convinti di aver capito qualcosa e ogni tanto ci si prende una… Read more: Previsioni sull’intelligenza artificiale: analisi o oroscopo?