Definizione di Deepfake

Un deepfake è un contenuto audio, video o immagine generato o manipolato dall’AI per imitare in modo realistico una persona reale. I modelli generativi possono oggi clonare una voce a partire da pochi secondi di registrazione e ricostruire un volto in movimento partendo da qualche foto. L’uso legittimo esiste (doppiaggio, accessibilità, ricostruzioni storiche, cinema), ma il rischio principale è la disinformazione e la truffa: telefonate false con la voce di un familiare, video manipolati di figure pubbliche, frodi al CEO in aziende. Servono tre presidi: formazione (saper riconoscere i segnali), procedure (verifica out-of-band per pagamenti e decisioni delicate), strumenti tecnici di detection e watermarking. Tema cruciale nelle scuole e in ogni programma di educazione civica digitale.

Vedi anche: AI Act, Allineamento, Modello multimodale