Definizione di Bias algoritmico

Il bias algoritmico è una distorsione sistematica nelle risposte di un modello AI, originata da squilibri nei dati con cui è stato addestrato o nelle scelte di chi l’ha costruito. Se un modello vede prevalentemente curriculum di uomini in ruoli tecnici, tenderà a considerarli più “adatti” anche per posti futuri; se è addestrato su testi prevalentemente in inglese, sarà meno preciso in italiano o nei dialetti. Il bias non è un bug raro: è un effetto strutturale che va misurato, riconosciuto e mitigato. Per scuole, PA e aziende è un tema concreto: orientamento scolastico, selezione del personale, accesso al credito. Conviene tenere il bias al centro di ogni progetto AI, sia per ragioni etiche sia perché l’AI Act lo richiede esplicitamente per i sistemi ad alto rischio.

Vedi anche: AI Act, Allineamento, Dataset, Allucinazione