“La mia batteria è quasi scarica e sta diventando buio.”
Questo è stato l’ultimo messaggio inviato dal rover Opportunity prima di perdere il contatto con la Terra e spegnersi per sempre, dopo aver combattuto un’estrema tempesta di sabbia su Marte. Era il 13 febbraio 2019. Era stato progettato per sopravvivere 90 giorni sul Pianeta Rosso. Ne resistè quasi 15 anni. Quelle parole, inviate da 225 milioni di miglia di distanza, sono rimaste nella memoria collettiva come una delle frasi più toccanti mai scritte da una macchina. Ma era una illusione del cervello.
Siamo abituati a umanizzare le macchine e gli ingegneri, i programmatori fanno di tutto per continuare in questi giochi di specchi e nascondino. In classe ripeto sempre: parleresti ad una calcolatrice? E allora perché parla ad una intelligenza Artificiale?
Quello che sembra vivo, non lo è. Sembra.
Meta ed il nuovo brevetto oltre la vita
Oggi Meta (Facebook, Instagram, Whatsapp e amici) ha depositato un brevetto che ci pone una domanda analoga, ma di verso contrario. Non è più una macchina che sembra viva. Siamo noi che, grazie a una macchina, potremmo continuare a sembrarlo — anche dopo.
Il brevetto descrive un sistema che è capace di simulare l’attività social di un utente quando è assente a lungo o soprattutto quando è deceduto.
Il modello, le Intelligenze Artificiali applicano modelli, schemi già pronti sui problemi che vengono loro proposti, dicevo il modello viene addestrato sullo storico di interazioni dell’utente: post, commenti, like, messaggi.
In sintesi ti studia come farebbe un imitatore della voce o del cabaret. Ma qui c’è poco da ridere. A partire da questo archivio comportamentale, il sistema genera risposte probabili, commenta nel feed, replica nei Messaggi diretti. In scenari più avanzati, l’idea si estende all’audio e al video sintetico. Un gemello digitale che continua a esistere, a interagire, a essere presente — senza che tu ci sia.
Se Khaby Lame (nell’articolo vendere l’anima) ha venduto in vita il suo gemello digitale, qui si parla di chiunque di noi che continua anche dopo l’ultimo passo.
Non è fantascienza. È già tecnicamente plausibile. Ed è questa plausibilità che dovrebbe tenerci svegli la notte.
Ampi fronti di etica, ingegneria e politica si prospettano davanti a noi. Non credo che non sia possibile “aspettare che la situazione evolva” da sé.
Non credo che il muro della coscienza sia sufficiente.
Io sono cosciente, il mio clone no. Siccome non viviamo su Marte, da soli, come Opportunity il mio clone, io o entrambi, come influenziamo la società, il mondo intorno a noi.
Mi viene da fare una riflessione proprio sugli istanti dopo la morte. Quante volte abbiamo sentito la frase: avessi potuto… oppure potessi ancora una volta dirgli…
Oggi, in teoria e spaventosamente si può.
Perché il punto non è solo ontologico. È pratico. Se i tuoi cari ricevono una risposta al loro messaggio di cordoglio, coerente con il tuo tono, le tue abitudini linguistiche, la tua ironia, stanno interagendo con te o con un’illusione di te? E soprattutto: cambia qualcosa?
Qui Meta gioca una partita sottile. Le piattaforme vivono di engagement, ovvero di interazioni. Un utente che muore è una perdita secca, è meno un utente.
Sparisce il suo diario, smette di generare interazioni, interrompe catene relazionali. Un clone sociale, invece, garantisce continuità. Mantiene attivo il profilo, alimenta l’algoritmo, preserva la rete di connessioni. In termini freddi: ottimizzazione dell’ecosistema. In termini umani: trasformare il lutto in una performance automatizzata.
Io voglio credere che Meta abbia comprato il brevetto e poi lo dimentichi in un cassetto, per sempre. Si, vorrei che i miei cari avessero vivo il mio ricordo, ma non interagissero col finto me.
E se “La mia batteria è quasi scarica e sta diventando buio”…
Articolo uscito su Cultura Commestibile