Cosa sono i deepfake e perché dovrebbero farci paura

di Luca Petinari

Recentemente, qui in Italia, Striscia la Notizia ha pubblicato un video inedito ed esclusivo di un fuori onda di Matteo Renzi, il quale si pavoneggia e commenta l'attuale stato di salute del governo. La caption del video è: è lui o non è lui?, richiamando un famoso tormentone del programma di Antonio Ricci. Certo che non è lui: l'ex segretario PD non ha mai detto davvero né registrato davvero quel fuori onda.

Passo indietro: nell'autunno 2017 sulla piattaforma americana Reddit, un utente dal nome Deepfakes pubblica un thread dove diffonde video porno di celebrità. Anche qui, nessuna star del cinema o della tv si è mai prestata per davvero per quei video.

Nel 2018 Buzzfeed ha pubblicato un video con protagonista Barack Obama dove, tra le varie, dice che "il presidente Trump è un incompetente" e che "Killmonger (antagonista Marvel di Black Panther, ndr) ha ragione". Il titolo di questo video è Non crederete a cosa Obama dice in questo video. Perché? Perché è falso. Pur essendoci davvero l'ex presidente USA raffigurato, il quale non ha davvero mai detto queste cose.

Qual è allora la verità?

Quelli che abbiamo riportato sono solo tre esempi di quelli che sono i deepfake, ovvero video manipolati grazie all'intelligenza artificiale (AI), i quali possono diventare (o stanno diventando) la nuova e avanzata frontiera delle fake news. Se per queste ultime, ovvero notizie scritte senza alcun fondamento e divulgate senza fonte con lo scopo di cavalcare un sentimento popolare o distruggerne un altro, basta una semplice verifica per confermarne o smentirne la veridicità, con i deepfake difficilmente riusciremmo a distinguere il vero dal falso.

Come funzionano i deepfake? I video vengono creati grazie a una tecnica chiamata generative adversarial networks. Il termine deriva dalla composizione della parola deep, in riferimento al deep learning, ovvero al processo di apprendimento delle AI; mentre fake significa semplicemente falso, come il prodotto che viene creato. Per farvi un esempio molto banale ma che ormai fa parte della quotidianità di ogni possessore sano (o meno) di smartphone: pensate ai vari filtri facciali di Instagram o Snapchat. I deepfake funzionano esattamente così, ma con la possibilità di poter far dire qualsiasi cosa a chiunque semplicemente sostituendone il volto nel video. Insomma, un salto di qualità ma anche un aumento della minaccia della disinformazione. Quindi un rischio per la democrazia.

In India, in seguito allo stupro di una bambina di otto anni, il Partito del Popolo Indiano, di matrice nazionalista e conservatrice, si era schierato in difesa degli accusati. La giornalista Rana Ayyub in televisione commentò la vicenda accusando il partito di stare dalla parte degli stupratori. Ciò che ne seguì fu un classico susseguirsi di fake news riguardanti la giornalista, in particolare finti tweet dove la stessa si dichiarava contro l'India e gli indiani; a cui si aggiunse la diffusione di un deepfake: un video porno dove al volto dell'attrice fu sostituito quello della giornalista indiana. Rana Ayyub raccontò che questa operazione fu esplicitamente messa in piedi per scoraggiare la donna a continuare a parlare della vicenda. Cosa che poi accadde, poiché rimase parecchio turbata dalla vicenda.

Questo è solo un esempio di come si può manipolare l'informazione tramite i deepfake, i quali sono molto più difficili da stanare rispetto a una fake news, le quali sono particolarmente ancora diffuse per alcuni motivi che vi abbiamo già spiegato in questo articolo.

Come capire se quello che abbiamo di fronte è un video vero o meno? Quando si tratta di informazione, è sempre bene verificare l'autorità della fonte che la pubblica: tendenzialmente dovremmo fidarci di più di ciò che pubblica il Wall Street Journal rispetto a laveritàchenessunovidice.blogspot.com (nome di fantasia, ma non troppo). Oltre per una questione di autorevolezza, anche per i vincoli giuridici ed etici per i quali le testate giornalistiche esistono.

Per cercare di contrastare questo fenomeno, la California ha costituito due nuove leggi a riguardo: la prima condanna chi pubblica e/o crea deepfake volti a screditare politici nei 60 giorni che precedono un'elezione che li vede coinvolti; la seconda permette a chi si ritrova protagonista di un video porno senza averne mai girato uno per davvero di denunciare l'autore del deepfake. A livello nazionale invece gli USA stanno discutendo un provvedimento chiamato Deep Fakes Accountability Act, ovvero: obblighi per chi produce questi video (filigrana irremovibile che espliciti il fatto che si tratti di un falso) e possibilità di chi si ritrova danneggiato da un deepfake di poter denunciarne l'autore. Sarà abbastanza?

Riguardo i tre esempi riportati a inizio articolo: su Reddit venne aperto addirittura un thread dove raccogliere tutti i deepfake creati artigianalmente dagli utenti con scopo goliardico. La discussione è stata poi chiusa dagli admin della piattaforma. Il deepfake di Renzi ha suscitato più ilarità che indignazione, complice anche l'aggiunta informazione di Striscia nello specificare la non veridicità del video, oltre a una scarsa qualità degli stessi (discriminante per il quale si possono ancora riconoscere). Anche Renzi, inizialmente, aveva giocosamente condiviso il video, divertito dalla geniale novità. Salvo poi rendersi conto (o chi per lui) della pericolosità potenziale dell'operazione e denunciarne i rischi. Per quanto riguarda il video di Obama, questo è stato prodotto assieme alla collaborazione del regista Jordan Peele ed è stato realizzato proprio per mettere in guardia in merito ai rischi che i deepfake possono comportare.

Quello che si è presentato come strumento per stuzzicare e realizzare le fantasie più nascoste di ognuno di noi, oggi può rappresentare una seria minaccia per la democrazia. "Stiamo entrando in un'epoca in cui i nostri nemici possono far dire quello che vogliono a chiunque e in ogni momento".