“Just ’cause you feel it doesn’t mean it’s there.”

Per anni abbiamo pensato che vedere fosse credere. Poi è arrivata l’intelligenza artificiale a spiegarci, con una certa brutalità, che anche gli occhi possono essere presi in giro. Il deepfake nasce così: non come grande congiura geopolitica, ma come sottoprodotto tossico della cultura digitale. Il termine si afferma nel 2017, quando su Reddit compaiono video manipolati che sovrappongono i volti di celebrità a corpi altrui, soprattutto in contenuti pornografici non consensuali. È un’origine sordida, poco eroica, e proprio per questo istruttiva: molte tecnologie non cominciano nei laboratori del bene comune, ma nei bassifondi dell’attenzione online.

All’inizio, il deepfake sembra quasi una burla da smanettoni: meme, parodie, video goliardici, il piacere infantile del “guarda, sembra vero”. In questa fase c’è perfino un’illusione rassicurante: trattandosi di scherzi, pensiamo che lo scherzo resti confinato lì. E invece no. Nel 2018 Jordan Peele realizzò con BuzzFeed il celebre falso video di Barack Obama: non per ingannare, ma per mostrare quanto fosse facile farlo. Quel filmato è rimasto come un cartello sulla strada del nostro tempo: attenzione, da qui in poi non fidatevi più automaticamente di ciò che vi somiglia al reale.

Da quel momento il deepfake ha smesso di essere solo una carnevalata digitale ed è diventato uno strumento. Prima di tutto politico. Non serve neppure che sia perfetto: basta che circoli nel momento giusto, nel luogo giusto, davanti al pubblico giusto. Nel gennaio 2024, negli Stati Uniti, una voce artificiale imitò Joe Biden in una robocall che invitava gli elettori del New Hampshire a non andare a votare alle primarie. Il caso fu abbastanza serio da produrre indagini, sanzioni e un intervento della FCC contro l’uso di voci AI nei robocall. Qui il deepfake non punta a divertire: punta a spostare comportamenti, a sporcare il processo democratico, a insinuare il dubbio prima ancora che arrivi la smentita.

Poi c’è il livello della propaganda e del conflitto. Nel marzo 2022 circolò il falso video di Volodymyr Zelensky che invitava gli ucraini ad arrendersi. Era rozzo, e proprio per questo quasi didattico: anche un deepfake mediocre, se inserito in un contesto di guerra, può avere un impatto psicologico enorme. La NATO ha da tempo segnalato il rischio che i deepfake entrino nelle campagne di disinformazione per erodere fiducia, alterare percezioni e offrire vantaggi strategici. In guerra, del resto, la verità non viene solo nascosta: viene attivamente sabotata.

A volte non serve nemmeno un video sofisticato. Può bastare un’immagine plausibile e una piattaforma abbastanza veloce da trasformare una sciocchezza in un allarme. Nel maggio 2023 una falsa immagine di un’esplosione vicino al Pentagono fece il giro dei social; il Dipartimento della Difesa statunitense dovette smentire. È un aneddoto quasi grottesco, ma utile: il deepfake, o più in generale il contenuto sintetico ingannevole, funziona perché si appoggia a tre debolezze umane antiche quanto il mondo — paura, fretta, tribalismo — e le moltiplica con la velocità delle piattaforme.

Naturalmente gli strumenti per contrastarlo esistono. Esistono sistemi di rilevazione, filigrane digitali, verifiche di provenienza, standard come i Content Credentials del C2PA, e linee guida tecniche sempre più raffinate. Il NIST, però, invita a non farsi illusioni: watermarking, provenance e detection sono utili, ma non sono bacchette magiche. I metadati possono essere rimossi, i marcatori possono non essere letti dalle piattaforme, i rilevatori sbagliano, e perfino gli esseri umani chiamati a “riconoscere a occhio” il falso si rivelano spesso fallibili. La tecnologia serve, eccome. Ma da sola non basta.

Il problema, anzi, si allarga. Europol segnala l’uso crescente dei voice deepfake nelle truffe, mentre l’FBI ha avvertito che attori malevoli hanno usato messaggi e voci artificiali per impersonare alti funzionari statunitensi. Tradotto: il deepfake non è più solo il falso video del politico o la foto assurda condivisa per farsi due risate. È un attrezzo duttile, buono per umiliare, estorcere, manipolare, frodare, polarizzare. Cambia il contesto, non cambia il principio: costruire una realtà abbastanza credibile da spingerti a reagire prima di pensare.

Ed è qui che si arriva all’unico vero antidoto, che non è romantico ma tremendamente concreto: la cultura. Non la cultura come ornamento, ma come addestramento civile. UNESCO, OCSE e programmi europei sulla media literacy insistono tutti sullo stesso punto: per affrontare disinformazione, manipolazioni e contenuti sintetici servono cittadini capaci di verificare fonti, riconoscere contesti, capire interessi, sospendere il giudizio, accettare la fatica del controllo. In altre parole, serve formare persone che non clicchino con il riflesso del ginocchio. E bisogna partire dai ragazzi, nelle scuole, quando il rapporto con schermi, immagini e autorità informative è ancora in costruzione.

Perché il punto finale è questo: il deepfake perfetto forse arriverà, forse no. Ma il cittadino ingenuo esiste già, ed è il suo habitat ideale. Possiamo riempire il web di etichette, algoritmi e bollini di autenticità; faremo bene a farlo. Però il vero firewall resta umano. Un ragazzo abituato a chiedersi “chi parla?”, “da dove viene?”, “perché proprio adesso?”, “chi guadagna se ci credo?” vale più di cento software di rilevazione usati male. La battaglia contro i deepfake non si vince soltanto nei laboratori o nei tribunali. Si vince soprattutto in aula, in famiglia, nelle redazioni, nelle conversazioni quotidiane. Insomma: meno fede cieca nello schermo, più educazione al dubbio. Non sarà spettacolare come un video virale. Ma è molto più rivoluzionario.

“Is this the real life? Is this just fantasy?.”