Che cos'è un Deep Fake?

Minaccia o opportunità? Tutto quello che c’è da sapere sui deepfake

Sin dalla loro diffusione, i deepfake hanno generato un intenso dibattito tra chi ne elogia le potenzialità e chi ne sottolinea i rischi. Ma i deep fake, cosa sono esattamente? Pericolosa come strumento di manipolazione della realtà, questa tecnologia trova applicazione anche a fin di bene, soprattutto in ambito creativo e didattico.

Facciamo un passo indietro: cosa significa esattamente deepfake? Su quali meccanismi si basa il suo funzionamento? Come sfruttarne i vantaggi e riconoscerne l’uso improprio? In questo articolo vedremo:

• cos’è la tecnologia deepfake;
• gli algoritmi di intelligenza artificiale su cui si basa;
• i possibili usi positivi, anche a scuola;
• i rischi e gli usi impropri;
• come riconoscere un deepfake.

Cos’è la tecnologia deepfake

Partiamo dalle basi: cosa si intende precisamente con il termine deepfake?

La tecnologia deepfake è una forma avanzata di manipolazione multimediale usata per creare contenuti falsi ma convincenti. La parola nasce dall’unione di due termini: da un lato “fake” (finto, falso), dall’altro “deep”, abbreviazione di “deep learning”, l’apprendimento profondo, cioè la branca dell’intelligenza artificiale basata su reti neurali con molti livelli. Gli strumenti di deepfake sfruttano video, audio e immagini reali per sintetizzare nuovi contenuti che sembrano autentici, ma sono in realtà generati o alterati artificialmente.

Nella pratica, i programmi di deepfake vengono spesso usati per sostituire il volto di una persona in un video con quello di un’altra, oppure per imitarne la voce, dando l’illusione che dica o faccia qualcosa che non ha mai fatto. Proprio per questo hanno sollevato sin da subito preoccupazioni sul loro impiego a scopi fraudolenti, diffamatori o di propaganda politica. Esistono però anche usi legittimi, come gli effetti speciali dell’industria cinematografica, il doppiaggio o la ricerca medica.

Generazione automatica di immagini, voci e testi: gli algoritmi alla base dei deepfake

I deepfake sono il prodotto di sofisticati algoritmi di generazione automatica. Per le immagini e i video, i primi sistemi usavano soprattutto gli autoencoder: reti neurali che imparano a “comprimere” un volto nei suoi tratti essenziali e a ricostruirlo, così da poter applicare espressioni e movimenti di una persona al volto di un’altra. A queste si sono affiancate le reti generative avversarie (GAN), in cui una rete genera immagini false e un’altra cerca di smascherarle, migliorandosi a vicenda, e più di recente i modelli di diffusione, gli stessi usati dai generatori di immagini con AI. Questi sistemi, che al loro interno usano spesso reti neurali convoluzionali (CNN) specializzate nell’analisi di immagini, vengono addestrati su enormi quantità di foto e video e imparano così a riconoscere e riprodurre tratti del viso, espressioni e movimenti.

Lo stesso principio vale per l’audio: bastano alcune registrazioni di una persona perché un modello di sintesi vocale ne imiti timbro e intonazione. Per i testi, invece, entrano in gioco i grandi modelli linguistici, che oggi si basano sull’architettura transformer (in passato si usavano soprattutto le reti neurali ricorrenti, o RNN): addestrati su enormi raccolte di testi, sono in grado di scrivere ex novo discorsi coerenti e convincenti a partire da un comando.

Combinando queste tecnologie, i creatori di deepfake possono unire immagini, voci e testi generati artificialmente in contenuti sempre più realistici. Si tratta di una dimostrazione impressionante delle potenzialità dell’intelligenza artificiale, ma anche di una sfida importante per il riconoscimento e la regolamentazione di questi contenuti nell’era digitale.

L’impatto positivo del deepfake a scopo sociale

Sebbene i rischi siano significativi, a onor del vero un uso consapevole di queste tecnologie può avere un impatto sociale positivo. Basta pensare che si basano sulla stessa famiglia di tecniche, il deep learning, che alimenta anche molti strumenti utili allo studio, come le sintesi vocali e le mappe concettuali automatiche. Con Algor Education, ad esempio, l’AI trasforma i tuoi appunti in un Set di studio con mappa concettuale, riassunto e una panoramica audio da ascoltare come un podcast: nessun volto o voce reale viene imitato, ma il principio di generare contenuti nuovi a partire da dati esistenti è lo stesso.

Anche le tecniche tipiche dei deepfake possono essere usate per migliorare l’esperienza didattica a tutti i livelli di istruzione. Alcune piattaforme permettono ad esempio di “riportare in vita” personaggi storici in video o avatar parlanti dichiaratamente artificiali, rendendo il primo approccio ai contenuti più dinamico e interattivo. Altre applicazioni riguardano l’accessibilità, come la ricostruzione della voce per chi l’ha persa a causa di una malattia. Usati in modo trasparente, i deepfake si trasformano così da strumento di manipolazione a risorsa per la didattica e per le app per studiare con l’AI.

Usi impropri e rischi dei deepfake

Come abbiamo già accennato, i deepfake sono tra gli strumenti digitali più rischiosi. Dei malintenzionati potrebbero usarli per colpire altre persone, danneggiandone la reputazione, per creare immagini intime false, per truffe telefoniche con voci clonate o per episodi di cyberbullismo. È inutile negarlo: un’alterazione della realtà difficile da riconoscere è pericolosa, per questo il nostro consiglio è di applicare sempre una buona dose di senso critico alle fonti che consultate.

Questa attenzione è importante soprattutto quando i contenuti riguardano personaggi pubblici e politici. I deepfake possono infatti essere sfruttati per manipolare l’opinione pubblica, orientando le simpatie di grandi numeri di persone a favore di una parte. Anche per questo il legislatore è intervenuto: in Europa l’AI Act prevede che i contenuti generati o manipolati con l’AI siano dichiarati come tali, e in Italia la legge sull’intelligenza artificiale del 2025 ha introdotto un reato specifico per la diffusione illecita di contenuti falsificati con l’AI che causano un danno.

Come riconoscere un deepfake

Riconoscere un deepfake a occhio nudo è sempre più difficile, ma alcuni segnali possono metterci in allerta:

• dettagli innaturali del viso: pelle troppo liscia, bordi sfocati attorno a capelli e mento, denti o orecchie poco definiti;
• movimenti incoerenti: labbra non sincronizzate con la voce, battito di ciglia strano, espressioni rigide;
• luci e ombre che non corrispondono all’ambiente;
• voce metallica, piatta o con pause insolite;
• fonte poco chiara: prima di condividere un contenuto sorprendente, controllate se è stato pubblicato anche da canali ufficiali o testate affidabili.

Quando si ha a che fare con questa potente tecnologia, bisogna quindi ricordare che i rischi sono alti. I deepfake sono però ormai una realtà consolidata e in continua espansione, e condannare in toto uno strumento a causa di alcuni malintenzionati potrebbe privare chi lavora nella scuola e nel sociale di risorse dalle altissime potenzialità. La chiave, come sempre, è l’educazione digitale: se vuoi approfondire, leggi anche la nostra intervista su potenzialità e rischi dell’AI per l’apprendimento.