Che cos'è un Deep Fake?

Sin dalla sua diffusione sul mercato, la tecnologia deepfake ha generato un intenso dibattito tra chi ne elogia i vantaggi e chi ne sottolinea i rischi. Pur essendo da un lato pericolosa come strumento di manipolazione della realtà, essa trova al contempo applicazione anche a fin di bene - soprattutto in ambito ludico e didattico.

Ma facciamo un passo indietro: cosa significa esattamente deepfake? Quali sono i meccanismi su cui si basa il suo funzionamento? Come sfruttare i suoi vantaggi e riconoscerne l'uso improprio?

In questo articolo vedremo:

Cos'è la tecnologia deepfake

Partiamo dalle basi: cosa si intende precisamente con il termine deepfake?

La tecnologia deepfake è una forma avanzata di manipolazione multimediale che viene utilizzata per creare contenuti falsi e convincenti. La parola stessa nasce infatti dall'unione di due termini centrali nella sua definizione: da un lato il termine "fake" (finto, falso); dall'altro il termine "deep", un'abbreviazione per "deep learning", una tecnologia che si basa su algoritmi automatici particolarmente avanzati. Gli strumenti di deepfake permettono dunque di sfruttare video, testi, audio e immagini per sintetizzare nuovi contenuti che sembrano autentici, ma sono in realtà completamente generati o alterati artificialmente.

Calandoci nella pratica, i programmi di deepfake vengono spesso utilizzati per sostituire il volto di una persona in un video con quello di un'altra, dando l'illusione che la persona stia dicendo o facendo qualcosa che non ha mai fatto. Com'è intuibile, proprio per questo motivo essi hanno sollevato sin da subito preoccupazioni riguardo al loro impiego a scopi fraudolenti, diffamatori o persino indirizzati all'influenza in ambito politico. Nonostante ciò, i deepfake possono essere utilizzati anche per scopi legittimi, come per gli effetti speciali dell'industria cinematografica o la ricerca medica avanzata.  

Generazione automatica di immagini e testi: gli algoritmi alla base dei deepfake

I deepfake sono il prodotto di sofisticati algoritmi di generazione automatica che si basano principalmente su due categorie distinte di apprendimento automatico: l'elaborazione di immagini e la generazione di testi. Nella prima categoria, le cosiddette reti neurali convoluzionali (o CNN) analizzano e sintetizzano input visivi anche particolarmente complessi. Le CNN vengono addestrate su enormi quantitativi di dati che raccolgono volti o scene utili all’apprendimento di un modello su cui generare contenuti artificialmente. In questo modo, i deepfake imparano a riconoscere e riprodurre tratti facciali, espressioni e movimenti che saranno poi utilizzati per sostituire gli elementi di partenza nelle immagini e nei video originali.

Nella generazione di testi, le reti neurali ricorrenti (o RNN) giocano un ruolo fondamentale nel produrre i contenuti specifici richiesti. Queste reti sono addestrate su database particolarmente ampi, solitamente provenienti da fonti online, con il fine di creare ex novo testi coerenti e convincenti dopo aver inserito un comando di partenza. Questa capacità consente ai deepfake di accompagnare le immagini con discorsi o narrazioni che sembrano autentici, contribuendo così a ingannare l'occhio dell'osservatore.

L'interazione e l'interscambio tra queste reti neurali permette ai creatori di deepfake di combinare immagini generate artificialmente con testi altrettanto convincenti. Il dispiego di questi avanzati algoritmi rappresenta dunque una straordinaria dimostrazione delle potenzialità dell'intelligenza artificiale, nonché una sfida significativa per il riconoscimento e il regolamento dell’utilizzo della tecnologia deepfake nella nuova era digitale.

L'impatto positivo del deepfake a scopo sociale

Sebbene i rischi legati all'utilizzo della tecnologia deepfake siano particolarmente significativi, ad onor del vero un loro utilizzo consapevole può avere un impatto sociale davvero significativo. Per capirlo basta pensare al fatto che essi si basano sugli stessi algoritmi (soprattutto testuali) che vengono adottati per la creazione di strumenti utili allo studio - come le sintesi vocali e le mappe mentali automatiche.

I deepfake possono infatti essere utilizzati con successo per migliorare l'esperienza didattica a tutti i gradi di istruzione. Diverse piattaforme presenti in commercio permettono di "riportare in vita" personaggi storici di rilievo, rendendo il primo approccio ai contenuti più dinamico e interattivo. I deepfake si trasformano così da strumento di manipolazione negativa a risorsa cruciale nell'ampliamento dell'ambito educativo.

Tra le diverse app nel mondo dell'e-learning che sfruttano l'automazione digitale, spicca in questo senso My Teach Mate. Le sue funzionalità possono infatti essere utilizzate per creare assistenti allo studio digitali, nonché per rendere più coinvolgenti le spiegazioni di diversi ambiti di studio. Con i deepfake siamo dunque di fronte ad una delle varie opportunità offerte dalla tecnologia; in altre parole, usata consapevolmente, essa potrebbe portare più vantaggi che rischi.

Usi impropri e rischi dei deepfake

Come vi abbiamo già accennato, i deepfake sono forse tra gli strumenti digitali più rischiosi. Malintenzionati potrebbero infatti usarli per colpire personalmente altri individui, cercando di macchiarne irrimediabilmente l'immagine pubblica. È inutile negarlo: l'alterazione non riconoscibile della realtà è pericolosa, motivo per cui il nostro consiglio è di applicare sempre una buona dose di senso critico sulle fonti a cui fate riferimento.

Questi accorgimenti vanno adottati in particolare quando si ha a che fare con personaggi e personalità politiche. I deepfake possono essere infatti sfruttati come mezzi di manipolazione dell'opinione pubblica, così da sbilanciare a favore di determinate fazioni le simpatie di grandi numeri di persone.

Quando si ha a che fare con questa potente tecnologia, bisogna dunque sempre ricordare che i rischi legati a questa tecnologia sono alti. I deepfake sono però ormai una realtà consolidata, in sempre più larga espansione, e condannare in toto uno strumento a causa di pochi malintenzionati potrebbe depauperare chi lavora nel sociale di uno strumento dalle altissime potenzialità.