Al giorno d’oggi, la gran parte dei temi legati all’intelligenza artificiale è profondamente attuale e dibattuta e, probabilmente, uno dei più controversi e temuti è quello relativo ai deepfakes, strumenti che dimostrano in maniera immediata e tangibile la potenza delle nuove tecnologie, nonché la facilità con cui possiamo essere tratti in inganno da queste.
Innanzitutto, il termine “deepfake” è il frutto della combinazione tra le parole “deep”, riferito alle tecniche di deep learning e “fake”, ovvero “falso”. Con questa espressione, ci riferiamo alla generazione o alla modifica di immagini, video o tracce audio tramite l’utilizzo di tecniche di deep learning (E. Altuncu, V. Franqueira e S. Li, “Deepfake: definitions, performance metrics and standards, datasets, and a meta-review”, Frontiers in Big Data, 2024).
Il deep learning è una tecnica di intelligenza artificiale che, utilizzando reti neurali composte da un enorme numero di strati adibiti all’elaborazione dei dati, consente ad un sistema di apprendere e riprodurre schemi complessi, ricavati da un dispendioso addestramento (si veda anche H come Hidden Layers, https://mirai.systems/h-come-hidden-layers/).
Quando ci riferiamo al concetto di deep learning, stiamo prendendo in considerazione un insieme vastissimo di tecniche che possono dar vita a sistemi con scopi molto diversi tra loro. Il deep learning fa infatti da base per algoritmi adibiti al riconoscimento di volti o di immagini complesse, all’analisi e alla produzione di testi in linguaggio naturale e, come già accennato, alla sintesi di deepfakes. (I. Sarker, “Deep Learning: A Comprehensive Overview on Techniques, Taxonomy, Applications and Research Directions”, SN Computer Science, vol. 2, num. 6, 2021).
La tecnologia deepfake offre possibilità tra le più disparate, tra le quali possiamo citare la traduzione automatica di video o tracce audio in lingue straniere o la ricreazione digitale di una persona. Parlando di quest’ultima funzione, è possibile generare le immagini di una persona deceduta per simulare la sua presenza, come è accaduto al Dalì Museum di St. Petersburg, in Florida. La direzione del museo, tramite il progetto “Dalì Lives”, ha presentato al pubblico una riproduzione sintetica del pittore Salvador Dalì, in grado di presentarsi ai visitatori e di interagire con loro (T. Flattery, C. Miller, “Deepfakes and Dishonesty”, Philosophy & Technology, Vol. 37, 2024).
Altre tecniche deepfake visive molto conosciute sono il ringiovanimento e l’invecchiamento digitale, molto impiegate nel campo cinematografico, che permettono di modificare il volto di una persona, facendola apparire più giovane o più anziana. La tecnologia digital de-aging è stata molto discussa dal grande pubblico a seguito del suo utilizzo nel film “The Irishman” del regista Martin Scorsese, all’interno del quale gli attori Robert De Niro, Al Pacino e Joe Pesci, all’epoca delle riprese tutti di età superiore a settantacinque anni, sono stati ringiovaniti digitalmente di diversi decenni (K. Loock, “On the realist aesthetics of digital de-aging in contemporary Hollywood cinema”, Orbis Litterarium, Vol. 76, 2021).
A livello generale, possiamo dire che i sistemi deep learning adibiti alla creazione di deepfakes, apprendendo le caratteristiche di un soggetto, sono poi in grado di riprodurle in maniera fortemente realistica.
Nel caso dei deepfakes visivi, essi possono sfruttare tecnologie per modificare i volti, come la face swap, che li scambia, e la face blend, che li fonde o, semplicemente, per produrre immagini sintetiche. Le tecnologie relative ai deepfakes audio, invece, si basano principalmente sulla clonazione della voce o sulla sintesi vocale, la quale consente di convertire un testo scritto in una traccia vocale (A. Mohammed, “Deep Fake Detection and Mitigation: Securing Against AI-Generated Manipulation”, Journal of Computational Innovation, vol. 4, num. 1, 2024).
Applicazioni utili della tecnologia deepfake
La natura potenzialmente ingannevole dei deepfakes tende a spaventare molto e, di conseguenza, si rischia di dimenticare che questi strumenti offrono un’amplissima varietà di utilizzi positivi.
Innanzitutto, i deepfakes si dimostrano estremamente utili nel campo dell’intrattenimento, dando la possibilità di migliorare notevolmente film, serie televisive, videogiochi o altri media. L’utilizzo di questa tecnologia può rendere più economica la realizzazione di questi prodotti semplificando processi solitamente complessi, come la creazione di personaggi estremamente realistici, il perfezionamento dell’accento di un attore o, come citato precedentemente, la modifica del suo aspetto, migliorando in questo modo l’autenticità della messa in scena.
L’istruzione è un altro settore ad aver beneficiato profondamente di questi strumenti e gli esempi da riportare riguardano attività tra le più disparate. Un sistema in grado di generare audio sintetici può simulare una conversazione con un utente in lingua straniera, mentre un algoritmo che si presta alla produzione di video realistici può costruire, ad esempio, uno scenario immersivo ambientato in un’altra epoca storica per rendere l’apprendimento più coinvolgente. I benefici a lungo termine di questi strumenti nel campo dell’apprendimento devono ancora essere dimostrati, ma le novità che propongono suscitano certamente molto interesse (E. Lundberg, P. Mozelius, “The potential effects of deepfakes on news media and entertainment”, AI & Society, Vol. 40, 2024).
Un altro campo in cui l’utilizzo dei deepfake può portare grandi vantaggi è quello della medicina e la sua ricerca, che sfrutta sia le tecnologie audio, sia quelle visive. Grazie alla creazione di audio sintetici, ad esempio, si può permettere nuovamente ad una persona che ha perso la capacità di parlare di comunicare con la voce che aveva, grazie alla riproduzione della sua voce originale tramite un sistema text-to-speech, che tramuta un testo scritto in output audio, caratterizzato dal timbro, dal ritmo e da altre sfumature della voce dell’utilizzatore (S. Bratieres, G. Donvito, M. Filosto, E. Frontoni, M. Kostovic, F. Minazzi, R. Pugliese, S. Regondi, “Artificial intelligence empowered voice generation for amyotrophic lateral sclerosis patients”, Scientific Reports, Vol. 15, 2025).
I deepfakes visivi, però, sono quelli che attualmente portano i maggiori benefici all’interno del settore medico, sia per aiutare direttamente i pazienti, sia per migliorare gli strumenti attualmente a disposizione del personale medico. Un esempio sull’utilizzo di contenuti sintetici a fini terapeutici si può riscontrare nella generazione di volti noti ad una persona affetta dal morbo di Alzheimer, i quali vengono creati per sembrare risalenti ad un periodo che il paziente ricorda in maniera più completa, in modo tale da diminuire la sua sensazione di isolamento e migliorare la comunicazione con parenti e amici.
I deepfakes possono rivelarsi estremamente utili anche in ambiti medici al di fuori della terapia, ad esempio per produrre immagini, indistinguibili da fotografie autentiche, da utilizzare per l’addestramento di sistemi AI utilizzati dal personale medico per individuare determinate patologie (S. O’Brien, Positive use cases of “deepfakes”, https://5g.wilsoncenter.org/article/positive-use-cases-deepfakes, 2025).
Usi nocivi dei deepfakes
I deepfakes, sfortunatamente, presentano anche svariati rischi dato che, come ogni strumento tecnologico, il loro utilizzo in malafede può provocare danni ingenti a singoli individui o alla società in generale.
L’esempio più tristemente noto riguarda i deepfakes pornografici, ricostruzioni artificiali in cui una persona, nella quasi totalità dei casi senza aver dato il proprio consenso, viene raffigurata totalmente svestita. In questo caso l’estremo realismo delle immagini gioca un ruolo chiave, dato che esse possono essere facilmente percepite come autentiche da terzi, ledendo così la reputazione della persona ritratta.
Un altro caso molto conosciuto dell’utilizzo maligno di queste tecnologie riguarda le frodi in cui un truffatore riesce ad ingannare una vittima tramite la riproduzione fedele della voce di una persona conosciuta, inducendola a fidarsi delle istruzioni comunicate e a rivelare informazioni riservate.
La riproduzione di volto e voce di un individuo, inoltre, può essere sfruttata per eludere controlli di sicurezza digitali, permettendo così la violazione della riservatezza della persona in questione o, in casi peggiori, il furto di dati privati o di denaro (A. Bauerle, A. Diel, T. Lalgi, F. S. Mellis, M. Teufel, “The harm of deepfakes: A scoping review of deepfakes’ negative effects on human mind and behavior”, AI & Society, 2025).
I deepfakes, come già accennato, sono in grado di danneggiare non soltanto i singoli individui, ma anche la collettività, quando ad essere coinvolti sono gli interessi comuni.
L’esempio più lampante si può riscontrare nella diffusione di fake news, un problema che tocca l’intera società. Le notizie false in passato venivano veicolate efficacemente anche senza avere accesso ai deepfakes, ma, indubbiamente, se un’informazione viene supportata da prove visive credibili, seppur fasulle, questa sarà ritenuta molto più affidabile e la sua diffusione avverrà più rapidamente.
La natura convincente dei deepfakes, specie nell’era dei social networks, in cui ogni notizia può raggiungere facilmente milioni di utenti, può avere conseguenze potenzialmente disastrose sulla società. Tracce audio o filmati prodotti sinteticamente in periodo elettorale per minare la credibilità di un candidato politico possono manipolare e falsificare i risultati delle elezioni e, più generalmente, questi contenuti artificiali possono ledere la credibilità delle istituzioni (R. Chesney, D. Citron, “Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security”, California Law Review, 2019).
Tecnologie per la generazione e il riconoscimento di deepfakes
Le prime tecnologie per la generazione di deepfakes erano piuttosto grezze e, infatti, non era complicato riscontrare anomalie che rendessero evidente la natura artificiale del contenuto, mentre oggi i creatori di media sintetici possono contare su tecnologie molto più robuste e potenti, tra le quali sicuramente spiccano l’insieme di tecniche che sfruttano le Generative Adversarial Networks (GAN) (H. L. Gururaj, B. C. Soundarya, “Deepfake detection: critical review of state-of-the-art approaches and future perspectives”, Discover Applied Sciences, 2026).
Una GAN è una rete neurale composta da due sotto-reti che competono tra loro al fine di creare dati sempre più realistici. Il primo componente è il “generatore”, che, partendo da un input, ha lo scopo di generare un contenuto sintetico quanto più realistico possibile, mentre il secondo è detto “discriminatore” e, prendendo visione sia dell’input costituito da dati reali, sia del prodotto del generatore, deve stabilire se i contenuti che esamina sono autentici o falsi.
La potenza di questa tecnologia risiede nel suo approccio detto “avversario”, dato che il generatore tenta di produrre contenuti che il discriminatore possa erroneamente considerare reali, mentre quest’ultimo cerca di distinguere sempre output autentici ed output sintetici. Questa vera e propria competizione porta il sistema a generare deepfakes estremamente realistici (M. Ding, B. Liu, B. Liu, T. Zhu, “A Review of Deepfake and Its Detection: From Generative Adversarial Networks to Diffusion Models”, International Journal of Intelligent Systems, 2025).
In generale, le tecnologie deep learning che permettono la generazione di deepfakes sono in continuo sviluppo e stanno permettendo la creazione di materiale sintetico sempre più difficile da distinguere da quello autentico. Chiaramente, non tutti hanno lo stesso intuito quando si tratta di riconoscere un contenuto sintetico e, allo stesso modo, alcuni sistemi garantiscono la creazione di deepfakes più realistici di altri; generalmente, però, i contenuti visivi generati artificialmente sono più semplici da riconoscere rispetto alle tracce sonore, siccome presentano incongruenze ed anomalie individuabili con maggiore facilità (M. Holmes, D. Miller, K. Somoray, Human Performance in Deepfake Detection: A Systematic Review, https://ssrn.com/abstract=4955104, 2024).
Ad oggi, fare affidamento sull’essere umano per il riconoscimento di deepfakes non è una scelta affidabile e questo compito viene delegato ad appositi sistemi di intelligenza artificiale. Queste tecniche di rilevazione, però, hanno una grande problematica dato che, pur garantendo risultati potenzialmente eccellenti, nonché fuori dalla portata di qualsiasi essere umano, diventano obsolete molto rapidamente. Infatti, l’avanzamento tecnologico dei modelli generativi è incredibilmente veloce e sia chi sviluppa tecniche generative, sia chi sviluppa sistemi per individuare i deepfakes, tenta di migliorare i propri strumenti per poter prevalere sull’altra parte, creando in questo modo una vera e propria competizione che è definita “arms race” (D. Camacho, K. A. P. Costa, J. Del Ser, D. Jodas, J. P. Papa, L. A. Passos, D. Rodrigues, L. A. Souza Junior, “A Review of Deep Learning-based Approaches for Deepfake Content Detection”, Expert Systems, 2024).
Questa competizione evolve a ritmi estremamente veloci e, di conseguenza, è opportuno trovare soluzioni per risolvere il problema alla radice, cercando di implementare misure che scoraggino la creazione di deepfakes dannosi, anziché concentrarsi sulle tecniche per individuarli (F. Abbas, A. Taeihagh, “Unmasking deepfakes: A systematic review of deepfake detection and generation techniques using artificial intelligence”, Expert Systems with Applications, 2024).
La soluzione che, ad oggi, appare come quella su cui fare maggiormente affidamento consiste nel watermarking, ossia l’inserimento di una filigrana impercettibile all’interno di un contenuto AI, che, idealmente, sarebbe imposto per legge ad ogni sistema generativo, in modo tale che qualsiasi contenuto non autentico sia segnalato come tale. Il watermark in questione deve essere impercettibile, ma, allo stesso tempo, è necessario che sia facilmente rilevabile e questo, ad oggi, è sicuramente il maggior limite di questa tecnica, dato che le filigrane possono essere facilmente compromesse tramite leggere rielaborazioni dei contenuti generati. Un semplice ridimensionamento di un’immagine, ad esempio, può compromettere o eliminare le informazioni che consentono di rilevare il watermark.
Va specificato come il watermarking non abbia lo scopo di rendere più complicata la generazione di un deepfake, ma, evidenziandone la natura artificiale, renderebbe estremamente più complesso un uso maligno dello strumento (J. Li, L. Li, H. Luo, “Digital Watermarking Technology for AI-Generated Images: A Survey”, Mathematics, 2025).
I deepfakes in relazione ai metodi tradizionali di manipolazione dei media
Il fatto che il mezzo del deepfake ci spaventi per via delle sue potenzialità non deve farci dimenticare che la possibilità di modificare contenuti audio o fotografici è sempre stata alla nostra portata sin da quando siamo stati in grado di produrli. Se è possibile modificare una fotografia tramite l’utilizzo di un sistema deep learning, infatti, lo stesso si può fare utilizzando un software come Photoshop o, facendo un esempio che ormai appare superato, ritoccando a mano il negativo di una foto (H. Farid, “Creating, Using, Misusing and Detecting Deep Fakes”, Journal of Online Trust and Safety, 2022).
L’utilizzo di media modificati per scopi politici o per influenzare l’opinione pubblica, solitamente, viene associato all’epoca contemporanea, ma questa pratica era già diffusa molti decenni prima dell’avvento dei deepfakes. Un esempio si può riscontrare durante il periodo del governo dittatoriale di Iosif Stalin in Unione Sovietica e, ad essere manomesse, furono alcune fotografie datate 1920, le quali ritraevano Lenin intento a tenere una conferenza a Mosca al fianco del rivoluzionario Leon Trotsky, il quale, essendo persona sgradita al regime stalinista, venne rimosso dalla fotografia.
La modifica dell’immagine, ovviamente, non era fine a se stessa, ma aveva lo scopo di rafforzare la narrazione storica del regime, rimuovendo un individuo caduto in disgrazia politica (M. Rossner, K. M. Yamada, “Digital Images Are Data: And Should Be Treated as Such”, The Journal of Cell Biology, 2014).
La manipolazione di foto, video ed audio, per l’appunto, non è niente di nuovo, ma al contempo è evidente che la tecnologia deepfake spaventi le persone molto più di qualsiasi altro mezzo con il medesimo scopo. Istintivamente, è facile pensare che il timore provato nei confronti dei deepfakes sia legato esclusivamente alla loro natura iperrealistica che, come già affermato, rende questa tipologia di contenuti sempre più difficili da distinguere da quelli autentici (M. Dosaikina, A. M. Proverbio, “Neural signatures of hyper-realistic AI-generated faces: dissociating behavioral indistinguishability from implicit neural evaluation”, Scientific Reports, 2026), ma la verità è che la questione è molto più spinosa di così.
Le forme tradizionali di manipolazione dei media più sofisticate, come il già citato software Photoshop, infatti, richiedono studio, pratica ed anche talento e, generalmente, la modifica di un contenuto, affinché questo possa sembrare genuinamente autentico, necessita un lavoro certosino e lungo, accessibile soltanto ad esperti. La generazione di un deepfake, al contrario, non richiede né tempo, né capacità ed è alla portata di chiunque, inclusi gli utenti che non sono nemmeno a conoscenza del funzionamento dell’algoritmo generativo (M. Pawelec, “Deepfakes and Democracy (Theory): How Synthetic Audio-Visual Media for Disinformation and Hate Speech Threaten Core Democratic Functions”, Digital Society, 2022).
Il fatto che al giorno d’oggi la possibilità di creare immagini o audio iperrealistici abbia una barriera di accesso tanto bassa porta, inevitabilmente, un quantitativo altissimo di deepfakes in circolazione, molti dei quali prodotti con cattive intenzioni. Questo fenomeno non soltanto facilita, come detto in precedenza, la diffusione di notizie false, ma rischia anche di indurre le persone a non fidarsi delle informazioni autentiche, inducendole a pensare che i media a loro supporto siano stati generati artificialmente (D. Fallis, “The Epistemic Threat of Deepfakes”, Philosophy & Technology, 2020).
Conclusioni
In conclusione, abbiamo avuto modo di vedere che il mezzo del deepfake può avere svariati usi positivi, ma le persone, solitamente, spostano l’attenzione sui rischi ad esso correlati, andando così ad oscurare i potenziali vantaggi di questa tecnologia.
Le tecniche legate all’intelligenza artificiale, tra cui quelle che permettono la generazione dei deepfakes, hanno potenzialità che, al momento, fatichiamo anche solo a quantificare e, di conseguenza, ci sentiamo intimoriti davanti a queste. Ciò che però non dobbiamo dimenticare è che, storicamente, tutte le innovazioni tecnologiche, durante le loro fasi iniziali, hanno sempre spaventato l’uomo, che però, gradualmente, è sempre riuscito a conoscerle e ad usarle in modo adeguato.
Per questo motivo, analizzando la situazione attuale riguardante i deepfakes e le altre tecnologie AI, conoscere i potenziali pericoli legati a queste tecniche è importantissimo, ma, al contempo, è altrettanto fondamentale non cadere nel panico ed imparare a prendere familiarità con quelle che, inevitabilmente, saranno le tecnologie del futuro. Studiare questo mondo ci permetterà di garantire uno sviluppo responsabile di questi sistemi che, affiancato da un’adeguata regolamentazione, permetterà di utilizzarli e trarne beneficio con consapevolezza.
Giorgio Fumagalli