Skip to main content
Sicurezza informatica

Deepfake: definizione, tipologie ed esempi principali

Scoprite come sono emersi i deepfake, come vengono creati, quali minacce comportano e come rilevarne e prevenirne l'uso malevolo. Esplorate le tendenze, gli esempi reali e le strategie di protezione.

Di SentinelOne
Deepfake: definizione, tipologie ed esempi principali

Con l'uso sempre più diffuso dell'IA per trasformare i settori, i deepfake sono diventati un fenomeno globale che sfuma i confini tra ciò che è reale e ciò che è manipolato. Secondo i sondaggi, più della metà dei dipendenti delle organizzazioni non riceve una formazione adeguata sui rischi dei deepfake. Allo stesso tempo, 1 leader su 4 non conosce ancora queste sofisticate falsificazioni chiamate deepfake e gli incidenti si verificano ogni cinque minuti nel mondo. In questo scenario, le difese contro i deepfake non sono più facoltative e le aziende devono sapere cosa sono e come mitigarli.

Cominciamo quindi questo articolo con una definizione dei deepfake e di come abbiano acquisito un’influenza così ampia sui media e sulla sicurezza. Esamineremo poi la loro evoluzione storica, le diverse forme, i metodi di creazione e quelli di rilevamento. Descriveremo quindi i casi d’uso reali, positivi e negativi, le prospettive future e i consigli per proteggersi dai deepfake. Infine, vedremo come proteggere le organizzazioni da queste sofisticate manipolazioni e analizzeremo alcune delle domande più comuni su cosa sia un deepfake nella cybersecurity.

Che cosa sono i deepfake?

I deepfake, in sostanza, sono contenuti sintetici (in genere video o audio) creati da modelli di IA per imitare volti, voci o movimenti di persone reali con un realismo inquietante. Questi sistemi utilizzano framework di deep learning, in particolare le reti generative avversarie (GANs), che mettono in competizione due reti neurali, una che produce falsificazioni e l'altra che ne valuta l'autenticità. Il generatore perfeziona il risultato attraverso numerose iterazioni finché non inganna il discriminatore, creando illusioni estremamente realistiche, generalmente definite i migliori deepfake se il prodotto finale appare indistinguibile da riprese autentiche.

A volte possono essere comici o creativi, ma possono anche essere usati per il furto d'identità o per diffondere disinformazione. I deepfake sono diventati una delle principali sfide per la cybersecurity. Un sondaggio del 2023 ha rilevato che il 92% dei dirigenti nutre «forti preoccupazioni» per l'uso improprio dell'IA generativa.

L'impatto dei deepfake

Come dimostrano diversi esempi che vedremo più avanti nell'articolo, i deepfake sono pericolosi e possono essere usati per attacchi di vario tipo, dai danni alla reputazione su piccola scala alla disinformazione su larga scala. Un dato allarmante rivela che nel 2023 le frodi basate sulla sostituzione del volto con deepfake nei processi di verifica dell'identità sono aumentate del 704%. È un segnale di come i criminali usino l'IA per il furto d'identità. Ecco cinque modi in cui i deepfake ridefiniscono gli attuali scenari di rischio.

  1. Perdita di fiducia nelle prove visive: Per molti anni, i video sono stati considerati prove quasi inconfutabili. Oggi è possibile sovrapporre la testa o la voce di una persona al corpo di un’altra. Ciò significa che quelle che sembrano prove potrebbero non essere reali. Queste illusioni inducono il pubblico a dubitare anche dei filmati autentici e, di conseguenza, dell’autenticità dei servizi giornalistici o delle confessioni mostrati nei video. Con la crisi dell’autenticità, la domanda “che cosa è un deepfake e che cosa è reale?” diventa una questione centrale per la giustizia e il pubblico.
  2. Danni alla reputazione e campagne diffamatorie: Un singolo video può mostrare la persona presa di mira mentre dice qualcosa di provocatorio o compie un'azione riprovevole. Una volta pubblicato online, si diffonde rapidamente, prima che la disinformazione venga smentita. Il dubbio resta e la credibilità della persona viene danneggiata anche quando il video si rivela falso. I deepfake usati nelle campagne diffamatorie politiche mostrano già quanto rapidamente le falsificazioni possano prevalere sulle dichiarazioni autentiche.
  3. Social engineering e frodi aziendali: Le aziende perdono denaro quando chiamate o video deepfake ingannano i dipendenti, inducendoli a trasferire fondi o divulgare informazioni. Gli aggressori sfruttano la fiducia dei dipendenti imitando la voce o l'aspetto di utenti legittimi per ottenere l'approvazione delle richieste. Se un'identità viene compromessa in un sistema di autenticazione basato sull'identità, l'intera catena di fornitura o i processi finanziari sono a rischio. La tecnologia deepfake potenzia quindi le tecniche di social engineering già esistenti.
  4. Diffusione di notizie false: I gruppi estremisti possono creare video in cui i loro leader sostengono notizie false oppure falsificare documenti presentati come appena trapelati per alimentare le divisioni. Questi contenuti vengono diffusi sulle piattaforme social, dove le persone condividono le notizie false prima che le organizzazioni di fact-checking possano intervenire. Quando un video viene smentito, ha già influenzato migliaia di persone. I contenuti deepfake si diffondono rapidamente e possono provocare forti sconvolgimenti politici o sociali.
  5. Attacchi alla verifica dell'identità e all'autenticazione: Il riconoscimento facciale o vocale come metodo biometrico è molto vulnerabile ai deepfake. I criminali possono creare video con volti sostituiti per superare i processi KYC o sbloccare il telefono o un altro dispositivo di una persona. L'aumento dei furti d'identità ha quindi spinto altri sistemi a integrare il rilevamento della presenza fisica o l'analisi delle microespressioni. Le falsificazioni create con deepfake basati sull'IA nei sistemi di autenticazione minacciano un livello fondamentale della cybersecurity.

Deepfake e shallowfake a confronto

Non tutti i video manipolati richiedono un'IA complessa. “Shallowfake” indica tecniche di editing più semplici, come i filmati rallentati o accelerati. I metodi Deepfake, invece, utilizzano reti neurali avanzate per rendere i risultati più realistici. I deepfake impiegano framework di deep learning per replicare un volto, una voce o persino un intero corpo con una fedeltà quasi perfetta. Mantengono un'illuminazione coerente, riproducono movimenti facciali articolati e adattano le espressioni del soggetto. Grazie alla sofisticata elaborazione dei dati, queste illusioni possono ingannare anche gli spettatori più attenti. Il tratto distintivo è l'uso di stratificazione avanzata e modellazione generativa per creare risultati davvero realistici.

Uno «shallowfake», invece, si basa generalmente su tagli manuali, rallentamenti, accelerazioni o semplici filtri di editing. Può ingannare chi guarda se non è evidente che il video sia stato accelerato o inserito artificialmente in un altro contesto. Gli shallowfake sono più facili da individuare, ma possono essere molto efficaci nel diffondere mezze verità o contenuti comici ingannevoli. Pur essendo meno sofisticati dei deepfake, contribuiscono alla disinformazione e alla manipolazione dei media.

Storia della tecnologia deepfake

Le origini dei deepfake risalgono ai progressi nel deep learning e alla collaborazione open source che hanno dato impulso alle tecniche di sostituzione dei volti. Gli esperimenti di manipolazione facciale esistono da decenni, ma le moderne reti neurali hanno portato il realismo a livelli sorprendenti.

Secondo una stima, entro il 2026 il 30% delle aziende non si affiderà più completamente alla verifica dell'identità come garanzia di fiducia, a causa dei progressi nelle falsificazioni basate sull'IA.

  1. Primi esperimenti e sostituzione dei volti: Negli anni Novanta, gli specialisti di CGI sperimentarono rudimentali sostituzioni dei volti animate manualmente per gli effetti cinematografici. Con l'evoluzione degli strumenti, i risultati restavano innaturali e richiedevano la modifica manuale dei fotogrammi. I ricercatori di informatica sperimentarono il machine learning per il morphing, ma i limiti hardware impedirono ulteriori progressi. Il concetto gettò le basi per i deepfake, ma le vere svolte arrivarono solo con dataset più ampi e una maggiore potenza di elaborazione delle GPU.
  2. Reti generative avversarie (GAN): Introdotte da Ian Goodfellow nel 2014, le GAN hanno rivoluzionato i media sintetici. I cicli iterativi di feedback tra un generatore e un discriminatore hanno perfezionato i volti sintetici, dando vita a falsificazioni molto realistiche. Superati i limiti del lavoro manuale, i creatori hanno scoperto come i «migliori deepfake» potessero riprodurre microespressioni e sfumature dell'illuminazione prima irraggiungibili.
  3. La diffusione nelle community e su Reddit: I deepfake sono diventati noti al grande pubblico intorno al 2017, quando i subreddit hanno iniziato a diffondere video con i volti delle celebrità sostituiti. Alcuni erano divertenti, altri tutt'altro. Le persone hanno così scoperto come il codice open source e le GPU di fascia consumer avessero reso le falsificazioni accessibili a molti. Le piattaforme di deepfake hanno vietato i contenuti creati senza consenso, ma il «genio dei deepfake» era ormai fuori dalla bottiglia: circolavano innumerevoli versioni derivate e nuove interfacce facili da usare. Questo ha messo in luce i dilemmi etici legati alla facilità di manipolare i volti.
  4. Strumenti commerciali e progressi in tempo reale: Oggi, app e prodotti commerciali creano sostituzioni di volti, sincronizzazioni labiali o cloni vocali su larga scala con un intervento minimo dell'utente. Altri producono falsificazioni in tempo reale per scherzi durante lo streaming o le videoconferenze. Nel frattempo, gli studi perfezionano la tecnologia deepfake basata sull'IA per riportare gli attori sullo schermo o localizzare i contenuti. Con la crescita dell'utilizzo, però, aziende e governi hanno iniziato a riconoscere i rischi di infiltrazione e propaganda.
  5. Risposte normative e iniziative di rilevamento: I governi di tutto il mondo stanno proponendo o adottando leggi per vietare l'uso malevolo dei deepfake, soprattutto nei casi di diffamazione o frode. Allo stesso tempo, le aziende tecnologiche collaborano con gli esperti di intelligenza artificiale per migliorare il rilevamento dei deepfake sui social media. Ne deriva però un continuo confronto: a ogni nuovo metodo di rilevamento corrisponde un nuovo modo di generare deepfake. In futuro, la creatività e la crescente minaccia dei deepfake per la cybersecurity continueranno a confrontarsi.

Tipi di deepfake

I video con volti sostituiti fanno notizia, ma i deepfake assumono molte forme: dalle imitazioni vocali alle riproduzioni dei movimenti dell'intero corpo. Conoscere ogni tipologia chiarisce la portata dei possibili abusi.

Di seguito classifichiamo i principali tipi di deepfake nei media di uso quotidiano e nei contesti di sicurezza avanzata.

  1. Video con volti sostituiti: La forma più conosciuta sovrappone il volto di una persona al corpo in movimento di un'altra. Le reti neurali seguono le espressioni e le adattano fotogramma per fotogramma, creando falsificazioni realistiche. Alcuni di questi video deepfake sono meme giocosi, mentre altri sono inganni malevoli che possono distruggere una reputazione. I dettagli ad alta fedeltà possono trarre in inganno anche gli spettatori più attenti, se privi di strumenti di rilevamento avanzati.
  2. Sincronizzazione labiale e sovrapposizione audio: Le falsificazioni della sincronizzazione labiale, talvolta chiamate «puppeteering», modificano i movimenti della bocca per farli corrispondere a un audio sintetico o manipolato. Il risultato? Sembra che una persona pronunci parole che non ha mai detto. Se combinate con la clonazione vocale, queste tecniche possono far recitare interi copioni al volto mostrato nel video.
  3. Clonazione della sola voce: I deepfake audio si basano esclusivamente sulla riproduzione di una voce tramite l'IA, senza immagini. I truffatori li usano nelle frodi telefoniche, per esempio fingendosi un dirigente e ordinando bonifici urgenti. Altri creano voci di celebrità per iniziative di marketing. Individuare questo tipo di deepfake è difficile: mancano indizi visivi e servono analisi spettrali avanzate o elementi di contesto sospetti.
  4. Riproduzione dei movimenti dell'intero corpo: I modelli generativi possono acquisire la postura, i movimenti e i gesti di un attore e applicarli a un'altra persona. Il risultato mostra una persona che sembra ballare, praticare sport o svolgere attività che in realtà non ha mai compiuto. Il cinema e le esperienze di AR richiedono falsificazioni dell'intero corpo. Per la cybersecurity, però, preoccupa soprattutto la possibilità di falsificare «video alibi» o costruire prove false.
  5. Cloni conversazionali basati sul testo: Sebbene siano meno spesso definiti deepfake, i sistemi di generazione di testo imitano lo stile di scrittura o il modo di conversare di una persona. I cybercriminali creano nuove conversazioni che imitano il linguaggio e lo stile di scrittura dell’utente. Quando si aggiunge la voce o l’immagine all’illusione, si può creare un falso a più livelli – o persino un intero personaggio deepfake. È prevedibile che, con la crescente complessità dell’IA generativa basata sul testo, questa venga usata non solo per falsificare immagini, ma anche per condurre attacchi di ingegneria sociale attraverso le piattaforme di messaggistica.

Come funzionano i deepfake?

I deepfake si basano su un processo di raccolta dei dati, addestramento del modello e perfezionamento dell'illusione. I criminali sfruttano l'IA generativa per le frodi, e la ricerca mostra un aumento del 700% degli incidenti legati ai deepfake nel fintech.

Conoscere questo processo permette alle aziende di individuare le vulnerabilità e le possibili contromisure.

  1. Raccolta e preparazione dei dati: I creatori raccolgono grandi archivi di immagini o audio della persona presa di mira, spesso da social media, interviste o archivi pubblici. Più variano le angolazioni, le espressioni e i campioni vocali, più il deepfake finale è realistico. Poi normalizzano i fotogrammi, uniformano la risoluzione e identificano i tratti rilevanti (ad esempio, occhi e forma della bocca). Questa preparazione garantisce che la rete neurale riceva dati coerenti nelle diverse fasi dell'addestramento.
  2. Addestramento della rete neurale: I sistemi di apprendimento avversario come le GAN sono alla base delle illusioni create con l'IA: perfezionano ogni fotogramma o frammento audio generato. Il generatore cerca di ingannare un discriminatore che ne valuta l'autenticità. Attraverso numerose iterazioni, affina il risultato fino a riprodurre dettagli reali come il battito delle palpebre o l'intonazione della voce. Questa interazione produce deepfake quasi indistinguibili dagli originali.
  3. Allineamento e adattamento di volto e voce: Una volta apprese le caratteristiche facciali o vocali della persona presa di mira, il modello le applica alla testa, al corpo o alla traccia vocale di un'altra persona in un filmato reale. Labbra, occhi e movimenti vengono allineati al video di riferimento. Per l'audio, l'analisi della forma d'onda combina il timbro della persona presa di mira con i tempi della traccia originale. La post-produzione corregge piccoli artefatti o differenze di colore che potrebbero rivelare il deepfake.
  4. Post-produzione e rendering finale: Per gli ultimi ritocchi, i creatori elaborano spesso fotogrammi o audio con strumenti di editing per smussare i contorni, uniformare l'illuminazione o regolare il tono della voce. Alcuni riducono persino intenzionalmente la qualità del video per farlo sembrare una normale registrazione da smartphone. Quando sono soddisfatti, pubblicano il contenuto sui social o lo inviano ai destinatari. Il risultato appare autentico, suscita allarme e rende necessari metodi di rilevamento più avanzati.

Come si creano i deepfake?

Nonostante le controversie, molte persone vogliono capire meglio come si creano i deepfake. Oggi chiunque può produrre illusioni sofisticate con software facili da usare e modelli open source. Di seguito descriviamo i metodi più comuni tra appassionati e professionisti, mostrando quanto facilmente possano comparire contenuti dannosi di questo tipo.

  1. App per lo scambio di volti: Diversi strumenti consumer permettono anche ai principianti di scambiare volti da telefono o PC con poco sforzo. Basta caricare due video (uno sorgente e uno di destinazione) e il software automatizza l'addestramento e la fusione. Tuttavia, queste app possono essere usate per falsificare un'identità a scopi illeciti. La loro diffusione favorisce sia l'intrattenimento sia gli abusi più gravi legati ai deepfake.
  2. Framework GAN e codice open source: Risultati avanzati sono accessibili tramite framework come TensorFlow o PyTorch, con repository dedicati alla falsificazione di volti o voci. Gli sperimentatori esperti di architetture di rete, parametri di addestramento o combinazioni di dati possono personalizzare le architetture, modificare i parametri o integrare più set di dati. Questo approccio produce i deepfake più convincenti, ma richiede più hardware (GPU) e competenze di programmazione. Consente di rendere gli inganni molto più credibili, perfezionando le illusioni oltre le impostazioni predefinite degli strumenti pronti all'uso.
  3. Illusioni basate sull'audio: Chi crea illusioni basate sull'audio usa script di sintesi vocale e li abbina a moduli di sincronizzazione labiale per ottenere movimenti realistici della bocca. Il sistema viene addestrato su campioni vocali e genera nuove frasi con l'accento o le caratteristiche espressive della persona presa di mira. I movimenti delle labbra vengono allineati a ogni fonema pronunciato. Queste combinazioni di voce e sincronizzazione labiale possono creare illusioni di persone che parlano sorprendentemente accurate.
  4. Servizi di rendering basati sul cloud: Alcuni fornitori commerciali di deepfake o strumenti di IA gestiscono il complesso addestramento dei modelli su server remoti. Gli utenti inviano semplicemente set di dati o parametri degli script e attendono il risultato. Senza i limiti delle GPU locali, possono elaborare illusioni grandi o complesse su un'infrastruttura potente. D'altra parte, diventa anche facile commissionare rapidamente falsificazioni sofisticate, con nuove implicazioni per la cybersecurity.
  5. Sovrapposizioni manuali ed editing ibrido: I creatori usano poi software come Adobe After Effects per perfezionare manualmente i fotogrammi, anche dopo aver generato una mappatura del volto con una rete neurale. Correggono gli artefatti ai bordi, modificano l'illuminazione o inseriscono parti di video manipolate con tecniche tradizionali per rendere le transizioni il meno visibili possibile. La combinazione di contenuti generati dall'IA e post-produzione esperta produce risultati quasi impeccabili. Il deepfake ottenuto può collocare facilmente una persona in un contesto falso, dagli sketch comici alle impersonificazioni dannose.

Come si riconoscono i deepfake?

Riconoscere i deepfake diventa più difficile man mano che le illusioni diventano realistiche. Poiché metà dei professionisti della cybersecurity non ha ricevuto una formazione specifica sui deepfake, le organizzazioni rischiano di subire frodi gravi o campagne di disinformazione. Di seguito presentiamo alcuni metodi collaudati, manuali e basati sull'IA, per rilevare i deepfake.

  1. Osservazione umana e indizi contestuali: Anche le illusioni sofisticate hanno dei limiti: battiti delle palpebre incoerenti, ombre insolite o angoli della bocca disallineati possono destare sospetti. Si possono cercare anche passaggi innaturali nei tratti del volto quando la persona gira la testa. Sfondi e timestamp aiutano a verificare eventuali manipolazioni. I controlli manuali non sono infallibili, ma restano la prima difesa per riconoscere un deepfake a colpo d'occhio.
  2. Analisi forense basata sull'IA: I classificatori basati su reti neurali, addestrati specificamente a rilevare artefatti sintetici, analizzano schemi a livello di pixel o frequenze. Il sistema segnala allineamenti o sfumature innaturali confrontando la distribuzione normale dei tratti del volto con i fotogrammi sospetti. Alcuni strumenti esaminano anche gli indizi temporali, ad esempio seguendo le microespressioni tra i fotogrammi. Anche gli algoritmi di rilevamento devono evolversi mentre i deepfake migliorano, in una continua corsa tra attacco e difesa.
  3. Esame dei metadati e dei dati EXIF: Se un file contiene metadati, la data di creazione potrebbe non corrispondere a quella indicata dal file, le informazioni sul dispositivo potrebbero essere errate oppure potrebbero esserci tracce di codifica e ricodifica. Da alcune falsificazioni sofisticate vengono rimossi anche i dati EXIF per nasconderne l'origine. Sebbene molti video autentici abbiano metadati incompleti, discrepanze improvvise possono indicare una manipolazione. Questo metodo integra le analisi più approfondite, soprattutto nelle verifiche aziendali o giornalistiche.
  4. Interazioni in tempo reale (verifiche di presenza e tracciamento dei movimenti): Le interazioni in tempo reale, come una risposta spontanea durante una videochiamata, possono rivelare o confermare un'illusione. Se l'IA non si adatta abbastanza rapidamente, compaiono ritardi o anomalie del volto. I sistemi di verifica della presenza analizzano in genere i micromovimenti muscolari, le angolazioni della testa o i battiti casuali delle palpebre, che le falsificazioni raramente riproducono con coerenza. Altri sistemi di identificazione chiedono all'utente di muovere il volto in determinati modi: se il video non riesce a seguirlo, il deepfake viene smascherato.
  5. Confronto con i filmati originali: Se un video sospetto mostra una persona a un evento o le attribuisce determinate parole, consultare la fonte ufficiale può confermare o smentire quanto riportato. Comunicate stampa, riprese da altre angolazioni o dichiarazioni ufficiali possono rivelare discrepanze. Questo metodo combina la verifica dei fatti con il rilevamento dei deepfake. Nell'era delle bufale virali, i principali mezzi di informazione si affidano a questi confronti per tutelare la propria credibilità.

Applicazioni dei deepfake

Sebbene se ne parli spesso in termini negativi, i deepfake possono anche produrre risultati utili o innovativi in diversi settori. Le loro applicazioni non si limitano alle falsificazioni dannose, ma includono anche le arti creative e gli strumenti specializzati.

Ecco cinque esempi di come le illusioni basate sull'IA possano essere usate per scopi utili o di intrattenimento, se impiegate in modo etico.

  1. Resurrezioni digitali nel cinema: Gli studi a volte riportano sullo schermo un attore scomparso per un cameo o girano nuovamente delle scene senza cambiare interprete. Un modello di deepfake basato sull'IA analizza i filmati d'archivio e ricostruisce le espressioni facciali, inserendole poi in nuove scene. La tecnica può rendere omaggio alle star del passato, anche se solleva questioni di autenticità e diritti degli attori. Se usata con rispetto, unisce nostalgia ed effetti digitali avanzati.
  2. Localizzazione linguistica realistica: Per esempio, emittenti televisive e servizi di streaming usano la rianimazione facciale per sincronizzare le voci doppiate con i movimenti delle labbra degli attori. L'approccio basato sui deepfake va oltre il doppiaggio tradizionale: sullo schermo, l'attore sembra parlare la lingua locale, con movimenti della bocca coerenti. Questo rende i contenuti più coinvolgenti per il pubblico internazionale e riduce il lavoro di registrazione. Sebbene l'idea sia nata come curiosità comica in ambienti ristretti, le grandi piattaforme di contenuti ne riconoscono il potenziale per la distribuzione globale.
  3. Formazione e simulazioni aziendali: Diverse aziende creano video deepfake personalizzati per la formazione sulle policy e sulla sicurezza interna. Possono mostrare un CEO che pronuncia messaggi motivazionali personalizzati o uno scenario che illustra comportamenti da evitare usando i volti reali dei dipendenti. Pur avvicinandosi alla manipolazione, questo approccio può aumentare il coinvolgimento. Se chiaramente identificato come tale, mostra cosa sia un deepfake in ambito aziendale e usa l'illusione per trasmettere insegnamenti utili.
  4. Campagne di marketing personalizzate: I brand sperimentano illusioni basate sull'IA in cui un ambasciatore del marchio saluta gli utenti per nome o pronuncia messaggi personalizzati. Usano tecniche avanzate di mappatura del volto per coinvolgere meglio il pubblico e unire intrattenimento e marketing. L'uso commerciale dei deepfake si muove su una linea sottile tra novità e intrusione: incuriosisce alcuni, ma suscita in altri preoccupazioni per la privacy e l'autenticità.
  5. Narrazione nei musei storici o culturali: Musei e insegnanti possono animare personaggi storici (Abraham Lincoln o Cleopatra) per far loro recitare monologhi in mostre immersive. Creati per educare, non per ingannare, questi deepfake sono accompagnati da avvertenze. Il pubblico può vedere la “storia prendere vita” e sviluppare un legame emotivo con gli eventi del passato. Le organizzazioni ne controllano attentamente l'uso per suscitare curiosità e avvicinare le testimonianze storiche al pubblico di oggi.

Come vengono usati comunemente i deepfake?

I deepfake hanno usi legittimi o creativi, ma la domanda più comune è: “Come vengono usati i deepfake nella vita reale?” La tecnica è così facile da usare che si sta diffondendo rapidamente, dalle sostituzioni comiche dei volti al furto d'identità a scopo doloso.

Di seguito esaminiamo alcuni usi comuni che hanno alimentato il dibattito globale su cosa siano i deepfake nell'IA.

  1. Sfide comiche di sostituzione dei volti: Su TikTok o Reddit si trovano sfide comiche di ogni tipo in cui gli utenti sovrappongono il proprio volto a coreografie o scene di film virali. Queste illusioni giocose si diffondono rapidamente e portano i deepfake nella cultura popolare. Sebbene nella maggior parte dei casi siano innocue, anche le creazioni comiche possono diffondere involontariamente disinformazione se non vengono identificate come tali. È un fenomeno che mostra quanto le illusioni siano ormai accettate nella vita quotidiana.
  2. Pornografia non consensuale: Il lato più oscuro emerge quando i responsabili inseriscono persone, spesso celebrità o ex partner, in video espliciti senza il loro consenso. Questa violazione della privacy sfrutta la tecnologia deepfake per umiliarle sessualmente o ricattarle. I contenuti si diffondono su piattaforme poco affidabili e sono difficili da rimuovere. Il dibattito pubblico resta acceso e molti chiedono interventi legislativi rigorosi per arginare questi abusi.
  3. Comunicazioni aziendali fraudolente: Un esempio è una telefonata che sembra provenire da un partner conosciuto, ma usa una sofisticata clonazione della voce. Gli attacchi puntano a ottenere modifiche dell'ultimo minuto ai dati di pagamento o operazioni finanziarie urgenti. Queste imitazioni eludono i consueti segnali d'allarme delle email o dei messaggi perché il personale si affida al «riconoscimento della voce». Con il perfezionarsi della tecnica, questo scenario deepfake compare sempre più spesso nei registri dei rischi aziendali.
  4. Diffamazione e propaganda politica: In diversi Paesi sono stati usati discorsi manipolati durante le elezioni per far apparire un candidato incompetente, corrotto o pieno d'odio. Una breve clip virale può influenzare l'opinione pubblica prima che i canali ufficiali riescano a smentirla. La tecnica sfrutta la rapidità, l'effetto shock e la condivisione sui social media. L'efficacia dei video deepfake in questo contesto mina il libero dibattito e l'integrità elettorale.
  5. Satira o espressione artistica basata sull'IA: Sebbene la tecnologia deepfake possa essere usata a fini negativi, alcuni artisti e comici la usano per intrattenere il pubblico con sketch comici, cortometraggi e danza interpretativa. Queste opere sono contrassegnate come deepfake, così gli spettatori sanno che ciò che vedono è puramente fittizio. Questo tipo di intrattenimento offre ai creatori l'opportunità di rappresentare il futuro, per esempio attraverso musical in cui i personaggi storici vivono ai giorni nostri. Usando questa tecnologia in modi creativi, questi artisti hanno reso l'IA generativa e le sue possibilità più familiari al pubblico.

Minacce e rischi dei deepfake

Se una minaccia può influenzare le opinioni, danneggiare la reputazione o prosciugare le casse aziendali, le organizzazioni devono comprenderla a fondo.

In questa sezione esaminiamo cinque importanti minacce e rischi legati ai deepfake, per richiamare l'attenzione sul rilevamento avanzato e sulle misure da adottare.

  1. Telefonate con voci sintetiche: I cybercriminali usano voci sintetiche per impersonare un «dirigente» o un «familiare» e spingere la vittima ad agire subito, di solito trasferendo denaro o rivelando dati. Un volto o una voce familiari risultano credibili sul piano emotivo e riducono i sospetti. Insieme, questi due elementi compromettono le normali verifiche dell'identità. Se il personale si affida a una verifica basata soltanto sulla voce, il rischio per l'azienda è alto.
  2. Propaganda avanzata o operazioni di influenza: Figure pubbliche possono apparire mentre sostengono ideologie estremiste o stringono alleanze mai esistite. Nelle regioni instabili, queste falsificazioni alimentano disordini o panico, provocano sommosse o minano la fiducia nel governo. Quando vengono smentite, l'opinione pubblica è già stata influenzata. È un attacco alla credibilità dei media radiotelevisivi che rende ancora più urgenti le strategie globali di cybersecurity contro i deepfake.
  3. Screditare prove autentiche: Al contrario, una persona accusata di un illecito può dichiarare che un video autentico sia un «deepfake». Questo fenomeno minaccia i sistemi giudiziari: l'accusa di «fake news» può mettere in dubbio anche una prova video credibile. L'onere della verifica ricade così sugli esperti forensi, complicando i processi. Nel tempo, negare l'autenticità di un video potrebbe diventare una strategia difensiva in gravi controversie penali o civili.
  4. Manipolazione dei titoli azionari: Un video falso in cui un CEO annuncia acquisizioni o rilascia dichiarazioni può far salire o scendere i prezzi delle azioni prima che arrivino le smentite ufficiali. Gli aggressori sfruttano la viralità sui social media e i momenti vicini alle contrattazioni. La confusione genera panico o euforia sui mercati, offrendo l'opportunità di assumere posizioni ribassiste o rialziste sui titoli. Queste manipolazioni rientrano tra i rischi di cybersecurity legati ai deepfake e possono avere effetti disastrosi sui mercati finanziari.
  5. Perdita di fiducia nelle comunicazioni digitali: Quando le falsificazioni diventano onnipresenti nei canali digitali, dipendenti e consumatori iniziano a dubitare delle chiamate su Zoom e dei notiziari. Richiedere verifiche di persona o controlli dell'identità a più fattori per le attività ordinarie riduce la produttività dei team. La diffusione dei deepfake erode la fiducia nell'ecosistema digitale e richiede a organizzazioni e piattaforme di collaborare per autenticare i contenuti.

Esempi reali di deepfake

Oltre la teoria, i deepfake sono comparsi in diversi casi di grande risonanza in tutto il mondo. Dalle parodie comiche su YouTube alle sofisticate frodi aziendali, queste falsificazioni hanno conseguenze concrete.

Di seguito alcuni esempi concreti di come i deepfake influenzano ambiti diversi.

  1. Frode deepfake che coinvolge Elon Musk: Nel dicembre 2024 è apparso un video falso in cui Elon Musk dichiarava di regalare 20 milioni di dollari in criptovalute. Nel video sembrava che Musk promuovesse l'iniziativa e invitasse gli spettatori a inviare denaro per partecipare. La notizia falsa è stata poi condivisa su vari account social e molte persone l'hanno ritenuta vera. L'episodio ha sollevato interrogativi sull'uso dei deepfake per commettere frodi e sull'importanza di riconoscere meglio le informazioni false.
  2. Il caso deepfake della società di ingegneria Arup: Nel gennaio 2024, la società di consulenza ingegneristica Arup con sede nel Regno Unito è stata vittima di una sofisticata frode deepfake costata oltre 25 milioni di dollari. Durante una videoconferenza, i dipendenti sono stati ingannati da persone che impersonavano il Chief Financial Officer e altri colleghi e autorizzavano diversi trasferimenti verso conti bancari a Hong Kong. L'incidente mostra la gravità della minaccia che i deepfake rappresentano per le aziende e la necessità di rafforzare le misure di sicurezza.
  3. Chiamata automatica deepfake di Joe Biden: Nel gennaio 2024, una falsa chiamata automatica che imitava la voce del presidente Joe Biden è stata usata per scoraggiare gli elettori dal votare alle primarie del New Hampshire. La registrazione, producibile con circa 1 dollaro, mirava a influenzare migliaia di elettori e ha acceso il dibattito sulla correttezza delle elezioni. Le autorità hanno ricondotto la chiamata a una persona che nutriva rancore verso l'amministrazione scolastica. Il caso dimostra come i deepfake possano essere usati per influenzare gli eventi politici.
  4. Truffa tramite clonazione della voce di Jay Shooster:  Nel settembre 2024, i truffatori sono riusciti a imitare la voce di Jay Shooster partendo da un campione di soli 15 secondi tratto da una sua recente apparizione televisiva. Hanno chiamato i suoi genitori, dicendo che aveva avuto un incidente e che gli servivano 30.000 dollari per la cauzione. Il caso mostra come la clonazione della voce possa essere usata per frodi e appropriazioni indebite.
  5. Audio deepfake contro un preside di Baltimora: Nell'aprile 2024, una registrazione audio deepfake attribuita a Eric Eiswert, preside di una scuola superiore di Baltimora, si è diffusa sui media e sui social network. Conteneva commenti razzisti sulla comunità afroamericana. Il preside ha ricevuto pesanti critiche e minacce ed è stato sospeso, finché non è emerso che la registrazione era un deepfake. Anche questo caso mostra come i deepfake possano alimentare tensioni sociali e danneggiare la reputazione di una persona.

Il futuro dei deepfake: sfide e tendenze

Con i progressi dell'IA generativa, i deepfake sono a un bivio: possono favorire la creatività oppure alimentare le frodi. Secondo gli esperti, nei prossimi anni la sostituzione dei volti nelle videoconferenze aziendali avverrà quasi in tempo reale e si diffonderà ampiamente.

Ecco cinque tendenze che delineano il futuro dei deepfake dal punto di vista tecnico e sociale.

  1. Avatar in tempo reale: Gli utenti potranno presto usare GPU basate sul cloud per modificare volti o voci in tempo reale durante streaming o chiamate di gruppo. Potranno assumere corpi sintetici realistici o trasformarsi al volo in altre persone. Per quanto l'idea possa sembrare divertente, solleva problemi di identità e rischi di infiltrazione negli uffici distribuiti. Verificare l'identità dei partecipanti durante la chiamata diventa fondamentale quando sono possibili trasformazioni tramite deepfake.
  2. Normative & standard di autenticità dei contenuti:  Preparatevi alle leggi nazionali sull'uso di avvertenze o “filigrane basate su hash” nei contenuti generati dall'IA. La proposta di legge europea sull'IA prevede controlli sui contenuti multimediali manipolati, mentre gli Stati Uniti incoraggiano le aziende tecnologiche a collaborare per uniformare gli standard di rilevamento. In questo modo, ogni deepfake reso pubblico deve essere accompagnato da un'avvertenza. Applicare queste leggi resta tuttavia difficile se gli autori ospitano i contenuti manipolati in altri paesi.
  3. Blockchain & verifica crittografica: Alcuni esperti raccomandano di includere firme crittografiche al momento della creazione di immagini o video autentici. Possono così verificare i segnali rispetto ai messaggi previsti e accertarsi della loro autenticità. Se le firme mancano o non corrispondono, ci si chiede se il contenuto sia un falso o un deepfake. L'integrazione della creazione di contenuti con la blockchain riduce lo spazio per le attività fraudolente. Tuttavia, come già visto, l'adozione è possibile solo con un ampio sostegno da parte dell'intero settore.
  4. La duplice sfida del rilevamento dei deepfake basato sull'IA: Man mano che i modelli generativi diventano più sofisticati, il rilevamento richiede un'analisi dei pattern più complessa e verifiche incrociate multiple. Può individuare microespressioni, variazioni nell'illuminazione o ‘tracce dell'IA’ impercettibili all'occhio umano. Tuttavia, chi crea i falsi perfeziona le reti neurali per eludere questi controlli, alimentando un ciclo di evoluzione continuo. Per le organizzazioni, aggiornare gli strumenti di rilevamento resta una parte importante della cybersecurity contro i deepfake.
  5. Nuove frontiere etiche & artistiche: Oltre alle minacce, le opportunità creative sono vastissime. I documentari possono riportare in scena personaggi storici per interviste dal vivo, mentre il pubblico di tutto il mondo può guardare programmi localizzati con il labiale sincronizzato nella propria lingua. Si pone quindi una domanda: dove finisce l'innovazione e dove inizia l'illusione creata per manipolare i nostri pensieri? Con la diffusione dei deepfake, è fondamentale consentirne l'uso per scopi positivi e rilevare quelli impiegati per scopi dannosi.
Callout Background Image Gradient

Cybersicurezza alimentata dall'intelligenza artificiale

Elevate la vostra posizione di sicurezza con il rilevamento in tempo reale, la risposta automatica e la visibilità totale dell'intero ambiente digitale.

Conclusioni

I deepfake dimostrano come l'IA possa servire sia a scopi artistici sia a ingannare il pubblico. La tecnologia avanza rapidamente e pone le organizzazioni e la società di fronte a scenari di diffusione dei deepfake, dal phishing telefonate del massimo dirigente dell’azienda alla diffusione di video falsi di politici. Quando l’immagine di un oggetto è più credibile dell’oggetto stesso, la verifica dell’identità diventa il fondamento della credibilità digitale. Allo stesso tempo, i truffatori usano i deepfake più convincenti per eludere i controlli dell’identità o diffondere notizie false. Per le aziende restano fondamentali tre passi: rilevare i deepfake, definire linee guida rigorose e formare il personale per un uso sicuro dell’IA nei media. La sfida tra chi crea illusioni e chi le rileva continua. È essenziale un approccio multilivello, che parta dagli utenti e arrivi agli scanner basati sull’IA.

Ora speriamo abbiate una risposta alla domanda “che cos'è un deepfake nella cybersecurity?”. Ma resta un dubbio: siete pronti ad affrontare i pericoli dei falsi generati dall'IA? Se non lo siete, scegliete gli strumenti giusti e proteggete oggi la vostra azienda dalla crescente minaccia dei deepfake.

"

Domande frequenti

Nella cybersecurity, un deepfake è un contenuto sintetico generato dall'IA che imita una persona reale con grande fedeltà. Video o registrazioni audio così manipolati possono essere usati per frodi, disinformazione o per eludere i controlli di sicurezza.

I deepfake possono essere usati per attacchi informatici. Gli aggressori informatici possono usarli per impersonare persone autorevoli, manipolare le comunicazioni o eludere l'autenticazione biometrica.

I deepfake comportano gravi minacce per le organizzazioni, tra cui danni alla reputazione, frodi finanziarie e perdita di fiducia nelle comunicazioni digitali. I deepfake malevoli possono impersonare i dirigenti, manipolare l'opinione pubblica o eludere i controlli di sicurezza.

Le manipolazioni tradizionali delle immagini, come quelle realizzate con Photoshop o i semplici faceswap, richiedono modifiche manuali e spesso lasciano tracce visibili. I deepfake, invece, sfruttano algoritmi di deep learning per generare contenuti molto realistici, come video o audio, con un intervento umano minimo. Il risultato è più convincente e può essere più difficile da rilevare e smascherare.

La legalità dei deepfake dipende dalla giurisdizione e dallo scopo. In molti paesi, creare o condividere contenuti manipolati non è di per sé illegale, ma usare i deepfake per frodi, diffamazione o molestie può violare la legge. Alcune regioni stanno introducendo norme per sanzionare la creazione e la diffusione di deepfake malevoli, in risposta alla crescente preoccupazione per il loro uso improprio.

I deepfake possono minare la fiducia nei contenuti digitali creando immagini, video o audio falsi ma convincenti. Possono diffondere disinformazione, manipolare l'opinione pubblica o rappresentare persone in situazioni compromettenti. I criminali informatici li sfruttano per truffe, ricatti e spionaggio aziendale, minacciando la privacy, la reputazione e la sicurezza delle persone.

Sì. I ricercatori usano sofisticati algoritmi di IA per individuare artefatti o incongruenze nelle immagini, nei video o negli audio deepfake. I metodi di rilevamento analizzano i movimenti del viso, le anomalie a livello di pixel o i metadati alla ricerca di segni di manipolazione. Tuttavia, con l'evoluzione dei deepfake, queste tecniche devono adattarsi continuamente. Riconoscerli resta una sfida costante per la cybersecurity.

L'IA usa generalmente reti generative avversarie (GANs) per creare deepfake. Un modello generatore crea contenuti sintetici, mentre un modello discriminatore ne valuta l'autenticità. Attraverso cicli di addestramento ripetuti, il generatore perfeziona i risultati finché non appaiono convincentemente reali. Questo processo permette all'IA di fabbricare volti, voci o intere scene con un elevato grado di realismo.

Creare deepfake semplici è diventato più accessibile grazie ad app intuitive e tutorial online. Produrre deepfake ad alta risoluzione e molto convincenti richiede però ancora hardware avanzato, competenze tecniche e una notevole potenza di elaborazione. La difficoltà dipende soprattutto dalla qualità e dal realismo desiderati, ma nel complesso le barriere si sono abbassate, aumentando le preoccupazioni per un uso improprio su larga scala.

Cercate movimenti del viso innaturali, luci o ombre incoerenti e una sincronizzazione labiale imprecisa. Osservate le anomalie più sottili nella texture della pelle, nella frequenza con cui la persona sbatte le palpebre o nei riflessi. Anche l'audio può presentare intonazioni o ritmi insoliti. Usate inoltre strumenti di analisi video o rilevatori basati sull'IA per verificare l'autenticità. Confrontate sempre più fonti prima di fidarvi di contenuti sospetti.

La tecnologia deepfake presenta ancora limiti nel riprodurre espressioni facciali estreme, sfondi complessi o illuminazione dinamica. Risultati di alta qualità richiedono notevoli risorse di compute e competenze tecniche. Inoltre, i vincoli etici e legali ne limitano gli usi leciti, come l'intrattenimento o la ricerca accademica. Con l'espansione delle normative, un uso responsabile deve bilanciare innovazione, privacy e sicurezza.

Le organizzazioni possono adottare l'autenticazione a più fattori e verifiche biometriche per confermare le identità, senza affidarsi soltanto a segnali visivi o audio. Anche formare regolarmente il personale sulle minacce dei deepfake e verificare le richieste insolite tramite canali sicuri rafforza la protezione. Strumenti di rilevamento basati sull'IA, monitoraggio dei social media e collaborazione con esperti di cybersecurity consolidano ulteriormente le difese.

Sì. Gli aggressori possono creare imitazioni realistiche di dirigenti, politici o dipendenti per indurre le vittime a rivelare informazioni sensibili, autorizzare transazioni o prendere determinate decisioni. Voci deepfake durante le chiamate o video alterati in modo convincente possono aggirare i metodi di verifica tradizionali.

Scopri di più su Sicurezza informatica

Decorative background gradient

Scopri la piattaforma di cybersecurity più avanzata

Scopri come la piattaforma di cybersecurity autonoma e più intelligente al mondo può proteggere la tua organizzazione oggi e in futuro.
Dark dashboard UI with purple-highlighted nav, summary cards showing 149, 7, 78, 56, 1.2 h, and a status table with linked purple text