I principali pericoli dei deepfake e come individuarli

In un mondo in cui la tua identità online si collega direttamente a te, la prospettiva di una replica perfetta è preoccupante. Ma questo è esattamente ciò che dobbiamo affrontare con l'avvento della tecnologia deepfake.

Man mano che la tecnologia diventa più economica e facile da usare, quali sono i pericoli dei deepfake? Inoltre, come puoi individuare un deepfake rispetto al vero affare?

Cos'è un deepfake?

Un deepfake è il nome dato ai media in cui una persona nel video o nell'immagine viene sostituita con la somiglianza di qualcun altro. Il termine è una combinazione di "deep learning" e "fake" e utilizza algoritmi di machine learning e intelligenza artificiale per creare media realistici ma sintetici.

Nella sua forma più semplice, potresti trovare una faccia sovrapposta a un altro modello. Al suo peggio in rapido sviluppo, la tecnologia deepfake ricama vittime ignare in video pornografici falsi, notizie false, bufale e altro.

Puoi leggere di più sulle origini della tecnologia nella nostra spiegazione deepfake .

Quali sono i pericoli dei deepfakes?

Le immagini false sono sempre esistite. Capire cosa è falso e cosa non lo è è una parte comune della vita, soprattutto dopo l'ascesa dei media digitalizzati. Ma i problemi che la tecnologia deepfake crea sono diversi, portando un'accuratezza senza precedenti a immagini false e video falsi.

Uno dei primi video deepfake a colpire un pubblico più ampio è stato Jordan Peele che impersona Barack Obama in un video che discute del problema in questione:

Il video appare grezzo, con una voce strana e artefatti granulosi sulla faccia clonata. Tuttavia, illustra la tecnologia deepfake.

O ti sei mai chiesto come sarebbe stato se Will Smith avesse interpretato Neo in The Matrix invece di Keanu Reeves (voglio dire, chi non l'ha fatto ?!)? Non mi chiedo più:

Questi due video non sono dannosi e la compilazione richiede centinaia di ore di apprendimento automatico. Ma la stessa tecnologia è disponibile per chiunque abbia abbastanza tempo per imparare e la potenza di calcolo necessaria. La barriera all'uso della tecnologia deepfake era inizialmente piuttosto alta. Ma man mano che la tecnologia migliora e le barriere all'ingresso diminuiscono in modo significativo, le persone trovano usi negativi e dannosi per i deepfake.

Prima di addentrarci nel lato oscuro dei deepfake, ecco Jim Carrey che sostituisce Jack Nicholson in Shining:

1. Materiale per adulti falso con personaggi famosi

Una delle principali minacce della tecnologia deepfake è il materiale sintetico per adulti, o deepfake porn come è noto. Ci sono decine di migliaia di falsi video per adulti con i volti di importanti celebrità femminili, come Emma Watson, Natalie Portman e Taylor Swift.

Tutti utilizzano algoritmi di apprendimento automatico deepfake per ricamare il volto di una celebrità sul corpo di un'attrice adulta e tutti attraggono decine di milioni di visualizzazioni sui numerosi siti Web di contenuti per adulti.

Eppure nessuno di questi siti fa nulla per i deepfake delle celebrità.

"Fino a quando non ci sarà un motivo valido per cercare di eliminarli e di filtrarli, non accadrà nulla", afferma Giorgio Patrini, CEO e chief scientist di Sensity, una società di rilevamento e analisi dei deepfake. "Le persone saranno comunque libere di caricare questo tipo di materiale senza alcuna conseguenza su questi siti web che vengono visualizzati da centinaia di milioni di persone".

I video sono sfruttatori e tutt'altro che privi di vittime, come affermano alcuni creatori di deepfake.

2. Materiale per adulti falso con persone normali

Cosa c'è di peggio del porno sintetico con celebrità? Esatto: materiale falso per adulti con donne ignare. Uno studio di Sensity ha scoperto un bot deepfake sull'app di messaggistica social, Telegram, che aveva creato oltre 100.000 immagini di nudo deepfake. Molte delle immagini vengono rubate dagli account dei social media, con amici, fidanzate, mogli, madri, ecc.

Il bot è un importante progresso nella tecnologia deepfake, poiché l'uploader di immagini non necessita di conoscenze esistenti di deepfake, machine learning o intelligenza artificiale. È un processo automatizzato che richiede una singola immagine. Inoltre, il bot di Telegram sembra funzionare solo con le immagini delle donne e gli abbonamenti premium (più immagini, filigrana rimossa) sono ridicolmente economici.

Come i deepfake delle celebrità, le immagini deepfake del bot di Telegram sono sfruttatrici, offensive e amorali. Potrebbero facilmente trovare la strada per la posta in arrivo di un marito, partner, membro della famiglia, collega o capo, distruggendo vite nel processo. Il potenziale di ricatto e altre forme di estorsione è molto alto e aumenta la minaccia derivante da problemi esistenti, come il revenge porn.

Pubblicare i deepfake su Telegram crea anche un altro problema. Telegram è un servizio di messaggistica incentrato sulla privacy che non interferisce troppo con i suoi utenti. Ha una politica di rimozione di robot porno e altri robot relativi a materiale per adulti, ma in questo caso non ha fatto nulla.

3. Materiale falso

Hai visto Jordan Peele interpretare Obama. In quel video, avverte dei pericoli dei deepfake. Una delle maggiori preoccupazioni per quanto riguarda la tecnologia deepfake è che qualcuno creerà e pubblicherà un video così realistico da portare a una tragedia di qualche forma.

All'estremità più estrema della scala, le persone dicono che i contenuti video deepfake potrebbero innescare una guerra. Ma ci sono anche altre importanti conseguenze. Ad esempio, un video deepfake in cui una grande azienda o CEO di una banca fa una dichiarazione dannosa potrebbe innescare un crollo del mercato azionario. Di nuovo, è estremo. Ma le persone reali possono controllare e verificare un video, mentre i mercati globali reagiscono immediatamente alle notizie e si verificano svendite automatiche.

L'altra cosa da considerare è il volume. Con i contenuti deepfake che diventano sempre più economici da creare, aumenta la possibilità di enormi quantità di contenuti deepfake della stessa persona, concentrandosi sulla consegna dello stesso messaggio falso in toni, luoghi, stili e altro ancora diversi.

4. Negare materiale reale

Come estensione del materiale bufala, devi considerare che i deepfake diventeranno incredibilmente realistici. Tanto che le persone inizieranno a chiedersi se un video sia reale o meno, indipendentemente dal contenuto.

Se qualcuno commette un crimine e l'unica prova è il video, cosa gli impedisce di dire: "È un deepfake, è una prova falsa"? Al contrario, che ne dici di piantare prove video deepfake che qualcuno possa trovare?

5. Leader di pensiero fasullo e contatti sociali

Ci sono già stati diversi casi in cui sono stati coinvolti contenuti deepfake che si atteggiano a leader di pensiero. I profili su LinkedIn e Twitter descrivono in dettaglio ruoli di alto rango nelle organizzazioni strategiche, ma queste persone non esistono e sono probabilmente generate utilizzando la tecnologia deepfake.

Detto questo, questo non è un problema specifico del deepfake. Sin dall'alba dei tempi, i governi, le reti di spionaggio e le aziende hanno utilizzato profili e personaggi falsi per raccogliere informazioni, promuovere ordini del giorno e manipolare .

6. Truffe di phishing, ingegneria sociale e altre truffe

L'ingegneria sociale è già un problema quando si parla di sicurezza. Le persone vogliono fidarsi delle altre persone. È nella nostra natura. Ma questa fiducia può portare a violazioni della sicurezza, furto di dati e altro ancora. L'ingegneria sociale spesso richiede un contatto personale, sia per telefono, tramite videochiamata e così via.

Supponiamo che qualcuno possa utilizzare la tecnologia deepfake per imitare un regista per ottenere l'accesso a codici di sicurezza o altre informazioni sensibili. In tal caso, potrebbe portare a un diluvio di truffe deepfake.

Come individuare e rilevare i deepfake

Con l'aumento della qualità dei deepfake, è importante capire per individuare un deepfake. Agli inizi c'erano alcuni semplici indizi: immagini sfocate, corruzioni e artefatti video e altre imperfezioni. Tuttavia, questi problemi rivelatori stanno diminuendo mentre il costo dell'utilizzo della tecnologia sta diminuendo rapidamente.

Non esiste un modo perfetto per rilevare i contenuti deepfake, ma ecco quattro utili suggerimenti:

  1. Dettagli . Per quanto la tecnologia deepfake stia diventando, ci sono ancora parti con cui lotta. In particolare, dettagli fini all'interno dei video, come il movimento dei capelli, il movimento degli occhi, le strutture delle guance e il movimento durante il discorso ed espressioni facciali innaturali. Il movimento degli occhi è un grande indizio. Sebbene i deepfake ora possano sbattere le palpebre in modo efficace (nei primi giorni, questo era un elemento importante), il movimento degli occhi è ancora un problema.
  2. Emozione . Legare i dettagli è emozione. Se qualcuno sta facendo una dichiarazione forte, il suo viso mostrerà una serie di emozioni mentre fornisce i dettagli. I deepfakes non possono fornire la stessa profondità di emozioni di una persona reale.
  3. Incoerenza . La qualità del video è ai massimi storici. Lo smartphone in tasca può registrare e trasmettere in 4K. Se un leader politico fa una dichiarazione, è di fronte a una stanza piena di apparecchiature di registrazione di alto livello. Pertanto, la scarsa qualità della registrazione, sia visiva che udibile, è una notevole incoerenza.
  4. Fonte . Il video viene visualizzato su una piattaforma verificata? Le piattaforme di social media utilizzano la verifica per garantire che le persone riconoscibili a livello globale non vengano imitate. Certo, ci sono problemi con i sistemi. Ma controllare da dove viene trasmesso o ospitato un video particolarmente eclatante ti aiuterà a capire se è reale o meno. Puoi anche provare a eseguire una ricerca di immagini inversa per rivelare altre posizioni in cui l'immagine si trova su Internet.

Strumenti per individuare e prevenire i deepfake

Non sei il solo a combattere contro i deepfake. Diverse importanti aziende tecnologiche stanno sviluppando strumenti per il rilevamento dei deepfake, mentre altre piattaforme stanno adottando misure per bloccare i deepfake in modo permanente.

Ad esempio, lo strumento di rilevamento deepfake di Microsoft, Microsoft Video Authenticator , analizzerà in pochi secondi, informando l'utente della sua autenticità (controlla la GIF di seguito per un esempio). Allo stesso tempo, Adobe ti consente di firmare digitalmente i contenuti per proteggerli dalla manipolazione.

Piattaforme come Facebook e Twitter hanno già bandito i deepfake dannosi (i deepfake come Will Smith in The Matrix sono ancora un gioco leale), mentre Google sta lavorando a uno strumento di analisi della sintesi vocale per contrastare i frammenti audio falsi.

Se vuoi rispolverare le tue capacità di rilevamento di file multimediali falsi, controlla il nostro elenco di test di rilevamento falsi per individuare e apprendere .

I deepfake stanno arrivando e stanno migliorando

La verità della questione è che da quando i deepfake sono diventati mainstream nel 2018, il loro uso principale è abusare delle donne. Che si tratti di creare porno falso usando un volto di celebrità o di spogliare i vestiti di qualcuno sui social media, tutto si concentra sullo sfruttamento, la manipolazione e il degrado delle donne in tutto il mondo.

Non c'è dubbio che un'insurrezione di deepfakes sia all'orizzonte. L'ascesa di tale tecnologia rappresenta un pericolo per il pubblico, ma c'è poco da fare per fermare la sua marcia in avanti.