Deepfake può ingannare il riconoscimento facciale? Un nuovo studio dice di sì!

I deepfake e i video generati dall’intelligenza artificiale sono qui per restare. Ma negli ultimi anni sono cresciuti in qualità e quantità, facendo preoccupare molte persone per la sicurezza nazionale e la privacy personale.

Tuttavia, non importa quanto gli utenti online anonimi abbiano cercato di rendere realistico il loro video falso, non sono mai riusciti a superare il software avanzato di riconoscimento facciale. Finora.

Ingannare le API di riconoscimento facciale

I ricercatori della Sungkyunkwan University di Suwon, in Corea del Sud, hanno testato la qualità dell’attuale tecnologia deepfake . Hanno testato sia le API di Amazon che quelle di Microsoft utilizzando software di generazione di video deepfake open-source e comunemente usati per vedere come si comportano.

I ricercatori hanno utilizzato i volti delle celebrità di Hollywood. Per creare deepfake solidi, il software ha bisogno di molte immagini di alta qualità da diverse angolazioni delle stesse persone, che sono molto più facili da acquisire di celebrità anziché persone normali.

I ricercatori hanno anche deciso di utilizzare l’API di Microsoft e Amazon come benchmark per il loro studio poiché entrambe le società offrono servizi di riconoscimento facciale di celebrità. Hanno utilizzato set di dati disponibili pubblicamente e hanno creato poco più di 8.000 deepfake. Da ogni video deepfake, hanno estratto più faceshot e li hanno inviati alle API in questione.

Con Azure Cognitive Services di Microsoft, i ricercatori sono stati in grado di ingannare il sistema il 78% delle volte utilizzando deepfake. I risultati di Amazon sono stati leggermente migliori, con il 68% dei volti presentati identificati come reali.

Che dire dei rivelatori Deepfake?

I rilevatori di deepfake funzionano più o meno allo stesso modo dei deepfake. I rilevatori sono software addestrati utilizzando modelli di apprendimento automatico su come rilevare i video deepfake.

Ma invece di concentrarsi sulla creazione di un video iperrealistico per ingannare i rilevatori, i deepfake possono ora includere esempi contraddittori in ogni fotogramma per confondere il sistema di intelligenza artificiale. In effetti, gli attacchi deepfake di questo tipo hanno percentuali di successo che vanno dal 78 al 99 percento .

Sta peggiorando

I deepfake sono un’applicazione di apprendimento automatico . Per crearne uno che sia anche solo lontanamente convincente, sono necessarie centinaia di immagini del viso della stessa persona da diverse angolazioni e che mostrino varie emozioni.

A causa della necessità di enormi quantità di dati, si potrebbe pensare che solo le persone con una grande presenza online siano a rischio, come celebrità e politici. Ma non è più così.

Secondo Deeptrace, il numero di deepfake online è aumentato del 330 percento in meno di un anno, da ottobre 2019 a giugno 2020. Per non parlare del fatto che il software e gli algoritmi utilizzati dai produttori di deepfake stanno diventando più forti e più facilmente disponibili e accessibili.

Chi è a rischio di deepfake?

Quando i deepfake sono diventati mainstream, le preoccupazioni principali erano per la privacy e la sicurezza nazionale . La gente temeva che non ci si potesse più fidare delle riprese video di politici e funzionari governativi.

Ma mentre sarebbe irresponsabile ignorare la posa del deepfake del rischio per la sicurezza, diversi sondaggi hanno scoperto che i produttori di deepfake non sono ancora così interessati a disturbare la politica. La maggior parte dei video deepfake online può essere suddivisa in due categorie: video divertenti di interviste a celebrità e film e materiale pornografico.

Sebbene il recente studio sia stato condotto utilizzando volti di celebrità per garantire che i deepfake fossero di alta qualità per ingannare le API, ciò non significa che non sia possibile creare deepfake con meno dati. Certo, potrebbero non avere alcuna possibilità di ingannare i sistemi di riconoscimento facciale avanzati, ma possono essere abbastanza convincenti da ingannare altre persone.

Al giorno d’oggi, i deepfake di chiunque abbia una presenza sociale possono essere realizzati in modo convincente. Tutto ciò di cui hanno bisogno sono alcune tue foto e forse un video in cui appari. Il deepfake risultante potrebbe essere di bassa qualità, ma è comunque fattibile e può essere dannoso.

Il futuro è ancora sconosciuto

Ci sono molte previsioni contraddittorie sullo stato dei deepfake, in quanto non se ne andranno presto.

Alcuni si aspettano un futuro cyber apocalittico in cui non puoi fidarti di nessun filmato che trovi online. Altri sono più ottimisti, confrontando i deepfake con l’animazione e affermando che potrebbe avere un futuro nella produzione di contenuti.