Microsoft sta distribuendo uno strumento di rilevamento deepfake
Dato che i deepfake sono potenzialmente devastanti per la reputazione di qualcuno e molto difficili da individuare se eseguiti correttamente, sono una delle principali preoccupazioni per la sicurezza. Ora, Microsoft mira ad aiutare a fermare i deepfake rilasciando uno strumento in grado di rilevarli.
La minaccia rappresentata dai deepfake è così sostanziale che Facebook ha vietato tutti i contenuti deepfake . Tuttavia, il più grande ostacolo è il modo in cui i deepfake sono fatti per sembrare convincenti; in quanto tale, individuare e confermare un deepfake è molto difficile.
Come riportato su Microsoft On the Issues , la società vuole cambiare la situazione con il suo nuovo strumento. Si chiama Microsoft Video Authenticator e analizza i video per cercare le "cuciture" lasciate dalla creazione di deepfake. Queste cuciture sono invisibili agli occhi umani, ma un computer può individuarle utilizzando l'analisi fotogramma per fotogramma.
Per impedire agli agenti dannosi di decodificare la tecnologia, Microsoft Video Authenticator non sarà una versione pubblica. Invece, Microsoft sta distribuendo il suo sistema alle notizie e alle organizzazioni politiche. In questo modo, quelle organizzazioni possono utilizzare lo strumento per separare il reale dal falso.
Tuttavia, Microsoft ha annunciato una seconda tecnologia per identificare i deepfake. L'azienda propone un sistema in cui un creatore di contenuti può taggare i propri video con una "firma" unica. Se il video viene modificato, genererà una firma diversa dall'originale, identificando così un deepfake.
L'autrice di Deep Fakes and the Infocalypse, Nina Schick, ha detto quanto segue:
L'unico uso veramente diffuso che abbiamo visto finora è nella pornografia non consensuale contro le donne.
Ma ci si aspetta che i media sintetici diventino onnipresenti in circa tre o cinque anni, quindi dobbiamo sviluppare questi strumenti in futuro.
Tuttavia, man mano che le capacità di rilevamento migliorano, così sarà anche la capacità di generazione: non accadrà mai che Microsoft possa rilasciare uno strumento in grado di rilevare tutti i tipi di manipolazione video.
I deepfake sono un problema significativo per la credibilità dei media e le aziende hanno bisogno di un modo per distinguere ciò che è reale da ciò che è finzione. Microsoft ha rilasciato uno strumento per aiutare a individuare i video modificati. Tuttavia, se lo strumento sarà sufficiente o meno per tenere il passo con gli sviluppatori deepfake è ancora da vedere.
Se non sei sicuro di cosa siano i deepfake e perché siano importanti, vale sicuramente la pena dedicare del tempo per conoscerli. I deepfake sono destinati a diventare l'equivalente di questo decennio delle immagini "Photoshopping" e possono causare gravi danni se usati in modo dannoso.
