I creatori di deepfake stanno interrompendo le videochiamate e i ricercatori stanno cercando di smascherarli.
Partecipare a una riunione in videoconferenza con il proprio capo e alcuni colleghi familiari è un altro ambito vulnerabile ai crimini informatici, e tutto a causa della tecnologia deepfake . I ricercatori del Fraunhofer Institute for Secure Information Technology (SIT) stanno lavorando a un sistema di allarme in tempo reale progettato per identificare i tentativi di frode durante le videoconferenze aziendali.
Il rapporto afferma che i criminali prendono sempre più di mira le riunioni video per furto d'identità e frodi finanziarie, sfruttando la fiducia che le persone ripongono in volti e voci familiari. L'obiettivo è segnalare attività sospette mentre la riunione è ancora in corso. Questo dà al dipendente la possibilità di fermarsi prima di seguire un'istruzione costosa impartita da un dirigente generato dall'intelligenza artificiale.
Come viene falsificato un intero incontro adesso
abel="Ingrandisci" data-wp-init="callbacks.initTriggerButton" data-wp-on-async–click="actions.showLightbox" data-wp-style–right="state.imageButtonRight" data-wp-style–top="state.imageButtonTop"> La minaccia non è più così facile da individuare. Non si tratta più di un semplice volto mal sincronizzato che crea un effetto perturbante. I ricercatori hanno citato un caso a Hong Kong in cui un dipendente ha partecipato a una videoconferenza con diversi presunti colleghi. Tutti gli altri partecipanti alla riunione erano falsi. I criminali avrebbero avuto accesso a materiale video interno e utilizzato voci generate dall'intelligenza artificiale per impersonare i dipendenti dell'azienda, convincendo infine la vittima a trasferire quasi 24 milioni di euro. La vittima ha scoperto la frode solo dopo aver parlato con il suo vero capo.
Il giudizio umano offre una protezione limitata contro una messinscena convincente . Uno studio separato del 2025 ha mostrato agli studenti un video manipolato in cui il loro professore veniva sostituito utilizzando uno strumento di scambio di volti in tempo reale, liberamente disponibile. Venticinque dei 34 partecipanti, ovvero il 74%, non si sono accorti che il video era stato alterato prima che i ricercatori glielo dicessero. Quando diversi volti familiari appaiono insieme, la loro presenza può rafforzare l'illusione e far sembrare legittima una richiesta insolita.
Un avviso dovrebbe avviare la verifica pprocesso
La ricerca di Fraunhofer nel campo della media forensics combina l'apprendimento profondo con l'elaborazione del segnale per individuare indizi come strutture facciali sfocate, incongruenze tra regioni dell'immagine e altre piccole anomalie. Tuttavia, è sempre opportuno valutare attentamente qualsiasi segnale di allarme .
Un ricercatore, Martin Steinebach, ha precedentemente avvertito che i rilevatori automatici di deepfake possono produrre abbastanza errori da causare confusione quando utilizzato durante le chiamate in diretta. Quindi il sistema in fase di sviluppo da parte di Fraunhofer potrebbe fornire la spinta cruciale prima che l'urgenza e un volto familiare generato dall'IA convincano qualcuno ad agire.
