"Stranger Things": Video AI Deepfake suscita allarme

Letto: 68

Un video virale, creato presumibilmente con il controllo del movimento 2.6 di Kling AI, ha generato discussioni sui social media questa settimana. Il video, che mostra il creatore di contenuti brasiliano Eder Xavier che scambia il proprio viso e corpo con gli attori di Stranger Things, Millie Bobby Brown, David Harbour e Finn Wolfhard, ha ottenuto oltre 14 milioni di visualizzazioni su X.

Il filmato ha attirato l’attenzione di esperti del settore, tra cui Justin Moore, partner di a16z, che ha condiviso il video dall’account Instagram di Xavier. Moore ha commentato la rapidità con cui l’intelligenza artificiale sta trasformando il settore della produzione video, sottolineando la possibilità di sostituire un numero illimitato di personaggi a un costo minimo.

Con il progresso degli strumenti di generazione di immagini e video, come Kling, Veo 3.1 di Google, Nano Banana, FaceFusion e Sora 2 di OpenAI, i ricercatori mettono in guardia sulla potenziale diffusione di tecnologie simili a quella vista nel video virale.

Gli esperti avvertono che la facilità con cui è possibile manipolare l’identità digitale potrebbe portare a frodi. Emmanuel Saliba, capo ricercatore presso GetReal Security, ha dichiarato che “non è mai stato così facile rubare le sembianze digitali di una persona, inclusa la sua voce e il suo volto”, e che “nessuno è al sicuro”. Saliba prevede un aumento delle frodi, dalle truffe individuali alle campagne di disinformazione coordinate.

Yu Chen, professore di ingegneria elettrica e informatica alla Binghamton University, evidenzia le nuove sfide poste dallo scambio di personaggi di tutto il corpo, che va oltre la semplice manipolazione del viso. Chen ha spiegato che questi sistemi devono gestire simultaneamente la stima della posa, il tracciamento dello scheletro, il trasferimento di vestiti e texture, e la sintesi del movimento naturale.

Oltre al video con gli attori di Stranger Things, è stato pubblicato un video con lo scambio del corpo di Leonardo DiCaprio da *The Wolf of Wall Street*.

Chen ha osservato che le precedenti tecniche di deepfake si concentravano principalmente sulla sostituzione delle regioni facciali, mentre i nuovi metodi di scambio di personaggi di tutto il corpo richiedono tecniche di rilevamento più sofisticate.

Chen ha espresso preoccupazione per le frodi finanziarie e sull’identità, ma ha sottolineato che ci sono altri rischi, come la creazione di immagini intime non consensuali. Saliba e Chen hanno inoltre menzionato la disinformazione politica e lo spionaggio aziendale come potenziali minacce.

Chen ha affermato che gli sviluppatori di modelli di intelligenza artificiale disponibili pubblicamente hanno un ruolo chiave nell’implementazione di misure di salvaguardia. Tuttavia, ha aggiunto che la responsabilità dovrebbe essere condivisa tra piattaforme, responsabili politici e utenti finali. Le piattaforme devono investire in canali di rilevamento automatizzato e revisione umana, mentre i politici dovrebbero definire quadri di responsabilità chiari e requisiti di divulgazione.

Man mano che questi strumenti diventano più diffusi, Chen ritiene che i ricercatori debbano dare la priorità a modelli di rilevamento che identificano le caratteristiche statistiche essenziali dei contenuti sintetici, piuttosto che fare affidamento su metadati facilmente eliminabili. La democratizzazione di queste capacità richiede sistemi di risposta rapidi ed efficaci.

La clip ha attirato anche l’attenzione dei tecnici, incluso il partner di a16z Justin Moore, che ha condiviso il video dall’account Instagram di Xavier.

Il video si è diffuso ampiamente sulle piattaforme social, con oltre 14 milioni di visualizzazioni su X, e successivamente sono state pubblicate versioni aggiuntive.

I ricercatori affermano che i deepfake di tutto il corpo rimuovono i segnali visivi precedentemente utilizzati per rilevare la manipolazione del solo volto.