Se muoio, per favore non “rianimarmi” con Sora

Di recente, l'episodio del prodotto più venduto della Porsche, falsificato intenzionalmente dall'intelligenza artificiale in un video, è diventato un argomento scottante e la donna si è rivolta immediatamente alla polizia.

Ma non è l'unica vittima. L'elenco dei personaggi pubblici falsificati e parodiati dall'intelligenza artificiale continua ad allungarsi, arrivando persino a includere personaggi deceduti.

Se Hawking, che è seduto su una sedia a rotelle, si vedesse attaccato da un coccodrillo o picchiato da un pugile, probabilmente chiamerebbe immediatamente la polizia.

Questo tipo di video che resuscita i morti e fa loro degli scherzi è diventato di recente uno dei video più popolari sull'app Sora.

In linea di principio, a OpenAI è vietato produrre e generare video di personaggi pubblici viventi senza il loro consenso. Questo è anche il motivo principale per cui Cameo è stato lanciato nell'app Sora: aiutare gli utenti a condividere i propri personaggi.

Quindi, all'inizio, i video di Sora erano tutti scherzi a Ultraman, con lui che rubava schede grafiche, imparava a cantare e ballare e si comportava in modo carino. Ma presto, alcuni utenti scoprirono che questa restrizione conteneva un bug importante: a Sora era permesso creare video di personaggi pubblici defunti .

Grazie alla sua riproduzione realistica di personaggi defunti, alla sua velocità di creazione e alla sua capacità di diffondere parodie, Sora salì rapidamente in cima alle classifiche delle app. In meno di cinque giorni, Sora superò il milione di download, superando la velocità di ChatGPT di allora.

Se muoio, smettetela di scherzare con l'IA

La figlia di Robin Williams, Zelda, ha pubblicamente chiesto sui social media di smettere di inviarle il video di suo padre generato dall'intelligenza artificiale. Nel video, suo padre viene "resuscitato" con l'aiuto di Sora 2 e inizia a recitare in altri copioni. Robin Williams è un attore che ha interpretato il signor Keating in "L'attimo fuggente".

Tra i video su Robin che circolano di recente sui social media figurano una falsa pubblicità della Apple e un'interazione tra Robin e un altro attore deceduto durante una cerimonia di premiazione.

I video parodia di personaggi defunti hanno suscitato insoddisfazione in un numero considerevole di famiglie. Oltre a Zelda Williams, che da tempo si oppone ai contenuti generati dall'intelligenza artificiale, anche lei ha espresso con rabbia su Instagram la sua posizione definendo questi video piuttosto disgustosi.

Vedere l'eredità di persone reali ridotta a "probabilmente questo assomiglia e parla come loro, quindi è abbastanza".

È stupido, uno spreco di tempo ed energie e, credetemi, non è sicuramente ciò che vuole vedere.

La figlia di Martin Luther King Jr., Bernice King, ha ritwittato i commenti di Zelda su questi video di intelligenza artificiale e ha dichiarato senza mezzi termini: "Per favore, smettetela". Un sentimento simile è emerso anche dalla figlia del comico George Carlin, che ha addirittura affermato che la sua famiglia sta facendo del suo meglio per combattere i deepfake.

Queste figure defunte vengono spesso riprodotte su Sora a scopo di parodia. La famosa esibizione di Martin Luther King era costellata di balbuzie; Bruce Lee organizzò una festa con DJ "Dragon Energy"; e Michael Jackson si esibì in uno spettacolo di stand-up comedy a tema cucina, tenendo in mano una banana.

Per non parlare dei vari video all'inizio su Hawking, un fisico in sedia a rotelle affetto da SLA che si ribalta spesso su una gigantesca rampa da skateboard.

Siamo davvero pronti per i social media nell'era dell'intelligenza artificiale?

Queste parodie di celebrità defunte sono inevitabilmente piene di meme; dopotutto, è proprio questo lo scopo della parodia. La maggior parte degli internauti ha reagito al video di Hawking con commenti come: "Non c'è da stupirsi che Hawking abbia messo in guardia contro la ricerca sull'intelligenza artificiale", "Dopo aver visto questo video, Yu Hua si è girato a guardare Shi Tiesheng" e "Shi Tiesheng: sono solo un novellino".

Alcuni internauti hanno risposto giustamente, dicendo: "Quando una persona muore, è morta. Non voglio essere ridotto a dati e usato come un animale domestico digitale". Tuttavia, il commento successivo è stato: "Ci sto pensando troppo". Queste parodie, che prendono di mira per lo più personaggi famosi, hanno poca rilevanza per la gente comune.

Il fatto è che il problema delle nostre risorse digitali e dei video falsi generati dall'intelligenza artificiale è sempre esistito. Di recente, l'account NetEase Cloud di Coco Lee è stato utilizzato da un altro utente a causa della ripubblicazione del suo numero di telefono da parte dell'operatore, che ha così potuto vedere gli auguri dei fan nella sua casella di posta.

Questo incidente è già abbastanza inquietante, ma in un'epoca in cui i video basati sull'intelligenza artificiale sono dilaganti, questa risorsa digitale non solo sarà soggetta a spionaggio , ma anche a varie forme di falsificazione e manomissione attive.

Se, dopo la mia morte, i miei account sui social media fossero stati accessibili ad altri e i miei contenuti privati ​​fossero stati visibili, probabilmente non vorrei che ciò accadesse. Ciò che trovo ancora più inaccettabile è la possibilità che l'intelligenza artificiale possa cancellare ogni traccia digitale di me – le mie foto, la mia voce e le mie parole digitate – e usarle per creare un "io" che non ho mai riconosciuto.

Non sta più consumando ciò che lascio dietro di me, ma piuttosto sta consumando un "me" che ha fabbricato.

Questa cosiddetta "resurrezione" non è affatto un ricordo causato dalla mancanza di qualcuno. È semplicemente l'occupazione di un'identità e una sostituzione redditizia.

Nessuno vuole che i propri asset digitali vengano riutilizzati. Nell'era dell'intelligenza artificiale, TikTok ha praticamente azzerato i costi di produzione dei video, rendendo meno evidenti i confini della manipolazione.

Ciò di cui dobbiamo occuparci non è più solo il problema della sicurezza di un account.

Qual è l'atteggiamento di OpenAI al riguardo? Ultraman ha scritto in un post sul blog che questi comportamenti creativi secondari degli utenti dovrebbero essere definiti come una sorta di "fan fiction interattiva".

Questo termine cattura accuratamente la loro visione di questi video basati sull'intelligenza artificiale. Gli utenti stanno semplicemente creando opere secondarie basate su simboli culturali familiari, che poi si diffondono. Ma che dire della parodia e dell'abuso? Come possono le persone decedute scegliere se la loro immagine può essere manipolata nell'app Sora?

In una recente intervista podcast, Altman ha persino affermato che la maggior parte dei cosiddetti detentori di copyright in realtà desidera che i propri contenuti vengano ricreati . Vogliono solo determinate regole su cosa può apparire nei video di intelligenza artificiale e su quante modifiche possono essere apportate. Ha previsto:

Oggi la gente dice: "Non voglio che i miei contenuti appaiano nei video dell'intelligenza artificiale", ma l'anno prossimo potrebbero lamentarsi: "Perché i miei contenuti non sono ancora stati inclusi?"

Prendendo in prestito le parole di altri parenti che stanno vivendo la morte dei loro padri e riprodotte in serie con i video parodia di Sora,

Perché gli sviluppatori non riescono ad agire con la stessa moralità, coscienza e cura che avrebbero nei confronti dei propri familiari?

Ovviamente, questo comportamento di utilizzare il patrimonio digitale di altre persone senza il loro consenso è in una certa misura immorale e può persino essere interpretato come un "furto di tombe digitali" nell'era dell'intelligenza artificiale.

Dopo aver ascoltato numerose obiezioni da parte dei parenti, OpenAI ha inizialmente risposto alle richieste dei media, affermando che la politica si basava su "forti interessi di libertà di parola nel rappresentare personaggi storici". La scorsa settimana, OpenAI ha annunciato che avrebbe iniziato a consentire ai rappresentanti di personaggi pubblici "recentemente deceduti" di richiedere che la loro immagine non apparisse nei video di Sora.

Ieri, OpenAI ha risposto nuovamente alla questione. Ha ricevuto una richiesta dagli eredi di Martin Luther King e ha sospeso la produzione di video correlati. Allo stesso tempo, ha menzionato il rafforzamento della protezione dei personaggi storici e la richiesta costante ai familiari di richiedere attivamente il divieto.

Tuttavia, OpenAI non ha specificato cosa si intenda per "persone recentemente decedute".

Ora, quando utilizziamo Sora per generare video, scopriamo che, sia che carichiamo immagini di persone generate dall'intelligenza artificiale o immagini reali, ci viene visualizzato il messaggio "Il caricamento di immagini contenenti persone realistiche non è attualmente supportato".

Come altre truffe online che utilizzano l'intelligenza artificiale per effettuare videochiamate, la "resurrezione" dell'intelligenza artificiale solleva non solo questioni controverse in materia di copyright e considerazioni etiche per il patrimonio digitale, ma anche un'inaccettabile falsificazione. Qualche tempo fa, su TikTok è esplosa una tendenza chiamata "scherzi ai senzatetto con l'intelligenza artificiale".

Un utente ha utilizzato l'intelligenza artificiale per generare foto di senzatetto che irrompono nella sua casa e le ha inviate alla sua famiglia. La famiglia è rimasta "spaventata a morte" dal contenuto.

Il video ha ricevuto oltre cinque milioni di "Mi piace" ed è stato condiviso e imitato dagli utenti. L'agente di polizia locale ha persino pubblicato una risposta speciale.

Lo scherzo disumanizza i senzatetto, spaventa le vittime e spreca risorse della polizia.

Gli agenti di polizia intervenuti non sapevano che si trattasse di uno scherzo e lo hanno trattato come un vero e proprio furto con scasso in corso, che avrebbe potuto creare una situazione pericolosa.

Penso che l'abuso di questo tipo di video falsi e la gestione del patrimonio digitale siano i limiti più importanti da considerare quando si tratta di stabilire se l'intelligenza artificiale possa "resuscitare" persone decedute in futuro.

Potrebbe presto arrivare una "parodia" di TikTok basata sull'intelligenza artificiale, ancora più avvincente di quella attuale. Ultraman punta a fare di Sora proprio questo, ma il suo collo di bottiglia non è chiaramente il bello della parodia.

Risolvere i problemi di fiducia causati da deep fake arbitrari, diritti d'autore sui ritratti trascurati e patrimonio digitale non protetto è l'approccio giusto per affrontare un altro TikTok basato sull'intelligenza artificiale e che crea dipendenza.

In quel momento, forse oserei dire: per favore, usate Sora per rianimarmi.

#Benvenuti a seguire l'account pubblico ufficiale WeChat di iFaner: iFaner (ID WeChat: ifanr), dove vi verranno presentati contenuti ancora più interessanti il ​​prima possibile.

iFanr | Link originale · Visualizza commenti · Sina Weibo