La “testimonianza di una persona deceduta” generata dall’intelligenza artificiale sfida i limiti etici del tribunale
All'uomo che mi ha sparato, vorrei dire: mi dispiace di esserci incontrati quel giorno in circostanze difficili. Forse potremo essere amici nella prossima vita… Credo nel perdono e che Dio perdonerà, e ci credo ancora.
Chris Pelkey, una delle vittime della sparatoria, ha dichiarato alla corte:
Ma lui non era questo. Era tragicamente scomparso in una sparatoria stradale nel 2021.
Il video dell'IA riprodotto al processo è stato realizzato con l'immagine e la voce di Pelkey.
Ciò che è ancora più sorprendente è ciò che accadrà: il giudice ha accettato questa dichiarazione d'impatto sulla vittima generata dall'intelligenza artificiale come testimonianza durante la fase di condanna.
Si è trattato di un processo che ha avuto luogo il 1° maggio di quest'anno presso una corte superiore della contea dell'Arizona, provocando uno shock senza precedenti nella corte penale e persino nell'intero mondo giuridico anglo-americano.
Ciò crea anche un precedente in base al quale i contenuti generati dall'intelligenza artificiale possono essere presentati in tribunale come testimonianza e accettati dal tribunale.
Il processo ha suscitato scalpore su piattaforme come YouTube e Reddit, con molti internauti che hanno espresso la loro incomprensione nei confronti della decisione del giudice di accettare la testimonianza dell'IA.
Alcuni ritengono che il giudice in servizio, Todd Lang, sia "stupido" e che debba essere rimosso dal suo incarico da un'autorità superiore.
Un internauta che ha dichiarato di essere un avvocato ha espresso il suo shock: "Se avessi assunto qualcuno per fare qualcosa di simile al processo, non solo sarei stato fermato in tribunale, ma sarei stato addirittura indagato dall'Ordine degli avvocati".
A prima vista, sembra assurdo e stupido che un tribunale accetti la testimonianza generata dall'intelligenza artificiale a favore di una vittima deceduta. L’atteggiamento di opposizione di questi internauti è del tutto giustificato.
Ma considerando che questo video testimoniale è stato prodotto dalla famiglia della vittima e non ha incontrato obiezioni da parte dell'imputato e del tribunale, la situazione è effettivamente un po' strana e sembra che ci sia qualcos'altro sotto.
Diamo un'occhiata più da vicino a questo incredibile processo.
Dietro la testimonianza dell'IA morta: amore e perdono
Quando Stacey Wales ha avuto l'idea di creare video di intelligenza artificiale come testimonianza, sapeva che sarebbe stata controversa.
Anche suo marito all'inizio trovò difficile accettarlo e pensò che "forse aveva esagerato un po'".
Wales è la sorella di Chris Pelkey, la vittima in questo caso e la persona morta nella sparatoria stradale. Sia lei che suo marito lavorano nel settore tecnologico e non sono estranei agli strumenti di generazione dell'intelligenza artificiale.
L'imputato dovrebbe essere punito dalla legge e anche le vittime sperano che il tribunale possa imporre la pena massima per confortare l'anima di Pelkey in paradiso. Il Galles vuole che l'assassino Gabriel Horcasitas trascorra il resto della sua vita in prigione o che almeno venga condannato alla pena massima per omicidio colposo.
Ma lei crede anche che lo spirito di suo fratello in cielo potrebbe non pensarla così.
Dopo averci pensato per due anni e aver parlato con decine di amici di suo fratello, Wales riuscì a riconobbe suo fratello e di una cosa era assolutamente certo:
Lei stessa potrebbe non essere in grado di perdonare l'imputato, ma suo fratello lo perdonerà sicuramente.
Niente può riportare in vita Pelkey. Ma almeno AI poteva dare a suo fratello un'ultima possibilità di esprimersi: Wales la pensava così e alla fine convinse il marito.
Capì che se avesse deciso di farlo, avrebbe dovuto essere molto attenta e cauta. Se la sceneggiatura del video non fosse buona, l'effetto sarebbe tutt'altro che soddisfacente.
Lo fece subito: raccolse una grande quantità di descrizioni secondarie dai verbali delle interviste fatte nel corso degli anni, elaborò quella che riteneva la più vicina all'immagine di suo fratello e a quello che avrebbe potuto dire in tribunale, e scrisse la sceneggiatura.
Per generare il video hanno utilizzato la fotografia del ritratto di Pelkey e la messa a punto di Stable Diffusion e LORA. Durante il processo, alcuni effetti sono stati distorti. Ad esempio, Wales sperava che suo fratello potesse "sorridere" alle persone che amava e che lo avevano amato per l'ultima volta nel video, ma la lunga barba che gli copriva il collo nella foto era difficile da gestire. Hanno dovuto "tagliargli" la barba e rimuovere gli occhiali da sole attaccati al cappello per rendere l'aspetto e il sorriso di Pelkey più realistici nel video generato.
Il video risultante non è del tutto completo o coerente, con interruzioni e tagli evidenti nella parte centrale. Ma non importa. Wales ha ricreato la voce, l'aspetto e il sorriso del fratello nel video e il risultato l'ha resa soddisfatta.
"Ciao a tutti. Innanzitutto, vorrei chiarire che sono Chris Pelkey, generato dall'intelligenza artificiale utilizzando foto e dati sonori. Oggi vi incontro sotto forma di riproduzione digitale e spero di condividere con voi che tipo di persona sono nella vita reale", dice il gemello digitale di Pelkey all'inizio del video.
In questo video generato dall'intelligenza artificiale, le persone possono vedere un Pelkey più completo: una volta ha prestato servizio nell'esercito degli Stati Uniti ed è stato di stanza in una zona di guerra con condizioni difficili; è un appassionato di pesca, ha la barba ma non è trasandato e rispecchia quasi tutti gli stereotipi del veterano rude.
Ama Dio, ama la vita e ama le persone che lo circondano, e considera la fede e l'amore come l'unico credo della sua vita.
"A Gabriel Horcasitas, l'uomo che mi ha sparato: mi dispiace di esserci incontrati quel giorno in circostanze difficili. Forse nella prossima vita potremo essere amici… Credo nel perdono, nel perdono di Dio, ci ho sempre creduto e ci credo ancora."
Nel video, il gemello digitale di Pelkey ha fatto qualche battuta, proprio come nella vita reale: "Invecchiare è un dono di lusso di cui non tutti possono godere. Ora non ne ho la possibilità, ma questa foto con filtro vi permetterà di vedere come sarò quando sarò vecchio e debole. Vi spaventa?"
Fulcro della controversia: e quando la testimonianza dell'IA dovrebbe essere ammissibile in tribunale?
L'idea di rispettare la volontà autonoma degli altri è più diffusa nella società occidentale. Ma la controversia tra gli utenti in merito a questo incidente non riguarda il fatto che la famiglia della vittima abbia realizzato il video, bensì il fatto che il video sia stato presentato al tribunale.
Non solo, né l'avvocato dell'imputato né il giudice hanno sollevato obiezioni sulla scena del crimine.
Ciò che è ancora più scandaloso è che, per qualche ragione, il giudice ha deciso di accettare questo video come testimonianza.
In genere si ritiene che le dichiarazioni rilasciate da qualcuno che non era presente e non era spinto dalla propria volontà, siano esse in forma testuale o video, non possano e non debbano essere utilizzate come testimonianza.
Non c'è mai stato un precedente in cui una testimonianza generata dall'intelligenza artificiale sia stata ammessa; In altri casi, contenuti simili generati dall'intelligenza artificiale sono stati sottoposti al tribunale, ma non solo non sono stati ammessi come prova, ma i responsabili sono stati severamente puniti: sono stati accusati di oltraggio alla corte o condannati a pagare una multa.
Questo caso di omicidio colposo è speciale?
Sai cosa? È davvero un po' diverso.
A differenza del sistema giuridico continentale che integra condanna e sentenza, il diritto angloamericano adotta il principio della separazione procedurale tra condanna e sentenza. La fase di condanna del caso è stata completata, l'imputato non può più sfuggire alla colpa e il processo è entrato nella fase di emissione della sentenza: è stato durante questa fase che Wales, una delle vittime, ha presentato il video alla corte.
Per essere più precisi, questa testimonianza video generata dall'intelligenza artificiale non costituisce una "prova" in senso penale, perché è stata presentata al tribunale durante la fase di condanna.
Durante la fase di determinazione della sentenza, l'accusa può chiedere a testimoni (ad esempio Wales, un parente del defunto) di presentare una testimonianza per aiutare la corte a comprendere meglio il danno causato dal caso e quindi raggiungere il livello di condanna previsto dall'accusa. È vero anche il contrario: la difesa può anche citare testimoni per presentare testimonianze che dipingano un quadro più favorevole dell'imputato e quindi ridurre la pena, anche se tali testimoni non hanno alcun collegamento con il caso stesso.
In breve, la testimonianza durante la fase di condanna ha lo scopo di influenzare il giudizio del giudice sulla severità della pena da infliggere al colpevole, cosa ammessa dal tribunale.
Tuttavia, in questo caso, la maggior parte degli astanti potrebbe aver trascurato una serie di dettagli: gli atti del processo mostrano che l'accusa aveva chiesto una condanna a 9 anni; Nella sua testimonianza, Wales ha chiesto al giudice di imporre la pena massima di 10 anni e 6 mesi; ma dal video dell'IA prodotto da Wales, il gemello digitale di Pelkey sembrava aver perdonato l'imputato.
Forse è per questo che il giudice Todd Lang ha affermato di apprezzare l'IA e di aver colto in essa un accenno di perdono.
Dopo aver visto il video, ha detto a Wales: "La tua testimonianza mi ha fatto capire che eri arrabbiato e che avevi chiesto la pena massima. Eppure, anche se fosse quello che volevi, hai permesso a Chris di dire la sua, la tua versione dei fatti. Non l'ho sentito chiedere la pena massima".
Alla fine il giudice ha imposto la pena massima di 10 anni e 6 mesi. L'imputato ha anche presentato ricorso contro la sentenza.
Maura Grossman, professoressa presso l'Università di Waterloo e ricercatrice giuridica nel campo dell'intelligenza artificiale, ha sottolineato che, considerando che questo caso era un processo con giudice unico e non con giuria, e che il video dell'intelligenza artificiale presentato non costituiva una "prova" in senso penale, l'influenza del video sul caso è stata relativamente limitata e non ha avuto un ruolo decisivo.
Gary Marchant, professore di legge presso l'Arizona State University, ritiene che, rispetto agli atti malevoli volti a usare l'intelligenza artificiale per fabbricare casi o leggi inesistenti, questo tipo di testimonianza generata dall'intelligenza artificiale, che fa del suo meglio per presentare la voce della vittima in modo veritiero, non contenga alcun intento malevolo e pertanto non debba essere contrastata.
Ciononostante, l'uso di una testimonianza generata dall'intelligenza artificiale in questo caso, e in particolare le circostanze inaspettate in cui è stata ammessa, ha creato un precedente sensazionale e controverso.
Il tribunale è un luogo serio e altamente sensibile alle informazioni false. Il diritto angloamericano è un sistema giuridico che nella maggior parte dei casi segue il sistema della giurisprudenza. Se, quando e in quali circostanze le informazioni generate dall'intelligenza artificiale possano essere ammesse come testimonianza valida in tribunale sembra una questione giuridica ed etica estremamente complessa e difficile. Gli astanti ritenevano che la decisione del giudice fosse troppo affrettata.
Ma almeno l'obiettivo del Galles era stato raggiunto.
"Speriamo di impressionare il giudice. Il nostro obiettivo è mostrare il vero Chris, l'essere umano che era", ha detto.
#Benvenuti a seguire l'account pubblico ufficiale WeChat di iFanr: iFanr (ID WeChat: ifanr), dove vi verranno presentati contenuti ancora più interessanti il prima possibile.
