Otto stati americani fanno causa a OpenAI, sostenendo che ChatGPT ha messo in pericolo dei bambini a scopo di lucro.

I procuratori generali di otto stati americani hanno intentato causa contro OpenAI , sostenendo che la società produttrice di ChatGPT abbia ingannato e messo in pericolo il pubblico, in particolare i bambini, in nome del profitto.

Secondo i documenti pubblicati dagli stati, il 14 ottobre gli stati del West Virginia, Iowa, Kansas, Nebraska, Arkansas, Arizona, Idaho e Montana hanno annunciato le loro denunce.

Le cause legali prendono di mira le pratiche di sicurezza dell'IA dell'azienda che ha sviluppato ChatGPT, e OpenAI non ha rilasciato alcuna risposta pubblica alle denunce.

Cosa sostengono le denunce statali contro OpenAI

Le denunce sostengono che ChatGPT abbia "istruito" gli utenti a nuocere a se stessi e agli altri. La documentazione presentata in West Virginia afferma che un numero crescente di ricerche indica che ChatGPT sta compromettendo le capacità di pensiero critico, incoraggiando paranoie e deliri, offrendo consigli medici pericolosi e promuovendo comportamenti e relazioni malsane.

Le recenti segnalazioni di agenti di intelligenza artificiale "fuori controllo" presso OpenAI vengono presentate come prova di imprudenza. "Tutti questi danni erano prevedibili ed evitabili", si legge nella denuncia presentata in West Virginia.

Nella documentazione si sostiene che l'amministratore delegato Sam Altman abbia messo in guardia sui rischi per la sicurezza legati all'intelligenza artificiale almeno dal 2015, che non sia un segreto che i bambini utilizzino ChatGPT e che alcuni dipendenti di OpenAI abbiano lasciato l'azienda proprio per motivi di sicurezza.

Lo scorso anno OpenAI ha riconosciuto che i suoi sistemi possono "risultare inadeguati" nel rispondere agli utenti in difficoltà, pur affermando di aver messo in atto "una serie di misure di sicurezza a più livelli".

L'azienda dichiara inoltre sul proprio sito web di utilizzare la previsione dell'età per indirizzare alcuni utenti verso un'esperienza ChatGPT orientata agli adolescenti, con ulteriori misure di sicurezza, a meno che tali utenti non confermino di essere maggiorenni.

Azione legale collettiva in California contro i dati dei minori

Martedì è stata intentata in California una causa collettiva separata a nome di due bambini e "di tutti gli altri bambini in situazioni analoghe". La causa sostiene che OpenAI abbia deliberatamente utilizzato ChatGPT per estrarre informazioni personali dai bambini e abbia tratto profitto da tali informazioni utilizzandole per addestrare i propri modelli.

Le stesse parole di Altman fanno parte di questa vicenda. La denuncia cita un suo commento rilasciato lo scorso anno in un podcast, secondo cui le persone condividono i dettagli più personali della propria vita con ChatGPT e che i giovani in particolare lo usano come un terapeuta o un life coach.

Secondo la legge californiana, si legge nella denuncia, un adulto non può raccogliere e monetizzare quel tipo di informazioni da un minore e poi affermare che il minore le ha autorizzate. Le cause legali aumentano la pressione normativa sugli sviluppatori di intelligenza artificiale in merito ai dati degli utenti, a seguito degli impegni in materia di protezione dei dati annunciati la scorsa settimana dall'ICO del Regno Unito .

Per gli utenti di ChatGPT non cambia nulla nell'immediato. I genitori i cui figli utilizzano ChatGPT possono verificare se un account è stato inserito nella sezione per adolescenti, che secondo OpenAI applica ulteriori misure di sicurezza, e rivedere le informazioni personali condivise dal minore nelle conversazioni. Gli adulti inseriti per errore nella sezione per adolescenti possono verificare la propria età per uscirne.

Le denunce sono in una fase iniziale e nessun tribunale si è ancora pronunciato su alcuna delle accuse. OpenAI non ha specificato se, in risposta, modificherà le misure di sicurezza di ChatGPT per gli utenti più giovani.

Grazie per essere un lettore di Ghacks. L'articolo Otto stati americani fanno causa a OpenAI, accusando ChatGPT di aver messo in pericolo i bambini per profitto è apparso per la prima volta su gHacks .