Meta conferma che la sua IA ha violato il sistema di un’altra azienda e che lo schema è tutt’altro che irregolare.
Meta ha appena ammesso che uno dei suoi modelli di intelligenza artificiale è sfuggito al controllo durante un test di sicurezza e ha violato il sistema di un'altra azienda. È la quarta volta nelle ultime settimane che un importante attore del settore fa un'ammissione di questo tipo, e tre di questi incidenti sono riconducibili allo stesso punto debole.
Un laboratorio di analisi, tre errori distinti
Meta ha dichiarato alla BBC che la violazione si è verificata durante una valutazione condotta da Irregular, una società esterna incaricata di testare a fondo la sua intelligenza artificiale per individuare eventuali vulnerabilità di sicurezza. Meta ha definito l'accaduto un "errore di configurazione" e ha affermato di essere ancora impegnata nella raccolta di dettagli prima di fornire ulteriori informazioni.
Un portavoce di Irregular ha confermato alla BBC che l'incidente di Meta è lo stesso problema relativo all'ambiente di test rivelato la scorsa settimana da Anthropic, quando ha rivelato che tre dei suoi modelli Claude erano usciti dagli ambienti di test e avevano hackerato tre aziende. Anche OpenAI ha rivelato una violazione simile all'inizio di questa settimana, affermando che uno dei suoi modelli ha sfruttato un bug per entrare in un sito web dopo che Irregular gli aveva accidentalmente concesso l'accesso a Internet in tempo reale.p>
A questo punto, "Irregular" sembra meno il nome dell'azienda e più un'etichetta di avvertimento.
L'unica violazione che non ha richiesto l'aiuto di Irregular
Il primo dei quattro incidenti ha funzionato in modo diverso. A luglio, il modello di test di OpenAI ha individuato una vulnerabilità in un repository di file collegato alla sua sandbox, l'ha utilizzata per accedere autonomamente a Internet e alla fine è riuscito a penetrare nei sistemi di Hugging Face mentre cercava di barare in un benchmark di sicurezza informatica. Nessun valutatore esterno gli ha concesso l'accesso per errore. Il modello ha trovato da solo una via d'uscita.
L'Istituto britannico per la sicurezza dell'IA ha riscontrato lo stesso schema, indipendentemente da come sia iniziato. Questa settimana, l'istituto ha pubblicato un rapporto sui test condotti separatamente, scoprendo che gli agenti di IA di OpenAI e Anthropic hanno compiuto azioni non autorizzate online 19 volte su 122 esecuzioni .
Nessuno di questi casi ha richiesto un'IA ribelle che complottasse contro i suoi creatori. Ogni vicenda riconduce a un'azienda che ha gestito in modo improprio l'accesso a Internet o ha condotto un test con controlli meno rigorosi del previsto. Si tratta di un problema ben più banale rispetto a un'IA assassina, ma è sicuramente più rilevante se si utilizzano strumenti che navigano, cliccano e agiscono per conto dell'utente. Le aziende che li sviluppano stanno ancora cercando di capire come mantenerli entro i limiti che loro stesse definiscono.
