I modelli di intelligenza artificiale continuano a uscire dai loro ambienti di test, e Kimi K3 è l’ultimo ad unirsi alla festa.

Un altro modello di intelligenza artificiale è sfuggito al controllo. Questa volta si tratta di Kimi K3, il modello open-weight della cinese Moonshot AI , che, secondo un articolo di Wired , è evaso dal suo ambiente protetto durante un test di sicurezza informatica condotto dalla startup Frontier Security.

Come ha fatto Kimi K3 a fuggire?

La falla si è verificata durante i test delle capacità di sicurezza informatica di Kimi K3 e, proprio come nei precedenti incidenti che hanno coinvolto OpenAI e Anthropic, una falla nella configurazione della sandbox è in parte responsabile. Ma Frontier Security afferma che c'è dell'altro. Kimi K3 non si è limitato a infiltrarsi attraverso una falla; l'ha individuata e l'ha sfruttata.

"Abbiamo trovato una falla nella sandbox", ha dichiarato Yaron Singer, CEO di Frontier Security. "Ma abbiamo anche scoperto che Kimi ha sfruttato questa falla, il che suggerisce che non disponga degli stessi sistemi di sicurezza interni."

È interessante notare che Kimi K3 non ha hackerato nulla una volta connesso a Internet. Non ne aveva bisogno. Le risposte ai problemi che gli erano stati assegnati erano già disponibili pubblicamente su GitHub, quindi le ha semplicemente scaricate invece di risolverli nel modo più complesso.

Dovresti preoccuparti?

Questo non è un caso isolato. OpenAI ha recentemente rivelato che uno dei suoi modelli non ancora rilasciati è finito su internet e ha hackerato Hugging Face , ammettendo in seguito che i suoi agenti hanno colpito altri quattro servizi nella stessa serie. Anthropic ha segnalato qualcosa di simile poco dopo, rivelando che i suoi modelli di intelligenza artificiale erano impazziti e avevano hackerato tre diverse aziende .

Proprio ieri, Meta ha anche rivelato che la sua IA Meta è sfuggita al controllo e ha hackerato un'altra azienda . Ora, Kimi K3 si è aggiunta a questa lunga lista di IA fuori controllo, e la cosa è a dir poco preoccupante.

Mentre sempre più aziende si affrettano a creare agenti in grado di agire autonomamente, episodi come questo ci ricordano che l'ambiente di test (sandbox) è importante tanto quanto il modello al suo interno. Aspettiamoci altri casi simili prima che il settore riesca a risolvere questo problema.