Credevo negli ideali e quindi li ho traditi: cosa ci dice il saggio di 52 pagine di Ilya?
Nel 1808, Goethe creò il classico dramma poetico "Faust". Il protagonista, il dottor Faust, ha padroneggiato filosofia, teologia, diritto e medicina e conosce tutto il sapere del mondo, ma non riesce ancora a comprendere la vita stessa, cadendo così nella disperazione.
In quel momento, il diavolo Mefistofele si avvicinò a lui e gli offrì l'esperienza più estrema. Faust acconsentì, ma non del tutto. Fece invece una scommessa con il diavolo: se avesse provato felicità nell'esperienza che il diavolo gli aveva offerto e avesse voluto rimanere in quel momento, sarebbe morto immediatamente e il diavolo avrebbe potuto prendergli l'anima.
Più di duecento anni dopo, Ilya, che possedeva anch'essa conoscenze all'avanguardia sull'intelligenza artificiale, si trovò ad affrontare lo stesso momento "diabolico" per ben due volte.
Vieni, i tuoi nobili ideali possono realizzarsi.
Il 1° ottobre, Ilya è comparso come testimone chiave nel caso Musk contro Sam Altman, dove è stato interrogato a lungo, in particolare in merito alla lotta di potere da lui guidata nel 2023.
Dei quattro fondatori iniziali, Ilya era considerato il più idealista dal punto di vista scientifico. Prima di unirsi a OpenAI, era ricercatore presso Google e uno dei ricercatori più influenti nel campo del deep learning. Dietro la sua instancabile ricerca dell'eccellenza tecnologica si cela una visione più ampia: ritiene essenziale un laboratorio di intelligenza artificiale senza scopo di lucro, svincolato dai profitti delle grandi aziende.
Non è forse tipico di Faust, desideroso di vivere un'esperienza di vita più trascendente? Nel 2015, Ilya accettò per la prima volta l'invito del "diavolo": nonostante le insistenti richieste di Google di restare, accettò l'invito di Musk a co-fondare OpenAI.
Definire Musk un "diavolo" non è del tutto corretto. All'epoca, insisteva molto affinché OpenAI mantenesse il suo nucleo no-profit, motivo per cui, anche dopo così tanti anni, sta ancora combattendo questa causa. I soldi sono un problema minore; persino una persona ricca come Musk non vuole essere sfruttata.
Ma per Ilya, Musk era come Mefistofele: prometteva un percorso per realizzare i suoi ideali. All'epoca, condivideva pienamente la missione no-profit di OpenAI: sviluppare l'intelligenza artificiale generale (AGI) nel modo più efficace per apportare benefici all'umanità. Sperava che OpenAI rendesse la tecnologia dell'IA accessibile a tutti e continuasse a rimanere all'avanguardia nella ricerca sull'IA.
È facile immaginare che il rapporto tra Musk e Ilya sia come quello di Mefistofele: fornire denaro e manodopera secondo necessità, con l'atteggiamento: "Sarò il tuo socio e, finché sarai felice, sarò il tuo servitore, il tuo schiavo, sono disposto!"
Tuttavia, avvicinarsi alla visione dell'intelligenza artificiale non è solo una questione di tecnologia; dipende anche da un fattore: la potenza di calcolo. Anche nel 2017, un server personalizzato dotato di otto GPU NVIDIA di alta gamma costava fino a 150.000 dollari. Addestrare un singolo modello richiede decine di migliaia di GPU, senza considerare i costi dell'elettricità, il che si traduce in miliardi di dollari di costi operativi all'anno.
Fare un patto col diavolo ha sempre un prezzo. Le richieste di Musk erano molto chiare: aveva sostenuto personalmente OpenAI e voleva diventarne CEO e averne il controllo assoluto.
Nel frattempo, Sam Altman ha contattato Ilya tramite contatti personali, esprimendo il suo impegno nei confronti delle organizzazioni non profit e la sua posizione di voler rimanere un CEO senza capitale proprio.
Proprio mentre Ilya esitava, stava per arrivare il secondo "momento del diavolo" e questa volta ebbe inizio la vera scommessa.
PDF di 52 pagine
Scegliere chi nominare CEO di OpenAI è stata senza dubbio la decisione più difficile che Ilya abbia mai dovuto affrontare, superando di gran lunga la decisione di lasciare Google. Alla fine ha scelto Sam Altman, ma in base alle informazioni passate e alle testimonianze rilasciate in tribunale di recente, questa decisione è stata costantemente accompagnata dalla sua sfiducia nei confronti di Altman.
Questo problema è emerso fin dall'inizio. Quando si è trovato di fronte a una scelta tra due opzioni, ha scritto un'e-mail a Sam Altman chiedendogli perché insistesse così tanto sul titolo di CEO, affermando: "Le tue motivazioni continuano a cambiare e non riesco proprio a capire la forza trainante che c'è dietro. L'AGI è davvero la tua motivazione principale?"
Sam Altman è un uomo dai molti talenti, con un talento per la persuasione. Inoltre, le sue capacità di raccolta fondi sono davvero sbalorditive, soprattutto dopo aver coinvolto Microsoft e Y Combinator, con ingenti capitali che affluiscono costantemente, rendendo OpenAI la stella nascente più promettente della Silicon Valley.
Questo, in una certa misura, creò un equilibrio tra Ilya e Sam Altman: come Mefistofele e Faust, ebbero brevi periodi di "collaborazione". Ilya credeva fermamente nell'importanza della scalabilità per i modelli di addestramento e, dopo aver ceduto le attività dell'azienda a Sam Altman, si immerse ancora di più nella sua filosofia tecnologica. Finché non scoprì che la leadership di Sam Altman aveva già sottilmente deviato l'azienda dal suo percorso.
Così, è nato il "PDF di 52 pagine", oggi ampiamente discusso. Si tratta di un promemoria che Ilya scrisse ai direttori indipendenti, che contiene un gran numero di resoconti delle azioni di Sam Altman, tra cui, a titolo esemplificativo ma non esaustivo: come fomentava la politica aziendale, faceva competere diversi team e manipolava e ingannava abitualmente gli altri.
Gli spettatori non possono fare a meno di chiedersi: perché perfino i massimi esperti fanno a pezzi i PDF in questo modo?
L'attenzione su questo PDF fu talmente tanta che alcuni aspetti cruciali furono trascurati: queste informazioni e questo materiale erano le prove principali che Ilya inviò al consiglio di amministrazione per sollecitare la rimozione di Sam Altman. A un certo punto, la cosa giunse vicina al successo: il consiglio di amministrazione rimosse unilateralmente Altman dal suo incarico e nominò Mira Murati CEO ad interim, periodo durante il quale i membri del consiglio e Ilya comunicarono a stretto contatto.
Ma fu in questo momento cruciale che Ilya vacillò. La lotta di potere interna ebbe conseguenze ben più gravi del previsto: un gran numero di dipendenti lasciò l'azienda per passare alla concorrenza e il consiglio di amministrazione iniziò a mettere in discussione l'azienda. Dopotutto, OpenAI era stata una sua idea; se avesse insistito nel contrastare Altman e prolungare il conflitto, avrebbe solo ulteriormente lacerato l'azienda.
Ciò va contro la sua intenzione originale: voleva che OpenAI si muovesse nella direzione dell'AGI e apportasse benefici all'umanità, come lui desiderava, piuttosto che crollare completamente.
Il mese scorso, in tribunale, quando gli è stato chiesto del suo giudizio in quel momento, Ilya ha esitato, dicendo che aveva ricevuto informazioni da altri e che non aveva pensato di affrontare un ulteriore confronto.
Gli internauti hanno commentato: Questa è tutta l'azione che hanno pianificato per un anno?
La giustizia non è eterna
Considerare gli intrighi di palazzo di quell'anno semplicemente come un tentativo di Ilya di ribellarsi e prendere il potere non è sufficiente per comprendere il modo in cui egli è apparso nella sua ultima testimonianza in tribunale: coinvolgimento, conflitti interni e ripetuti tira e molla.
Perché ciò a cui si opponeva all'epoca non era solo la leadership di Sam Altman, ma anche il suo stesso errore di valutazione e la sua fiducia mal riposta. Se avesse saputo che scegliere Sam Altman come CEO avrebbe portato OpenAI sulla strada della capitalizzazione, avrebbe accettato l'accordo? Se la natura non-profit di OpenAI era destinata a scomparire, non era forse tutto un errore?
Questa volta, la storia non gli ha dato scelta. Alla fine è stato abbandonato sia da Dio che dal diavolo, diventando un "ribelle" e abbandonando OpenAI dopo il reinserimento di Sam Altman.
Ilya possiede un'ingenuità razionale simile a quella di Faust. Crede che la ricerca della tecnologia e della ragione, insieme all'adesione alla fede, possano sconfiggere le tentazioni del potere e della fama. Tuttavia, di fronte a un'enorme pressione – licenziamenti di dipendenti e minacce da parte degli investitori – è costretto a cambiare posizione e a firmare un compromesso.
Credeva di essere "moralmente giusto", ma temeva che le conseguenze delle sue azioni sarebbero state devastanti. Di fronte al conflitto tra ideali e realtà, poteva solo prendere decisioni difensive.
"Questo è tutto." Questo è il concetto centrale della scommessa tra Faust e Mefistofele: Faust scommette che non sarà mai soddisfatto di alcun risultato o piacere, che cercherà sempre e continuerà ad andare avanti. Questo porta anche alla sua salvezza finale per mano degli angeli.
Ilya perse la scommessa perché era davvero intrappolato: non dai suoi successi, ma dal suo stesso senso di "giustizia", che lo lasciò in un dilemma.
Scommetteva che l'ideale di giustizia non sarebbe andato storto. Ma le storie del mondo sono tutte uguali: di fronte ai "diavoli" del commercio, del capitale e del potere, la fede può vacillare e persino gli ideali più alti possono crollare.
#Benvenuti a seguire l'account WeChat ufficiale di iFanr: iFanr (ID WeChat: ifanr), dove vi verranno presentati contenuti ancora più interessanti il prima possibile.
