L’ultimo discorso di Sam Altman di 10.000 parole: la forma hardware ideale è un compagno di intelligenza artificiale e l’impatto sull’occupazione non è così spaventoso

Oggi, Sam Altman ha condiviso le sue previsioni e intuizioni sullo sviluppo dell'IA nei prossimi 5-10 anni in una conversazione con il fratello Jack Altman. La conversazione ha toccato argomenti come la ricerca sull'IA, i robot umanoidi, la superintelligenza, le apparecchiature OpenAI, la catena di approvvigionamento e ha risposto alle accuse di frode di Meta.

La conversazione tra i fratelli è stata rilassata, calorosa e perspicace, e ci ha anche permesso di vedere un altro lato di Sam Altman, oltre alla "modalità CEO".

Punti di discussione:

L'intelligenza artificiale non è solo un "assistente alla ricerca scientifica" e uno strumento di efficienza, ma può anche scoprire nuova scienza in modo autonomo:
Il miglioramento delle capacità di ragionamento ha gradualmente permesso all'IA di sviluppare un pensiero complesso in ambiti professionali come quello medico, e gli scienziati hanno migliorato l'efficienza della loro ricerca grazie all'IA. Sam Altman ritiene che nei prossimi cinque-dieci anni l'IA avrà maggiori capacità di ricerca scientifica indipendente e scoprirà persino nuove discipline scientifiche.

I robot umanoidi presentano delle sfide tecniche, ma il futuro è ottimistico:
Sebbene l'intelligenza artificiale abbia compiuto alcuni progressi nel campo della manipolazione fisica, permangono ancora difficoltà tecniche nell'ingegneria meccanica di veri robot umanoidi. Tuttavia, Altman è ottimista al riguardo. Crede che quando compariranno robot in grado di camminare liberamente e svolgere compiti nel mondo reale, le persone potranno percepire un reale "impatto futuro".

Nell'era della super intelligenza, le capacità di adattamento umane supereranno l'immaginazione:
Gli esseri umani hanno la capacità di costruire sistemi superintelligenti estremamente potenti, ma a quel punto lo shock che la tecnologia porta alla società potrebbe non essere così grande come immaginato, e gli esseri umani si adatteranno rapidamente. Allo stesso tempo, Altman ritiene che non dobbiamo preoccuparci troppo della minaccia all'occupazione umana rappresentata dall'IA, perché gli esseri umani si adatteranno e creeranno rapidamente nuovi ruoli lavorativi.

L'onnipresente "compagno dell'IA" è la forma di prodotto ideale di OpenAI
Altman ha descritto la forma di prodotto definitiva che OpenAI svilupperà per i consumatori: un "compagno di intelligenza artificiale". Rispetto ai dispositivi informatici tradizionali, l'intelligenza artificiale del futuro potrebbe essere integrata nella vita delle persone attraverso forme di dispositivi più intuitive.

Costruire una "fabbrica di intelligenza artificiale" e migliorare la catena di fornitura sono le chiavi del futuro:
L'intelligenza artificiale diventerà una tecnologia fondamentale in diversi settori e in futuro potrebbe coinvolgere ambiti come l'esplorazione spaziale. I problemi energetici potrebbero essere risolti attraverso nuove tecnologie come la fissione nucleare, fornendo supporto all'intelligenza artificiale.

La mia opinione su Meta:
Altman ha espresso rispetto per l'atteggiamento competitivo di Meta nel campo dell'intelligenza artificiale, ma riteneva che OpenAI avesse un potenziale di innovazione maggiore e che la cultura del suo team si concentrasse maggiormente sull'innovazione rispetto a Meta piuttosto che sulla copia dei risultati esistenti.

Video originale : https://www.youtube.com/watch?v=mZUG0pr5hBo

Di seguito la trascrizione della conversazione, con lievi modifiche alla traduzione.

Più che un semplice “assistente di ricerca scientifica”, l’intelligenza artificiale può effettivamente scoprire nuove conoscenze scientifiche

Jack Altman: Vorrei iniziare con il futuro dell'intelligenza artificiale, soprattutto a medio termine. Non sono molto interessato al breve termine e nessuno può prevedere il lungo termine, ma il periodo compreso tra cinque e dieci anni è quello di cui vale la pena parlare. Vorrei che tu prevedessi con coraggio qualcosa di specifico.

Cominciamo dal software. Attualmente, lo scenario applicativo più efficace è la programmazione, o meglio, la combinazione di chat e programmazione. Cosa ci aspetta? Dopo "chat e programmazione", quali nuovi scenari applicativi di intelligenza artificiale pensi che emergeranno?

Sam Altman: Penso che usciranno molti nuovi prodotti straordinari, come esperienze social davvero incredibili e processi di collaborazione basati sull'intelligenza artificiale simili a Google Docs, ma molto più efficienti. Inizieremo a vedere cose come i "dipendenti virtuali".

Ma credo che la cosa più significativa nei prossimi cinque-dieci anni sia che l'IA possa effettivamente scoprire nuove scoperte scientifiche. Sembra un'affermazione audace, ma credo che sia vera. Se è corretta, avrà un impatto nel tempo che supererà di gran lunga qualsiasi altra cosa.

Jack Altman: Perché pensi che l'intelligenza artificiale possa scoprire nuove conoscenze scientifiche?

Sam Altman: Penso che abbiamo raggiunto una svolta nella "capacità di ragionamento" del modello. C'è ancora molta strada da fare, ma abbiamo un'idea approssimativa di dove andare. E sapete, o3 è già molto intelligente, e si sente dire: "Wow, questo è come un buon dottorato di ricerca".

Jack Altman: Cosa intendi esattamente con “svolta nella capacità di ragionamento”?

Sam Altman: Cioè, questi modelli ora sono in grado di fare il tipo di ragionamento che ci si aspetterebbe da un dottorando in un determinato ambito. In un certo senso, proprio come abbiamo visto l'IA raggiungere il livello dei migliori programmatori al mondo, o ottenere punteggi elevati nelle competizioni matematiche più difficili del mondo, o risolvere problemi che solo dottori di ricerca esperti nel settore possono affrontare.

Potremmo non essere molto sorpresi, il che è davvero assurdo, ma è davvero un fatto notevole. Nell'ultimo anno, ci sono stati molti progressi nella capacità di ragionamento dei modelli.

Jack Altman: Ne sei sorpreso?

Sam Altman: Sì.

Jack Altman: Inizialmente pensavi che si trattasse semplicemente del "prossimo aggiornamento del token"?

Sam Altman: Pensavo che ci sarebbe voluto un po' di tempo per arrivare al punto in cui siamo ora, ma nell'ultimo anno i progressi sono stati molto più rapidi di quanto mi aspettassi.

Jack Altman: Il processo di implementazione di questa "capacità di ragionamento" è quello che avevi inizialmente previsto?

Sam Altman: Come spesso accade nella storia di OpenAI, le idee più stupide spesso funzionano. Non dovrei più sorprendermi, ma lo è ancora quando succede.

Jack Altman: Quindi pensi che la capacità di ragionamento permetterà alla scienza di progredire più velocemente, porterà a scoperte completamente nuove o entrambe le cose?

Sam Altman: Penso che siano entrambe le cose.

Si possono già sentire alcuni scienziati affermare di essere più efficienti con l'IA. Sebbene non siamo ancora in grado di condurre la ricerca scientifica in completa autonomia con l'IA, se uno scienziato umano potesse essere tre volte più efficiente utilizzando l'ossigeno, si tratterebbe di un cambiamento significativo.

Con lo sviluppo della tecnologia, l'intelligenza artificiale acquisirà gradualmente un certo grado di capacità di ricerca scientifica indipendente e sarà persino in grado di scoprire nuove leggi della fisica.

Jack Altman: Questo avviene ora in uno stato assistito di tipo Copilot?

Sam Altman: Sì, non siamo ancora al punto in cui puoi semplicemente dire a ChatGPT "Aiutami a scoprire nuova fisica" e lui lo farà davvero. È più un ruolo di supporto, tipo "Copilota".

Ma ho sentito alcuni biologi dire informalmente che, ad esempio, l'intelligenza artificiale ha avuto un'idea davvero promettente, e poi l'ha sviluppata ulteriormente, portando davvero a una svolta fondamentale.

Jack Altman: Pensi che sarebbe più facile lasciare che l'intelligenza artificiale ti aiuti a costruire un'intera attività di e-commerce o lasciarle completare una difficile ricerca scientifica?

Sam Altman: Ci ho pensato un po': per esempio, se costruisci un'IA con un acceleratore di particelle da 100 miliardi di dollari e le lasci prendere decisioni, analizzare i dati, dirci quali esperimenti fare e poi noi li eseguiamo, questo è un modo. Un altro modo è spendere la stessa cifra per costruire un'infrastruttura di IA in grado di interfacciarsi con sistemi economici reali.

Quale direzione ha maggiori probabilità di portare l'IA a risultati rivoluzionari? Credo che la fisica sia un problema più "pulito". Se si riescono a ottenere nuovi dati di fisica delle alte energie e poi a dotare l'IA di capacità sperimentali, credo che il problema sia più chiaro e controllabile.

Ho sentito alcuni dire che si aspettano che il primo campo in cui l'IA farà scoperte scientifiche da sola sarà l'astrofisica. Non sono sicuro che sia corretto, ma il motivo è che ci sono troppi dati e non abbiamo abbastanza dottorati di ricerca per analizzarli.

Forse non è così difficile scoprire cose nuove, ma non posso dirlo con certezza.

Jack Altman: Ok, quindi la scienza continuerà a migliorare, e la programmazione e le capacità conversazionali continueranno a migliorare. E il lato commerciale? È possibile far costruire un'intera azienda a un'IA con un singolo comando, tipo "Voglio costruire questa attività", e farla partire e farla? È davvero possibile?

Sam Altman: Alcuni lo stanno già facendo su piccola scala. Si sentono storie di persone che usano l'intelligenza artificiale per fare ricerche di mercato, scoprire un nuovo prodotto, quindi inviare un'email a un produttore per realizzarlo, venderlo su Amazon e pubblicare annunci.

Queste persone hanno davvero trovato il modo di avviare un'attività su scala ridotta con l'intelligenza artificiale in modo molto "dal basso", e funziona davvero. Quindi, ci sono effettivamente persone che stanno "salendo" passo dopo passo.

Dal cervello al corpo, il futuro dei robot umanoidi è qui

Jack Altman: Che dire delle "azioni fisiche" nel mondo reale ? Per esempio, lo spostamento di oggetti fisici. Perché l'hai spiegato molto chiaramente in termini di software, e ti credo nella scienza, ma che dire delle operazioni fisiche nel mondo reale?

Sam Altman: Siamo un po' indietro in questo settore, sì. Ma penso che prima o poi ci arriveremo.

Ad esempio, ora disponiamo di nuove tecnologie che potrebbero consentire la guida autonoma su auto standard, un risultato di gran lunga superiore a qualsiasi metodo attuale. Anche se non si tratterà del "robot umanoide" di cui parlavate, se la nostra tecnologia di intelligenza artificiale fosse davvero in grado di guidare da sola, sarebbe davvero impressionante.

Naturalmente, i robot umanoidi restano l'obiettivo finale, e questo mi sta molto a cuore, e credo che prima o poi ci arriveremo, ma è sempre stato un problema di ingegneria meccanica molto arduo.

Jack Altman: Quindi la difficoltà sta maggiormente in quest'area?

Sam Altman: Non proprio. Sono entrambe difficili. Anche se abbiamo il cervello perfetto, non credo che abbiamo ancora il corpo perfetto.

OpenAI ha effettivamente lavorato a un progetto di braccio robotico nei primi tempi. La difficoltà non erano le "difficoltà tecniche" che immaginavamo, ma il fatto che l'attrezzatura si rompeva continuamente e il simulatore era sempre un po' impreciso.

Ma sapete, troveremo una soluzione, e credo che nei prossimi cinque o dieci anni avremo dei robot umanoidi davvero straordinari, che potranno camminare per le strade e fare ogni genere di cose.

Jack Altman: Sì, penso che sarà allora che inizierà davvero il salto tecnologico.

Sam Altman: Anch'io la penso così. Non solo aprirà molte nuove possibilità nel mondo reale, ma credo che l'esperienza sarà molto "strana". In realtà siamo abituati a molta tecnologia. Ad esempio, quello che ChatGPT può fare ora sarebbe sembrato un miracolo cinque anni fa, ma ci siamo adattati.

Ma se cammini per strada e vedi che metà di loro sono robot in azione, ti abituerai subito? Non ne sono sicuro, forse prima o poi ci riuscirai, ma sarà sicuramente un grande cambiamento.

Jack Altman: Sembrava che fosse emersa una nuova specie che stava iniziando a sostituirci.

Sam Altman: Sì, credo che la sensazione di allora… potrebbe non essere proprio quella di una "nuova specie" o di una "sostituzione" degli umani, ma sicuramente farà sentire alle persone che "il futuro è arrivato". E ora, anche con una tecnologia potente come ChatGPT, non si riesce ancora a dare alle persone quella sensazione intuitiva di "il futuro è arrivato".

Penso che se riuscissimo a inventare nuovi dispositivi di elaborazione, potremmo portare questa "sensazione di futuro". Sebbene ChatGPT e questi agenti di codice di nuova generazione siano davvero straordinari, sono ancora limitati alla forma tradizionale di "dispositivo di elaborazione".

Jack Altman: Sì, sono ancora intrappolati nel computer.

Sam Altman: Sì, interessante. Al momento, l'intelligenza artificiale può fare cose solo su un computer. Ma mi chiedo: quanto del valore economico mondiale è in realtà lavoro cognitivo, cose che si possono fare davanti a un computer? Circa la metà.

Jack Altman: Stavo per dire circa un quarto.

Sam Altman: Non ne sono sicuro, ma è sicuramente una percentuale elevata.

Jack Altman: Sì, quando avremo sistemi intelligenti dotati di capacità fisiche, il rischio sarà molto più alto perché saranno molto più potenti degli esseri umani.

Sam Altman: Non sono sicuro che sia "molto più rischioso". Ad esempio, creare armi biologiche o paralizzare la rete elettrica di un paese non richiede in realtà intelligenza "fisica" e può causare gravi danni. Quindi, da questo punto di vista, non è necessariamente più pericoloso.

Al contrario, ci sono alcuni rischi "più assurdi". Per esempio, mi preoccuperei che un robot umanoide potesse accidentalmente far cadere mio figlio mentre cammina, a meno che non mi fidi davvero.

Nell'era della superintelligenza, le persone si adatteranno rapidamente e creeranno "nuovi ruoli"

Jack Altman: Quindi, se immaginiamo di essere di nuovo qui tra dieci anni, ci chiederemo: l'intelligenza artificiale ha raggiunto le nostre previsioni iniziali? Quali sono i parametri che vi aspettate? Ad esempio, c'è stato un chiaro punto di svolta nella curva di crescita del PIL? L'aspettativa di vita è aumentata? La povertà è stata ridotta? O sarà qualcosa di completamente diverso?

Sam Altman: Ogni anno, almeno fino all'anno scorso, dicevo: "Penso che l'intelligenza artificiale farà molta strada, ma abbiamo ancora molti problemi difficili da risolvere".

Ma in questo momento sono più fiducioso che mai sulla direzione che l'intelligenza artificiale sta prendendo. Ho davvero la sensazione che ora abbiamo un'idea approssimativa di come costruire sistemi di intelligenza artificiale molto potenti e capaci.

Se il risultato finale non porterà i cambiamenti radicali che ci aspettiamo, penserei che forse abbiamo costruito una superintelligenza, ma che questa non ha reso il mondo un posto migliore, né ha avuto l'enorme impatto che avevamo immaginato, il che sembra ridicolo, ma potrebbe succedere.

Ad esempio, se nel 2020 ti avessi detto: "Creeremo qualcosa come ChatGPT, intelligente quanto uno studente di dottorato nella maggior parte dei campi, lo pubblicheremo e una gran parte del mondo lo userà molto". Forse ci avresti creduto, forse no.

Ma se credi che questo scenario si stia realmente verificando, allora probabilmente ti aspetterai anche: "In tal caso, il mondo sarà sicuramente molto diverso". Ma ora sembra che i cambiamenti nel mondo non siano così drastici.

Jack Altman: Esatto.

Sam Altman: Quindi al momento abbiamo una tecnologia davvero sorprendente.

Jack Altman: Sì, proprio come per il test di Turing, tutti erano molto preoccupati, ma quando si arrivò a quel punto, a nessuno importò più di tanto. Non so quale sia il motivo.

Sam Altman: Sì, o anche se hai questo sistema che sta facendo cose incredibili per te, ma il tuo stile di vita è in realtà lo stesso di due anni fa e il tuo modo di lavorare è praticamente lo stesso.

Jack Altman: Pensi che sia possibile che abbiamo una superintelligenza, magari con un QI di 400, ma che noi umani continuiamo a vivere come prima?

Sam Altman: Penso che sia del tutto possibile. Ad esempio, se ci aiuta a scoprire nuove conoscenze scientifiche, alla fine la società si adatterà a questo cambiamento, ma il processo potrebbe essere molto lento.

Jack Altman: La cosa interessante è che se questa superintelligenza si manifestasse come un copilota, allora il mondo esterno potrebbe ancora dare credito agli scienziati di quel laboratorio piuttosto che all'entità intelligente con un "QI di 400" che la sta dietro.

Sam Altman: Penso che sia probabile che accada. Indipendentemente dalla situazione, l'istinto umano ci porta a preoccuparci di più della "persona" in sé.

Quando raccontiamo storie, abbiamo bisogno della partecipazione delle "persone". Ciò che vogliamo dire è "questa persona ha fatto qualcosa", "ha preso una certa decisione", "ha commesso un certo errore" o "ha vissuto qualcosa": nasciamo con un bisogno narrativo di questo tipo.

Jack Altman: Questo è uno dei motivi per cui sono rimasto sorpreso. Avrei pensato che se avessimo avuto un robot umanoide dall'aspetto e dai movimenti realistici, avremmo potuto iniziare a proiettare su di esso queste emozioni "umane".

Sam Altman: Forse hai ragione, e lo scopriremo. Forse mi sbaglio. Credo anche che, man mano che questi robot diventeranno sempre più "incarnati", il nostro rapporto con loro diventerà più stretto di quanto non sia ora.

Ma credo che siamo istintivamente molto preoccupati per i nostri simili, e questa tendenza potrebbe essere profondamente radicata nei nostri istinti biologici. Se sai che si tratta solo di un robot, non importa quanto sia simile a un essere umano sotto altri aspetti, potresti non "interessartene" davvero, dopotutto. Naturalmente, questa è solo una mia speculazione.

Jack Altman: Il ragionamento fa parte dell'intelligenza e sembra che ora ci sia una svolta. Ci sono altri argomenti simili relativi alle "abilità chiave", come "autonomia" o "orientamento agli obiettivi"? È questa una delle direzioni di ricerca?

Sam Altman: Credo che tu stia parlando della capacità di un sistema di attenersi a un obiettivo per lungo tempo e di completare molti passaggi complessi nel processo. Se è questo che intendi, allora penso che sia una direzione importante.

Jack Altman: Sì, è esattamente quello che intendevo.

Sam Altman: Sì, questa è effettivamente una delle direzioni che stiamo attualmente prendendo in considerazione.

Jack Altman: Quindi, cosa pensi del futuro percorso dello sviluppo tecnologico? Quali aspetti ritieni siano tendenze irreversibili? Quali aspetti non sei ancora sicuro di come si svilupperanno?

Sam Altman: Penso che sicuramente costruiremo modelli molto intelligenti e molto potenti in grado di scoprire nuove idee importanti e di automatizzare molto lavoro, ma allo stesso tempo non ho idea di come sarebbe la società se facessimo ciò.

Sono molto interessato alla questione delle capacità del modello, ma ora penso che più persone dovrebbero iniziare a discutere: come possiamo garantire che la società ne possa davvero beneficiare? Queste domande stanno diventando sempre più difficili da rispondere e sempre più vaghe.

Cioè, mi sembra assurdo che potremmo effettivamente risolvere il problema della superintelligenza, ma che la società possa comunque essere un disastro? Questo mi mette un po' a disagio.

Jack Altman: Sì, a volte non riesco a capire perché la gente non reagisca a queste affermazioni. È perché ci credono solo a metà? Forse questo è uno dei motivi.

Ma sono d'accordo con te. La storia di molte tecnologie è così: quando vengono proposte per la prima volta, la gente non ci crede, ma quando vengono effettivamente implementate, ci si abitua rapidamente. Quindi non so davvero cosa significhi tutto questo.

Sam Altman: Ho la sensazione che le nostre previsioni sulla tecnologia siano state molto accurate. Ma stranamente, quando queste previsioni si sono avverate, la società non è cambiata tanto quanto mi aspettavo. Ma in fin dei conti, questo non è necessariamente un fatto negativo.

Jack Altman: Uno degli impatti più evidenti a breve termine è probabilmente l'occupazione. Non c'è nemmeno bisogno di credere in un futuro folle, lavori come l'assistenza clienti stanno già subendo cambiamenti significativi.

Sam Altman: Sì, la mia opinione è: molti posti di lavoro scompariranno e molti altri cambieranno radicalmente.

Ma gli esseri umani sono sempre stati molto bravi a trovare nuove cose da fare per sé stessi, che si tratti di guadagnarsi da vivere, di competere per lo status sociale o di offrire valore agli altri. Non credo che questa capacità di creare "nuovi ruoli" si esaurirà mai.

Naturalmente, dal punto di vista odierno, in futuro questi personaggi potrebbero diventare sempre più "ridicoli".

Ad esempio, non molto tempo fa, fare il podcaster non era un vero e proprio "lavoro", ma trovavi un modo per monetizzarlo, facevi un ottimo lavoro e tutti erano contenti per te, e lo eri anche tu.

Ma se un "agricoltore che vive di agricoltura" guardasse a tutto questo, potrebbe pensare: che tipo di lavoro è questo? Non è solo un gioco a cui si gioca per divertirsi?

Jack Altman: Penso che potrebbero abbonarsi al podcast.

Sam Altman: Scommetto che si abboneranno.

Jack Altman: Lo adoreranno. Ma credo che sarà un grosso problema a breve termine. A lungo termine, non lo so.

Una cosa che mi incuriosisce è: in passato la gente viveva di agricoltura, e molto di ciò che facciamo oggi non aveva senso all'epoca. Ora che la società è cambiata così tanto, sarà diverso questa volta? Se le risorse sono davvero abbastanza abbondanti, arriverà un punto di svolta in cui le persone smetteranno di creare nuovi posti di lavoro?

Sam Altman: Credo che la prospettiva relativa sia importante qui. A nostro avviso, in futuro le persone potrebbero effettivamente godere di molto tempo libero.

Jack Altman: In realtà, ora stiamo già praticando molto "rilassamento".

Sam Altman: Guardati mentre indossi quel meraviglioso maglione di cashmere da duemila dollari.

Jack Altman: È solo un maglione.

Sam Altman: Ahah, quindi penso che l'aspetto della relatività sia davvero importante. In questo momento il nostro lavoro ci sembra davvero importante, stressante e appagante. Ma forse in futuro ci limiteremo a creare intrattenimento migliore per tutti. Forse è quello che stiamo facendo in un certo senso proprio ora.

Un "compagno di intelligenza artificiale" che si integra nella vita potrebbe essere la forma di prodotto ideale di OpenAI

Jack Altman: Parliamo di OpenAI. Attualmente, OpenAI ha già un business orientato al consumatore, e ovviamente anche un modello B2B per le aziende, oltre ad alcuni progetti hardware in collaborazione con Jony Ive, e ci sono molte potenziali direzioni che sembrano prendere gradualmente forma.

Puoi parlarci di come potrebbe apparire questo “sistema completo”, o almeno di come potrebbe apparire in una fase successiva?

Sam Altman: Credo che alla fine i consumatori vorranno che gli forniamo quello che, in mancanza di un termine migliore, è un "compagno di intelligenza artificiale".

Esiste nello "spazio virtuale" e li aiuta in molti modi attraverso diverse interfacce e prodotti. Capirà gradualmente te, i tuoi obiettivi, ciò che vuoi raggiungere e le tue varie informazioni.

A volte interagirai con esso digitando ChatGPT, a volte potresti utilizzare una versione più orientata all'intrattenimento, a volte lo utilizzerai in altri servizi integrati con la nostra piattaforma e a volte vi accederai tramite i nostri nuovi dispositivi.

In qualunque forma, questa "esistenza" ti aiuterà a realizzare ciò che vuoi realizzare: a volte ti sottoporrà attivamente dei contenuti, a volte sarai tu a porre domande attivamente, e a volte si limiterà a osservare e imparare silenziosamente per fare meglio in futuro.

In definitiva, la sensazione che trasmette è: "Questo è il mio…" Non abbiamo ancora un termine del tutto preciso per descriverlo, "compagno AI" è il termine più vicino al momento.

Jack Altman: Pensi che il fattore di forma dei computer che utilizziamo oggi sia in realtà sbagliato?

Sam Altman: La parola "sbagliato" potrebbe essere un po' troppo assoluta, ma ritengo che la forma attuale non sia la soluzione ottimale .

In effetti, dal punto di vista del cambiamento di forma, ci sono stati solo due cambiamenti veramente importanti nella storia dello sviluppo informatico. Certo, ci sono stati alcuni cambiamenti agli albori, ma tu ed io non ci abbiamo fatto caso all'epoca.

Nell'epoca che ricordiamo, ci sono stati due grandi cambiamenti: uno è stato l'avvento dei computer, come quelli che usiamo oggi: tastiera, mouse, monitor, molto potenti e ampiamente utilizzati; l'altro è stato l'avvento dei dispositivi touchscreen, come i cellulari e i tablet che portiamo sempre con noi.

Nessuna di queste due forme di intelligenza artificiale era dotata di intelligenza artificiale al momento della sua nascita, quindi l'esperienza utente poteva essere costruita solo sulla base della tecnologia disponibile all'epoca e con logiche di interazione diverse. Ora disponiamo di questa nuova tecnologia, che potrebbe essere più vicina al dispositivo di elaborazione ideale della fantascienza.

Jack Altman: Vale a dire che lo stesso agente può essere utilizzato in modo completamente diverso, in una forma completamente nuova.

Sam Altman: Esatto, e il fattore di forma del dispositivo è davvero importante.

Jack Altman: Come se potesse essere sempre con te.

Sam Altman: Sì, questo è uno dei motivi per cui è importante. Se questo dispositivo può seguirti ovunque, ha tutti questi sensori, capisce davvero cosa succede intorno a te e tiene traccia di tutte queste informazioni, e puoi facilmente dirgli di fare qualcosa di complesso con un semplice comando, allora puoi immaginare un fattore di forma completamente diverso.

Jack Altman: Quali sono gli altri elementi a cui stai pensando in questo momento? Ad esempio, stiamo vedendo i consumatori utilizzare le funzionalità di chat, le startup utilizzare molto le API e i progetti di dispositivi su cui stai lavorando. Oltre a questo, quali sono i "pilastri chiave" a cui stai pensando?

Sam Altman: Penso che la cosa più importante che il mondo non ha ancora capito è l'importanza dell'intelligenza artificiale come "piattaforma" : non è solo qualcosa a cui ci si connette, ma può anche essere integrata in altri sistemi ovunque.

Ad esempio, quando si è in auto o si utilizzano altri siti web o servizi, l'esperienza può essere fluida. Questa "coerenza continua" diventerà molto importante.

Inoltre, abbiamo l'opportunità di creare cose nuove, come nuovi strumenti di produttività e nuovi modi di intrattenimento sociale.

Ma penso che l'ubiquità dell'"ubiquità" sarà una delle caratteristiche principali di questa piattaforma.

OpenAI potrebbe arrivare nello spazio? La chiave è costruire una perfetta catena di approvvigionamento "fabbrica di intelligenza artificiale"

Jack Altman: Considerando l'enorme impatto della tecnologia intelligente in vari campi, e il fatto che l'intelligenza stessa contenga anche molti sottomoduli, ci sono molti "livelli superiori". Prima hai accennato alla questione energetica, e ovviamente sei anche molto coinvolto nel settore energetico. In effetti, ci sono molti livelli dall'intelligenza all'energia, inclusi l'hardware e così via.

Quindi, quanto ritieni importante l'intera "catena tecnologica" per OpenAI e persino per l'intero Paese? È fondamentale?

Sam Altman: Penso che i paesi dovrebbero iniziare a riflettere su questo problema, o meglio, il mondo o i paesi dovrebbero riflettere su questo sistema nell'intero processo, dalla query "elettronica" a quella su ChatGPT.

Ci sono molti collegamenti tra loro, e ora inizio a chiamarla la "fabbrica dell'IA ". Credo che potremmo chiamarla la "metafabbrica", perché in teoria può replicarsi.

Qualunque sia il nome, la cosa fondamentale è che noi, il nostro mondo intero, dobbiamo costruire una catena di fornitura completa.

Jack Altman: Quindi è necessario che OpenAI sia personalmente coinvolta nell'intera filiera?

Sam Altman: Credo che l'integrazione verticale sia vantaggiosa per certi versi , ma non dobbiamo necessariamente fare tutto da soli. Se possiamo essere certi che tutto avverrà su una scala sufficientemente ampia, allora non c'è bisogno di fare tutto. Quindi, in molti collegamenti, possiamo promuovere progressi significativi attraverso la cooperazione.

Jack Altman: Ciò significa che non c'è il rischio di "aver perso un collegamento cruciale".

Sam Altman: Sì, esattamente.

Jack Altman: In termini di energia, finiremo per consumarne un'enorme quantità? È questa la direzione finale?

Sam Altman: Lo spero proprio. Storicamente, uno dei fattori più significativi del miglioramento della qualità della vita è stata la crescente abbondanza di energia. Non ho motivo di pensare che questa tendenza si arresterà.

Jack Altman: Il cambiamento climatico ti preoccupa? O pensi che questi problemi saranno risolti prima o poi?

Sam Altman: Questa è l'ultima delle nostre preoccupazioni. La fissione avverrà e nuove tecnologie di fissione emergeranno.

Jack Altman: Quindi sei meno o più sicuro della fusione?

Sam Altman: Non dico mai "sicuro al 100%", ma posso dire di essere sicuro, molto sicuro.

Jack Altman: E sarà la fonte della maggior parte dell'energia del futuro?

Sam Altman: Credo di sì. Ma anche la prossima generazione di tecnologia di fissione è davvero straordinaria. Un'azienda che conosco si chiama Oklo e sta facendo un ottimo lavoro, e ci sono altre aziende che stanno facendo un ottimo lavoro, e questa è una svolta enorme.

L'energia solare e i sistemi di accumulo sembrano promettenti, ma spero davvero che in futuro il consumo energetico dell'umanità superi di gran lunga l'energia attualmente prodotta sulla Terra. Anche se passassimo completamente all'energia da fusione, una volta che il consumo energetico della Terra sarà amplificato di dieci o cento volte, finirebbe per riscaldare eccessivamente la Terra a causa del calore di scarto. Ma la buona notizia è che abbiamo l'intero sistema solare a nostra disposizione.

Jack Altman: Non credi che quello di cui stiamo parlando significhi in realtà non solo che lo spazio è molto importante, ma anche che la nostra capacità di andare nello spazio sta aumentando?

Sam Altman: Nel grande schema delle cose, sì. Andremo nello spazio? Spero di sì. Sarebbe un peccato se non lo facessimo.

Jack Altman: Interessante, dovrei fondare un'azienda di missili? Ti ho già detto che secondo me dovresti avviare un progetto di startup, e ci sono molte direzioni che puoi provare.

Sam Altman:

In un certo senso mi piace ancora concentrarmi su una cosa sola, e ora sono piuttosto impegnato con la famiglia di cui prendermi cura.

Risposta al bracconaggio di Meta: “Meta non è un’azienda che sa innovare”

Jack Altman: Posso chiederti di Meta? Della loro dinamica e del tuo rapporto con loro?

Sam Altman: Certo. Ho sentito dire che Meta ci considera il suo principale concorrente. Penso che sia razionale per loro continuare a lavorarci, anche se i loro attuali progressi nell'IA potrebbero non essere all'altezza delle aspettative.

Rispetto il loro atteggiamento aggressivo e la loro disponibilità a provare nuovi approcci e, poiché è razionale, mi aspetto che ci riprovino se questa volta non funziona.

Ricordo di aver sentito Zuck dire che, agli inizi di Facebook, era razionale per Google sviluppare prodotti social, anche se tutti in Facebook sapevano che non avrebbe funzionato. Ora ho la stessa sensazione.

Di recente hanno iniziato a fare offerte molto alte ad alcuni membri del nostro team, come bonus alla firma da 100 milioni di dollari e stipendi annuali ancora più alti, il che è pazzesco.

Ma sono davvero felice che finora i nostri migliori talenti non abbiano accettato le loro offerte. Credo che quando si confronteranno i due percorsi, si penserà che OpenAI abbia molte più possibilità di raggiungere la superintelligenza e che probabilmente diventerà un'azienda di maggior valore nel lungo termine.

Credo che la strategia di "offrire un compenso garantito in anticipo" per convincere le persone a unirsi a noi, in realtà si concentri su questo invece che sul lavoro in sé e sulla missione, il che mi sorprende davvero. Non credo che questo metodo possa costruire una buona cultura aziendale.

Voglio che siamo il posto migliore al mondo in cui fare questo tipo di ricerca e penso che abbiamo davvero creato una cultura molto speciale per questo.

La nostra attuale impostazione è che se avremo successo (e tutti nel nostro team di ricerca ritengono che abbiamo buone probabilità di successo), allora tutti saranno ricompensati economicamente.

E credo che il nostro attuale meccanismo di incentivazione sia coerente con il principio "mission first". I rendimenti economici e tutto il resto seguono naturalmente la missione. Un meccanismo del genere è sano.

Ci sono molte cose che apprezzo di Meta, ma non credo che sia un'azienda che punta sull'innovazione. Al contrario, credo che la particolarità di OpenAI sia il fatto di aver costruito con successo una cultura aziendale incentrata sull'innovazione.

Saranno anche bravi nell'"innovazione ripetibile", ma credo che noi comprendiamo molte cose che loro non hanno ancora padroneggiato, come ciò che serve per raggiungere vere e proprie scoperte tecnologiche.

Ma a dire il vero, questa esperienza è stata una sorta di "chiarimento" per il nostro team: ci ha fatto vedere chiaramente la direzione. Auguriamo loro buona fortuna.

Jack Altman: Sì, credo che questo tocchi anche una domanda fondamentale: pensi che i risultati raggiunti finora dall'intelligenza artificiale siano sufficienti perché altri possano avere successo semplicemente "copiandoli"? O la vera innovazione deve ancora venire?

Sam Altman: Non credo che "copiare" sia sufficiente.

Vedo molta gente, Meta incluso, dire: "Copiamo OpenAI e basta". Questa è davvero la mentalità.

Se si guardano i prodotti di chat di molte altre aziende, sembrano quasi identici a ChatGPT, e copiano persino gli errori di interfaccia utente che abbiamo commesso all'inizio, il che è incredibile. E il loro obiettivo di ricerca è semplicemente quello di raggiungere il nostro livello attuale.

Questa è una lezione che ho imparato durante la mia esperienza in YC: questa strategia non funziona praticamente mai. Stai solo inseguendo i successi passati dei tuoi concorrenti, ma non hai ancora instaurato una cultura di "innovazione continua". E una volta caduti in questo stato, è molto più difficile uscirne di quanto si pensi.

Jack Altman: Come riuscite a fare entrambe le cose? Ovvero, a essere un'azienda fortemente commerciale e un'azienda fortemente focalizzata sulla ricerca allo stesso tempo? Non ci sono molti precedenti di successo per questo modello. Capisco come funzionava prima della commercializzazione, ma ora avete sia la parte commerciale che quella di ricerca, e sembra funzionare bene.

Sam Altman: Siamo ancora relativamente nuovi in ​​termini di prodotto e dobbiamo continuare a lavorare sodo per meritarci davvero la valutazione di "funzionamento ottimale".

Stiamo effettivamente facendo progressi e migliorando, ma se si considera la storia della maggior parte delle aziende tecnologiche, di solito iniziano come aziende ben gestite e orientate al prodotto, per poi "aggiungere" un reparto di ricerca gestito male.

Noi siamo l'esatto opposto, l'unico esempio che conosco in cui è vero il contrario: abbiamo iniziato come un'ottima organizzazione di ricerca, poi ci siamo "attaccati" a una divisione di prodotto che inizialmente non funzionava molto bene e ora sta diventando sempre più matura.

Credo che alla fine diventeremo un'azienda produttrice di grandi prodotti e sono molto orgoglioso degli sforzi compiuti dal team in questo senso, ma guarda, due anni e mezzo fa eravamo solo un laboratorio di ricerca.

Jack Altman: Non riesco a credere che siano passati solo due anni e mezzo.

Sam Altman: Sì, è stato davvero difficile costruire questa grande azienda in due anni e mezzo. Quello che hanno fatto tutti è semplicemente straordinario. ChatGPT è stato rilasciato il 30 novembre 2023.

Jack Altman: È vero. E ovviamente, è molto più facile creare un gruppo di persone in grado di gestire un'azienda che trovare un gruppo di persone in grado di fare ricerche di alto livello sull'intelligenza artificiale.

Sam Altman: Ma è comunque difficile. La maggior parte delle aziende impiega molto più di 2 anni e mezzo per realizzare un prodotto di queste dimensioni.

Jack Altman: Perché pensi che Meta ti consideri un concorrente così forte? Capisco che possano pensare che l'intelligenza artificiale sia la chiave per il futuro, ma è sufficiente?

Sam Altman: Probabilmente è una spiegazione sufficiente. Qualcuno che lavorava per Meta una volta mi disse: "Nel mondo esterno, le persone vedono ChatGPT come un sostituto di Google, ma all'interno di Meta, le persone vedono ChatGPT come un sostituto di Facebook".

Jack Altman: Perché ormai le persone passano molto tempo a parlarci.

Sam Altman: Sì, chattano con ChatGPT come farebbero normalmente altrove, e preferiscono così.

Jack Altman: In realtà si tratta di un tentativo di catturare "risorse di attenzione".

Sam Altman: Non si tratta semplicemente di una questione di "competizione di tempo".

Naturalmente c'è competizione per il tempo, ma la cosa più importante è che le persone si sentono peggio con se stesse quando fanno doomscrolling online : anche se sul momento può sembrare un po' piacevole, a lungo andare ti fa sentire sempre peggio, soprattutto sempre meno soddisfatto di te stesso.

Una delle cose di cui siamo particolarmente orgogliosi è che quando le persone parlano di ChatGPT, dicono: "Mi fa sentire meglio con me stesso", mi sta aiutando a raggiungere i miei obiettivi, mi sta davvero aiutando. Questa è probabilmente una delle cose più belle e positive che abbia mai sentito su OpenAI: qualcuno ha detto: "Questa è l'unica azienda tecnologica che ho usato che non mi fa sentire 'contro di me'".

Google mostra dei risultati di ricerca pessimi e forza la visualizzazione di annunci pubblicitari (anche se adoro Google e queste aziende, non sto dicendo che siano necessariamente sbagliati); Meta cerca di "invadere il mio cervello" e di farmi continuare a scorrere; Apple realizza un telefono che mi piace, ma continua a inviare notifiche e a distrarmi, e non riesco a smettere.

ChatGPT mi dà la sensazione che voglia solo aiutarmi a raggiungere i miei obiettivi. È una sensazione davvero piacevole.

Jack Altman: È possibile creare un "prodotto sociale" che sia interattivo e che allo stesso tempo conservi questa energia e questa esperienza positiva?

Sam Altman: Una versione che mi incuriosisce, anche se non sono ancora sicuro di cosa significhi, è un "feed" che di default è vuoto e non promuove attivamente nulla, ma puoi suggerirlo , ad esempio "Voglio mettermi in forma di recente, puoi promuovermi dei contenuti che possono aiutarmi?" oppure "Voglio saperne di più sugli eventi attuali, puoi darmi delle informazioni neutrali e non provocatorie?"

Un sistema del genere ovviamente non sarà così avvincente e dispendioso in termini di tempo come le attuali raccomandazioni algoritmiche, ma penso che sarebbe una direzione molto interessante: un'intelligenza artificiale veramente "allineata" che ti aiuta a raggiungere l'esperienza sociale che desideri davvero a lungo termine.

Mi sento come se mi svegliassi ogni mattina come una persona ricaricata, che sa cosa vuole, ha buone intenzioni ed è dedita alla giornata. Ma con il passare del tempo, il ritmo della vita inizia a farsi frenetico. Verso le 22:00, potrei pensare: "Non volevo bere, ma prendo solo un whisky" oppure "Non voglio controllare TikTok, ma per due minuti dovrebbe andare bene". Concordo sul fatto che non dovrei sforzarmi troppo. Ma se riesco a rimanere "me stessa mattutina" e se la tecnologia può aiutarmi a raggiungere i miei obiettivi, allora penso che andrà tutto bene.

Sam Altman: OpenAI per me non è solo un "lavoro importante", ma anche un "enigma interessante"

Jack Altman: Ho vissuto con te per un po' 10 anni fa. All'epoca eri ancora a capo di YC. Mi sembrava che avessi molta libertà d'azione, che potessi fare quello che volevi e che non fossi vincolato da alcuna regola. Ma da allora, soprattutto negli ultimi anni, ho la sensazione che tu non abbia più regole.

Stai lavorando a Stargate, stai lavorando con Jony Ive… sono tutte cose molto audaci. Sono curioso, c'è qualche cambiamento nel tuo modo di pensare? C'è qualcosa che puoi individuare che ti ha portato ad agire come fai ora?

Sam Altman: Credo che quello che dicevano le nostre nonne sia vero: "La cosa più bella dell'invecchiare è che ti importa sempre meno di quello che gli altri pensano di te". Ora la penso davvero così. Ho attraversato molti alti e bassi, ma è vero che invecchiare ti libera e ti fa preoccupare meno di quello che gli altri pensano di te. È liberatorio.

Jack Altman: Ci sono ancora cose su cui esiti? O pensi di avere un livello di "azione" più elevato da mettere in atto? Ci sono idee che ti farebbero pensare: "In realtà vorrei farlo, ma per qualche motivo l'ho messo da parte per il momento"?

Sam Altman: Questo è il secondo punto che volevo sottolineare: man mano che OpenAI ha sempre più risorse e potenziale, possiamo davvero fare sempre più cose. Certo, ci sono ancora molte cose che vorrei fare ma che non posso fare ora, come costruire una "sfera di Dyson" nel sistema solare e utilizzare l'energia prodotta dall'intero sole per costruire un gigantesco data center globale.

Ovviamente, questo non è possibile ora e potrebbero volerci decenni. Ma nel complesso, abbiamo la capacità di realizzare progetti sempre più ambiziosi.

Jack Altman: Quindi, quando ci si trova di fronte a così tante scelte, come si decide? Questo è in realtà il "problema del sovraccarico di scelta". Ora puoi costruire razzi, social network, giocare con i robot… puoi fare quello che vuoi. Quindi, come si fa a scegliere tra così tante opzioni?

Sam Altman: Onestamente, non mi stancherò mai di ripeterlo: il mio tempo è completamente esaurito e non ho l'energia per fare altro.

E non avevo intenzione di gestire nemmeno una singola azienda, figuriamoci un gruppo di aziende. Volevo solo essere un investitore.

Jack Altman: Diresti che nel complesso ti piace molto il tuo attuale lavoro, anche se ha superato di gran lunga le tue aspettative iniziali?

Sam Altman: Mi sento molto grato e molto fortunato. Non ho dubbi che mi mancherà questo periodo quando andrò in pensione e dirò: "Oh, che noia!".

Jack Altman: Ed è stata un'esperienza davvero bella e importante, vero?

Sam Altman: Sì, è molto appagante. Mi sento super fortunato a fare questo lavoro. Mi piace molto, e mi piace la maggior parte del tempo.

Ma onestamente, questo periodo è stato molto, molto intenso e un po' opprimente. Ho attraversato più alti e bassi di quanto pensassi inizialmente.

Jack Altman: Non era questo il percorso che avevi immaginato quando hai iniziato. La maggior parte delle persone avvia un'azienda di software con l'aspettativa che sarebbe diventata un'azienda di software. Ma non credo che ti aspettassi che andasse così.

Sam Altman: Questo avrebbe dovuto essere il mio "lavoro post-pensionamento", avrei dovuto solo gestire un piccolo laboratorio di ricerca, tutto qui.

Jack Altman: E in molti universi paralleli questo non accadrebbe nemmeno, giusto?

Sam Altman: Sì, è vero.

Jack Altman: A prescindere dal fatto che ti piaccia o da quanto tempo gli dedichi, quando vivi quest'opera, la senti "pesante e importante" oppure come un puzzle interessante e divertente?

Sam Altman: Provo entrambe le sensazioni contemporaneamente.

Dal punto di vista dell'impatto sociale, o del suo potenziale impatto, questo è probabilmente il lavoro più importante e influente che abbia mai svolto nella mia vita.

Non voglio sembrare troppo egocentrico, ma forse questo lavoro è in qualche modo storico. Me ne renderò conto quando avrò il tempo di calmarmi e rifletterci. Ma nel lavoro quotidiano, si tratta più che altro di occuparsi di "cose ​​banali", e in realtà mi piacciono queste banalità. Mi piacciono le persone con cui lavoro, e fare queste cose è anche divertente.

Certo, alcune parti sono state stressanti e persino dolorose, ma nel complesso è sembrato più un "puzzle interessante" che un semplice "lavoro importante".

#Benvenuti a seguire l'account pubblico ufficiale WeChat di iFanr: iFanr (ID WeChat: ifanr), dove vi verranno presentati contenuti ancora più interessanti il ​​prima possibile.

iFanr | Link originale · Visualizza commenti · Sina Weibo