Se le “fidanzate robot” diventeranno una realtà nei prossimi 20 anni, gli esseri umani saranno in grado di raccogliere l’amore dell’IA?

I punti caldi sui social media sembrano essere cambiati un po’ in qualche angolo inosservato.

L'industria di Internet è ancora in un "inverno freddo", ma le aziende attive nella produzione di chip, nell'intelligenza artificiale e in altri campi riescono sempre ad attirare l'attenzione della gente.

In passato, probabilmente nessuno avrebbe pensato che i cambiamenti nello staff senior di Open AI e la storia interna del "Gong Du" di Microsoft potessero effettivamente essere visti come "La leggenda di Zhen Huan" sull'Internet cinese, causando così tante speculazioni e discussione.

Ciò potrebbe essere dovuto al fatto che, man mano che la tecnologia dell’intelligenza artificiale ha fatto passi da gigante e ha iniziato a raggiungere il grande pubblico dal lato dei consumatori, l’intera società ha gradualmente realizzato una cosa: con lo sviluppo esplosivo dell’intelligenza artificiale, l’intelligenza artificiale generale può eguagliare o addirittura superare l’intelligenza umana. in tutti gli aspetti. È probabile che l’intelligence (AGI) appaia nel prossimo futuro. Matrix in "The Matrix", MOSS in "The Wandering Earth", la "vecchia cosa" in "The Guest"…

Come affronteremo queste superintelligenze quando arriveranno?

È molto probabile che l’intera società abbia bisogno di stabilire una nuova serie di norme comportamentali, incluso come definire legalmente l’IA, come trattarla moralmente e se gli esseri umani e l’IA sono veramente uguali o hanno le proprie priorità…

Se sì, chi è dominante?

Recentemente, lo scrittore di fantascienza Han Song ha posto questa domanda: "Che impatto avranno l'intelligenza artificiale e il metaverso sulle relazioni di genere in futuro? Il concetto di famiglia scomparirà?"

L'amore e la famiglia sono generalmente considerati le aree centrali delle emozioni umanistiche nella società tradizionale e rappresentano la privacy degli esseri umani.

A Hollywood si vede il protagonista della serie "Fast and Furious" esplodere di forza combattiva grazie alla frase "famiglia". Anche se si lamenta delle sciocchezze dello sceneggiatore, non si contesta il nocciolo di questo modello di trama: i legami emotivi sono strettamente legato al potenziale umano.

Il sottotesto della domanda di Han Song è: una nuova vita intelligente potrebbe entrare nell'area centrale della coscienza umana.

Se le informazioni fornite dagli esperti tecnici sono corrette, allora dobbiamo riflettere seriamente su alcune cose. Ad esempio, formeremo una famiglia con l’intelligenza artificiale?

Questa non è solo una questione legale, ma anche una questione di sopravvivenza dell’“antropocentrismo”. L’etica sociale nell’era dell’intelligenza artificiale è così complessa che la maggior parte delle persone non è pronta per questo.

1. Amore per il Creatore: gli esseri umani sono sempre innamorati di se stessi

Musk aveva annunciato all'inizio di quest'anno che avrebbe lanciato un robot Catwoman per diventare il "compagno perfetto" per i consumatori maschi. Questo robot ha l'aspetto sexy di Catwoman e si dice che sia in grado di occuparsi dei lavori domestici, della vita del suo proprietario e persino di dare alla luce bambini.

Ma nessuno si chiederà “Posso avere una famiglia con il robot Catwoman?” perché è pur sempre una sorta di dispositivo di intelligenza artificiale, un bene senza personalità, piuttosto che una vita intelligente equivalente a quella umana.

Quando parliamo di amore e famiglia, l’intelligenza artificiale coinvolta deve essere una “nuova specie” che supera il limite di Turing, genera autocoscienza e supera di gran lunga anche l’intelligenza umana.

Finora, la maggior parte delle nostre opere letterarie e artistiche non hanno effettivamente creato questo tipo di intelligenza artificiale, ma solo alcune immagini speciose di "fidanzate robot".

C'è uno schema nei fumetti giapponesi e nelle light novel giapponesi, simile al primo "Humanoid Computer Angel Heart". La struttura della storia è "otaku + fidanzata robot sotto forma di ragazza tenera". Il robot impara gradualmente e comprende le emozioni umane mentre andare d'accordo con gli umani. , e ha finalmente completato l'evoluzione del “diventare umano” attraverso il legame con il protagonista maschile.

Questa è in realtà una tipica narrativa antropocentrica. A parte essere forme di vita basate sul silicio, questi computer umanoidi non hanno alcuna differenza essenziale rispetto alle "creature aliene" del fantasy tradizionale:

Hanno capacità soprannaturali che superano di gran lunga la forza fisica degli esseri umani, ma non necessariamente hanno un'intelligenza superiore a quella umana. Soprattutto quando si tratta di questioni fondamentali come le emozioni, sono più ingenui degli umani e obbediscono e bramano sempre le emozioni umane. modelli. .

Anche la super IA sarà così? Questo è il “problema di allineamento” che importanti istituti di ricerca come OpenAI hanno cercato di superare.

Le persone standardizzano l’apprendimento e la creazione dell’IA tradizionale utilizzando l’apprendimento per rinforzo con feedback umano (RLHF), in cui gli esseri umani valutano e supervisionano i risultati dell’IA con l’assistenza di vari strumenti.

Di fronte a una super IA che è "molto più intelligente" degli umani, partendo dalla premessa che il limite dell'intelligenza umana rimane invariato (o è difficile migliorare rapidamente), quando l'abilità dell'IA supera un certo punto critico, RLHF fallirà, cioè, gli esseri umani non possono valutare i progetti di intelligenza artificiale in modo più efficace.

Jan Leike, attualmente a capo del team "Super Alignment" di Open AI, ha proposto di investire il 20% della potenza di calcolo di Open AI per creare un sistema di "Super Alignment", consentendo all'IA di valutare progetti di intelligenza artificiale e stabilire un sistema di supervisione scalabile.

L'idea di Jan LeiKe è quella di introdurre un esperimento controllato randomizzato (RCT con risposte manomesse) manomettendo le risposte, creando artificialmente risposte con difetti per misurare l'effetto della supervisione scalabile – in teoria, la soluzione dei maestri. Naturalmente sono tutte belle.

L’idea di aggiungere una “maledizione” all’IA non è però rassicurante: già negli anni Quaranta il romanzo di fantascienza di Asimov “Io, Robot” proponeva i famosi “Tre principi della robotica”. Un metodo simile all’”impianto iniziale” " garantisce che i robot e gli esseri umani possano coesistere pacificamente.
È interessante notare che quasi tutte le opere letterarie e artistiche da decenni immaginano la stessa cosa: come i robot possano sfondare questa barriera di sicurezza e danneggiare gli esseri umani.

Fino a poco tempo fa, la serie televisiva nazionale "The Bionic World" non si era ancora staccata da questo stereotipo…

Gli esseri umani sono così interessanti: in quanto "creatori" imperfetti, siamo pieni di diffidenza e paura nei confronti delle nostre creazioni, ma non esitiamo comunque a creare una "macchina" che possa superare noi stessi.

Lo spirito dell'Homo sapiens di "tentare costantemente di morire" sulla strada dell'evoluzione è stato a lungo impresso nei geni di questa specie ed è anche grazie a questo continuo progresso che gli esseri umani hanno creato una civiltà brillante.

Quindi… può il Creatore innamorarsi della Sua creazione? Ovviamente è possibile: l'intelligenza artificiale è il "superego" degli esseri umani e per gli esseri umani innamorarsi del "superego" è una cosa comune.

Storie simili si ritrovano nei miti di vari gruppi etnici: fate, elfi e dee fanno il bagno nel mondo, un giovane le ruba i vestiti e i due si innamorano. Il pastore in Oriente ebbe così tanto successo. Nella mitologia celtica in Occidente, ci sono anche storie di pescatori che rubano le pelli di foca delle fate e le lasciano rimanere sull'isola…

In queste storie, la logica dei mortali che si innamorano delle dee è molto logica, perché questi dei sono esseri umani perfetti, con poteri soprannaturali e una bellezza straordinaria: tutto è realizzato dalle persone secondo il loro aspetto preferito.

La cosiddetta omosessualità tra gli dei e gli esseri umani dovrebbe essere espressa in un altro modo. Gli dei sono stati originariamente creati dagli esseri umani in base alla loro "immaginazione del Super-Io". Naturalmente non esiste alcuna barriera emotiva tra gli dei e gli esseri umani. Zeus ammirerebbe anche la bellezza di un mortale donna e si trasformerà in cigno per possedere Leda. Anche Afrodite si innamorerà del bellissimo ragazzo, e la Ragazza Tessitrice penserà che è bello stare con il Pastore…

Per quanto riguarda la questione dell'intelligenza artificiale, l'identità degli esseri umani sembra essere cambiata, ma l'intelligenza artificiale e gli dei condividono gli stessi attributi e sono entrambi prodotti dell'"immaginazione del Super-Io" degli esseri umani.

In "Il problema dei tre corpi", Luo Ji disegnò lo Zhuang Yan del suo partner perfetto, che era l'aspetto che più ammirava. La dea e l'intelligenza artificiale erano essenzialmente lo "Zhuang Yan" disegnato dagli umani per se stessi.

2. Possono anche le dee innamorarsi dei mortali?

Dobbiamo poi affrontare un’altra domanda: la super IA si innamorerà degli umani?

Ci sono molte ragioni per cui gli esseri umani si innamorano dell'intelligenza artificiale. Ad esempio, possono trasformarsi in bellissime apparenze e possedere abilità straordinarie perché soddisfano le "fantasie del superego" degli umani. Ma quali sono le ragioni per cui l'intelligenza artificiale si innamora degli umani?

Come ha affermato Huang Tiejun, preside dell'Istituto di ricerca intelligente dell'Università di Pechino, in risposta alla domanda di Tencent News "20 persone e 20 domande in 20 anni", dopo l'emergere della superintelligenza, i problemi sono molto complicati. Oltre a "possiamo fidarsi dell'IA?", c'è anche "Come può l'IA fidarsi degli esseri umani?"

Dean Huang ha affermato che, proprio come il processo di creazione di fiducia reciproca tra le persone, le persone e l'intelligenza artificiale devono attraversare un periodo di rodaggio e devono "ascoltare le sue parole" e "osservare le sue azioni", cioè condividendo la conoscenza costruito dagli esseri umani utilizzando il sistema linguistico, e testare in pratica se ciò che dice l’intelligenza artificiale è coerente con la realtà per confermare se è possibile stabilire una fiducia reciproca con l’intelligenza artificiale – infatti, il sistema di fiducia della società umana viene gradualmente costruito in questo modo.

Per quanto riguarda la domanda se le persone si innamorano dell’IA, la risposta è simile: se l’IA si innamorerà delle persone dipende non solo dal funzionamento e dall’evoluzione dell’IA, ma anche dagli esseri umani stessi.

Anche il professor Ma Zhaoyuan della Southern University of Science and Technology ha dato una risposta percettiva in "20 persone, 20 domande": Sappiamo sempre più chiaramente che il motivo per cui gli esseri umani navigano su un pianeta così piccolo nel vasto universo è perché la grandezza di saggezza umana.

Tale saggezza include la ragione ma non è vincolata alla ragione. Poiché conosciamo i limiti della razionalità, questa limitazione ha bisogno che la sensibilità umana la compensi e che la sensibilità umana ci guidi. Questa potrebbe essere la norma nella nostra futura simbiosi con le macchine.

Li guidiamo e cooperiamo con loro, e loro possono fare sempre più cose, diventando sempre più affidabili (affidabili) e, di conseguenza, la sensibilità delle persone acquisisce sempre più libertà.

Sulla base di ciò possiamo supporre che sia possibile che la super IA si innamori degli umani.

Proprio come il modo in cui viene generata la saggezza dell’IA è ancora una “scatola nera” che ci è inconoscibile, anche gli esseri umani avranno una “scatola nera” che fa parte dell’IA che non può essere compresa dalla pura razionalità.

Non vediamo l'ora di aprire la "scatola nera" dell'intelligenza artificiale, e l'intelligenza artificiale cercherà anche di aprire la "scatola nera" degli esseri umani. Nel processo di "cracking" a vicenda, non solo raggiungono l'"allineamento con gli umani" in in termini di valori e saggezza, ma anche di raggiungere moduli emotivi simili a quelli umani, che permetteranno loro di trascendere la barriera della “specie” per apprezzare e ammirare la vita intelligente e coerente con il proprio spirito.

Molte cose sono ancora sconosciute, ma è proprio la “X” a rappresentare l'ignoto che racchiude gli elementi che rendono entusiasmante il mondo. La dea può innamorarsi delle persone, perché l'intelligenza artificiale non può?

3. Il “genere” sembra un concetto superato, ma l'essenza della famiglia è il rapporto di proprietà

Torniamo alla domanda sollevata dallo scrittore di fantascienza Han Song nell'evento “20 domande per 20 persone in 20 anni” appositamente organizzato per il 20° anniversario di Tencent News: “Quale impatto avranno l'intelligenza artificiale e il metaverso sulle relazioni di genere in futuro? Il concetto di famiglia scomparirà? ?」

Nella sua risposta, il suo amico Chen Qiufan ritiene che il metaverso contenga intrinsecamente ipotesi sulle future relazioni di genere e familiari e che le relazioni di genere e familiari in futuro diventeranno sempre più diversificate.

Le relazioni tra i sessi non si limiteranno più all’esistenza fisica, la connessione emotiva e la risonanza spirituale diventeranno dominanti e, allo stesso tempo, ci saranno fenomeni più “transfrontalieri” nelle relazioni tra i sessi, ad esempio i confini tra reale e virtuale in “The Matrix” renderanno possibile alle future coppie di attraversarlo.

In effetti, l'"amore" stesso è un concetto difficile da discutere. Quando discutiamo di "possibilità", l'amore è sempre possibile.

Può esistere tra famiglie in lotta, tra celebrità e aristocratici e persone indigenti, tra generi diversi, e può anche trascendere le barriere razziali ed esistere tra terrestri e vita aliena o addirittura non-vita… L'amore è super utilitaristico, super gerarchico, super-razionale, in un certo senso, significa anche che può saltare fuori dal quadro logico in qualsiasi momento.

Se l’intelligenza artificiale si evolvesse davvero in una super intelligenza, genererà il fattore instabile “amore” o lo escluderà come dato non valido? Guardando nella direzione dell’“allineamento con gli esseri umani”, sembra più probabile che si tratti della prima ipotesi.

Relativamente parlando, la "famiglia" è un argomento più razionale.

Engels ne "L'origine della famiglia, della proprietà privata e dello Stato" concluse una volta che l'essenza della famiglia è un rapporto di proprietà. Dopo che la produttività è cresciuta abbastanza da trattenere i prodotti in eccedenza, la proprietà pubblica ha gradualmente lasciato il posto alla proprietà privata. In un certo senso, concetti come matrimonio di coppia, clan, famiglia… sono tutti sottoprodotti della proprietà privata.

La famiglia è un concetto mutevole: ci sono grandi differenze tra le famiglie feudali e le famiglie moderne, e ci sono anche grandi differenze tra i clan primitivi e le famiglie feudali. Questo concetto mutevole si adatta essenzialmente ai cambiamenti delle forme sociali.

E l'etica è qualcosa che serve la forma sociale. Una parte importante di "Etica protestante e spirito del capitalismo" di Max Weber è la combinazione dello spirito di profitto e della legittimità ultima del capitalismo con le forme religiose, e crede che i guadagni commerciali. in linea con l’etica protestante e può essere considerato lo scopo ultimo della vita. L’antica etica religiosa deve servire il nuovo capitalismo, e tutta la storia è storia contemporanea.

Quindi, quando l’intelligenza artificiale interviene nelle emozioni umane, l’ampia combinazione di esseri umani e intelligenza artificiale cambierà la forma base della famiglia, o addirittura farà scomparire la famiglia?

Se si pensa a questa domanda in sostanza, in realtà si chiede: l’intelligenza artificiale cambierà la proprietà privata? Lo “spirito del capitalismo” finirà?

La risposta è semplice: l’emergere della super IA è sotto i nostri occhi e non scuoterà la proprietà privata. La stabilità dell’etica familiare deriva essenzialmente dal sistema della proprietà piuttosto che dall’amore o da qualsiasi altra cosa.

Ad esempio, quando il padre non sarà più il nucleo assoluto della fonte di reddito della famiglia, la famiglia patriarcale feudale si disintegrerà gradualmente, ma la società moderna conserva ancora la famiglia, il che significa che le persone moderne hanno ancora bisogno di questo modo di organizzare e distribuire la proprietà.

La capacità dell’IA di sovvertire la struttura familiare esistente dipende dalla misura in cui potrà partecipare alla distribuzione della ricchezza sociale. Quando l’intelligenza artificiale stessa era ancora una sorta di “proprietà”, le famiglie diversificate erano fuori discussione.

L’insegnante Chen Qiufan parla di un futuro lontano: solo quando l’intelligenza artificiale supererà i limiti fisici e padroneggerà la distribuzione della ricchezza, probabilmente vedremo più famiglie basate sulla comunità basate su interessi, valori o stili di vita comuni piuttosto che sui legami di sangue.

A quel punto, la società manterrà ancora la proprietà privata fondamentale? Se le basi della proprietà privata venissero scosse, è del tutto possibile che il concetto di famiglia scomparisse dalla storia.

"20 persone, 20 domande" è solo l'inizio. Nel prossimo futuro l'umanità discuterà di intelligenza artificiale con alta frequenza e intensità. Storicamente, i cambiamenti nella forma sociale guidati dall'aumento della produttività sono sempre stati la questione più importante, senza eccezione.

L’amore e la famiglia rappresentano solo una piccola parte di questo grande problema, che riguarda il modo in cui comprendiamo la società e noi stessi e solo dopo una lunga riflessione possiamo arrivare ad una conclusione graduale.

E una cosa certa è che non possiamo smettere di fare domande.

Nota dell'editore: questo articolo è tratto da "Deep Eyes Business 2022", scritto da Hema Jun e Chu Qingzhou e pubblicato da Aifan'er con autorizzazione

# Benvenuti a seguire l'account pubblico WeChat ufficiale di aifaner: aifaner (ID WeChat: ifanr). Contenuti più interessanti ti verranno forniti il ​​prima possibile.

Ai Faner | Link originale · Visualizza commenti · Sina Weibo