"In futuro, potremmo vedere i primi culti e religioni della storia i cui testi venerati sono stati scritti da un'intelligenza non umana", Yuval Noah Harari • W3B Today

“Nei giochi come gli scacchi, nessun essere umano può sperare di battere un computer. E se la stessa cosa accadesse nell’arte, nella politica, nell’economia e perfino nella religione?”, spiega Yuval Noah Harari a Frontiers Forum Live 2023.

Negli ultimi anni, il culto politicamente influente di QAnon si è formato attorno a testi online anonimi noti come QDrops. I seguaci di questo culto, che ora sono milioni negli Stati Uniti e nel resto del mondo, raccoglievano, veneravano e interpretavano queste gocce di Q come una sorta di nuove scritture, come un testo sacro.

Ora, per quanto ne sappiamo, tutti i precedenti Q-drop erano composti da esseri umani e i robot hanno solo contribuito a diffondere questi testi online.

Ma in futuro potremmo vedere i primi culti e religioni della storia i cui testi venerati furono scritti da un’intelligenza non umana. E ovviamente le religioni nel corso della storia hanno affermato che i loro libri sacri sono stati scritti da un’intelligenza non umana. Questo non era mai stato vero prima.

Ciò potrebbe realizzarsi molto, molto rapidamente, con conseguenze di vasta portata.

Ciò di cui potenzialmente stiamo parlando non è altro che la fine della storia umana. Ora, non la fine della storia, solo la fine della parte dominata dall’uomo di ciò che chiamiamo storia. La storia è l’interazione tra biologia e cultura. È l’interazione tra i nostri bisogni e desideri biologici per cose come il cibo e il sesso e le nostre creazioni culturali come le religioni e le leggi. La storia è il processo attraverso il quale le religioni e le leggi interagiscono con il cibo e il sesso. Ora, cosa accadrà alla causa di questa interazione della storia quando l’intelligenza artificiale prenderà il sopravvento sulla cultura? storia, quando l’intelligenza artificiale prende il sopravvento sulla cultura.

Nel giro di pochi anni, l’intelligenza artificiale potrebbe divorare l’intera cultura umana, tutto ciò che abbiamo prodotto per migliaia e migliaia di anni, mangiarlo tutto, digerirlo e iniziare a produrre un flusso di nuove creazioni culturali, nuovi artefatti culturali.

E ricorda che noi esseri umani non abbiamo mai veramente accesso diretto alla realtà. Siamo sempre avvolti dalla cultura e sperimentiamo sempre la realtà attraverso un prisma culturale. Le nostre opinioni politiche sono plasmate dalle storie dei giornalisti e dagli aneddoti degli amici. Le nostre preferenze sessuali sono influenzate da film e fiabe. Anche il modo in cui camminiamo e respiriamo è sottilmente influenzato dalle tradizioni culturali.

In precedenza, questo bozzolo culturale veniva sempre tessuto da altri esseri umani. Strumenti, strumenti precedenti come macchine da stampa, radio, televisori, hanno contribuito a diffondere le idee culturali e le creazioni degli esseri umani, ma non sono mai riusciti a creare qualcosa di nuovo da soli. Una macchina da stampa non può creare un nuovo libro. È sempre fatto da un essere umano.

L’intelligenza artificiale è fondamentalmente diversa dalle macchine da stampa, dalle radio, da ogni invenzione precedente nella storia, perché può creare idee completamente nuove, può creare una nuova cultura. E la grande domanda è come sarà vivere la realtà attraverso un prisma prodotto da un’intelligenza non umana, da un’intelligenza aliena.

Inizialmente, nei primi anni, l’intelligenza artificiale probabilmente imiterà in gran parte i prototipi, i prototipi umani, che l’hanno alimentata nella sua infanzia. Ma con il passare degli anni, la cultura dell’IA andrà coraggiosamente dove nessun essere umano è mai arrivato prima. Quindi, per migliaia di anni, noi esseri umani abbiamo vissuto sostanzialmente nei sogni e nelle fantasie di altri esseri umani. Abbiamo adorato gli dei, abbiamo perseguito ideali di bellezza, abbiamo dedicato la nostra vita a cause che hanno avuto origine nell’immaginazione di qualche poeta, profeta o politico umano. Presto potremmo ritrovarci a vivere nei sogni e nelle fantasie di un alieno dotato di intelligenza.

E il pericolo che ciò comporta, o il pericolo potenziale, ha anche un potenziale positivo, ma i pericoli che elimina sono fondamentalmente molto, molto diversi da tutto o dalla maggior parte delle cose immaginate nei film e nei libri di fantascienza. In precedenza, le persone temevano soprattutto la minaccia fisica rappresentata dalle macchine intelligenti. Quindi Terminator raffigurava robot che correvano per le strade e sparavano alle persone. Matrix presupponeva che per ottenere il controllo totale della società umana, l’intelligenza artificiale avrebbe dovuto prima ottenere il controllo fisico del nostro cervello e collegarlo direttamente alla rete di computer. Ma questo è sbagliato.

Semplicemente acquisendo la padronanza del linguaggio umano, l’intelligenza artificiale ha tutto ciò di cui ha bisogno per avvolgerci in un mondo di illusioni simile a una matrice. Contrariamente a quanto sostengono alcune teorie del complotto, non è necessario impiantare chip nel cervello delle persone per controllarle o manipolarle.

Per migliaia di anni, profeti, poeti e politici hanno utilizzato il linguaggio e la narrazione per manipolare e controllare le persone e rimodellare la società. Ora è probabile che l’intelligenza artificiale sia in grado di farlo. E una volta che potrà farlo, non avrà più bisogno di inviare robot assassini a spararci. Può indurre gli esseri umani a premere il grilletto, se davvero necessario. Ora la paura dell’intelligenza artificiale perseguita l’umanità solo nelle ultime generazioni, diciamo dalla metà del 20° secolo.

Se torni a Frankenstein, forse sono passati 200 anni. sono stati perseguitati da una paura molto, molto più profonda. Gli esseri umani hanno sempre apprezzato il potere delle storie, delle immagini e del linguaggio di manipolare le nostre menti e creare illusioni. Di conseguenza, fin dai tempi antichi, gli esseri umani temevano di rimanere intrappolati in un mondo di illusioni, creando tutto ciò che Cartesio vedeva e sentiva.

Nell’antica Grecia, Platone raccontò la famosa allegoria della caverna, all’interno di una grotta per tutta la vita, di fronte a un muro bianco, uno schermo. Su quello schermo vedono proiettate varie ombre, e i prigionieri confondono queste illusioni, queste ombre per la realtà.

Nell’antica India, i saggi buddisti e indù sottolineavano che tutti gli esseri umani vivevano intrappolati in quella che chiamavano Maya. Maya è il mondo delle illusioni. Buddha disse che ciò che normalmente consideriamo realtà è spesso solo una finzione nella nostra mente. Le persone possono intraprendere intere guerre, uccidendo altri ed essere disposte a farsi uccidere a causa della loro fede in queste finzioni.

Quindi la rivoluzione dell’intelligenza artificiale ci porta faccia a faccia con il demone di Cartesio, con la caverna di Platone, con i Maya.

Se non stiamo attenti, una cortina di illusioni potrebbe calare su tutta l’umanità e non riusciremo mai a strapparla e nemmeno a renderci conto che esiste, perché penseremo che questa sia la realtà.

E i social media, se questo sembra inverosimile, basta guardare ai social media negli ultimi anni. I social media ci hanno dato un piccolo assaggio delle cose a venire. Nei social media, gli strumenti di intelligenza artificiale primitivi, gli strumenti di intelligenza artificiale, sono stati utilizzati non per creare contenuti, ma per curare contenuti prodotti da esseri umani.

Gli esseri umani producono storie, video e quant’altro, e l’intelligenza artificiale sceglie quali storie, quali video raggiungeranno le nostre orecchie e i nostri occhi, selezionando quelli che diventeranno più virali. E sebbene siano molto primitivi, questi strumenti di intelligenza artificiale sono stati tuttavia sufficienti a creare questo tipo di cortina di illusioni che ha aumentato la polarizzazione sociale in tutto il mondo, minato la nostra salute mentale e destabilizzato le società democratiche. Le persone hanno confuso queste illusioni con la realtà.

Gli Stati Uniti dispongono della tecnologia informatica più potente di tutta la storia, eppure i cittadini americani non riescono più a mettersi d’accordo su chi ha vinto le ultime elezioni o se il cambiamento climatico sia reale o se i vaccini prevengano o meno le malattie.

I nuovi strumenti di intelligenza artificiale sono molto più potenti di questi algoritmi dei social media e potrebbero causare molti più danni.

Qui trovate il video completo del suo intervento: https://www.youtube.com/watch?v=azwt2pxn3UI