mai evocare poteri che non si possono controllare.
La tendenza a creare cose potenti dalle pericolose ricadute non è cominciata con l’invenzione della macchina a vapore o dell’intelligenza artificiale ma con quella della religione.
il modo in cui sono costruite queste reti predispone a usare tale potere in modo incauto
Non dobbiamo dare per scontato che le reti deliranti siano destinate al fallimento.
la visione ingenua dell’informazione diffonde un’idea fin troppo ottimistica delle reti umane su larga scala.
anche se analizziamo le informazioni in modo accurato e scopriamo verità importanti, questo non garantisce che useremo le capacità che ne derivano in modo saggio
Ogni smartphone contiene più informazioni dell’antica biblioteca di Alessandria14
Eppure, con tutte queste informazioni che circolano a un ritmo vorticoso, l’umanità è più prossima che mai all’autodistruzione.
la cortina di silicio potrebbe arrivare a dividere non un gruppo di esseri umani da un altro, ma piuttosto tutti gli esseri umani dai nostri nuovi padroni dell’IA.
Come nel XX secolo la cortina di ferro divideva le potenze rivali nella guerra fredda, così nel XXI secolo la cortina di silicio – fatta di chip di silicio e codici informatici invece che di filo spinato – potrebbe arrivare a dividere le potenze rivali di un nuovo conflitto globale.
potremmo ritrovarci avvolti da una rete di algoritmi insondabili che governano le nostre vite, rimodellano la nostra politica e la nostra cultura, e reingegnerizzano persino i nostri corpi e le nostre menti
Che gia in parte esiste
L’IA non è uno strumento, è un agente.
è la prima tecnologia della storia in grado di prendere decisioni e creare nuove idee da sola.
inventando un codice inorganico capace di animare entità inorganiche.
AI is conscious
Gli animali, gli stati e i mercati sono tutte reti di informazioni che assorbono dati dall’ambiente, prendono decisioni e ne producono altri di rimando
potremmo dissolverci in un fiume di dati come una zolla di terra dentro un fiume in piena
l’umanità risulterà essere solo un’increspatura nel flusso di dati cosmico.
il populismo vede l’informazione come un’arma.21
Quando e dove il populismo riesce a diffondere questa idea dell’informazione come arma, il linguaggio stesso viene minato dalle fondamenta. Sostantivi come “fatti” e aggettivi come “accurato” e “veritiero” diventano inafferrabili.
interpretazione binaria della storia
è improbabile che populisti di destra come Trump e Bolsonaro abbiano letto Foucault o Marx, e anzi si presentano come fieri antimarxisti. Inoltre, le loro politiche in campi come la tassazione e il welfare sono quanto di più lontano ci possa essere dalle politiche auspicate da Marx. D’altra parte, la loro concezione di fondo della società e dell’informazione è sorprendentemente simile a quella marxista, perché anche i populisti vedono tutte le interazioni umane come una lotta di potere tra oppressori e oppressi
Se il potere è l’unica realtà e se l’informazione è solo un’arma, che cosa implica tutto questo per gli stessi populisti? Che anche loro sono interessati solo al potere e ci stanno mentendo per ottenere a loro volta il potere?
Questo approccio può sembrare scientifico e può attrarre individui dallo spirito libero, ma lascia aperta la questione di come le comunità umane possano cooperare per costruire sistemi di assistenza sanitaria o approvare regolamenti in materia di ambiente,
Fidarsi solo delle “proprie ricerche” può sembrare un principio scientifico, ma in pratica equivale a credere che non esista una verità oggettiva
la scienza è uno sforzo istituzionale collaborativo piuttosto che una ricerca personale
Uno dei paradossi ricorrenti del populismo è che inizia avvertendoci che tutte le élite umane sono guidate da una pericolosa fame di potere, ma spesso finisce con l’affidare tutto il potere a un singolo individuo ambizioso.
che i populisti stanno erodendo la fiducia nelle grandi istituzioni e nella cooperazione internazionale proprio quando l’umanità affronta le sfide vitali del collasso ecologico, della guerra globale e della tecnologia fuori controllo
I populisti hanno ragione a diffidare di una visione ingenua dell’informazione, ma sbagliano a pensare che il potere sia l’unica realtà e che l’informazione sia sempre e solo un’arma
Oppure potremmo non ritrovarci da nessuna parte, dato che la Terra nel frattempo sarà diventata inospitale per la vita umana.
Quelli a cui siamo soliti pensare come conflitti ideologici e politici spesso si rivelano essere scontri tra tipi opposti di reti di informazione.
i meccanismi di autocorrezione forti a volte destabilizzano la rete dall’interno
L’ascesa dell’intelligenza artificiale è probabilmente la più grande rivoluzione dell’informazione in tutta la storia umana. Ma non possiamo capirla se non la confrontiamo con le rivoluzioni che l’hanno preceduta
L’impero romano, la Chiesa cattolica e l’URSS per elaborare informazioni e prendere decisioni facevano tutti affidamento sui cervelli umani a base di carbonio. I computer basati sul silicio che dominano la nuova rete informativa funzionano in modo radicalmente diverso
Il mondo si dividerà in blocchi ostili la cui rivalità ci renderà tutti facili prede di un’IA fuori controllo?
Il piccione non aveva idea di quali informazioni stesse trasmettendo, ma i simboli segnati con l’inchiostro sul pezzo di carta che portava con sé hanno contribuito a salvare centinaia di uomini dalla morte e dalla prigionia
Qualsiasi oggetto può essere un’informazione, oppure no. Questo rende difficile darne una definizione
la visione ingenua sostiene che l’informazione è un tentativo di rappresentare la realtà e quando questo tentativo riesce, la chiamiamo verità.
per quanto un resoconto sia veritiero, non può mai rappresentare la realtà in tutti i suoi aspetti
La realtà comprende un livello oggettivo con fatti oggettivi che non dipendono dalle convinzioni delle persone
Una mappa 1:1 può sembrare la massima rappresentazione della realtà, ma è evidente che non è più una rappresentazione: è la realtà.
anche i resoconti più veritieri della realtà non possono mai rappresentarla per intero
La disinformazione invece è una deliberata menzogna, con cui qualcuno intende consapevolmente distorcere la nostra visione della realtà.
Una teoria dell’informazione che non tenesse conto del significato storico dell’astrologia sarebbe chiaramente inadeguata.
l’informazione non ha un legame essenziale con la verità e il suo ruolo nella storia non è quello di rappresentare una realtà preesistente. Il suo ruolo è piuttosto quello di creare nuove realtà legando insieme elementi diversi, che si tratti di coppie o di imperi.
l’informazione è ciò che collega punti diversi in una rete. L’informazione non ci informa necessariamente sulle cose. Organizza piuttosto le cose in una qualche conformazione.
Come la musica, il DNA non rappresenta la realtà
Il DNA e l’adrenalina contribuiscono quindi a collegare miliardi di cellule del cuore, delle gambe e di altre parti del corpo, formando una rete funzionante in grado di fare cose straordinarie, come scappare da un leone
Le meraviglie dell’evoluzione sono possibili perché il DNA non rappresenta realtà preesistenti, ma ne crea di nuove.
L’informazione è qualcosa che crea nuove realtà collegando punti diversi in una rete
A volte le rappresentazioni errate della realtà possono funzionare anche da nesso sociale, per esempio quando milioni di seguaci di una teoria del complotto guardano un video su YouTube
se la Bibbia ha fatto un pessimo lavoro nel rappresentare la realtà delle origini umane, delle migrazioni e delle epidemie, è stata comunque molto efficace nel connettere miliardi di persone e nel creare le religioni
l’informazione a volte rappresenta la realtà, a volte no. Ma è sempre in grado di creare connessioni
le illusioni collettive dell’ideologia nazista e di quella stalinista su temi come la razza e le classi sociali hanno contribuito a far marciare insieme decine di milioni di persone
Il segreto del nostro successo risiede piuttosto nel talento di usare le informazioni per mettere in contatto molti individui
Noi Sapiens dominiamo il mondo non perché siamo particolarmente saggi, ma perché siamo gli unici animali in grado di cooperare in modo flessibile su larga scala
gli esseri umani non possono formare legami intimi duraturi con più di qualche centinaio di individui
se le reti di noi Sapiens fossero state connesse solo grazie a legami personali tra esseri umani, sarebbero rimaste molto piccole
le bande di Homo sapiens hanno cominciato a mostrare una capacità di cooperazione senza precedenti,
situazione tipica pure tra le specie umane antiche, come l’uomo di Neanderthal e l’Homo sapiens arcaico. Ogni loro banda contava poche decine di individui e le diverse bande collaboravano di rado.3
i cambiamenti evolutivi nella struttura del cervello e nelle abilità linguistiche hanno apparentemente dato ai Sapiens l’attitudine a raccontare e a credere a storie di fantasia e a commuoversi profondamente per esse
Per cooperare, i Sapiens non dovevano più conoscersi personalmente, ma solo conoscere la stessa storia
Una storia può quindi funzionare come connettore centrale, con un numero illimitato di prese a cui può collegarsi un numero illimitato di individui.
Per quanto ne sappiamo, il vero Gesù era un tipico predicatore ebreo che radunò intorno a sé un piccolo seguito tenendo sermoni e guarendo i malati
Gesù è diventato il soggetto di una delle più ragguardevoli campagne di branding della storia
Mentre le campagne di branding sono di tanto in tanto un cinico esercizio di disinformazione, la maggior parte delle grandi narrazioni della storia sono state il risultato di proiezioni emotive e di desideri
il racconto di Gesù è riuscito ad avere un impatto sulla storia molto più grande della persona di Gesù
la storia di Gesù ha fatto il giro del mondo, prima sulle ali del pettegolezzo, dell’aneddoto e della diceria; poi attraverso testi in pergamena, dipinti e statue; infine, come film di successo e meme su Internet
sostengono che le anime di tutti gli ebrei nel corso della storia sono state create da Yahweh molto prima della loro nascita e che tutte queste anime erano presenti sul monte Sinai.10
la ripetizione di un ricordo falso finisce per far sì che la persona lo adotti come un ricordo autentico.
prima della comparsa delle storie l’universo conteneva solo due livelli di realtà. Le storie ne hanno aggiunto un terzo.
alcune storie sono in grado di creare un terzo livello di realtà: la realtà intersoggettiva.
. Le informazioni che gli esseri umani si scambiano sulle cose intersoggettive non rappresentano qualcosa che esisteva già prima dello scambio di informazioni: in effetti è lo scambio di informazioni che crea queste cose.
quando in tanti si raccontano storie su leggi, divinità o valute, è questa stessa circostanza che crea queste leggi, divinità o valute
Le cose intersoggettive esistono solo nello scambio di informazioni.
gli stati sono entità intersoggettive
Quando chiediamo se un particolare stato esiste, stiamo sollevando una questione di realtà intersoggettiva. Se un numero sufficiente di individui concorda sull’esistenza di un determinato stato, allora quello stato esiste
Le cose intersoggettive come le leggi, gli dèi e le valute sono estremamente potenti all’interno di una particolare rete di informazioni e del tutto prive di significato al di fuori di essa
, le storie hanno prodotto reti umane di grandi dimensioni
Le reti basate sulle storie hanno reso Homo sapiens il più potente di tutti gli animali, dandogli un vantaggio cruciale
dopo la comparsa della narrazione, questi gruppi umani non vivevano più isolati
Le bande che condividevano storie e realtà intersoggettive costituivano una tribù
, se il nostro gruppo fa parte di una rete tribale, nei momenti di bisogno almeno alcuni di noi potrebbero andare a vivere con i nostri amici lontani
quella conoscenza poteva essere rapidamente trasmessa alle altre bande
gli interessi materiali da soli non possono spiegare le identità degli schieramenti rivali
tutte le relazioni tra gruppi umani su larga scala sono modellate da storie, perché le identità di questi gruppi sono a loro volta definite da storie.
gli scimpanzé non possono mantenere gruppi su larga scala, perché non sono in grado di creare le narrazioni che collegano tali gruppi e definiscono le loro identità e i loro interessi
Vedil il pianeta delle scimmie
evitare il conflitto e costruire la pace parlando con gli altri, cambiando le storie in cui loro e noi crediamo, o inventando una nuova storia che tutti possano accettare.
Robert Oppenheimer poteva dedicarsi alle sue equazioni perché si affidava a migliaia di minatori per estrarre l’uranio nella miniera di Eldorado
il potere deriva solo in parte dalla conoscenza della verità
Se credevano di poter garantire la vita eterna ai compagni di caccia morti con un certo incantesimo, le loro battute avevano molte più probabilità di successo
pronunciare quelle parole ritenute magiche rafforzava il coraggio e la solidarietà dei cacciatori vivi, e così contribuiva in modo determinante al successo della caccia
se chi elabora un’ideologia ignora i fatti, l’ideologia potrà ancora dimostrarsi esplosiva
sono gli individui che sanno come elaborare ideologie e mantenere l’ordine a dare istruzioni a chi sa solo costruire bombe o cacciare mammut
dire la verità sull’universo non è certo il modo più efficace per mantenere l’ordine tra un gran numero di esseri umani.
Ciò che invece tiene unite le reti umane è più spesso la finzione
la finzione è molto malleabile
L’aderenza intransigente alla verità è essenziale per il progresso scientifico ed è anche un’ammirevole pratica spirituale, ma non è una strategia politica vincente
una storia fittizia sull’origine dell’ordine sociale, che assicurasse la lealtà dei cittadini e impedisse loro di mettere in discussione la costituzione
La scelta non è semplicemente tra dire la verità e mentire. C’è una terza opzione
A dispetto del fatto che si riconosca apertamente che si tratta di una finzione giuridica creata dall’uomo, la Costituzione degli Stati Uniti è riuscita a formare un’unione formidabile
È fondamentale notare che “ordine” non deve essere confuso con equità o giustizia.
Per mantenere l’ordine, gli zar russi, i califfi musulmani e i figli del cielo cinesi sostenevano quindi che le regole fondamentali della società provenivano dal cielo e non erano modificabili dall’uomo
Tutti i sistemi politici umani sono basati su finzioni, ma alcuni lo ammettono, altri no.
Riconoscere le origini umane dell’ordine sociale rende più difficile convincere tutti ad accettarlo
per sopravvivere e prosperare, ogni rete informativa umana deve fare due cose contemporaneamente: scoprire la verità e creare ordine.
Molte società impongono alle loro popolazioni di non conoscere le loro vere origini: l’ignoranza è forza
la società può cercare di preservare l’ordine ponendo dei limiti alla ricerca della verità.
Non c’è da stupirsi che vari governi e diverse chiese abbiano vietato o limitato l’insegnamento dell’evoluzione, preferendo sacrificare la verità in nome dell’ordine.26
incoraggiare la ricerca della verità, ma solo in campi specifici che aiutano a generare potere senza minacciare l’ordine sociale.
Questa abilità scientifica aiutò i nazisti a costruire una potentissima macchina da guerra, che fu poi impiegata al servizio di una mitologia folle e sanguinaria
la storia delle reti di informazione umane non è una marcia trionfale del progresso
Se una rete privilegia l’ordine rispetto alla verità, può diventare molto potente ma usare quel potere in modo incauto.
il semplice aumento della velocità e dell’efficienza della nostra tecnologia informativa non rende necessariamente il mondo migliore. Rende solo più urgente la necessità di bilanciare verità e ordine.