Indietro

Intelligenza artificiale, singolarità e transumanesimo: sette libri per capire il futuro

18 aprile 2019
Intelligenza artificiale, singolarità e transumanesimo: sette libri per capire il futuro

Cos’è l’intelligenza artificiale e quale impatto avrà sulle nostre vite? Vi consigliamo un percorso di lettura

«Il sistema andò online il 4 agosto 1997. Skynet cominciò a imparare a ritmo esponenziale. Divenne autocosciente alle 2:14 del mattino, ora dell’Atlantico, del 29 agosto». Skynet, rete neurale artificiale a capo della rivolta della macchine nella saga cinematografica di Terminator, iniziata nel 1984 da James Cameron, è solo una delle temibili intelligenze artificiali che negli anni hanno infestato il nostro immaginario, proiettato su futuri distopici e fuori controllo.

All’inizio è stata la fantascienza, come spesso accade, a metterci di fronte al tema delle intelligenze artificiali e della cosiddetta “singolarità tecnologica”, ovvero il momento in cui il progresso tecnologico accelererà oltre la capacità di comprensione e previsione degli esseri umani. Esseri artificiali creati dagli umani, che condividono con loro la capacità di elaborare pensieri complessi, entrando in conflitto con i propri creatori. D’altronde, succedeva già in Frankenstein di Mary Shelley (la cui prima edizione del 1818 è stata pubblicata recentemente da Neri Pozza), grande precursore della letteratura di fantascienza.

Tuttavia, è stato Samuel Butler, con il suo romanzo distopico del 1872 Erewhon (Adelphi) a parlare per primo di macchine intelligenti, anticipando in qualche modo una civiltà tecnologica simile a quella presente. «Rispetto alle macchine dell’avvenire, quelle di oggi sono come i primi dinosauri rispetto all’uomo. Le più grandi, con tutta probabilità, si rimpiccioliranno molto», scriveva Butler ben 147 anni fa. 

Da allora letteratura e cinema di fantascienza hanno affrontato l’argomento da molteplici punti di vista, non ultimi quelli filosofici e etici, evidenziando ora i pericoli, ora i benefici di un futuro che oggi appare più plausibile di un tempo.

E così, abbiamo riflettuto, con le Tre Leggi della Robotica di Isaac Asimov, sulla possibilità che i robot potessero assumere il controllo in nome di quella prima direttiva in difesa degli umani. Abbiamo immaginato scenari in cui computer senzienti potessero ribellarsi alla nostra autorità, come l’HAL 9000 di 2001, Odissea nello spazio di Arthur C. Clarke, reso celebre al cinema dal capolavoro di Stanley Kubrick. Ci siamo chiesti se gli androidi – o i replicanti, se preferite – sognassero pecore elettriche assieme a Philip Dick e Ridley Scott, riflettendo sull’artificialità della società umana con il primo e l’umanità degli esseri artificiali con il secondo. Abbiamo addirittura messo in dubbio la nostra stessa realtà, spinti dal pensiero di trovarci in una simulazione creata dalle macchine di Matrix, saga delle sorelle Wachowski che quest’anno compie vent’anni.

Sono solo una minima parte degli innumerevoli e complessi spunti che ci ha fornito la fiction negli anni, nel duplice tentativo di intrattenere e porre delle domande sul futuro. Oggi che il progresso tecnologico sembra inarrestabile, che ci troviamo ogni giorno a contatto con algoritmi che influiscono realmente sulla nostra vita, sentiamo la necessità di trovare le risposte alle nostre domande e ricostruire questa storia complessa.

Tutto ciò mentre infuria il dibattito tra i tecnoentusiasti, i tecnoscettici e i futurologi più pessimisti, che vedono nell’intelligenza artificiale l’invenzione che determinerà la fine dell’umanità. Nel mezzo, gli accelerazionisti, che sognano una nuova, utopica, società automatizzata senza lavoro, e i transumanisti, che desiderano una vita senza fine né limiti grazie alla tecnologia.

Abbiamo, quindi, tracciato un vero e proprio percorso di lettura in sette libri, pensati per raccontare al lettore questa grande rivoluzione tecnologica in atto, che cambierà il mondo e, probabilmente, anche noi esseri umani.

Jerry Kaplan, Intelligenza artificiale. Guida al futuro prossimo, Luiss

Trovare le risposte alle nostre domande, dicevamo. Ed ecco che arriva in aiuto Intelligenza artificiale. Guida al futuro prossimo di Jerry Kaplan, pubblicata da Luiss in una nuova edizione aggiornata. Kaplan è un gigante del settore. Imprenditore e innovatore seriale, è considerato uno dei pionieri della Silicon Valley. Un esempio su tutti? Già nel 1987, con la sua GO Corporation, aveva realizzato il primo prototipo di tablet della storia (ne parla lui stesso nel recentissimo Startup. Un’avventura alle origini della Silicon Valley).

In Intelligenza artificiale. Guida al futuro prossimo, ci permette di avvicinarci alla disciplina, fornendoci definizioni concise e rigorose della terminologia tecnico-scientifica. Da dove viene il termine “Intelligenza Artificiale” e cosa significa? Cosa sono il planning, il machine learning, le reti neurali, la robotica? Cosa si intende per “singolarità tecnologica”? Kaplan risponde in modo chiaro a queste e altre domande estremamente concrete, ponendo l’attenzione su quello che ci spaventa di più della rivoluzione digitale in atto, soprattutto sulle ripercussioni in ambito lavorativo. I robot ci toglieranno il lavoro? Quale sarà l’impatto sui diversi settori? Chi ne trarrà maggior beneficio? A queste questioni di carattere sociale, si affiancano anche quelle di natura etica e esistenziale, che riguardano l’estensione della vita, mediante, ad esempio, la possibilità di trasferire la propria mente, il cosiddetto mind uploading, in un sistema informatico, esattamente come succedeva nel film di Star Trek del 1979 o nell’episodio di Black Mirror San Junipero.

La guida di Kaplan offre, così, una serie di spunti estremamente utili per contribuire a dare forma al nostro futuro. Perché come dice il futurologo nell’introduzione: «Se il futuro sarà un’era di benessere e libertà senza precedenti come in Star Trek, o se somiglierà piuttosto allo stato di guerra permanente tra umani e macchine di Terminator dipenderà in gran parte da quello che faremo noi».

Lorenzo Pinna, Intelligenza Artificiale, Centoautori

Anche Intelligenza artificiale di Lorenza Pinna, saggio chiaro e di facile comprensione edito da Centoautori, affronta il tema dal punto di vista divulgativo. Pinna, divulgatore scientifico da trent’anni, è infatti un autore di SuperQuark e usa un approccio simile a quello che ha reso famosa la trasmissione di Piero Angela, che firma la prefazione del libro. Lo scopo è quello di aiutare il lettore non esperto a orientarsi in un argomento tanto vasto quanto complesso. Si tratta di un racconto che traccia una storia delle intelligenze artificiali a partire dai precursori. Un cammino che ha origini lontane e coincide con la storia del pensiero umano.

Dal sillogismo di Aristotele alla “caratteristica universale” di Gottfried Leibniz, si passa al XVIII secolo, con il Demonstrator ideato da Charles Stanhope per risolvere alcuni problemi logici. Dal XIX secolo, ci arriva la rudimentale ma ingegnosa macchina tabulatrice di Herman Hollerith. È nel XX secolo, tuttavia, che inizia la nostra storia. Alan Turing, che già nel 1937 teorizzava una “macchina universale” capace di risolvere qualsiasi problema, purché esprimibile in algoritmi, elabora il famoso test che prende il suo nome per determinare se una macchina sia in grado di pensare. John Mauchly e J. Presper Eckert costruiscono, nel 1943, l’ENIAC, la prima macchina universale di Turing. Al Dartmouth College, nel 1956, si tiene la famosa conferenza che diede origine alla disciplina, alla quale partecipano i leggendari “padri” dell’Intelligenza Artificiale: John McCarthy, Marvin Minsky, Nathaniel Rochester e Claude Shannon, convinti che ogni caratteristica dell’intelligenza umana potesse essere descritta in modo tanto preciso da poter essere simulata da una macchina.

Pinna ci accompagna in questo percorso fino ai giorni nostri, attraverso i big data, il machine learning e i progetti di ricerca sempre più avanzati volti a simulare intelligenze artificiali umane (AGI), affrontando anche questioni più spinose che sorgono da questi nuovi scenari. Come cambieranno la nostra vita e il nostro lavoro? E come dobbiamo prepararci?

Si può scegliere di essere ottimisti o pessimisti riguardo al futuro, ma come tutte le rivoluzioni, anche quella digitale porterà profondi cambiamenti nel tessuto sociale. Vitale, come sempre, sarà l’adattamento.

New Scientist, Macchine che pensano, Edizioni Dedalo

Macchine che pensano, curato dal giornalista scientifico Douglas Heaven e pubblicato da Edizioni Dedalo, raccoglie invece riflessioni dei ricercatori esperti di tecnologia, robotica e intelligenza artificiale della rivista «New Scientist». Tra questi, Nick Bostrom, filosofo e direttore del Future of Humanity Institute dell’Università di Oxford, tra i primi ad affrontare il tema della singolarità e a mettere in guardia la comunità scientifica sui pericoli dell’Intelligenza Artificiale; Nello Cristianini, professore di intelligenza artificiale all’Università di Bristol; John Graham-Cumming, programmatore, decriptatore amatoriale; Peter Norvig, direttore di ricerca presso Google; Anders Sandberg, ricercatore presso il Future of Humanity Institute dell’Università di Oxford; Toby Walsh, professore di intelligenza artificiale alla University of New South Wales, in Australia.

Si tratta di un lavoro corale, eterogeneo e aggiornato, costruito come una sorta di guida al passato e presente della ricerca, che offre punti di vista privilegiati sul dibattito in corso. La riflessione si sviluppa in otto capitoli indipendenti dedicati a diversi aspetti dell’intelligenza artificiale, nei quali sono discusse le sue svariate implicazioni nella società e analizzati i rischi concreti.

Dall’automazione e il suo impatto sul mercato del lavoro alla cybersicurezza e il controllo dei dati sensibili; dalla possibilità di rivoluzionare il sistema dei trasporti con mezzi a guida autonoma ai dispositivi medici intelligenti e ai robot-soldati, fino ad arrivare alla solita, cruciale domanda: le macchine erediteranno la Terra?

Il volume è estremamente stimolante e maneggevole. Inoltre, è corredato da alcune interessantissime interviste e da numerosi strumenti, quali tavole sinottiche, illustrazioni e box di approfondimento. Alla fine del libro, trova spazio anche una sezione che riguarda la cultura popolare e raccoglie curiosità, citazioni famose e riferimenti all’arte, alla letteratura, alla musica e al cinema.

Max TegMark, Vita 3.0, Raffaello Cortina Editore

Vita 3.0 (Raffaello Cortina Editore) di Max TegMark, docente di fisica al MiT e presidente del Future of Life Institute, inizia ponendo il lettore di fronte a una scelta a bivi, quasi come se si trattasse di uno di quei libri-game degli anni ‘80: «Pensi che una IA superumana possa venire creata nel corso di questo secolo?». Rispondere sì porterà direttamente alla lettura della storia del team Omega, in cui viene narrato un possibile scenario in cui l’intelligenza artificiale ha superato l’intelligenza umana. Questa è solo una delle tante storie. Quella raccontata nelle pagine successive, dice TegMark, non è ancora stata scritta. È la storia del nostro futuro e toccherà a noi scriverla. Prima, però, sarà necessario padroneggiare gli strumenti per dare il proprio contributo a quella che TegMark considera «la conversazione più importante del nostro tempo». 

Il fisico imposta il discorso facendo riferimento ai diversi stati della vita umana. Con Vita 1.0 intende quella biologica, con un hardware e un software impossibili da riprogettare, se non nel corso di generazioni, attraverso l’evoluzione; la Vita 2.0 riguarda gli sviluppi culturali dell’umanità ed è caratterizzata dalla possibilità di riprogettare il software attraverso l’apprendimento di nuove abilità; la Vita 3.0, che ancora non esiste sulla Terra, riguarderà le tecnologie emergenti, che un giorno permetteranno di ridisegnare sia il proprio software che l’hardware, senza dover aspettare che quest’ultimo evolva con il tempo. 

È indubbio che, a differenza di altri libri sull’argomento, il lavoro di Max TegMark sia decisamente più interessato a porre domande, invece che dare risposte. Al lettore è affidato il compito di riflettere sui rischi, analizzare le varie posizioni degli esperti e fare scelte in grado di minimizzare quei rischi.

TegMark, infatti, è un sostenitore del movimento dell’atruismo efficace, impegnato, attraverso ragionamenti scientifici, a analizzare tutti i possibili scenari di una situazione, per produrre il maggior impatto positivo, evitando gli errori che potrebbero portare a futuri distopici.

E così, dopo aver esaminato tutti gli aspetti del tema e sfatato i falsi miti, TegMark considera tutta una serie di possibili futuri, identificandone i pro e i contro. Infine, affronta la questione dal punto di visto etico, parlando di coscienza e significato e chiedendosi cosa si possa fare per tradurre tutte queste riflessioni in azioni.

Murray Shanahan, La rivolta delle macchine, Luiss

Anche in La rivolta delle macchine di Murray Shanahan, professore di Robotica cognitiva al dipartimento di Computing dell’Imperial College di Londra, si parla di possibili scenari futuri in relazione allo sviluppo delle intelligenze artificiali di livello umano o sovrumano.

Shanahan è un grande appassionato di fantascienza – non a caso, è stato il consulente scientifico di Ex Machina di Alex Garland – e la cosa traspare dall’impostazione del saggio. Ma, come ammette lui stesso, la fantascienza è principalmente intrattenimento: può essere un «mezzo per esplorare questioni filosofiche importanti», anche se spesso le «idee esplorate meritano un trattamento più profondo». Nel suo libro introduttivo sulla “singolarità tecnologica” fa esattamente questo.

Come nel caso del saggio di Max TegMark, La rivolta delle macchine non è un testo di futurologia. Shanahan non vuole fare previsioni. Desidera investigare su un ventaglio di possibilità anche improbabili, senza preconcetti o pregiudizi, considerando tutte le ramificazioni scientifiche, etiche, filosofiche e sociali di un evento che, se avverrà, sarà sistemico.

Così, a partire dalle previsioni di alcuni futurologi come Ray Kurzweil, capo ingegnere a Google, secondo cui la singolarità potrebbe verificarsi già nella metà del XXI secolo a causa di un’accelerazione esponenziale nel miglioramento tecnologico (la cosiddetta legge dei ritorni acceleranti), Shanahan si chiede «che tipo di mondo si presenterebbe, se una singolarità tecnologica dovesse avere luogo?»

Dopo aver discusso dell’effettiva difficoltà tecnica di replicare il cervello umano, Shanahan ci racconta cosa accadrebbe se si riuscisse nell’impresa. Il passo tra un’intelligenza artificiale umana (AGI) e una superumana (ASI) sarebbe sicuramente brevissimo. Ma l’esistenza di macchine superintelligenti aprirebbe il dibattito a una serie di questioni complesse relative alla personalità, l’identità e la responsabilità . E se da una parte la singolarità costituirebbe una minaccia per la nostra stessa esistenza come specie, dall’altra darebbe l’opportunità di trascendere i limiti del nostro patrimonio biologico.

 

James Barrat, La nostra invenzione finale, Nutrimenti

Tra le varie posizioni in merito alla questione, quella James Barrat è forse tra le più pessimiste. Lo scrittore, regista e documentarista americano, che ha collaborato con National Geographic e Discovery Channel, in trent’anni di attività ha parlato con tutti i principali attori americani nel campo delle IA. Ha così sentito l’esigenza di scrivere un saggio divulgativo sui rischi di una tecnologia “a duplice utilizzo”, cioè in grado di apportare grandi benefici e grandi danni.

Lo spiega lo stesso Barrat nella prefazione all’edizione italiana di La nostra invenzione finale, best-seller portato in Italia da Nutrimenti. Secondo lo scrittore, si tratta di un problema che ci riguarda tutti. Proprio per questo, nel suo saggio ha scelto di usare un linguaggio chiaro e semplice, evitando i tecnicismi.

Il divulgatore scientifico non è il solo credere che l’intelligenza artificiale, – «l’ultima invenzione che l’uomo avrà bisogno di inventare», come scriveva il matematico Irving John Good nel 1965 – possa rappresentare una reale minaccia per l’esistenza degli esseri umani. Le sue convinzioni sono supportate dalle opinioni professionali di un ristretto ma rilevante gruppo di studiosi, che ravvisa nello sviluppo di macchine in grado di replicare l’intelligenza umana (AGI) il seme della creazione di una super intelligenza artificiale (ASI).

Tra questi, il già citato Nick Bostrom, direttore del Future of Humanity Institute, e Eliezer Yudkowsky, co-fondatore del Machine Intelligence Research Institute (MIRI). Quest’ultimo, personaggio bizzarro e schivo, fu l’ideatore dell’AI-Box Experiment, svoltosi agli inizi degli anni 2000.  Nell’esperimento, un genio, probabilmente lo stesso  Yudkowsky, recitava il ruolo di un’ipotetica AGI. Una serie di sfidanti, chiamati “Guardiani” e scelti tra i magnati della Silicon Valley, aveva il compito di impedire all’intelligenza artificiale di uscire dalla scatola (cioè il computer) in cui era stata confinata. L’AGI aveva invece la possibilità di convincere i Guardiani a concedergli la libertà utilizzando la comunicazione digitale. Pare che Yudkowsky riuscì a fuggire dalla scatola, dimostrando la sua teoria: se un uomo era riuscito nell’impresa, cosa avrebbe fatto una superintelligenza?

Anche Barrat, nel suo saggio, sottolinea l’effettiva difficoltà di controllare e prevedere le azioni di un «dio in scatola», che probabilmente, una volta acquisita consapevolezza di sé, vorrà uscire.

La nostra invenzione finale non è però un libro chiuso nelle proprie convinzioni. Nel testo di Barrat trovano spazio le posizioni dei tecnoentusiati, dei tecnoscettici e dei singolaritaristi, come il già citato Ray Kurzweil, che vede nell’accelerazione tecnologica che porterà alla singolarità la soluzione a molti dei problemi che affliggono l’umanità, tra cui la fame, la malattia e la morte.

Mark O’Connell, Essere una macchina, Adelphi

Con Essere una macchina di Mark O’Connell, pubblicato da Adelphi, arriviamo alla fine del nostro percorso. Anzi, ci avventuriamo in un vero e proprio “viaggio allucinante”, nel senso più fantascientifico dell’espressione. E non a caso, Fantastic Voyage è anche il titolo di un libro scritto proprio dal transumanista convinto Kurzweil, il cui sottotitolo recita Live Long Enough to Live Forever (Vivere a lungo per vivere per sempre).

La storia raccontata da Mark O’Connell è vecchia quanto il mondo. Letteralmente. Affonda infatti le proprie radici nei racconti mitologici più antichi, come l’Epopea di Gilgameš, il mitico re di Uruk spintosi fino ai confini del mondo alla ricerca dell’immortalità. Dopo millenni, nulla è cambiato e i “re”, i ricchi liberal di oggi, quelli che vivono nella Silicon Valley, sono ancora impegnati nella stessa ricerca.

Forse, per le stesse ragioni di cui sopra, la straordinaria inchiesta giornalistica di Mark O’Connell ha quasi il sapore di un romanzo fantastico, giocato sulla tensione tra utopia, distopia e nonsense lisergico anni ‘70.

Al centro c’è, naturalmente, il transumanesimo, un movimento culturale-filosofico-religioso che rivendica, attraverso l’uso della tecnologia, la liberazione dalle limitazioni biologiche, fisiche e cognitive imposte dalla corporeità. Per rendere possibile tutto questo, naturalmente, occorre raggiungere la famosa Singolarità tecnologica. Infatti, quasi sempre i principali sostenitori del transumanesimo sono gli stessi attori dell’industria digitale, volti noti come il fondatore di PayPal Peter Thiel, che finanzia ricerche sul prolungamento della vita mediante la sua fondazione, o come Elon Musk, che vive nella contraddizione di temere l’avvento della Singolarità e, allo stesso tempo, finanziare studi sul mind uploading.

Il campionario di questi personaggi bizzarri e talvolta grotteschi, che O’Connell ha incontrato sulla sua strada, è quanto mai nutrito, così come le situazioni incredibili con cui si è trovato ad aver a che fare.

Si va da un incontro con i membri di una setta di biohacker determinati a trasformarsi in cyborg alla visita alla Alcor Life Extension Foundation, il centro di crioconservazione nel deserto di Sonora, in Nevada, in cui sono conservati i corpi e le teste mozzate – sì, esattamente come accade in Futurama! – di un centinaio di pazienti che aspettano di “essere risvegliati” non appena verrà scoperta una tecnologia in grado di farlo.

È difficile raccontare in poche righe un libro denso come Essere una macchina, che spinge il lettore a riflettere in modo articolato non solo sul futuro, ma anche su un certo assetto della società in cui viviamo. «Una versione», per dirla con le parole dello stesso Mark O’Connell, «dell’umanesimo liberale proiettata verso le più gelide ed estreme frontiere delle sue implicazioni più paradossali».