Un futuro in cui le capacità di pensiero dei computer si avvicinano al nostro sta rapidamente entrando in vista. Ci sentiamo sempre più potenti algoritmi di machine-learning (ML) che respirano il collo. I rapidi progressi nei prossimi decenni produrranno macchine con intelligenza a livello umano in grado di parlare e ragionare, con una miriade di contributi all’economia, alla politica e, inevitabilmente, alla warcraft. La nascita della vera intelligenza artificiale influenzerà profondamente il futuro dell’umanità, incluso se ne ha uno.
Le seguenti citazioni forniscono un esempio calzante:
“Dal momento in cui l’ultima grande innovazione dell’intelligenza artificiale è stata raggiunta alla fine degli anni ‘40, gli scienziati di tutto il mondo hanno cercato modi per sfruttare questa “intelligenza artificiale” per migliorare la tecnologia oltre ciò che anche il più sofisticato dei programmi di intelligenza artificiale di oggi può raggiungere.”
” Anche ora, la ricerca è in corso per capire meglio ciò che i nuovi programmi AI saranno in grado di fare, pur rimanendo entro i limiti dell’intelligenza di oggi. La maggior parte dei programmi di IA attualmente programmati sono stati limitati principalmente a prendere decisioni semplici o eseguire semplici operazioni su relativamente piccole quantità di dati.”
Questi due paragrafi sono stati scritti da GPT-2, un bot di linguaggio che ho provato la scorsa estate. Sviluppato da OpenAI, un istituto con sede a San Francisco che promuove l’IA benefica, GPT-2 è un algoritmo ML con un compito apparentemente idiota: presentato con un testo iniziale arbitrario, deve prevedere la parola successiva. Alla rete non viene insegnato a “capire” la prosa in alcun senso umano. Invece, durante la sua fase di allenamento, regola le connessioni interne nelle sue reti neurali simulate per anticipare al meglio la parola successiva, la parola dopo, e così via. Addestrato su otto milioni di pagine Web, le sue interiora contengono più di un miliardo di connessioni che emulano sinapsi, i punti di collegamento tra i neuroni. Quando ho inserito le prime frasi dell’articolo che stai leggendo, l’algoritmo ha vomitato due paragrafi che sembravano lo sforzo di una matricola per ricordare l’essenza di una conferenza introduttiva sull’apprendimento automatico durante la quale stava sognando ad occhi aperti. L’output contiene tutte le parole e le frasi giuste-non male, davvero! Innescato con lo stesso testo una seconda volta, l’algoritmo si presenta con qualcosa di diverso.
La progenie di tali bot scatenerà una marea di recensioni di prodotti “deepfake” e notizie che si aggiungeranno al miasma di Internet. Diventeranno solo un altro esempio di programmi che fanno cose finora pensate per essere unicamente umano—giocando il gioco di strategia in tempo reale StarCraft, traducendo il testo, facendo raccomandazioni personali per libri e film, riconoscendo le persone in immagini e video.
Ci vorranno molti ulteriori progressi nell’apprendimento automatico prima che un algoritmo possa scrivere un capolavoro coerente come quello di Marcel Proust In Search of Lost Time, ma il codice è sul muro. Ricordiamo che tutti i primi tentativi di gioco per computer, traduzione e discorso erano goffi e facili da sminuire perché ovviamente mancavano di abilità e lucidatura. Ma con l’invenzione di reti neurali profonde e la massiccia infrastruttura computazionale del settore tecnologico, i computer sono migliorati inesorabilmente fino a quando i loro output non sono più apparsi risibili. Come abbiamo visto con Go, scacchi e poker, gli algoritmi di oggi possono meglio gli esseri umani, e quando lo fanno, la nostra risata iniziale si trasforma in costernazione. Siamo come l’apprendista stregone di Goethe, dopo aver evocato spiriti utili che ora non siamo in grado di controllare?
Coscienza artificiale?
Sebbene gli esperti non siano d’accordo su cosa costituisca esattamente l’intelligenza, naturale o meno, la maggior parte accetta che, prima o poi, i computer raggiungeranno quella che viene definita intelligenza generale artificiale (AGI) nel gergo.
L’attenzione sull’intelligenza della macchina oscura domande molto diverse: sembrerà che qualcosa sia un AGI? I computer programmabili possono mai essere coscienti?
Per “coscienza” o “sentimento soggettivo”, intendo la qualità inerente a qualsiasi esperienza—per esempio, il gusto delizioso della Nutella, la puntura acuta di un dente infetto, il lento passare del tempo quando si è annoiati, o il senso di vitalità e ansia appena prima di un evento competitivo. Canalizzando il filosofo Thomas Nagel, potremmo dire che un sistema è cosciente se c’è qualcosa che è come essere quel sistema.
Considera la sensazione imbarazzante di renderti improvvisamente conto di aver appena commesso una gaffe, che quello che intendevi come uno scherzo è diventato un insulto. I computer possono mai provare tali emozioni roiling? Quando si è al telefono, in attesa minuto dopo minuto, e una voce sintetica intona, “Siamo spiacenti di tenervi in attesa,” fa il software in realtà si sentono male mentre si mantiene in inferno servizio clienti?
Non c’è dubbio che la nostra intelligenza e le nostre esperienze siano conseguenze ineluttabili dei poteri causali naturali del nostro cervello, piuttosto che di quelli soprannaturali. Questa premessa ha servito la scienza estremamente bene nel corso degli ultimi secoli, come le persone hanno esplorato il mondo. Il cervello umano tofulike di tre libbre è di gran lunga il pezzo più complesso di materia attiva organizzata nell’universo conosciuto. Ma deve obbedire alle stesse leggi fisiche dei cani, degli alberi e delle stelle. Niente ottiene un pass gratuito. Non comprendiamo ancora appieno i poteri causali del cervello, ma li sperimentiamo ogni giorno: un gruppo di neuroni è attivo mentre si vedono i colori, mentre le cellule che sparano in un altro quartiere corticale sono associate all’essere in uno stato d’animo scherzoso. Quando questi neuroni sono stimolati dall’elettrodo di un neurochirurgo, il soggetto vede i colori o scoppia in una risata. Al contrario, la chiusura del cervello durante l’anestesia elimina queste esperienze.
Date queste ipotesi di fondo ampiamente condivise, cosa implicherà l’evoluzione della vera intelligenza artificiale sulla possibilità della coscienza artificiale?
Contemplando questa domanda, arriviamo inevitabilmente a un bivio, portando a due destinazioni fondamentalmente diverse. Lo zeitgeist, come incarnato in romanzi e film come Blade Runner, Lei e Ex Machina, marcia risolutamente lungo la strada verso il presupposto che le macchine veramente intelligenti saranno senzienti; parleranno, ragioneranno, auto-monitoreranno e introspetteranno. Sono eo ipso cosciente.
Questo percorso è sintetizzato in modo più esplicito dalla teoria GNW (Global Neuronal workspace), una delle teorie scientifiche dominanti della coscienza. La teoria inizia con il cervello e deduce che alcune delle sue caratteristiche architettoniche peculiari sono ciò che dà origine alla coscienza.
Il suo lignaggio può essere fatto risalire all ‘ “architettura lavagna” dell’informatica degli anni’ 70, in cui programmi specializzati accedevano a un repository condiviso di informazioni, chiamato blackboard o central workspace. Gli psicologi hanno postulato che una tale risorsa di elaborazione esiste nel cervello ed è centrale nella cognizione umana. La sua capacità è piccola, quindi solo un singolo percetto, pensiero o memoria occupa lo spazio di lavoro in qualsiasi momento. Le nuove informazioni competono con le vecchie e le spostano.
Il neuroscienziato cognitivo Stanislas Dehaene e il biologo molecolare Jean-Pierre Changeux, entrambi al Collège de France di Parigi, hanno mappato queste idee sull’architettura della corteccia cerebrale, lo strato più esterno della materia grigia. Due fogli corticali altamente piegati, uno a sinistra e uno a destra, ciascuno delle dimensioni e dello spessore di una pizza da 14 pollici, sono stipati nel cranio protettivo. Dehaene e Changeux postularono che lo spazio di lavoro è istanziato da una rete di neuroni piramidali (eccitatori) legati a regioni corticali lontane, in particolare le aree associative prefrontali, parietotemporali e della linea mediana (cingolate).
Molta attività cerebrale rimane localizzata e quindi inconscia—per esempio, quella del modulo che controlla dove guardano gli occhi, qualcosa di cui siamo quasi completamente ignari, o quella del modulo che regola la postura del nostro corpo. Ma quando l’attività in una o più regioni supera una soglia—ad esempio, quando qualcuno viene presentato con un’immagine di un barattolo di Nutella—innesca un’accensione, un’onda di eccitazione neurale che si diffonde in tutto lo spazio di lavoro neuronale, a livello cerebrale. Tale segnalazione diventa quindi disponibile per una serie di processi sussidiari come linguaggio, pianificazione, circuiti di ricompensa, accesso alla memoria a lungo termine e archiviazione in un buffer di memoria a breve termine. L’atto di trasmettere globalmente queste informazioni è ciò che le rende consapevoli. L’esperienza inimitabile della Nutella è costituita da neuroni piramidali che contattano la regione di pianificazione motoria del cervello-emettendo un’istruzione per afferrare un cucchiaio per estrarre parte della diffusione della nocciola. Nel frattempo altri moduli trasmettono il messaggio di aspettarsi una ricompensa sotto forma di un afflusso di dopamina causato dall’alto contenuto di grassi e zuccheri della Nutella.
Gli stati coscienti derivano dal modo in cui l’algoritmo dello spazio di lavoro elabora gli input sensoriali rilevanti, le uscite motorie e le variabili interne relative alla memoria, alla motivazione e all’aspettativa. L’elaborazione globale è ciò che riguarda la coscienza. La teoria GNW abbraccia pienamente il mito contemporaneo dei poteri quasi infiniti del calcolo. La coscienza è solo un trucco intelligente di distanza.
Potere causale intrinseco
Il percorso alternativo—integrated information theory (IIT)—adotta un approccio più fondamentale per spiegare la coscienza.
Giulio Tononi, psichiatra e neuroscienziato presso l’Università del Wisconsin–Madison, è l’architetto capo di IIT, con altri, me compreso, contribuendo. La teoria inizia con l’esperienza e procede da lì all’attivazione di circuiti sinaptici che determinano il “sentimento” di questa esperienza. L’informazione integrata è una misura matematica che quantifica quanto” potere causale intrinseco ” possiede un meccanismo. I neuroni che sparano potenziali d’azione che influenzano le cellule a valle a cui sono collegati (tramite sinapsi) sono un tipo di meccanismo, così come i circuiti elettronici, fatti di transistor, capacità, resistenze e fili.
Il potere causale intrinseco non è una nozione eterea ariosa, ma può essere valutata con precisione per qualsiasi sistema. Più il suo stato attuale specifica la sua causa (il suo input) e il suo effetto (il suo output), più potere causale possiede.
IIT stabilisce che qualsiasi meccanismo con potere intrinseco, il cui stato è carico del suo passato e incinta del suo futuro, è cosciente. Maggiore è l’informazione integrata del sistema, rappresentata dalla lettera greca Φ (un numero zero o positivo pronunciato “fi”), più consapevole è il sistema. Se qualcosa non ha un potere causale intrinseco, il suo Φ è zero; non sente nulla.
Data l’eterogeneità dei neuroni corticali e il loro insieme densamente sovrapposto di connessioni di input e output, la quantità di informazioni integrate all’interno della corteccia è vasta. La teoria ha ispirato la costruzione di un misuratore di coscienza attualmente in fase di valutazione clinica, uno strumento che determina se le persone in stati vegetativi persistenti o coloro che sono minimamente coscienti, anestetizzati o bloccati sono coscienti ma incapaci di comunicare o se “nessuno è a casa.”Nelle analisi del potere causale dei computer digitali programmabili a livello dei loro componenti metallici—i transistor, i fili e i diodi che fungono da substrato fisico di qualsiasi calcolo—la teoria indica che il loro potere causale intrinseco e il loro Φ sono minuti. Inoltre, Φ è indipendente dal software in esecuzione sul processore, se calcola le tasse o simula il cervello.
In effetti, la teoria dimostra che due reti che eseguono la stessa operazione input-output ma hanno circuiti configurati in modo diverso possono possedere quantità diverse di Φ. Un circuito può non avere Φ, mentre l’altro può presentare livelli elevati. Anche se sono identici dall’esterno, una rete sperimenta qualcosa mentre la sua controparte impostore zombie non sente nulla. La differenza è sotto il cofano, nel cablaggio interno della rete. In poche parole, la coscienza è sull’essere, non sul fare.
La differenza tra queste teorie è che GNW enfatizza la funzione del cervello umano nello spiegare la coscienza, mentre IIT afferma che sono i poteri causali intrinseci del cervello che contano davvero.
Le distinzioni si rivelano quando ispezioniamo il connettoma del cervello, la specifica completa dell’esatto cablaggio sinaptico dell’intero sistema nervoso. Gli anatomisti hanno già mappato i connettomi di alcuni vermi. Stanno lavorando sul connectome per la mosca della frutta e stanno progettando di affrontare il mouse entro il prossimo decennio. Supponiamo che in futuro sarà possibile scansionare un intero cervello umano, con i suoi circa 100 miliardi di neuroni e quadrilioni di sinapsi, a livello ultrastrutturale dopo la morte del suo proprietario e quindi simulare l’organo su qualche computer avanzato, forse una macchina quantistica. Se il modello è abbastanza fedele, questa simulazione si sveglierà e si comporterà come un simulacro digitale della persona deceduta—parlando e accedendo ai suoi ricordi, voglie, paure e altri tratti.
Se imitare la funzionalità del cervello è tutto ciò che serve per creare coscienza, come postulato dalla teoria GNW, la persona simulata sarà cosciente, reincarnata all’interno di un computer. In effetti, caricare il connectome sul cloud in modo che le persone possano vivere nell’aldilà digitale è un tropo comune di fantascienza.
IIT postula un’interpretazione radicalmente diversa di questa situazione: il simulacro si sentirà tanto quanto il software in esecuzione su una toilette giapponese di fantasia—niente. Agirà come una persona ma senza sentimenti innati, uno zombie (ma senza alcun desiderio di mangiare carne umana)—l’ultimo deepfake.
Per creare coscienza, sono necessari i poteri causali intrinseci del cervello. E quei poteri non possono essere simulati, ma devono essere parte integrante della fisica del meccanismo sottostante.
Per capire perché la simulazione non è abbastanza buona, chiediti perché non si bagna mai all’interno di una simulazione meteorologica di un temporale o perché gli astrofisici possono simulare il vasto potere gravitazionale di un buco nero senza doversi preoccupare di essere inghiottiti dallo spazio-tempo che si piega attorno al loro computer. La risposta: perché una simulazione non ha il potere causale di far condensare il vapore atmosferico in acqua o di far curvare lo spaziotempo! In linea di principio, tuttavia, sarebbe possibile raggiungere la coscienza a livello umano andando oltre una simulazione per costruire il cosiddetto hardware neuromorfico, basato su un’architettura costruita a immagine del sistema nervoso.
Ci sono altre differenze oltre ai dibattiti sulle simulazioni. IIT e GNW prevedono che regioni distinte della corteccia costituiscono il substrato fisico di specifiche esperienze coscienti, con un epicentro nella parte posteriore o anteriore della corteccia. Questa previsione e altre sono ora in fase di test in una collaborazione su larga scala che coinvolge sei laboratori negli Stati Uniti., Europa e Cina che ha ricevuto appena million 5 milioni in finanziamento dalla Fondazione di carità di mondo di Templeton.
Se le macchine possono diventare questioni senzienti per ragioni etiche. Se i computer sperimentano la vita attraverso i propri sensi, cessano di essere puramente un mezzo per un fine determinato dalla loro utilità per noi umani. Diventano fine a se stessi.
Per GNW, si trasformano da semplici oggetti in soggetti-ognuno esiste come un ” Io ” – con un punto di vista. Questo dilemma si presenta negli episodi televisivi Black Mirror e Westworld più avvincenti. Una volta che le capacità cognitive dei computer rivaleggiano con quelle dell’umanità, il loro impulso a spingere per i diritti legali e politici diventerà irresistibile—il diritto di non essere cancellato, di non avere i loro ricordi puliti, di non subire dolore e degrado. L’alternativa, incarnata da IIT, è che i computer rimarranno solo macchinari supersofisticati, gusci vuoti come fantasmi, privi di ciò che apprezziamo di più: la sensazione della vita stessa.