een toekomst waarin de denkmogelijkheden van computers onze eigen benadering benaderen, komt snel in zicht. We voelen ons steeds krachtiger machine-learning (ML) algoritmen die in onze nek ademen. Snelle vooruitgang in de komende decennia zal leiden tot machines met menselijke intelligentie in staat van spreken en redeneren, met een groot aantal bijdragen aan de economie, de politiek en, onvermijdelijk, warcraft. De geboorte van echte kunstmatige intelligentie zal diep de toekomst van de mensheid beïnvloeden, inclusief of het er een heeft.de volgende citaten geven een voorbeeld: vanaf het moment dat de laatste grote kunstmatige intelligentie doorbraak werd bereikt in de late jaren 1940, hebben wetenschappers over de hele wereld gezocht naar manieren om deze ‘kunstmatige intelligentie’ te gebruiken om technologie te verbeteren die zelfs de meest geavanceerde van de hedendaagse kunstmatige intelligentie programma ‘ s kunnen bereiken.”
“zelfs nu is er onderzoek aan de gang om beter te begrijpen wat de nieuwe AI-programma’ s kunnen doen, terwijl ze binnen de grenzen van de huidige intelligentie blijven. De meeste AI-programma ‘ s die momenteel zijn geprogrammeerd, zijn voornamelijk beperkt tot het maken van eenvoudige beslissingen of het uitvoeren van eenvoudige bewerkingen op relatief kleine hoeveelheden gegevens.”
Deze twee alinea ‘ s zijn geschreven door GPT-2, een taalbot die ik vorige zomer probeerde. Ontwikkeld door OpenAI, een in San Francisco gevestigde instituut dat heilzame AI bevordert, GPT-2 is een ML-algoritme met een schijnbaar idiote taak: gepresenteerd met een aantal willekeurige starter tekst, het moet het volgende woord te voorspellen. Het netwerk wordt niet geleerd om proza te “begrijpen” in welke menselijke zin dan ook. In plaats daarvan past het tijdens zijn trainingsfase de interne verbindingen in zijn gesimuleerde neurale netwerken aan om het beste te anticiperen op het volgende woord, het woord daarna, enzovoort. Getraind op acht miljoen webpagina ‘ s, bevatten de ingewanden meer dan een miljard verbindingen die synapsen nabootsen, de verbindingspunten tussen neuronen. Toen ik de eerste paar zinnen van het artikel dat u leest, het algoritme spuwde twee alinea ‘ s die klonk als een eerstejaars poging om de kern van een inleidende lezing over machine learning herinneren waarin ze dagdroomde. De output bevat alle juiste woorden en zinnen-niet slecht, echt! Met dezelfde tekst voor de tweede keer, komt het algoritme met iets anders.
de nakomelingen van dergelijke bots zullen een vloedgolf van “deepfake” productrecensies en nieuwsberichten ontketenen die zullen bijdragen aan de miasma van het Internet. Ze zullen slechts een voorbeeld worden van programma ’s die dingen doen die tot nu toe als uniek menselijk werden beschouwd—het spelen van het real-time strategiespel StarCraft, het vertalen van tekst, het maken van persoonlijke aanbevelingen voor boeken en films, het herkennen van mensen in afbeeldingen en video’ s.
Het zal veel verdere vooruitgang in machine learning vergen voordat een algoritme een meesterwerk kan schrijven dat zo coherent is als dat van Marcel Proust op zoek naar verloren tijd, maar de code hangt aan de muur. Bedenk dat alle vroege pogingen om computerspel te spelen, vertaling en spraak onhandig waren en gemakkelijk te kleineren omdat ze zo duidelijk ontbrak vaardigheid en Pools. Maar met de uitvinding van diepe neurale netwerken en de enorme computationele infrastructuur van de tech-industrie, computers meedogenloos verbeterd totdat hun uitgangen niet langer leek risible. Zoals we hebben gezien met Go, chess en poker, kunnen algoritmen van vandaag de beste mensen, en als ze dat doen, onze eerste gelach verandert in consternatie. Zijn wij als Goethe ‘ s tovenaarsleerling, die hulpvaardige geesten heeft opgeroepen die we nu niet kunnen controleren?
kunstmatig bewustzijn?hoewel deskundigen het niet eens zijn over wat intelligentie precies is, natuurlijk of anderszins, accepteren de meesten dat computers vroeg of laat wat in het jargon “artificial general intelligence” (AGI) wordt genoemd, zullen bereiken.
de focus op machineintelligentie verhult heel andere vragen: zal het iets zijn om een AGI te zijn? Kunnen programmeerbare computers ooit bewust zijn?
met ” bewustzijn “of” subjectief gevoel ” bedoel ik de kwaliteit die inherent is aan een ervaring—bijvoorbeeld de verrukkelijke smaak van Nutella, de scherpe steek van een geïnfecteerde tand, het langzame verstrijken van de tijd wanneer men zich verveelt, of het gevoel van vitaliteit en angst vlak voor een wedstrijd. Channeling filosoof Thomas Nagel, we zouden kunnen zeggen dat een systeem bewust is als er iets is dat het lijkt op dat systeem.
beschouw het beschamende gevoel van plotseling te beseffen dat je net een blunder hebt begaan, dat wat je bedoelde als een grap overkwam als een belediging. Kunnen computers ooit zulke roeiende emoties ervaren? Wanneer u aan de telefoon, wacht minuut na minuut, en een synthetische stem intones, “het spijt ons om u te laten wachten,” voelt de software eigenlijk slecht terwijl het houden van u in customer-service hel?er is weinig twijfel dat onze intelligentie en onze ervaringen onverwoestbare gevolgen zijn van de natuurlijke causale krachten van ons brein, in plaats van bovennatuurlijke krachten. Dat uitgangspunt heeft de wetenschap zeer goed gediend in de afgelopen eeuwen toen mensen de wereld verkenden. Het drie-pond, tofulike menselijke brein is veruit de meest complexe brok van georganiseerde actieve materie in het bekende universum. Maar het moet zich aan dezelfde natuurwetten houden als honden, bomen en sterren. Niets krijgt een vrijgeleide. We begrijpen nog niet volledig de causale krachten van de hersenen, maar we ervaren ze elke dag—een groep neuronen is actief terwijl je kleuren ziet, terwijl de cellen die in een andere corticale buurt vuren geassocieerd worden met een joculaire stemming. Wanneer deze neuronen worden gestimuleerd door de elektrode van een neurochirurg, ziet de proefpersoon kleuren of barst hij uit in lachen. Omgekeerd, het afsluiten van de hersenen tijdens anesthesie elimineert deze ervaringen.
gegeven deze breed gedeelde achtergrond veronderstellingen, wat zal de evolutie van echte kunstmatige intelligentie impliceren over de mogelijkheid van kunstmatig bewustzijn?als we deze vraag overwegen, komen we onvermijdelijk tot een splitsing die leidt tot twee fundamenteel verschillende bestemmingen. De tijdgeest, zoals belichaamd in romans en films zoals Blade Runner, Her en Ex Machina, marcheert resoluut op de weg naar de veronderstelling dat echt intelligente machines bewust zullen zijn; ze zullen spreken, redeneren, zelf-monitor en introspect. Ze zijn EO ipso bewust.
dit pad wordt het duidelijkst belichaamd door de global neuronal workspace (GNW) theorie, een van de dominante wetenschappelijke theorieën van bewustzijn. De theorie begint met de hersenen en leidt af dat sommige van zijn eigenaardige architectonische kenmerken zijn wat aanleiding geeft tot bewustzijn.
zijn afstamming kan worden teruggevoerd op de” blackboard architecture “uit de jaren zeventig van de informatica, waarin gespecialiseerde programma’ s toegang kregen tot een gedeelde opslagplaats van informatie, blackboard of central workspace genaamd. Psychologen veronderstelden dat een dergelijke verwerkingsbron in de hersenen bestaat en centraal staat in de menselijke cognitie. De capaciteit is klein, dus slechts één waarneming, gedachte of herinnering neemt de werkruimte op een bepaald moment in beslag. Nieuwe informatie concurreert met het oude en verplaatst het.cognitieve neurowetenschapper Stanislas Dehaene en moleculair bioloog Jean-Pierre Changeux, beiden aan het Collège de France in Parijs, brachten deze ideeën in kaart op de architectuur van de cortex van de hersenen, de buitenste laag van grijze materie. Twee zeer gevouwen corticale vellen, een aan de linkerkant en een aan de rechterkant, elk de grootte en dikte van een 14-inch pizza, zijn gepropt in de beschermende schedel. Dehaene en Changeux stelden dat de werkruimte wordt geïnstitutionaliseerd door een netwerk van piramidale (prikkelende) neuronen die verbonden zijn met wijdverbreide corticale gebieden, in het bijzonder de prefrontale, parietotemporale en middenlijn (cingulaat) associatieve gebieden.
veel hersenactiviteit blijft gelokaliseerd en daarom onbewust-bijvoorbeeld die van de module die bepaalt waar de ogen kijken, iets waarvan we bijna volledig onbewust zijn, of die van de module die de houding van ons lichaam aanpast. Maar wanneer de activiteit in een of meer regio ‘ s een drempel overschrijdt—bijvoorbeeld wanneer iemand een afbeelding van een Nutella—pot krijgt gepresenteerd-activeert het een ontsteking, een golf van neurale opwinding die zich verspreidt door de neuronale werkruimte, de hele hersenen. Dat signaleren wordt daarom beschikbaar voor een gastheer van ondergeschikte processen zoals taal, planning, beloningscircuits, toegang tot langetermijngeheugen, en opslag in een geheugenbuffer op korte termijn. De handeling van het wereldwijd uitzenden van deze informatie is wat het bewust maakt. De onnavolgbare ervaring van Nutella wordt gevormd door piramidale neuronen die CONTACT MAKEN met de motor-planning regio van de hersenen—die een instructie geven om een lepel te pakken om wat van de hazelnoot spread eruit te scheppen. Ondertussen zenden andere modules de boodschap uit dat ze een beloning verwachten in de vorm van een dopamine rush veroorzaakt door Nutella ‘ s hoge vet-en suikergehalte.
bewustzijnstoestanden ontstaan uit de manier waarop het werkruimtealgoritme de relevante sensorische ingangen, motorische uitgangen en interne variabelen met betrekking tot geheugen, motivatie en verwachting verwerkt. Globale verwerking is waar bewustzijn over gaat. De GNW-theorie omarmt volledig de hedendaagse mythos van de bijna oneindige rekenkracht. Bewustzijn is slechts een slimme hack weg.
intrinsiek Causaal vermogen
De alternative path—integrated information theory (IIT)—gebruikt een meer fundamentele benadering om bewustzijn te verklaren.Giulio Tononi, een psychiater en neurowetenschapper aan de Universiteit van Wisconsin–Madison, is de hoofdarchitect van IIT, met anderen, waaronder ikzelf, die bijdragen. De theorie begint met ervaring en gaat van daaruit over tot de activering van synaptische circuits die het “gevoel” van deze ervaring bepalen. Geïntegreerde informatie is een wiskundige maat die kwantificeert hoeveel “intrinsieke causale kracht” een mechanisme bezit. Neuronen die actiepotentialen afvuren die de stroomafwaartse cellen beà nvloeden waarmee zij zijn bedraad (via synapsen) zijn één type mechanisme, net als elektronische schakelingen, gemaakt van transistors, capaciteit, weerstanden en draden.
intrinsiek Causaal vermogen is geen luchtige etherische notie, maar kan voor elk systeem nauwkeurig worden geëvalueerd. Hoe meer de huidige toestand de oorzaak (de input) en het effect (de output) specificeert, hoe meer Causaal vermogen het bezit.
IIT bepaalt dat elk mechanisme met intrinsieke kracht, waarvan de toestand is beladen met zijn verleden en zwanger is van zijn toekomst, bewust is. Hoe groter de geïntegreerde informatie van het systeem, vertegenwoordigd door de Griekse letter Φ (een nul of positief getal uitgesproken als “fi”), hoe bewuster het systeem is. Als iets geen intrinsieke causale kracht heeft, is Φ nul; het voelt niets.
gegeven de heterogeniteit van corticale neuronen en hun dicht overlappende set van input en output verbindingen, is de hoeveelheid geïntegreerde informatie binnen de cortex enorm. De theorie heeft de bouw van een bewustzijnsmeter geïnspireerd die momenteel onder klinische evaluatie staat, een instrument dat bepaalt of mensen in aanhoudende vegetatieve toestanden of degenen die minimaal bewust zijn, verdoofd of opgesloten-in bewust zijn, maar niet in staat zijn om te communiceren of dat “niemand thuis is.”In analyses van de causale kracht van programmeerbare digitale computers op het niveau van hun metalen componenten—de transistors, draden en diodes die dienen als het fysieke substraat van elke berekening—de theorie geeft aan dat hun intrinsieke causale kracht en hun Φ zijn minuscuul. Bovendien is Φ onafhankelijk van de software die op de processor draait, of het nu belastingen berekent of de hersenen simuleert.
inderdaad bewijst de theorie dat twee netwerken die dezelfde input-output operatie uitvoeren, maar verschillend geconfigureerde circuits hebben, verschillende hoeveelheden Φ kunnen bezitten. Het ene circuit kan geen Φ hebben, terwijl het andere hoge niveaus kan vertonen. Hoewel ze van buitenaf identiek zijn, ervaart een netwerk iets terwijl zijn zombie bedriegster tegenhanger niets voelt. Het verschil zit onder de motorkap, in de interne bedrading van het netwerk. Kortom, bewustzijn gaat over zijn, niet over doen.het verschil tussen deze theorieën is dat GNW de functie van het menselijk brein benadrukt in het verklaren van bewustzijn, terwijl IIT beweert dat het de intrinsieke causale krachten van het brein zijn die er echt toe doen.
het onderscheid openbaart zich wanneer we het connectoom van de hersenen inspecteren, de volledige specificatie van de exacte synaptische bedrading van het hele zenuwstelsel. Anatomen hebben de connectomen van een paar wormen al in kaart gebracht. Ze werken aan het connectoom voor de fruitvlieg en zijn van plan om de muis binnen het volgende decennium aan te pakken. Laten we aannemen dat het in de toekomst mogelijk zal zijn om een volledig menselijk brein te scannen, met zijn ongeveer 100 miljard neuronen en quadriljoen synapsen, op ultra-structureel niveau nadat de eigenaar is overleden en dan het orgaan te simuleren op een geavanceerde computer, misschien een kwantummachine. Als het model trouw genoeg is, zal deze simulatie wakker worden en zich gedragen als een digitale simulacrum van de overledene—sprekend en toegang tot zijn of haar herinneringen, verlangens, angsten en andere eigenschappen.
als het nabootsen van de functionaliteit van de hersenen alles is wat nodig is om bewustzijn te creëren, zoals gepostuleerd door de GNW-theorie, zal de gesimuleerde persoon bewust zijn, gereïncarneerd in een computer. Inderdaad, het uploaden van het connectoom naar de cloud, zodat mensen verder kunnen leven in het digitale Hiernamaals is een veel voorkomende sciencefiction trope.
IIT stelt een radicaal andere interpretatie van deze situatie voor: het simulacrum zal net zoveel voelen als de software die draait op een chique Japans toilet—niets. Het zal zich gedragen als een persoon, maar zonder aangeboren gevoelens, een zombie (maar zonder enig verlangen om menselijk vlees te eten) – de ultieme deepfake.
om bewustzijn te creëren, zijn de intrinsieke causale krachten van de hersenen nodig. En die krachten kunnen niet gesimuleerd worden, maar moeten deel uitmaken van de fysica van het onderliggende mechanisme.
om te begrijpen waarom simulatie niet goed genoeg is, vraag jezelf af waarom het nooit nat wordt in een weersimulatie van een regenbui of waarom astrofysici de enorme zwaartekracht van een zwart gat kunnen simuleren zonder zich zorgen te hoeven maken dat ze zullen worden opgeslokt door ruimte-tijdbuigen rond hun computer. Het antwoord: omdat een simulatie niet het causale vermogen heeft om atmosferische damp te laten condenseren in water of om de ruimtetijd te laten krommen! In principe zou het echter mogelijk zijn om menselijk bewustzijn te bereiken door verder te gaan dan een simulatie om zogenaamde neuromorfe hardware te bouwen, gebaseerd op een architectuur gebouwd in het beeld van het zenuwstelsel.
Er zijn andere verschillen naast de debatten over simulaties. IIT en GNW voorspellen dat verschillende gebieden van de cortex het fysieke substraat vormen van specifieke bewuste ervaringen, met een epicentrum in de achterkant of de voorkant van de cortex. Deze voorspelling en andere worden nu getest in een grootschalige samenwerking met zes labs in de VS. Europa en China die net $5 miljoen aan financiering hebben ontvangen van de Templeton World Charity Foundation.
of machines om ethische redenen bewuste zaken kunnen worden. Als computers het leven ervaren via hun eigen zintuigen, zijn ze niet langer louter een middel tot een doel bepaald door hun nut voor ons mensen. Ze worden een einde voor zichzelf.
Per GNW veranderen ze van louter objecten in subjecten – elk bestaat als een ” I ” – met een standpunt. Dit dilemma komt naar voren in de meest meeslepende Black Mirror en Westworld tv-afleveringen. Zodra de cognitieve vaardigheden van computers die van de mensheid wedijveren, zal hun impuls om aan te dringen op juridische en politieke rechten onweerstaanbaar worden-het recht om niet te worden verwijderd, om hun herinneringen niet schoon te laten vegen, om geen pijn en degradatie te lijden. Het alternatief, belichaamd door IIT, is dat computers slechts supersofistische machines zullen blijven, spookachtige lege schelpen, verstoken van wat we het meest waarderen: het gevoel van het leven zelf.