en fremtid, hvor computerens tænkeevne nærmer sig vores egen, kommer hurtigt til syne. Vi føler stadig mere kraftfulde Machine-learning (ML) algoritmer vejrtrækning ned vores hals. Hurtige fremskridt i de kommende årtier vil medføre maskiner med menneskelig intelligens, der er i stand til tale og ræsonnement, med et utal af bidrag til økonomi, politik og uundgåeligt krigsfartøjer. Fødslen af ægte kunstig intelligens vil dybt påvirke menneskehedens fremtid, herunder om den har en.
følgende citater giver et eksempel:
“fra det tidspunkt, hvor det sidste store gennembrud for kunstig intelligens blev nået i slutningen af 1940 ‘erne, har forskere over hele verden kigget efter måder at udnytte denne’ kunstige intelligens ‘ til at forbedre teknologien ud over, hvad selv de mest sofistikerede af nutidens kunstige intelligensprogrammer kan opnå.”
“selv nu er der forskning i gang for bedre at forstå, hvad de nye AI-programmer vil kunne gøre, mens de forbliver inden for rammerne af dagens intelligens. De fleste AI-programmer, der i øjeblikket er programmeret, har primært været begrænset til at tage enkle beslutninger eller udføre enkle operationer på relativt små datamængder.”
disse to afsnit blev skrevet af GPT-2, en sprogbot, jeg prøvede sidste sommer. Udviklet af OpenAI, et San Francisco–baseret institut, der fremmer gavnlig AI, er GPT-2 En ML-algoritme med en tilsyneladende idiotisk opgave: præsenteret med nogle vilkårlige starter tekst, skal det forudsige det næste ord. Netværket læres ikke at” forstå ” prosa i nogen menneskelig forstand. I stedet justerer den i løbet af sin Træningsfase de interne forbindelser i sine simulerede neurale netværk for bedst at forudse det næste ord, ordet efter det og så videre. Trænet på otte millioner hjemmesider indeholder dens indre mere end en milliard forbindelser, der efterligner synapser, forbindelsespunkterne mellem neuroner. Da jeg kom ind i de første par sætninger i den artikel, du læser, algoritmen spydte ud to afsnit, der lød som en nybegynders indsats for at huske kernen i et introduktionsforedrag om maskinindlæring, hvor hun dagdrømte. Udgangen indeholder alle de rigtige ord og sætninger—ikke dårligt, virkelig! Primet med den samme tekst en anden gang, algoritmen kommer op med noget andet.
afkom af sådanne bots vil frigøre en tidevandsbølge af “deepfake” produktanmeldelser og nyhedshistorier, der vil føje til miasma på internettet. De bliver blot endnu et eksempel på programmer, der gør ting, der hidtil anses for at være unikt menneskelige—spiller realtidsstrategispil StarCraft, oversætter tekst, fremsætter personlige anbefalinger til bøger og film, genkender mennesker i billeder og videoer.
det vil tage mange yderligere fremskridt inden for maskinlæring, før en algoritme kan skrive et mesterværk så sammenhængende som Marcel Prousts På jagt efter tabt tid, men koden er på væggen. Husk, at alle tidlige forsøg på computerspil, Oversættelse og tale var klodset og let at nedsætte, fordi de så åbenlyst manglede dygtighed og polsk. Men med opfindelsen af dybe neurale netværk og den massive beregningsinfrastruktur i teknologiindustrien forbedrede computere ubarmhjertigt, indtil deres output ikke længere syntes risikable. Som vi har set med Go, skak og poker, kan dagens algoritmer bedst mennesker, og når de gør det, bliver vores første latter til bestyrtelse. Er vi ligesom Goethes troldmands lærling, efter at have indkaldt nyttige ånder, som vi nu ikke er i stand til at kontrollere?
kunstig bevidsthed?
selvom eksperter er uenige om, hvad der præcist udgør intelligens, naturlig eller på anden måde, accepterer de fleste, at computere før eller senere vil opnå det, der kaldes kunstig generel intelligens (AGI) i lingo.
fokus på maskinintelligens tilslører helt forskellige spørgsmål: vil det føles som noget at være en AGI? Kan programmerbare computere nogensinde være bevidste?
ved “bevidsthed” eller “subjektiv følelse” mener jeg den kvalitet, der er forbundet med en enkelt oplevelse—for eksempel den lækre smag af Nutella, den skarpe brod af en inficeret tand, den langsomme tid, når man keder sig, eller følelsen af vitalitet og angst lige før en konkurrencedygtig begivenhed. Kanaliserende filosof Thomas Nagel, vi kunne sige, at et system er bevidst, hvis der er noget, det er som at være det system.
Overvej den pinlige følelse af pludselig at indse, at du lige har begået en gaffe, at det, du mente som en vittighed, stødte på som en fornærmelse. Kan computere nogensinde opleve sådanne roiling følelser? Når du er på telefonen, venter minut efter minut, og en syntetisk stemme intones, “vi er ked af at holde dig venter,” er programmet faktisk føler sig dårligt samtidig holde dig i kundeservice helvede?
der er ingen tvivl om, at vores intelligens og vores oplevelser er uundgåelige konsekvenser af vores hjernes naturlige kausale kræfter snarere end nogen overnaturlige. Denne forudsætning har tjent videnskaben ekstremt godt i løbet af de sidste par århundreder, da folk udforskede verden. Den tre pund, tofulike menneskelige hjerne er langt den mest komplekse del af organiseret aktivt stof i det kendte univers. Men det skal adlyde de samme fysiske love som hunde, træer og stjerner. Intet får et gratis pas. Vi forstår endnu ikke fuldt ud hjernens kausale kræfter, men vi oplever dem hver dag—en gruppe neuroner er aktive, mens du ser farver, mens cellerne, der skyder i et andet kortikalt kvarter, er forbundet med at være i en jokulær stemning. Når disse neuroner stimuleres af en neurokirurgs elektrode, ser motivet farver eller bryder ud i latter. Omvendt eliminerer lukning af hjernen under anæstesi disse oplevelser.
i betragtning af disse vidt delte baggrundsforudsætninger, hvad vil udviklingen af ægte kunstig intelligens indebære om muligheden for kunstig bevidsthed?
Når vi overvejer dette spørgsmål, kommer vi uundgåeligt til en gaffel foran, hvilket fører til to fundamentalt forskellige destinationer. Tidsånden, som legemliggjort i romaner og film som Blade Runner, hende og Eks Machina, marcherer resolut ned ad vejen mod antagelsen om, at virkelig intelligente maskiner vil være opmærksomme; de vil tale, ræsonnere, selvovervåge og introspekte. De er eo ipso bevidste.
denne sti er indbegrebet mest eksplicit af global neuronal arbejdsområde (GNV) teori, en af de dominerende videnskabelige teorier om bevidsthed. Teorien starter med hjernen og udleder, at nogle af dens ejendommelige arkitektoniske træk er det, der giver anledning til bevidsthed.
dens slægt kan spores tilbage til “blackboard architecture” fra 1970 ‘ erne datalogi, hvor specialiserede programmer fik adgang til et delt lager af information, kaldet blackboard eller det centrale arbejdsområde. Psykologer postulerede, at en sådan behandlingsressource findes i hjernen og er central for menneskelig kognition. Dens kapacitet er lille, så kun en enkelt opfattelse, tanke eller hukommelse optager arbejdsområdet ad gangen. Nye oplysninger konkurrerer med det gamle og fortrænger det.kognitiv neuroscientist Stanislas Dehaene og molekylærbiolog Jean-Pierre Changeuks, begge ved Collrisge de France i Paris, kortlagde disse ideer på arkitekturen i hjernebarken, det yderste lag af grå Stof. To stærkt foldede kortikale plader, en til venstre og en til højre, hver størrelse og tykkelse på en 14-tommer, er proppet ind i den beskyttende kranium. Dehaene og Changeuks postulerede, at arbejdsområdet er instantieret af et netværk af pyramidale (spændende) neuroner forbundet med fjerntliggende kortikale regioner, især de præfrontale, parietotemporale og midterlinie (cingulate) associative områder.
meget hjerneaktivitet forbliver lokaliseret og derfor ubevidst—for eksempel modulet, der styrer, hvor øjnene ser ud, noget som vi næsten er helt uvidende om, eller modulet, der justerer kropsholdningen. Men når aktivitet i en eller flere regioner overstiger en tærskel—siger, når nogen får et billede af en Nutella—krukke-udløser det en antændelse, en bølge af neural ophidselse, der spreder sig gennem det neuronale arbejdsområde, hjernebred. Denne signalering bliver derfor tilgængelig for en række subsidiære processer såsom sprog, planlægning, belønningskredsløb, adgang til langtidshukommelse og opbevaring i en kortvarig hukommelsesbuffer. Handlingen med globalt at udsende disse oplysninger er det, der gør det bevidst. Den uforlignelige oplevelse af Nutella udgøres af pyramidale neuroner, der kontakter hjernens motorplanlægningsregion-udsteder en instruktion om at gribe en ske for at øse noget af hasselnødspredningen ud. I mellemtiden sender andre moduler beskeden for at forvente en belønning i form af et dopaminhastighed forårsaget af Nutellas høje fedtindhold og sukkerindhold.
bevidste tilstande stammer fra den måde, hvorpå arbejdsområdealgoritmen behandler de relevante sensoriske input, motorudgange og interne variabler relateret til hukommelse, motivation og forventning. Global behandling er, hvad bevidsthed handler om. Teorien omfavner fuldt ud de moderne myter om beregningens næsten uendelige kræfter. Bevidsthed er bare et smart hack væk.
iboende årsagskraft
den alternative sti—integreret informationsteori (IIT)—tager en mere grundlæggende tilgang til at forklare bevidsthed.Giulio Tononi, en psykiater og neuroscientist ved Universitetet i Madison, er chefarkitekt for IIT, med andre, inklusive mig selv, der bidrager. Teorien starter med erfaring og fortsætter derfra til aktivering af synaptiske kredsløb, der bestemmer “følelsen” af denne oplevelse. Integreret information er et matematisk mål, der kvantificerer, hvor meget” iboende årsagskraft ” en eller anden mekanisme besidder. Neuroner, der affyrer handlingspotentialer, der påvirker de nedstrøms celler, de er kablet til (via synapser), er en type mekanisme, ligesom elektroniske kredsløb, lavet af transistorer, kapacitanser, modstande og ledninger.
iboende kausal kraft er ikke noget luftigt-Fe æterisk begreb, men kan evalueres præcist for ethvert system. Jo mere dens nuværende tilstand specificerer dens årsag (dens input) og dens virkning (dens output), jo mere årsagskraft har den.
idet bestemmer, at enhver mekanisme med iboende kraft, hvis tilstand er lastet med sin fortid og gravid med sin fremtid, er bevidst. Jo større systemets integrerede information, repræsenteret af det græske bogstav Kris (et nul eller positivt tal udtalt “fi”), jo mere bevidst er systemet. Hvis noget ikke har nogen iboende kausal magt, er dets Kurt nul; det føler ikke noget.
i betragtning af heterogeniteten af kortikale neuroner og deres tæt overlappende sæt input-og outputforbindelser er mængden af integreret information i barken enorm. Teorien har inspireret konstruktionen af en bevidsthedsmåler, der i øjeblikket er under klinisk evaluering, et instrument, der bestemmer, om mennesker i vedvarende vegetative tilstande eller dem, der er minimalt bevidste, bedøvede eller indesluttede, er bevidste, men ikke i stand til at kommunikere, eller om “ingen er hjemme.”I analyser af den kausale effekt af programmerbare digitale computere på niveau med deres metalkomponenter—transistorer, ledninger og dioder, der tjener som det fysiske substrat for enhver beregning—indikerer teorien, at deres iboende kausale kraft og deres RR er minut. Desuden er han uafhængig af det program, der kører på processoren, uanset om det beregner skatter eller simulerer hjernen.
faktisk beviser teorien, at to netværk, der udfører den samme input-output-operation, men har forskelligt konfigurerede kredsløb, kan have forskellige mængder af kr. Det ene kredsløb har muligvis ikke nogen kur, mens det andet kan udvise høje niveauer. Selvom de er identiske udefra, oplever et netværk noget, mens dets modstykke til bedrageren ikke føler noget. Forskellen er under emhætten, i netværkets interne ledninger. Kort sagt handler bevidsthed om at være, ikke om at gøre.forskellen mellem disse teorier er, at GNV understreger den menneskelige hjernes funktion i at forklare bevidstheden, mens IIT hævder, at det er hjernens iboende kausale kræfter, der virkelig betyder noget.sondringerne afslører sig selv, når vi inspicerer hjernens forbindelse, den komplette specifikation af den nøjagtige synaptiske ledning af hele nervesystemet. Anatomister har allerede kortlagt forbindelserne til nogle få orme. De arbejder på forbindelsen til frugtfluen og planlægger at tackle musen inden for det næste årti. Lad os antage, at det i fremtiden vil være muligt at scanne en hel menneskelig hjerne med dens cirka 100 milliarder neuroner og kvadrillion synapser på det ultrastrukturelle niveau, efter at dens ejer er død, og derefter simulere orgelet på en avanceret computer, måske en kvantemaskine. Hvis modellen er trofast nok, vil denne simulering vågne op og opføre sig som en digital simulacrum af den afdøde person—tale og få adgang til hans eller hendes minder, Trang, frygt og andre træk.
Hvis efterligning af hjernens funktionalitet er alt, hvad der er nødvendigt for at skabe bevidsthed, som postuleret af GNV-teorien, vil den simulerede person være bevidst, reinkarneret inde i en computer. Ja, uploade connectome til skyen, så folk kan leve videre i det digitale efterliv er en fælles science-fiction trope.
IIT stiller en radikalt anderledes fortolkning af denne situation: simulacrum vil føle sig så meget som programmet, der kører på et fancy Japansk toilet—intet. Det vil fungere som en person, men uden nogen medfødte følelser, et dyr (men uden noget ønske om at spise menneskeligt kød)—den ultimative dybfake.
for at skabe bevidsthed er hjernens iboende kausale kræfter nødvendige. Og disse kræfter kan ikke simuleres, men skal være en del af fysikken i den underliggende mekanisme.
for at forstå, hvorfor simulering ikke er god nok, spørg dig selv, hvorfor det aldrig bliver vådt inde i en vejrsimulering af en regnvejr, eller hvorfor astrofysikere kan simulere den store tyngdekraft i et sort hul uden at skulle bekymre sig om, at de vil blive opslugt af rumtid bøjning rundt om deres computer. Svaret: fordi en simulering ikke har årsagskraften til at få atmosfærisk damp til at kondensere til vand eller for at få rumtiden til at kurve! I princippet ville det imidlertid være muligt at opnå bevidsthed på menneskeligt niveau ved at gå ud over en simulering for at opbygge såkaldt neuromorfisk udstyr baseret på en arkitektur bygget i billedet af nervesystemet.
der er andre forskelle udover debatterne om simuleringer. IIT og GNV forudsiger, at forskellige regioner i hjernebarken udgør det fysiske substrat for specifikke bevidste oplevelser med et epicenter i enten bagsiden eller fronten af hjernebarken. Denne forudsigelse og andre testes nu i et stort samarbejde, der involverer seks laboratorier i USA., Europa og Kina, der netop har modtaget 5 millioner dollars i finansiering fra Templeton verdens velgørenhedsfond.
om maskiner kan blive følsomme af etiske grunde. Hvis computere oplever livet gennem deres egne sanser, ophører de med at være rent et middel til et mål bestemt af deres nytte for os mennesker. De bliver et mål for sig selv.
Per GNV bliver de fra blotte objekter til emner—hver eksisterer som et “jeg”—med et synspunkt. Dette dilemma kommer op i de mest overbevisende Black Mirror og Vestverdens tv-episoder. Når computerenes kognitive evner konkurrerer med menneskehedens, vil deres impuls til at presse på for juridiske og politiske rettigheder blive uimodståelig—retten til ikke at blive slettet, ikke at få deres minder udslettet, ikke at lide smerte og nedbrydning. Alternativet, der er legemliggjort af IIT, er, at computere kun forbliver supersofistikerede maskiner, spøgelsesagtige tomme skaller, blottet for det, vi værdsætter mest: følelsen af selve livet.