en framtid där datorns tänkande förmåga närmar sig vår egen kommer snabbt fram. Vi känner oss allt mer kraftfulla maskininlärningsalgoritmer (ML) som andas ner i halsen. Snabba framsteg under de kommande årtiondena kommer att medföra maskiner med intelligens på mänsklig nivå som kan tala och resonera, med en myriad av bidrag till ekonomi, politik och oundvikligen warcraft. Födelsen av sann artificiell intelligens kommer djupt att påverka mänsklighetens framtid, inklusive om den har en.
följande citat ger ett typexempel:
”från det att det sista stora genombrottet för artificiell intelligens nåddes i slutet av 1940-talet har forskare runt om i världen letat efter sätt att utnyttja denna ”artificiella intelligens” för att förbättra tekniken utöver vad även de mest sofistikerade av dagens artificiella intelligensprogram kan uppnå.”
” även nu pågår forskning för att bättre förstå vad de nya AI-programmen kommer att kunna göra, samtidigt som de ligger inom gränserna för dagens intelligens. De flesta AI-program som för närvarande programmeras har begränsats främst till att fatta enkla beslut eller utföra enkla operationer på relativt små mängder data.”
dessa två stycken skrevs av GPT-2, en språkbot jag försökte förra sommaren. Utvecklad av OpenAI, ett San Francisco–baserat institut som främjar fördelaktig AI, är GPT-2 en ML-algoritm med en till synes idiotisk uppgift: presenterad med någon godtycklig starttext måste den förutsäga nästa ord. Nätverket lär sig inte att ”förstå” prosa i någon mänsklig mening. Istället justerar den under sin träningsfas de interna anslutningarna i sina simulerade neurala nätverk för att bäst förutse nästa ord, ordet efter det och så vidare. Utbildad på åtta miljoner webbsidor innehåller dess innards mer än en miljard anslutningar som emulerar synapser, anslutningspunkterna mellan neuroner. När jag kom in i de första meningarna i artikeln du läser, spydde algoritmen ut två stycken som lät som en nybörjares försök att återkalla kärnan i en inledande föreläsning om maskininlärning under vilken hon dagdrömde. Utgången innehåller alla rätt ord och fraser—inte illa, verkligen! Primerad med samma text en andra gång, algoritmen kommer upp med något annat.
avkomman till sådana bots kommer att släppa loss en tidvattenvåg av ”deepfake” produktrecensioner och nyheter som kommer att lägga till miasma på Internet. De kommer att bli bara ett exempel på program som gör saker som hittills tros vara unikt mänskliga—spelar realtidsstrategispelet StarCraft, översätter text, gör personliga rekommendationer för böcker och filmer, känner igen människor i bilder och videor.
det kommer att ta många ytterligare framsteg inom maskininlärning innan en algoritm kan skriva ett mästerverk så sammanhängande som Marcel Prousts på jakt efter förlorad tid, men koden är på väggen. Minns att alla tidiga försök till dataspel, översättning och tal var klumpiga och lätta att förringa eftersom de så uppenbarligen saknade skicklighet och polska. Men med uppfinningen av djupa neurala nätverk och den massiva beräkningsinfrastrukturen i teknikindustrin förbättrades datorer obevekligt tills deras utgångar inte längre verkade risibla. Som vi har sett med Go, schack och poker, dagens algoritmer kan bäst människor, och när de gör, vår första skratt vänder sig till bestörtning. Är vi som Goethes trollkarls lärling, efter att ha kallat hjälpsamma andar som vi nu inte kan kontrollera?
artificiellt medvetande?
även om experter är oense om vad som exakt utgör intelligens, naturligt eller på annat sätt, accepterar de flesta att datorer förr eller senare kommer att uppnå det som kallas artificiell allmän intelligens (agi) i lingo.fokus på maskinintelligens döljer helt olika frågor: kommer det att kännas som något att vara en AGI? Kan programmerbara datorer någonsin vara medvetna?
med ”medvetande” eller ”subjektiv känsla” menar jag kvaliteten som är inneboende i någon upplevelse—till exempel den härliga smaken av Nutella, den skarpa sting av en infekterad tand, den långsamma tiden när man är uttråkad eller känslan av vitalitet och ångest strax före en tävlingshändelse. Kanalisera filosofen Thomas Nagel, vi kan säga att ett system är medvetet om det är något det är som att vara det systemet.Tänk på den pinsamma känslan av att plötsligt inse att du just har begått en gaffe, att det du menade som ett skämt kom över som en förolämpning. Kan datorer någonsin uppleva sådana roiling känslor? När du är i telefon, väntar minut efter minut och en syntetisk röst intoner, ”vi är ledsna att du väntar”, känner programvaran faktiskt dåligt medan du håller dig i kundservice helvete?
det råder föga tvivel om att vår intelligens och våra erfarenheter är ofrånkomliga konsekvenser av hjärnans naturliga kausala krafter, snarare än några övernaturliga. Den förutsättningen har tjänat vetenskapen extremt bra under de senaste århundradena när människor utforskade världen. Den tre pund, tofulike mänskliga hjärnan är överlägset den mest komplexa delen av organiserad aktiv materia i det kända universum. Men det måste lyda samma fysiska lagar som hundar, träd och stjärnor. Inget får ett frikort. Vi förstår ännu inte hjärnans kausala krafter, men vi upplever dem varje dag—en grupp neuroner är aktiva medan du ser färger, medan cellerna som skjuter i ett annat kortikalt grannskap är förknippade med att vara i ett skämt humör. När dessa neuroner stimuleras av en neurokirurgs elektrod ser motivet färger eller utbrott i skratt. Omvänt eliminerar avstängning av hjärnan under anestesi dessa upplevelser.
Med tanke på dessa allmänt delade bakgrundsantaganden, vad kommer utvecklingen av sann artificiell intelligens att innebära om möjligheten till artificiellt medvetande?
Med tanke på denna fråga kommer vi oundvikligen till en gaffel framåt, vilket leder till två fundamentalt olika destinationer. Zeitgeisten, som förkroppsligas i romaner och filmer som Blade Runner, henne och Ex Machina, marscherar resolut på vägen mot antagandet att verkligt intelligenta maskiner kommer att vara kännande; de kommer att tala, resonera, självmonitor och introspekt. De är eo ipso medvetna.
denna väg epitomiseras mest uttryckligen av global neuronal workspace (GNW) – teorin, en av de dominerande vetenskapliga teorierna om medvetande. Teorin börjar med hjärnan och drar slutsatsen att några av dess märkliga arkitektoniska särdrag är det som ger upphov till medvetandet.
dess härstamning kan spåras tillbaka till” blackboard architecture ” på 1970-talet datavetenskap, där specialiserade program fick tillgång till ett gemensamt arkiv med information, kallad blackboard eller central workspace. Psykologer postulerade att en sådan bearbetningsresurs finns i hjärnan och är central för mänsklig kognition. Dess kapacitet är liten, så bara en enda percept, tanke eller minne upptar arbetsytan samtidigt. Ny information konkurrerar med den gamla och förskjuter den.
kognitiv neuroscientist Stanislas Dehaene och molekylärbiologen Jean-Pierre Changeux, båda vid Colluxge de France i Paris, kartlade dessa tankar på arkitekturen i hjärnans cortex, det yttersta lagret av grå materia. Två mycket vikta kortikala ark, en till vänster och en till höger, vardera storleken och tjockleken på en 14-tums pizza, är proppade i den skyddande skallen. Dehaene och Changeux postulerade att arbetsytan instansieras av ett nätverk av pyramidala (excitatoriska) neuroner kopplade till avlägsna kortikala regioner, särskilt de prefrontala, parietotemporala och mittlinjen (cingulära) associativa områdena.
mycket hjärnaktivitet förblir lokaliserad och därför medvetslös—till exempel modulen som styr var ögonen ser ut, något som vi nästan är helt omedvetna om, eller modulen som justerar kroppsställningen. Men när aktivitet i en eller flera regioner överstiger ett tröskelvärde—säg, när någon presenteras med en bild av en Nutella—burk-utlöser det en tändning, en våg av neural excitation som sprider sig över hela neuronal arbetsyta, hela hjärnan. Denna signalering blir därför tillgänglig för en mängd dotterprocesser som språk, planering, belöningskretsar, tillgång till långtidsminne och lagring i en korttidsminnebuffert. Handlingen att globalt sända denna information är det som gör den medveten. Den oändliga upplevelsen av Nutella består av pyramidala neuroner som kontaktar hjärnans motorplaneringsregion-utfärdar en instruktion för att ta en sked för att skopa ut en del av hasselnötspridningen. Samtidigt sänder andra moduler meddelandet för att förvänta sig en belöning i form av en dopaminhastighet orsakad av Nutellas höga fett-och sockerhalt.medvetna tillstånd härrör från hur arbetsytaalgoritmen bearbetar relevanta sensoriska ingångar, motorutgångar och interna variabler relaterade till minne, motivation och förväntan. Global bearbetning är vad medvetandet handlar om. GNW-teorin omfattar fullt ut de samtida mytos av de nästan oändliga beräkningskrafterna. Medvetandet är bara en smart hacka bort.
Intrinsic causal Power
den alternativa vägen—integrerad informationsteori (IIT) – tar ett mer grundläggande tillvägagångssätt för att förklara medvetandet.
Giulio Tononi, en psykiater och neuroscientist vid University of Wisconsin–Madison, är chefsarkitekt för IIT, med andra, inklusive mig själv, som bidrar. Teorin börjar med erfarenhet och fortsätter därifrån till aktiveringen av synaptiska kretsar som bestämmer ”känslan” av denna upplevelse. Integrerad information är en matematisk åtgärd som kvantifierar hur mycket” inneboende kausalkraft ” någon mekanism har. Neuroner som skjuter åtgärdspotentialer som påverkar nedströmscellerna de är anslutna till (via synapser) är en typ av mekanism, liksom elektroniska kretsar, gjorda av transistorer, kapacitanser, motstånd och ledningar.
inneboende kausal kraft är inte någon luftig-Fe eterisk uppfattning men kan utvärderas exakt för vilket system som helst. Ju mer dess nuvarande tillstånd specificerar dess orsak (dess ingång) och dess effekt (dess utgång), desto mer kausal kraft har den.
IIT föreskriver att varje mekanism med inneboende kraft, vars tillstånd är belastat med sitt förflutna och gravid med sin framtid, är medveten. Ju större systemets integrerade information, som representeras av den grekiska bokstaven Kubi (ett noll eller positivt tal uttalat ”fi”), desto mer medvetet är systemet. Om något inte har någon inneboende kausal kraft, är dess Bisexuell noll; det känner inte någonting.med tanke på heterogeniteten hos kortikala neuroner och deras tätt överlappande uppsättning ingångs-och utgångsanslutningar är mängden integrerad information i cortex stor. Teorin har inspirerat konstruktionen av en medvetenhetsmätare som för närvarande är under klinisk utvärdering, ett instrument som avgör om människor i ihållande vegetativa tillstånd eller de som är minimalt medvetna, bedövade eller inlåsta är medvetna men inte kan kommunicera eller om ”ingen är hemma.”I analyser av kausalkraften hos programmerbara digitala datorer på nivån av deras metallkomponenter—transistorer, ledningar och dioder som fungerar som det fysiska substratet för vilken beräkning som helst—indikerar teorin att deras inneboende kausalkraft och deras hCG är minut. Dessutom är Xiaomi oberoende av programvaran som körs på processorn, oavsett om den beräknar skatter eller simulerar hjärnan.
faktum är att teorin visar att två nätverk som utför samma input-output-operation men har olika konfigurerade kretsar kan ha olika mängder av megapixlar. En krets kan inte ha någon kub, medan den andra kan uppvisa höga nivåer. Även om de är identiska från utsidan, ett nätverk upplever något medan dess zombie bedragare motsvarighet känner ingenting. Skillnaden ligger under huven, i nätverkets interna ledningar. Kort sagt handlar medvetandet om att vara, inte om att göra.
skillnaden mellan dessa teorier är att GNW betonar den mänskliga hjärnans funktion för att förklara medvetandet, medan IIT hävdar att det är hjärnans inneboende kausala krafter som verkligen betyder något.
skillnaderna avslöjar sig när vi inspekterar hjärnans anslutning, den fullständiga specifikationen av den exakta synaptiska ledningen av hela nervsystemet. Anatomister har redan kartlagt anslutningarna hos några maskar. De arbetar på connectome för fruktflugan och planerar att ta itu med musen inom det närmaste decenniet. Låt oss anta att det i framtiden kommer att vara möjligt att skanna en hel mänsklig hjärna, med sina ungefär 100 miljarder neuroner och quadrillion synapser, på ultrastrukturell nivå efter att ägaren har dött och sedan simulera organet på någon avancerad dator, kanske en kvantmaskin. Om modellen är trogen nog kommer denna simulering att vakna upp och bete sig som en digital simulacrum av den avlidne personen—tala och få tillgång till hans eller hennes minnen, begär, rädslor och andra egenskaper.
om efterlikning av hjärnans funktionalitet är allt som behövs för att skapa medvetande, som postuleras av GNW-teorin, kommer den simulerade personen att vara medveten, reinkarnerad i en dator. Faktum är att uppladdning av connectome till molnet så att människor kan leva vidare i det digitala efterlivet är en vanlig science-fiction trope.
IIT ställer en radikalt annorlunda tolkning av denna situation: simulacrum kommer att känna lika mycket som programvaran som körs på en fin japansk toalett—ingenting. Det kommer att fungera som en person men utan några medfödda känslor, en zombie (men utan någon önskan att äta mänskligt kött)—den ultimata djupfake.
för att skapa medvetande behövs hjärnans inneboende kausala krafter. Och dessa krafter kan inte simuleras utan måste vara en del av den underliggande mekanismens fysik.
för att förstå varför simulering inte är tillräckligt bra, fråga dig själv varför det aldrig blir vått i en vädersimulering av en regnstorm eller varför astrofysiker kan simulera den stora gravitationskraften i ett svart hål utan att behöva oroa sig för att de kommer att sväljas upp av rymdtid som böjer sig runt sin dator. Svaret: eftersom en simulering inte har orsakskraften att orsaka atmosfärisk ånga att kondensera till vatten eller att orsaka rymdtid att kurva! I princip skulle det emellertid vara möjligt att uppnå medvetenhet på mänsklig nivå genom att gå utöver en simulering för att bygga så kallad neuromorf hårdvara, baserad på en arkitektur byggd i bilden av nervsystemet.
det finns andra skillnader förutom debatterna om simuleringar. IIT och GNW förutspår att distinkta regioner i cortex utgör det fysiska substratet för specifika medvetna upplevelser, med ett epicentrum i antingen baksidan eller framsidan av cortex. Denna förutsägelse och andra testas nu i ett storskaligt samarbete som involverar sex laboratorier i USA., Europa och Kina som just har fått 5 miljoner dollar i finansiering från Templeton World Charity Foundation.
huruvida maskiner kan bli kännande frågor av etiska skäl. Om datorer upplever livet genom sina egna sinnen upphör de att vara enbart ett medel till ett mål som bestäms av deras användbarhet för oss människor. De blir ett mål för sig själva.
Per GNW vänder de sig från bara objekt till ämnen—var och en existerar som ett ”jag”—med en synvinkel. Detta dilemma kommer upp i de mest övertygande TV-episoderna Black Mirror och Westworld. När datorernas kognitiva förmågor konkurrerar med mänsklighetens, kommer deras impuls att driva på juridiska och politiska rättigheter att bli oemotståndlig—rätten att inte raderas, att inte få sina minnen torkade rena, att inte drabbas av smärta och nedbrytning. Alternativet, förkroppsligat av IIT, är att datorer bara kommer att förbli supersofisticerade maskiner, spöklika tomma skal, utan det vi värdesätter mest: känslan av livet självt.