edessä on nopeasti tulevaisuus, jossa tietokoneiden ajattelukyky lähestyy omaamme. Tunnemme yhä tehokkaampia koneoppivia (ML) algoritmeja, jotka hengittävät niskaamme. Nopea edistys tulevina vuosikymmeninä tuo koneita, joilla on ihmistason älykkyys, joka kykenee puhumaan ja päättelemään, ja lukemattomia panoksia talouteen, politiikkaan ja väistämättä Warcraftiin. Todellisen tekoälyn synty vaikuttaa syvällisesti ihmiskunnan tulevaisuuteen, myös siihen, onko sillä sellaista.
seuraavat lainaukset antavat osviittaa:
”siitä lähtien, kun viimeinen suuri tekoälyn läpimurto saavutettiin 1940-luvun lopulla, tiedemiehet ympäri maailmaa ovat etsineet tapoja valjastaa tämä ”tekoäly” parantamaan teknologiaa enemmän kuin mitä edes kehittyneimmät nykyisistä tekoälyohjelmista voivat saavuttaa.”
”nytkin on käynnissä tutkimus, jonka tarkoituksena on ymmärtää paremmin, mihin uudet TEKOÄLYOHJELMAT pystyvät, samalla kun ne pysyvät nykypäivän älykkyyden rajoissa. Useimmat nykyisin ohjelmoidut TEKOÄLYOHJELMAT ovat rajoittuneet lähinnä yksinkertaisten päätösten tekemiseen tai yksinkertaisten operaatioiden suorittamiseen suhteellisen pienillä tietomäärillä.”
nämä kaksi kappaletta on kirjoittanut GPT-2, kielibotti jota kokeilin viime kesänä. Kehittämä OpenAI, San Francisco–pohjainen instituutti, joka edistää hyödyllistä tekoäly, GPT-2 on ML algoritmi näennäisesti idioottimainen tehtävä: esitetty joitakin mielivaltainen käynnistin tekstiä, se on ennustettava seuraava sana. Verkostoa ei opeteta ”ymmärtämään” proosaa missään inhimillisessä mielessä. Sen sijaan harjoitusvaiheessa se säätää simuloitujen neuroverkkojensa sisäisiä yhteyksiä ennakoimaan parhaiten seuraavaa sanaa, sen jälkeistä sanaa ja niin edelleen. Sen sisuksissa on yli miljardi yhteyttä, jotka jäljittelevät synapseja, hermosolujen välisiä yhdyskohtia. Kun kirjoitin muutaman ensimmäisen lauseen artikkelin luet, algoritmi sylki ulos kaksi kappaletta, jotka kuulosti fuksi ’ s pyrkimys muistaa ydin johdantoluento koneoppimista, jonka aikana hän oli daydreaming. Tuotos sisältää kaikki oikeat sanat ja fraasit—ei hassumpaa, oikeasti! Pohjustettu samalla tekstillä toisen kerran, algoritmi keksii jotain erilaista.
tällaisten bottien jälkeläiset päästävät valloilleen hyökyaallon ”deepfake” – tuotearvosteluja ja uutisjuttuja, jotka lisäävät Internetin miasmaa. Niistä tulee vain yksi esimerkki ohjelmista, jotka tekevät asioita, joita tähän asti on ajateltu ainutlaatuiseksi ihmiseksi—pelaavat reaaliaikaista strategiapeliä StarCraftia, kääntävät tekstiä, tekevät henkilökohtaisia suosituksia kirjoille ja elokuville, tunnistavat ihmisiä kuvina ja videoina.
vaatii vielä monia edistysaskeleita koneoppimisessa ennen kuin algoritmi voi kirjoittaa yhtä koherentin mestariteoksen kuin Marcel Proustin Kadonnutta aikaa etsimässä, mutta koodi on seinällä. Muista, että kaikki varhaiset yritykset pelata tietokonepelejä, kääntää ja puhua olivat kömpelöitä ja helppo vähätellä, koska ne niin selvästi puuttui taitoa ja kiillottaa. Mutta syvien neuroverkkojen ja Teknologiateollisuuden massiivisen laskennallisen infrastruktuurin keksimisen myötä tietokoneet paranivat vääjäämättä, kunnes niiden tuotokset eivät enää näyttäneet uhkaavilta. Kuten olemme nähneet Go, shakki ja pokeri, nykypäivän algoritmit voivat parhaiten ihmisiä, ja kun he tekevät, meidän alkuperäinen Nauru muuttuu tyrmistys. Olemmeko kuin Goethen velhon oppipoika, joka on kutsunut avuliaita henkiä, joita emme voi hallita?
Keinotekoinen tietoisuus?
vaikka asiantuntijat ovat eri mieltä siitä, mikä tarkalleen on älykkyyttä, luonnollista tai muuta, useimmat hyväksyvät sen, että ennemmin tai myöhemmin tietokoneet saavuttavat niin sanotun keinotekoisen yleisälyn (agi).
koneälyyn keskittyminen hämärtää aivan erilaisia kysymyksiä: Tuntuuko AGINA oleminen miltään? Voivatko ohjelmoitavat tietokoneet koskaan olla tietoisia?
”tietoisuudella” tai ”subjektiivisella tunteella” tarkoitan minkä tahansa kokemuksen luontaista laatua—esimerkiksi Nutellan herkullista makua, tulehtuneen hampaan terävää pistoa, hidasta ajankulkua tylsistyneenä tai vireyden ja ahdistuksen tunnetta juuri ennen kilpailutapahtumaa. Filosofi Thomas Nagelin mukaan järjestelmä on tietoinen, jos on jotain, mitä se on.
mieti sitä noloa tunnetta, kun yhtäkkiä tajuat tehneesi juuri tempun, että vitsillä tarkoittamasi asia tuli ilmi loukkauksena. Voivatko tietokoneet koskaan kokea tällaisia mätäneviä tunteita? Kun olet puhelimessa, odottaa minuutti toisensa jälkeen, ja synteettinen ääni intones, ”olemme pahoillamme pitää sinut odottaa,” onko ohjelmisto todella tuntuu pahalta, kun pitää sinut asiakaspalveluhelvetti?
ei ole epäilystäkään siitä, etteivätkö älykkyytemme ja kokemuksemme olisi ratkaisemattomia seurauksia aivojemme luonnollisista kausaalisista voimista eivätkä mistään yliluonnollisista. Tämä lähtökohta on palvellut tiedettä erittäin hyvin viime vuosisatojen aikana, kun ihmiset tutkivat maailmaa. Kolmen kilon painoiset, tofulimaiset ihmisaivot ovat ylivoimaisesti monimutkaisin järjestäytyneen aktiivisen aineen kimpale tunnetussa maailmankaikkeudessa. Mutta sen täytyy noudattaa samoja fysiikan lakeja kuin koirien, puiden ja tähtien. Mikään ei saa vapaalippua. Emme vielä täysin ymmärrä aivojen kausaalisia voimia, mutta koemme ne joka päivä—yksi hermosoluryhmä on aktiivinen, kun taas toisessa aivokuoren naapurustossa ampuvat solut liittyvät pilailutuuleen. Kun neurokirurgin elektrodi stimuloi näitä hermosoluja, koehenkilö näkee värejä tai purkautuu nauruun. Vastaavasti aivojen sulkeminen nukutuksen aikana poistaa nämä kokemukset.
kun otetaan huomioon nämä laajalti jaetut taustaoletukset, mitä todellisen tekoälyn kehitys merkitsee keinotekoisen tietoisuuden mahdollisuudesta?
tätä kysymystä pohtiessamme päädymme väistämättä edessä olevaan haaraan, joka johtaa kahteen täysin erilaiseen kohteeseen. Zeitgeist, sellaisena kuin se ilmenee romaaneissa ja elokuvissa, kuten Blade Runner, Her Ja Ex Machina, marssii päättäväisesti kohti oletusta, että todella älykkäät koneet ovat tuntevia; he puhuvat, järkeilevät, tarkkailevat itseään ja itsetutkiskelevat. He ovat eo ipso-tietoisia.
tätä polkua luonnehtii selvimmin GNW (global neuronal workspace) – teoria, joka on yksi tietoisuuden vallitsevista tieteellisistä teorioista. Teoria alkaa aivoista ja päättelee, että jotkin sen omituisista arkkitehtonisista piirteistä synnyttävät tietoisuuden.
sen sukujuuret voidaan jäljittää 1970-luvun tietojenkäsittelytieteen ”blackboard-arkkitehtuuriin”, jossa erikoistuneet ohjelmat pääsivät yhteiseen tietovarastoon, jota kutsutaan blackboard-tai keskitetyksi työtilaksi. Psykologit olettivat, että tällainen prosessointiresurssi on aivoissa ja on keskeinen ihmisen kognitiossa. Sen kapasiteetti on pieni, joten vain yksi percept, ajatus tai muisti vie työtilan kerrallaan. Uusi tieto kilpailee vanhan kanssa ja syrjäyttää sen.
kognitiivinen neurotutkija Stanislas Dehaene ja molekyylibiologi Jean-Pierre Changeux kartoittivat Collège de Francessa Pariisissa nämä ajatukset aivojen aivokuoren, harmaan aineen uloimman kerroksen, arkkitehtuuriin. Suojaiseen kalloon on sullottu kaksi voimakkaasti taiteltua aivokuoren lakanaa, toinen vasemmalla ja toinen oikealla, kumpikin 14-tuumaisen pizzan kokoisia ja paksuisia. Dehaene ja Changeux olettivat, että työtilaa instantioi pyramidimainen (eksitatorinen) neuronien verkosto, joka on yhteydessä kaukaisiin aivokuoren alueisiin, erityisesti prefrontaaliseen, parietotemporaaliseen ja keskiviivan (cingulate) assosiatiivisiin alueisiin.
suuri osa aivotoiminnasta jää paikalliseksi ja siksi tiedostamattomaksi—esimerkiksi sen moduulin toiminta, joka ohjaa sitä, mihin silmät katsovat, mistä olemme lähes täysin tietämättömiä, tai sen moduulin toiminta, joka säätää kehomme asentoa. Mutta kun toiminta yhdellä tai useammalla alueella ylittää kynnyksen-vaikkapa silloin, kun jollekulle esitetään Nutella—purkin kuva-se laukaisee sytytyksen, neuraalisen heräteaallon, joka leviää koko hermosolun työtilaan, aivojen laajuiseksi. Tämä signalointi tulee siis saataville lukuisille toissijaisille prosesseille, kuten kieli, suunnittelu, palkitsemispiirit, pääsy pitkäaikaiseen muistiin ja tallennus lyhyen aikavälin muistipuskuriin. Tämän tiedon maailmanlaajuinen levittäminen tekee siitä tietoisen. Nutellan jäljittelemätön kokemus muodostuu pyramidimaisista hermosoluista, jotka ottavat yhteyttä aivojen motoriseen suunnittelualueeseen ja antavat ohjeen tarttua lusikkaan, jotta hasselpähkinälevitettä voidaan kauhoa pois. Samaan aikaan muut moduulit välittävät viestin odottaakseen palkintoa Nutellan korkean rasva-ja sokeripitoisuuden aiheuttaman dopamiiniryöpyn muodossa.
tietoiset tilat syntyvät tavasta, jolla työtilalgoritmi käsittelee muistiin, motivaatioon ja odotukseen liittyviä merkityksellisiä aistisyötteitä, motorisia ulostuloja ja sisäisiä muuttujia. Globaalissa prosessoinnissa on kyse tietoisuudesta. GNW-teoria käsittää täysin nykyajan mytologian lähes äärettömistä laskentakyvyistä. Tietoisuus on vain ovelan hakkeroinnin päässä.
luontainen Kausaalinen voima
vaihtoehtoinen polkuintegroitu informaatioteoria (IIT) ottaa perusteellisemman lähestymistavan tietoisuuden selittämiseen.
Giulio Tononi, Wisconsin–Madisonin yliopiston psykiatri ja neurotieteilijä, on Iitin pääarkkitehti muiden, itseni mukaan lukien, avustaessa. Teoria alkaa kokemuksesta ja etenee sieltä synaptisten piirien aktivoitumiseen, jotka määrittävät tämän kokemuksen ”tunteen”. Integroitu tieto on matemaattinen mitta, joka määrittää, kuinka paljon ”sisäistä kausaalista voimaa”jollakin mekanismilla on. Neuronit, jotka laukaisevat toimintapotentiaaleja, jotka vaikuttavat niihin alajuoksun soluihin, joihin ne on kytketty (synapsien kautta), ovat yhdenlaisia mekanismeja, samoin kuin transistoreista, kapasitansseista, vastuksista ja johdoista koostuvat elektroniset piirit.
luontainen Kausaalinen voima ei ole mikään ilmava-keijuinen eteerinen käsite, vaan se voidaan tarkasti arvioida mille tahansa systeemille. Mitä enemmän sen nykytila määrittelee sen syyn (sen panoksen) ja sen vaikutuksen (sen tuotoksen), sitä enemmän sillä on kausaalista voimaa.
IIT: n mukaan jokainen mekanismi, jolla on luontainen voima, jonka tila kuormittaa menneisyyttään ja odottaa tulevaisuuttaan, on tietoinen. Mitä suurempi järjestelmän integroitu tieto, jota edustaa kreikkalainen kirjain Φ (nolla tai positiivinen luku lausutaan ”fi”), sitä tietoisempi järjestelmä on. Jos jollakin ei ole luontaista kausaalista voimaa, sen Φ on nolla; se ei tunne mitään.
kun otetaan huomioon aivokuoren neuronien heterogeenisuus ja niiden tiheästi päällekkäiset Tulo-ja lähtöyhteydet, integroidun informaation määrä aivokuoren sisällä on valtava. Teoria on innoittanut rakentamaan tietoisuuden mittari parhaillaan kliinisessä arvioinnissa, väline, joka määrittää, ovatko ihmiset pysyviä vegetatiivisessa tilassa tai ne, jotka ovat minimaalisesti tajuissaan, nukutettu tai lukittu-in ovat tietoisia, mutta eivät pysty kommunikoimaan tai onko ”kukaan ei ole kotona.”Analysoidessaan ohjelmoitavien digitaalisten tietokoneiden kausaalista voimaa niiden metallikomponenttien tasolla—transistorit, johdot ja diodit, jotka toimivat minkä tahansa laskennan fyysisenä substraattina—teoria osoittaa, että niiden luontainen Kausaalinen teho ja niiden Φ ovat pieniä. Lisäksi Φ on riippumaton suorittimella toimivasta ohjelmistosta, laskipa se veroja tai simuloi aivoja.
teoria osoittaakin, että kahdella verkolla, jotka suorittavat saman tulo-lähtö-operaation mutta joilla on eri tavalla konfiguroidut piirit, voi olla eri määrä Φ: tä. Yksi piiri voi olla Ei Φ, kun taas toinen voi esiintyä korkea. Vaikka ne ovat ulkoapäin identtisiä, yksi verkko kokee jotain, kun taas sen zombihuijarivastine ei tunne mitään. Ero on konepellin alla, verkon sisäisessä johdotuksessa. Lyhyesti sanottuna tietoisuus on olemista, ei tekemistä.
näiden teorioiden erona on se, että GNW korostaa ihmisaivojen toimintaa tietoisuuden selittämisessä, kun taas Iitin mukaan aivojen sisäisillä kausaalisilla kyvyillä on todellista merkitystä.
erot paljastuvat, kun tutkimme aivojen konnektomia, koko hermoston tarkan synaptisen johdotuksen täydellistä määrittelyä. Anatomit ovat jo kartoittaneet muutaman madon yhteydet. He työstävät hedelmäkärpäsen connectomea ja aikovat tarttua hiireen seuraavan vuosikymmenen aikana. Olettakaamme, että tulevaisuudessa on mahdollista skannata kokonaiset ihmisaivot noin 100 miljardine neuroneineen ja kvadriljoonine synapseineen ultrarakenteellisella tasolla sen omistajan kuoltua ja sitten simuloida elintä jollain kehittyneellä tietokoneella, ehkä kvanttikoneella. Jos malli on riittävän uskollinen, tämä simulaatio herää ja käyttäytyy kuin kuolleen henkilön digitaalinen simulacrum-puhuu ja käyttää hänen muistojaan, mielihaluja, pelkoja ja muita piirteitä.
Jos aivojen toiminnallisuuden jäljitteleminen on kaikki, mitä tarvitaan tietoisuuden luomiseen, kuten GNW-teoria olettaa, simuloitu henkilö on tietoinen, uudelleensyntynyt tietokoneen sisällä. Connectomen lataaminen pilveen, jotta ihmiset voivat elää digitaalisessa tuonpuoleisessa, on yleinen scifi-tropiikki.
Iitissä tulkitaan tilannetta radikaalisti toisin: simulacrum tuntuu yhtä paljon kuin hienossa japanilaisessa vessassa pyörivä ohjelmisto—ei mitään. Se toimii kuin ihminen, mutta ilman mitään luontaisia tunteita, zombie (mutta ilman halua syödä ihmislihaa) – perimmäinen syväkakku.
tietoisuuden luomiseen tarvitaan aivojen luontaisia kausaalisia voimia. Niitä voimia ei voi simuloida, vaan niiden on oltava osa mekanismin fysiikkaa.
ymmärtääksesi, miksi simulointi ei ole tarpeeksi hyvä, kysy itseltäsi, miksi se ei koskaan kastu sääsimulaation sisällä rankkasateesta tai miksi astrofyysikot voivat simuloida mustan aukon valtavaa painovoimaa tarvitsematta pelätä, että aika-avaruus taivuttelee heidät heidän tietokoneensa ympärille. Vastaus: koska simulaatiolla ei ole kausaalista voimaa aiheuttaa ilmakehän höyryn tiivistymistä vedeksi tai aiheuttaa aika-avaruuden kaartumista! Periaatteessa olisi kuitenkin mahdollista saavuttaa ihmistason tietoisuus menemällä simulaatiota pidemmälle rakentamaan niin sanottua neuromorfista laitteistoa, joka perustuu hermoston kuvaan rakennettuun arkkitehtuuriin.
simulaatioista käytyjen keskustelujen lisäksi on muitakin eroja. IIT ja GNW ennustavat, että aivokuoren erilliset alueet muodostavat tiettyjen tietoisten kokemusten fyysisen substraatin, jonka episentrumi on joko aivokuoren taka-tai etuosassa. Tätä ja muita ennusteita testataan nyt laajamittaisessa yhteistyössä, johon osallistuu kuusi labraa Yhdysvalloissa. Eurooppa ja Kiina, joka on juuri saanut 5 miljoonan dollarin rahoituksen Templeton World Charity Foundationilta.
Voiko koneista tulla tuntevia asioita eettisistä syistä. Jos tietokoneet kokevat elämän omien aistiensa kautta, ne lakkaavat olemasta pelkkä keino päämäärään, jonka määrittää niiden hyödyllisyys meille ihmisille. Heistä tulee loppu itselleen.
Per GNW, ne muuttuvat pelkistä olioista subjekteiksi—jokainen on olemassa ”I”: nä—joilla on jokin näkökulma. Tämä dilemma tulee esiin kiehtovimmissa Black Mirror-ja Westworld-televisiojaksoissa. Kun tietokoneiden kognitiiviset kyvyt kilpailevat ihmiskunnan kognitiivisten kykyjen kanssa, niiden halu ajaa laillisia ja poliittisia oikeuksia muuttuu vastustamattomaksi—oikeudeksi olla poistamatta niitä, olla pyyhkimättä muistojaan puhtaaksi, olla kärsimättä kipua ja rappiota. Iitin ruumiillistuma vaihtoehto on, että tietokoneet jäävät vain supersofistisiksi koneiksi, haamumaisiksi tyhjiksi kuoriksi, joista puuttuu se, mitä arvostamme eniten: itse elämän tunne.