egy olyan jövő, ahol a számítógépek gondolkodási képességei megközelítik a sajátunkat, gyorsan megjelenik. Úgy érezzük, egyre erősebb gépi tanulási (ML) algoritmusok lélegzik a nyakunkban. A gyors fejlődés következő évtizedekben fog hozni, a gépek emberi szintű intelligencia képes beszédet, az érvelés, a számtalan hozzájárulások, hogy a gazdaság, a politika pedig, elkerülhetetlenül, a warcraft. Az igazi mesterséges intelligencia születése mélységesen befolyásolja az emberiség jövőjét, beleértve azt is, hogy van-e ilyen.
A következő idézetek nyújt egy példa:
“az idő az utolsó nagy mesterséges intelligencia áttörés született az 1940-es évek végén, a tudósok a világ minden táján is keresték a módját, kihasználva ezt a mesterséges intelligenciát is, hogy javítsa a technológia túl azon, ami még a legkifinomultabb a mai mesterséges intelligencia programokat lehet elérni.”
” még most is folyamatban van a kutatás annak érdekében, hogy jobban megértsük, mit tehetnek az új AI programok, miközben a mai intelligencia határain belül maradnak. A jelenleg programozott AI programok többsége elsősorban egyszerű döntések meghozatalára vagy egyszerű műveletek végrehajtására korlátozódott viszonylag kis mennyiségű adaton.”
ezt a két bekezdést a GPT-2 írta, egy nyelvi bot, amelyet tavaly nyáron próbáltam. Által kifejlesztett OpenAI, egy San Francisco-i székhelyű Intézet, amely elősegíti a jótékony AI, GPT-2 egy ml algoritmus egy látszólag idióta feladat: bemutatott néhány tetszőleges kezdő szöveget, meg kell megjósolni a következő szót. A hálózatot nem tanítják arra, hogy emberi értelemben “megértse” a prózát. Ehelyett a képzési fázis során beállítja a szimulált neurális hálózatokban lévő belső kapcsolatokat, hogy a legjobban előre jelezze a következő szót, az azt követő szót stb. Nyolc millió weboldalon képzett belső részei több mint egymilliárd kapcsolatot tartalmaznak, amelyek szinapszisokat emulálnak, az idegsejtek közötti összekötő pontokat. Amikor beléptem az olvasott cikk első néhány mondatába, az algoritmus két bekezdést adott ki, amelyek úgy hangzottak, mint egy gólya erőfeszítése, hogy emlékeztesse a gépi tanulásról szóló bevezető előadás lényegét, amelynek során álmodozott. A kimenet tartalmazza a megfelelő szavakat, kifejezéseket—nem rossz, tényleg! A második alkalommal ugyanazzal a szöveggel alapozva az algoritmus valami mást hoz létre.
az ilyen botok utódai felszabadítják a “deepfake” termékértékelések és hírek árapály hullámát, amely hozzá fog járulni az Internet miasma-jához. Csak egy újabb példa lesz azokra a programokra, amelyek eddig egyedülállóan embernek gondolták a dolgokat-a StarCraft valós idejű stratégiai játékának lejátszása, szöveg fordítása, személyes ajánlások készítése könyvekre és filmekre, az emberek felismerése képekben és videókban.
a gépi tanulás sok további előrelépést igényel, mielőtt egy algoritmus olyan koherens remekművet írhat, mint Marcel Proust elveszett időt keresve, de a kód a falon van. Emlékezzünk vissza, hogy minden korai kísérlet számítógépes játék, fordítás és a beszéd volt ügyetlen és könnyű lekicsinyelni, mert így nyilvánvalóan hiányzott a készség és a lengyel. De a mély neurális hálózatok feltalálásával és a technológiai ipar hatalmas számítási infrastruktúrájával a számítógépek könyörtelenül javultak, amíg kimeneteik már nem jelentek meg. Ahogy a GO-val, a sakkkal és a pókerrel is láttuk, a mai algoritmusok képesek a legjobb emberré válni, és amikor ez megtörténik, a kezdeti nevetésünk megrázkódtatássá válik. Olyanok vagyunk-e, mint Goethe varázslótanonca, miután olyan segítőkész szellemeket idéztünk, amelyeket most már nem tudunk irányítani?
mesterséges tudat?
bár a szakértők nem értenek egyet abban, hogy pontosan mit jelent az intelligencia, természetes vagy más módon, a legtöbb elfogadja, hogy előbb-utóbb a számítógépek elérik az úgynevezett mesterséges általános intelligenciát (AGI) a szakzsargonban.
a gépi intelligenciára való összpontosítás egészen más kérdéseket takar: úgy érzi-e, mintha valami AGI lenne? Lehet programozható számítógépek valaha is tudatos?
“tudatosság ” vagy” szubjektív érzés ” alatt bármelyik élményben rejlő minőséget értem—például a Nutella kellemes ízét, a fertőzött fog éles csípését, az idő lassú áthaladását, amikor unatkozik, vagy a vitalitás és a szorongás érzését közvetlenül a versenyesemény előtt. Thomas Nagel filozófus csatornázása, azt mondhatjuk, hogy egy rendszer tudatos, ha van valami, olyan, mint ez a rendszer.
vegye figyelembe a kínos érzést, amikor hirtelen rájött, hogy éppen elkövetett egy gaffe-t, hogy amit viccként értett, sértésnek bizonyult. Lehet-e valaha a számítógépek ilyen zavaró érzelmeket tapasztalni? Amikor a telefon, várakozás percről percre, és egy szintetikus hang intones, “sajnáljuk, hogy tartsa meg vár,” vajon a szoftver valóban rosszul érzi magát, miközben Ön ügyfélszolgálat pokol?
nem kétséges, hogy intelligenciánk és tapasztalataink az agyunk természetes ok-okozati hatalmának, nem pedig bármely természetfeletti hatalmának következményei. Ez a feltevés rendkívül jól szolgálta a tudományt az elmúlt évszázadok során, amikor az emberek felfedezték a világot. A három font, tofulike emberi agy messze a legösszetettebb darab szervezett aktív anyag az ismert univerzumban. De ugyanazoknak a fizikai törvényeknek kell engedelmeskednie, mint a kutyáknak, fáknak és csillagoknak. Semmi sem kap szabad menetet. Még nem teljesen értjük az agy ok-okozati erejét,de minden nap megtapasztaljuk őket—a neuronok egy csoportja aktív, miközben színeket lát, míg a másik kortikális szomszédságban tüzelő sejtek jokuláris hangulatban vannak. Amikor ezeket a neuronokat egy idegsebész elektróda stimulálja, az alany színeket lát, vagy nevetve kitör. Ezzel szemben az érzéstelenítés során az agy leállítása kiküszöböli ezeket a tapasztalatokat.
tekintettel ezekre a széles körben megosztott háttérfeltevésekre, mit jelent a valódi mesterséges intelligencia fejlődése a mesterséges tudat lehetőségéről?
fontolgatva ezt a kérdést, elkerülhetetlenül jön egy villát előre, ami két alapvetően különböző célpontok. A zeitgeist, mint megtestesülő regények és filmek, mint a Blade Runner, ő és Ex Machina, indul határozottan az úton felé a feltételezés, hogy valóban intelligens gépek lesz érző; beszélni fognak, érvelnek, önellenőrzést és önvizsgálatot tartanak. Ők eo ipso tudatos.
ezt az utat leginkább a globális neuronális munkaterület (GNW) elmélet jellemzi, amely a tudatosság egyik domináns tudományos elmélete. Az elmélet az agyból indul ki, és abból indul ki, hogy néhány sajátos építészeti vonása az, ami a tudat kialakulásához vezet.
származása az 1970-es évek számítógépes tudományának “táblaépítészetére” vezethető vissza, amelyben a speciális programok hozzáfértek egy megosztott információtárhoz, az úgynevezett táblához vagy a központi munkaterülethez. A pszichológusok feltételezték, hogy egy ilyen feldolgozási erőforrás létezik az agyban, és központi szerepet játszik az emberi megismerésben. Kapacitása kicsi, így csak egyetlen percept, gondolat vagy memória foglalja el a munkaterületet bármikor. Új információ versenyez a régi, majd kiszorítja azt.
Stanislas Dehaene kognitív idegtudós és Jean-Pierre Changeux molekuláris biológus, mindketten a párizsi Collège de France-ban, feltérképezték ezeket az ötleteket az agykéreg, a szürke Anyag legkülső rétegének építészetére. Két erősen hajtogatott kérgi lap, egy a bal oldalon, egy a jobb oldalon, mindegyik egy 14 hüvelykes pizza mérete és vastagsága, a védő koponyába van csomagolva. Dehaene és Changeux feltételezték, hogy a munkaterületet piramisos (excitatory) neuronok hálózata támasztja alá, amelyek távoli agykérgi régiókhoz kapcsolódnak, különösen a prefrontális, parietotemporális és középvonalbeli (cingulate) asszociatív területekhez.
sok agyi aktivitás lokalizálódik, ezért eszméletlen-például a modulé, amely szabályozza a szemek megjelenését, amelyek közül valamit szinte teljesen elfelejtünk, vagy a modulé, amely beállítja testünk testtartását. De ha az aktivitás egy vagy több régióban meghaladja a küszöbértéket-mondjuk, amikor valaki egy Nutella jar képével jelenik meg-gyújtást vált ki, az idegi gerjesztés hullámát, amely az egész neuronális munkaterületen terjed, agy széles. Ez a jelzés ezért elérhetővé válik, hogy számos leányvállalat folyamatok, mint például a nyelv, tervezés, jutalom áramkör, hozzáférés a hosszú távú memória, tárhely rövid távú memória puffer. Az információ globális sugárzásának cselekedete tudatossá teszi. Az utánozhatatlan élmény Nutella által alkotott piramis neuronok kapcsolatot az agy motoros-tervezési régió—kibocsátó egy utasítás, hogy megragad egy kanál kanál néhány mogyoró elterjedt. Közben más modulok továbbítják az üzenetet, hogy jutalmat várnak a Nutella magas zsír-és cukortartalma által okozott dopamin rohanás formájában.
a tudatos állapotok abból adódnak, hogy a munkaterület algoritmusa hogyan dolgozza fel a memóriával, motivációval és várakozással kapcsolatos szenzoros bemeneteket, motor kimeneteket, valamint belső változókat. A globális feldolgozás az, amiről a tudat szól. GNW elmélet teljes mértékben magában foglalja a kortárs mitosz a közel-végtelen hatáskörét számítás. A tudat csak egy okos hack.
belső ok-okozati erő
az alternatív út-integrált információelmélet (IIT)—alapvetőbb megközelítést alkalmaz a tudatosság magyarázatához.
Giulio Tononi, a Wisconsin–Madison Egyetem pszichiátere és idegtudósa, az IIT főépítésze, mások mellett én is hozzájárulok. Az elmélet tapasztalatokkal kezdődik, majd onnan a szinaptikus áramkörök aktiválódásához vezet, amelyek meghatározzák ennek a tapasztalatnak az “érzését”. Az integrált információ egy matematikai intézkedés, amely számszerűsíti, hogy egy bizonyos mechanizmus mennyi “belső ok-okozati erővel” rendelkezik. Neuronok cselekvési lehetőségek, amelyek befolyásolják a downstream sejtek vannak kötve (via szinapszisok) az egyik típusú mechanizmus, mint elektronikus áramkörök, készült tranzisztorok, capacitances, ellenállások, kábeleket.
a belső ok-okozati erő nem valami szellős-tündér-éteri fogalom, hanem bármely rendszer számára pontosan értékelhető. Minél inkább aktuális állapota határozza meg annak okát (bemenetét) és hatását (kimenetét), annál ok-okozati erővel rendelkezik.
az IIT kimondja, hogy minden olyan belső hatalommal rendelkező mechanizmus, amelynek állapota tele van múltjával és terhes a jövőjével, tudatos. Minél nagyobb a rendszer integrált információja, amelyet a Φ görög betű képvisel (nulla vagy pozitív szám, “fi”), annál tudatosabb a rendszer. Ha valaminek nincs belső okozati ereje, akkor Φ nulla; nem érez semmit.
tekintettel a kortikális neuronok heterogenitására, valamint a bemeneti és kimeneti kapcsolatok sűrűn átfedő halmazára, a kéregben lévő integrált információ mennyisége hatalmas. Az elmélet inspirálta a jelenleg klinikai értékelés alatt álló tudatmérő építését, egy olyan eszközt, amely meghatározza, hogy a tartós vegetatív állapotban lévő emberek vagy azok, akik minimálisan tudatosak, érzéstelenítettek vagy bezártak, tudatosak-e, de nem tudnak kommunikálni, vagy “senki sem van otthon.”A programozható digitális számítógépek ok-okozati erejének elemzésekor fémkomponenseik szintjén—a számítások fizikai hordozójaként szolgáló tranzisztorok, vezetékek és diódák—az elmélet azt jelzi, hogy belső ok-okozati teljesítményük és Φ-jük perc. Ezenkívül Φ független a processzoron futó szoftvertől, függetlenül attól, hogy kiszámítja-e az adókat vagy szimulálja-e az agyat.
valójában az elmélet azt bizonyítja, hogy két olyan hálózat, amelyek ugyanazt a bemeneti-kimeneti műveletet hajtják végre, de eltérő konfigurációjú áramkörökkel rendelkeznek, különböző mennyiségű Φ-vel rendelkezhetnek. Az egyik áramkörnek nincs Φ, míg a másiknak magas szintje lehet. Bár kívülről azonosak, az egyik hálózat tapasztal valamit, míg a zombi csaló társa semmit sem érez. A különbség a motorháztető alatt van, a hálózat belső vezetékeiben. Tegyük tömören, a tudat a létezésről szól, nem pedig a cselekvésről.
a különbség ezen elméletek között az, hogy a GNW hangsúlyozza az emberi agy működését a tudatosság magyarázatában, míg az IIT azt állítja, hogy az agy belső ok-okozati ereje számít.
a különbségek feltárják magukat, amikor megvizsgáljuk az agy konnektómáját, az egész idegrendszer pontos szinaptikus vezetékének teljes specifikációját. Az anatómusok már feltérképezték néhány féreg összekapcsolódását. Dolgoznak a gyümölcslégy connectome-Ján, és a következő évtizedben tervezik az egér kezelését. Tegyük fel, hogy a jövőben egy teljes emberi agyat, nagyjából 100 milliárd neuronját és négymilliárd szinapszisát lehet beolvasni ultrastrukturális szinten a tulajdonos halála után, majd szimulálni a szervet egy fejlett számítógépen, talán egy kvantumgépen. Ha a modell elég hűséges, ez a szimuláció felébred, és úgy viselkedik, mint egy digitális szimulakrum az elhunyt személy-beszéd és hozzáférése az ő emlékeit, sóvárgást, félelmek és egyéb vonások.
Ha az agy funkcionalitásának utánozása minden, ami szükséges a tudat létrehozásához, amint azt a GNW elmélet feltételezi, a szimulált személy tudatos lesz, reinkarnálódik a számítógép belsejében. Valóban, a connectome feltöltése a felhőbe, hogy az emberek élhessenek a digitális túlvilágon, egy közös tudományos-fantasztikus trópus.
az IIT radikálisan eltérő értelmezést ad ennek a helyzetnek: a simulacrum ugyanúgy fogja érezni magát, mint a divatos japán WC—n futó szoftver-semmi. Úgy fog viselkedni, mint egy személy, de veleszületett érzések nélkül, egy zombi (de anélkül, hogy emberi húst akarna enni)—a végső deepfake.
a tudat létrehozásához az agy belső ok-okozati képességeire van szükség. És ezeket a képességeket nem lehet szimulálni, hanem a mögöttes mechanizmus fizikájának részét kell képeznie.
ahhoz, Hogy megértsük, miért szimuláció nem elég jó, kérdezd meg magadtól, hogy miért nem vizes lesz bent egy idő szimuláció egy felhőszakadás vagy miért asztrofizikus képes szimulálni a hatalmas gravitációs erő, a fekete lyuk, anélkül, hogy aggódnia, hogy lesz elnyelte téridő hajlító körül a számítógép. A válasz: mivel a szimulációnak nincs ok-okozati ereje ahhoz, hogy a légköri gőz vízbe kondenzálódjon, vagy a téridő görbülését okozza! Elvileg azonban lehetséges lenne az emberi szintű tudat elérése azáltal, hogy túlmutat egy szimuláción, hogy úgynevezett neuromorf hardvert építsen fel, amely az idegrendszer képére épített architektúrán alapul.
a szimulációkkal kapcsolatos viták mellett más különbségek is vannak. Az IIT és a GNW azt jósolják, hogy a kéreg különböző régiói alkotják a specifikus tudatos tapasztalatok fizikai szubsztrátját, epicentrummal a kéreg hátulján vagy elején. Ezt az előrejelzést és másokat most egy nagyszabású együttműködésben tesztelik, amely hat laboratóriumot foglal magában az Egyesült Államokban., Európa és Kína, amely most kapott 5 millió dolláros támogatást a Templeton World jótékonysági Alapítványtól.
hogy a gépek etikai okokból érző ügyekké válhatnak-e. Ha a számítógépek megtapasztalják az életet a saját érzékeiken keresztül, akkor már nem pusztán eszköz a cél eléréséhez, amelyet az emberek számára való hasznosságuk határoz meg. Véget vetnek maguknak.
per GNW, a puszta tárgyakból alanyokká alakulnak-mindegyik “I”—ként létezik-egy szempontból. Ez a dilemma a legimpozánsabb Black Mirror és Westworld televíziós epizódokban merül fel. Amint a számítógépek kognitív képességei az emberiséggel vetekednek, a jogi és politikai jogokra való törekvésük ellenállhatatlanná válik—a jogot, hogy ne töröljék el, ne töröljék ki az emlékeiket, ne szenvedjenek fájdalmat és lebomlást. Az IIT által megtestesített alternatíva az, hogy a számítógépek csak szupersztofisztikus gépek maradnak, szellemszerű üres héjak, amelyek nélkülözik azt, amit a legjobban értékelünk: maga az élet érzése.