budoucnost, kde se myšlenkové schopnosti počítačů blíží k našim vlastním, se rychle dostává do dohledu. Cítíme stále silnější algoritmy strojového učení (ML), které nám dýchají po krku. Rychlý pokrok v nadcházejících desetiletích přinese stroje s inteligencí na lidské úrovni schopné řeči a uvažování, s nesčetnými příspěvky do ekonomiky, politika a, nevyhnutelně, warcraft. Zrození skutečné umělé inteligence hluboce ovlivní budoucnost lidstva, včetně toho, zda ji má.
následující citace poskytují případ v bodě:
„Od doby poslední velké umělé inteligence průlom byl dosažen v pozdní 1940, vědci po celém světě hledají způsoby, jak využít této „umělé inteligence“ zlepšit technologie mimo, dokonce nejvíce sofistikované dnešní umělé inteligence programy mohou dosáhnout.“
“ i Nyní probíhá výzkum, aby lépe porozuměl tomu, co budou nové programy AI schopny dělat, a přitom zůstaly v mezích dnešní inteligence. Většina programů AI, které jsou v současné době naprogramovány, byla omezena především na jednoduché rozhodování nebo provádění jednoduchých operací na relativně malém množství dat.“
tyto dva odstavce napsal GPT-2, jazykový bot, který jsem vyzkoušel minulé léto. Vyvinutý OpenAI, San Francisco–založený institut, který podporuje prospěšné AI, GPT-2 je ml algoritmus se zdánlivě idiotský úkol: prezentováno s nějakým libovolným počátečním textem, musí předvídat další slovo. Síť se neučí“ rozumět “ próze v žádném lidském smyslu. Místo toho během své tréninkové fáze upravuje vnitřní spojení ve svých simulovaných neuronových sítích, aby co nejlépe předvídal další slovo, slovo po něm a tak dále. Vyškoleni na osmi milionech webových stránek, jeho vnitřnosti obsahují více než miliardu spojení, která napodobují synapse, spojovací body mezi neurony. Když jsem vstoupil do prvních několika vět článku, který čtete, algoritmus chrlil dva odstavce, které zněly jako snaha prváka připomenout podstatu úvodní přednášky o strojovém učení, během které snila. Výstup obsahuje všechna správná slova a fráze-opravdu to není špatné! Napřed se stejným textem podruhé, algoritmus přichází s něčím jiným.
potomci takových robotů uvolní přílivovou vlnu recenzí produktů“ deepfake “ a novinových zpráv, které přispějí k miasmu internetu. Stanou se jen další příklad programů, které dělat věci, které dosud myslel, že být jedinečně lidské—hrát real-time strategie hra StarCraft, překládání textu, takže osobní doporučení pro knihy a filmy, uznává lidé v obrázky a videa.
bude trvat mnoho dalších pokroků ve strojovém učení, než algoritmus může napsat mistrovské dílo tak koherentní jako Marcela Prousta při hledání ztraceného času, ale kód je na zdi. Připomeňme, že všechny rané pokusy o hraní počítačových her, překlad a řeč byly nemotorné a snadno znevažovatelné, protože jim zjevně chyběly dovednosti a lesk. Ale s vynálezem hluboké neuronové sítě a výpočetní infrastruktury tech průmysl, počítače neúnavně lepší než jejich výstupů již objevil směšné. Jak jsme viděli s Go, šachy a poker, dnešní algoritmy mohou nejlépe lidi, a když ano, náš počáteční smích se změní v zděšení. Jsme jako Goethův Čarodějův učeň, když jsme přivolali užitečné duchy, které nyní nejsme schopni ovládat?
umělé vědomí?
i když odborníci neshodnou, co přesně představuje inteligenci, přírodní nebo jinak, většina přijmout, že dříve nebo později budou počítače dosáhnout toho, co se nazývá umělá inteligence generála (AGI) v lingo.
zaměření na strojovou inteligenci zakrývá zcela odlišné otázky: bude to něco jako AGI? Mohou být Programovatelné počítače někdy při vědomí?
„vědomí“ nebo „subjektivní pocit“, mám na mysli kvalitu, která je vlastní v každém jednu zkušenost—například, delikátní chuť Nutella, bodnutí infikovanou zub, pomalé plynutí času, když je člověk nudí, nebo pocit vitality a úzkosti těsně předtím, než konkurenční události. Podle filosofa Thomase Nagela bychom mohli říci, že systém je vědomý, pokud existuje něco, co je jako být tímto systémem.
Zvážit trapný pocit náhle uvědomil, že jste se právě dopustil faux pas, že to, co jste myslel jako vtip, narazil jako urážku. Mohou počítače někdy zažít takové bouřlivé emoce? Když jste na telefonu, čeká minutu po minutě, a syntetický hlas intones, „omlouváme se za to čekání,“ dělá software vlastně špatný pocit, a zároveň udržet si v zákaznické služby, sakra?
není pochyb o tom, že naše inteligence a naše zkušenosti jsou neúprosné následky přírodní kauzální schopnosti našeho mozku, spíše než nějaké nadpřirozené ty. Tento předpoklad sloužil vědě velmi dobře v posledních několika stoletích, když lidé zkoumali svět. Tři libry, tofulike lidský mozek je zdaleka nejsložitější kus organizované aktivní hmoty ve známém vesmíru. Musí se však řídit stejnými fyzikálními zákony jako psi, stromy a hvězdy. Nic nedostane volnou vstupenku. My ještě ne plně pochopit mozku kauzální pravomoci, ale zažíváme je každý den—jedna skupina neuronů je aktivní, když jsou vidět barvy, vzhledem k tomu, že buňky střelby v další kortikální okolí jsou spojené s tím, že ve veselý náladě. Když jsou tyto neurony stimulovány neurochirurgovou elektrodou, subjekt vidí barvy nebo vybuchne smíchem. Naopak vypnutí mozku během anestézie tyto zkušenosti eliminuje.
vzhledem k těmto široce sdíleným předpokladům pozadí, co bude vývoj skutečné umělé inteligence znamenat o možnosti umělého vědomí?
Uvažujeme-li o této otázce, nevyhnutelně se dostáváme k rozcestí vpřed, což vede ke dvěma zásadně odlišným cílům. Zeitgeist, jak je ztělesněno v románech a filmech, jako je Blade Runner, ona a Ex Machina, rozhodně pochoduje po silnici k předpokladu, že skutečně inteligentní stroje budou vnímavé; budou mluvit, rozum, self-monitor a introspect. Jsou si vědomi eo ipso.
Tato cesta je shrnut nejvíce výslovně globální neuronální workspace (GNW) teorie, jeden z dominantních vědeckých teorií vědomí. Teorie začíná mozkem a vyvozuje, že některé jeho zvláštní architektonické rysy jsou tím, co vede k vědomí.
Jeho rodokmen lze vysledovat zpět na „blackboard architecture“ z roku 1970 počítačové vědy, v němž specializované programy přístupné sdílené úložiště informací, tzv. tabuli nebo centrální pracovní prostor. Psychologové předpokládali, že takový zdroj zpracování existuje v mozku a je ústředním bodem lidského poznání. Jeho kapacita je malá, takže pouze jeden percept, myšlenka nebo paměť zabírá pracovní prostor v jednom okamžiku. Nové informace soutěží se starými a vytlačují je.
Kognitivní neurovědec Stanislas Dehaene a molekulární biolog Jean-Pierre Changeux, a to jak na Collège de France v Paříži, mapovány tyto myšlenky na architektuře mozku je mozková kůra, vnější vrstva šedé hmoty. Dva vysoce složené kortikální listy, jeden vlevo a jeden vpravo, každý o velikosti a tloušťce 14palcové pizzy, jsou napěchovány do ochranné lebky. Dehaene a Changeux předpokládá, že pracovní prostor je vytvořena síť, pyramidální (excitační) neurony propojené do vzdálené korové oblasti, zejména prefrontální, parietotemporal a středové (bederní) asociativní prostory.
Mnoho mozkové aktivity zůstává lokalizované a proto v bezvědomí—například, že z modulu, který ovládá kde oči podívat, něco z toho jsme téměř zcela zapomíná, nebo modul, který upravuje držení našeho těla. Ale když aktivita v jedné nebo více oblastech překročí práh-řekněme, když je někomu prezentován obraz Nutella jar-spustí vznícení, vlnu nervové excitace, která se šíří po celém neuronálním pracovním prostoru, v celém mozku. To signalizuje, proto bude k dispozici pro hostitele, podpůrné procesy, jako je jazyk, plánování, odměna obvody, přístup k dlouhodobé paměti, a uchovávání v krátkodobé paměti vyrovnávací paměti. Akt globálního vysílání těchto informací je to, co ji činí vědomou. Nenapodobitelný zážitek z Nutella je tvořena pyramidální neurony kontaktování motorického plánování kraje—vydávání instrukce chytit lžíci vydlabat některé z lískových oříšků šíření. Mezitím další moduly vysílají zprávu, aby očekávaly odměnu ve formě dopaminové spěchu způsobené vysokým obsahem tuku a cukru Nutella.
vědomé stavy vyplývají ze způsobu, jakým algoritmus pracovního prostoru zpracovává příslušné senzorické vstupy, motorické výstupy a vnitřní proměnné související s pamětí, motivací a očekáváním. Globální zpracování je to, o čem je vědomí. Teorie GNW plně zahrnuje současný mýtus téměř nekonečných výpočetních sil. Vědomí je jen chytrý hack pryč.
vnitřní kauzální síla
alternativní cesta-integrovaná teorie informací (IIT) – zaujímá zásadnější přístup k vysvětlení vědomí.
Giulio Tononi, psychiatr a neurovědec na University of Wisconsin–Madison, je hlavním architektem IIT, s dalšími, včetně mě, přispívá. Teorie začíná zkušeností a odtud pokračuje k aktivaci synaptických obvodů, které určují „pocit“ této zkušenosti. Integrovaná informace je matematické měřítko kvantifikující, kolik“ vnitřní kauzální síly “ má nějaký mechanismus. Neurony akční potenciály, které mají vliv na následný buněk, které jsou zapojeny (prostřednictvím synapsí) jsou jednoho typu mechanismu, jako jsou elektronické obvody, vyrobené z tranzistorů, kapacitě, rezistence a dráty.
vnitřní kauzální síla není nějaký vzdušný-vílový éterický pojem, ale může být přesně vyhodnocen pro jakýkoli systém. Čím více jeho současný stav určuje jeho příčinu (jeho vstup) a jeho účinek( jeho výstup), tím více kauzální energie má.
IIT stanoví, že každý mechanismus s vnitřní mocí, jehož stav je zatížen svou minulostí a těhotný svou budoucností, je vědomý. Čím větší systém je integrovaný informační, zastoupen řeckým písmenem Φ (nula nebo kladné číslo, vyslovuje se „fi“), více vědomé, je systém. Pokud něco nemá žádnou vnitřní kauzální sílu, jeho Φ je nula; necítí nic.
vzhledem k heterogenitě kortikálních neuronů a jejich hustě se překrývající sadě vstupních a výstupních spojení je množství integrovaných informací v kůře obrovské. Teorie inspirovala výstavbu vědomí čtvereční v současné době v rámci klinických hodnocení, nástrojem, který určuje, zda lidé ve vegetativním stavu, nebo ty, kteří jsou minimálně při vědomí, v narkóze nebo locked-in jsou při vědomí, ale nemůže komunikovat, nebo zda „nikdo není doma.“V analýzy kauzální napájení programovatelných digitálních počítačů na úrovni jejich kovových součástek—tranzistorů, drátů a diod, které slouží jako fyzický substrát nějaké výpočty, teorie naznačuje, že jejich vnitřní kauzální síly a jejich Φ jsou nepatrné. Kromě toho je Φ nezávislé na softwaru běžícím na procesoru, ať už vypočítává daně nebo simuluje mozek.
teorie skutečně dokazuje, že dvě sítě, které provádějí stejnou vstupně-výstupní operaci, ale mají různě nakonfigurované obvody, mohou mít různá množství Φ. Jeden okruh nemusí mít Φ, zatímco druhý může vykazovat vysoké úrovně. I když jsou zvenčí identické, jedna síť něco zažije, zatímco její protějšek zombie impostor necítí nic. Rozdíl je pod kapotou, ve vnitřním zapojení sítě. Stručně řečeno, vědomí je o bytí, ne o dělání.
rozdíl mezi těmito teoriemi je, že GNW klade důraz na funkci lidského mozku při vysvětlování vědomí, vzhledem k tomu, IIT tvrdí, že to je vnitřní kauzální schopnosti mozku, které jsou skutečně důležité.
rozdíly se odhalí, když zkontrolujeme mozkový konektom, kompletní specifikaci přesného synaptického zapojení celého nervového systému. Anatomové již zmapovali konektomy několika červů. Pracují na připojení pro ovocnou mušku a plánují se vypořádat s myší v příštím desetiletí. Předpokládejme, že v budoucnu bude možné skenovat celý lidský mozek, s jeho zhruba 100 miliard neuronů a synapsí kvadrilion, na ultrastrukturální úrovni poté, co její majitel zemřel a pak simulovat varhany na některé pokročilé počítači, možná kvantový stroj. Pokud je model dostatečně věrný, Tato simulace se probudí a bude se chovat jako digitální simulakrum zesnulé osoby—mluví a přistupuje k jeho vzpomínkám, chutě, strachy a další rysy.
Pokud napodobování funkčnosti mozku je vše, co je potřeba k vytvoření vědomí, jak předpokládá teorie GNW, simulovaná osoba bude vědomá, reinkarnovaná uvnitř počítače. Vskutku, nahrávání connectomu do cloudu, aby lidé mohli žít v digitálním posmrtném životě, je běžný sci-fi trope.
IIT předpokládá radikálně odlišné interpretace této situace: napodobenina bude cítit stejně, jako software běžící na luxusní Japonský záchod—nic. Bude se chovat jako člověk, ale bez vrozených pocitů, zombie (ale bez touhy jíst lidské maso) – konečný deepfake.
k vytvoření vědomí jsou zapotřebí vnitřní kauzální síly mozku. A tyto síly nelze simulovat, ale musí být nedílnou součástí fyziky základního mechanismu.
pochopit, proč Se simulace není dost dobrý, zeptejte se sami sebe, proč se to nikdy nedostane mokrý uvnitř počasí simulace bouřce, nebo proč astrofyzika může simulovat obrovské gravitační síly černé díry, aniž by se museli obávat, že budou pohlceny časoprostor ohýbání kolem jejich počítače. Odpověď: protože simulace nemá příčinnou sílu způsobit kondenzaci atmosférických par do vody nebo způsobit křivku časoprostoru! V zásadě by však bylo možné dosáhnout vědomí na lidské úrovni tím, že půjde nad rámec simulace vybudovat takzvaný neuromorfní hardware, založený na architektuře postavené na obrazu nervového systému.
kromě debat o simulacích existují i další rozdíly. IIT a GNW předpovídají, že odlišné oblasti kůry tvoří fyzický substrát specifických vědomých zážitků, s epicentrem v zadní nebo přední části kůry. Tato předpověď a další jsou nyní testovány ve velkém měřítku spolupráce zahrnující šest laboratoří v USA., Evropa a Čína, která právě obdržela 5 milionů dolarů na financování z Templeton World Charity Foundation.
zda se stroje mohou z etických důvodů stát vnímavými záležitostmi. Pokud počítače prožívají život prostřednictvím svých vlastních smyslů, přestávají být čistě prostředkem k cíli určenému jejich užitečností pro nás lidi. Stávají se cílem pro sebe.
za GNW se mění z pouhých objektů na předměty-každý existuje jako “ I “ – s hlediskem. Toto dilema se objevuje v nejpřesvědčivějších televizních epizodách Black Mirror a Westworld. Jednou počítačů kognitivní schopnosti soupeřit s těmi lidstva, jejich impuls, aby se zasadila o právní a politická práva se stane neodolatelný—právo nesmí být odstraněny, aby jejich vzpomínky vymazal, ne trpět bolestí a degradace. Alternativní, vtělená do IIT, je, že počítače zůstane pouze supersophisticated stroje, přízračný prázdné skořápky, zbavené to, co si vážíme nejvíce: pocit sám život.