przyszłość, w której możliwości myślowe komputerów zbliżają się do naszych Czujemy się coraz potężniejszymi algorytmami uczenia maszynowego (ML), które oddychają nam przez szyje. Szybki postęp w nadchodzących dziesięcioleciach przyniesie maszyny z inteligencją na poziomie ludzkim zdolną do mowy i rozumowania, z niezliczonym wkładem w ekonomię, politykę i, nieuchronnie, warcraft. Narodziny prawdziwej sztucznej inteligencji głęboko wpłyną na przyszłość ludzkości, w tym na to, czy ją ma.
poniższe cytaty stanowią przykład:
„od czasu, gdy ostatni wielki przełom w sztucznej inteligencji został osiągnięty pod koniec lat 40., naukowcy na całym świecie szukali sposobów wykorzystania tej „sztucznej inteligencji” do ulepszania technologii poza to, co może osiągnąć nawet najbardziej wyrafinowany z dzisiejszych programów sztucznej inteligencji.”
” nawet teraz trwają badania, aby lepiej zrozumieć, co nowe programy sztucznej inteligencji będą w stanie zrobić, pozostając w granicach dzisiejszej inteligencji. Większość obecnie zaprogramowanych programów AI ogranicza się przede wszystkim do podejmowania prostych decyzji lub wykonywania prostych operacji na stosunkowo niewielkich ilościach danych.”
te dwa akapity zostały napisane przez GPT-2, bota językowego, którego próbowałem zeszłego lata. Opracowany przez OpenAI, instytut z siedzibą w San Francisco, który promuje korzystną sztuczną inteligencję, GPT – 2 jest algorytmem ML z pozornie idiotycznym zadaniem: przedstawiony z dowolnym tekstem startowym, musi przewidzieć następne słowo. Sieć nie naucza się” rozumieć ” prozy w żadnym ludzkim sensie. Zamiast tego, podczas fazy treningu, dostosowuje wewnętrzne połączenia w swoich symulowanych sieciach neuronowych, aby najlepiej przewidzieć następne słowo, słowo po nim i tak dalej. Wytrenowany na ośmiu milionach stron internetowych, jego wnętrzności zawierają ponad miliard połączeń, które emulują synapsy, punkty łączące między neuronami. Kiedy wszedłem do pierwszych kilku zdań artykułu, który czytasz, algorytm wypluł dwa akapity, które brzmiały jak wysiłek pierwszaka, aby przypomnieć istotę wykładu wprowadzającego na temat uczenia maszynowego, podczas którego marzyła na jawie. Wyjście zawiera wszystkie właściwe słowa i zwroty-nieźle, naprawdę! Po raz drugi ten sam tekst, algorytm wymyśla coś innego.
potomstwo takich botów uwolni falę „deepfake” recenzji produktów i newsów, które dodadzą miazmy Internetu. Staną się one jeszcze jednym przykładem programów, które robią rzeczy, które do tej pory uważano za wyjątkowo ludzkie—granie w strategiczną grę czasu rzeczywistego StarCraft, tłumaczenie tekstu, tworzenie osobistych rekomendacji dla książek i filmów, rozpoznawanie ludzi na zdjęciach i filmach.
potrzeba wielu dalszych postępów w uczeniu maszynowym, zanim algorytm będzie mógł napisać arcydzieło tak spójne, jak Marcel Proust w poszukiwaniu straconego czasu, ale kod jest na ścianie. Przypomnijmy, że wszystkie wczesne próby gry komputerowej, tłumaczenia i mowy były niezdarne i łatwe do umniejszenia, ponieważ tak oczywiście brakowało im umiejętności i polskiego. Ale wraz z wynalezieniem głębokich sieci neuronowych i ogromnej infrastruktury obliczeniowej przemysłu technologicznego, Komputery nieustannie się poprawiały, aż ich wyniki nie pojawiły się już risible. Jak widzieliśmy z Go, szachy i poker, dzisiejsze algorytmy mogą najlepsze ludzi, a kiedy to zrobić, nasz początkowy śmiech zamienia się w konsternacji. Czy jesteśmy jak uczeń czarnoksiężnika Goethego, przywołując pomocne duchy, których teraz nie jesteśmy w stanie kontrolować?
Sztuczna świadomość?
chociaż eksperci nie zgadzają się co do tego, co dokładnie stanowi inteligencję, naturalną lub inną, większość akceptuje, że prędzej czy później Komputery osiągną to, co w żargonie nazywa się sztuczną inteligencją ogólną (AGI).
skupienie się na inteligencji maszynowej przyćmiewa zupełnie inne pytania: czy będzie się czuło, że jest się AGI? Czy programowalne komputery mogą być świadome?
przez „świadomość” lub „subiektywne uczucie” mam na myśli jakość nieodłączną każdemu doświadczeniu—na przykład rozkoszny smak Nutelli, ostre użądlenie zainfekowanego zęba, powolny upływ czasu, gdy ktoś się nudzi, lub poczucie witalności i niepokoju tuż przed konkurencją. Filozof Channeling Thomas Nagel, możemy powiedzieć, że system jest świadomy, jeśli jest coś, to jest jak być tym systemem.
zastanów się nad żenującym uczuciem nagłego uświadomienia sobie, że właśnie popełniłeś gafę, że to, co miałeś na myśli jako żart, zostało uznane za obrazę. Czy komputery mogą doświadczyć takich emocji? Kiedy rozmawiasz przez telefon, czekasz minutę po minucie, a syntetyczny głos intonuje: „Przykro nam, że musisz czekać”, czy oprogramowanie naprawdę źle się czuje, trzymając cię w piekle obsługi klienta?
nie ma wątpliwości, że nasza inteligencja i nasze doświadczenia są nieuniknionymi konsekwencjami naturalnych przyczynowych mocy naszego mózgu, a nie nadprzyrodzonych. Ta przesłanka służyła nauce bardzo dobrze w ciągu ostatnich kilku stuleci, gdy ludzie badali świat. Trzy funtowy, tofulike ludzki mózg jest zdecydowanie najbardziej złożonym kawałkiem zorganizowanej aktywnej materii w znanym wszechświecie. Ale musi przestrzegać tych samych praw fizycznych, co psy, drzewa i gwiazdy. Nic nie dostaje darmowej przepustki. Nie rozumiemy jeszcze w pełni przyczynowych mocy mózgu, ale doświadczamy ich każdego dnia—jedna grupa neuronów jest aktywna, gdy widzisz kolory, podczas gdy komórki wypalające się w innym sąsiedztwie kory są związane z byciem w nastroju żartobliwym. Kiedy neurony te są stymulowane przez elektrodę neurochirurga, Tester widzi kolory lub wybucha śmiechem. Odwrotnie, wyłączenie mózgu podczas znieczulenia eliminuje te doświadczenia.
biorąc pod uwagę te powszechnie wspólne założenia tła, co ewolucja prawdziwej sztucznej inteligencji implikuje o możliwości sztucznej świadomości?
rozważając to pytanie, nieuchronnie dochodzimy do rozwidlenia, co prowadzi do dwóch zasadniczo różnych miejsc docelowych. Zeitgeist, wcielony w powieści i filmach takich jak Blade Runner, Her I Ex Machina, zdecydowanie podąża drogą w kierunku założenia, że prawdziwie inteligentne maszyny będą świadome; będą mówić, rozumować, monitorować siebie i introspekcję. Są świadomi eo ipso.
ścieżka ta jest najbardziej wyraźnie uosabiana przez teorię globalnego neuronalnego obszaru roboczego (GNW), jedną z dominujących naukowych teorii świadomości. Teoria zaczyna się od mózgu i wnioskuje, że niektóre z jego specyficznych cech architektonicznych są tym, co powoduje powstanie świadomości.
jego rodowód można prześledzić do „architektury tablicy” informatyki Lat 70-tych, w którym wyspecjalizowane programy dostęp do wspólnego repozytorium informacji, zwany blackboard lub centralnej przestrzeni roboczej. Psychologowie postulowali, że taki zasób przetwarzania istnieje w mózgu i ma kluczowe znaczenie dla ludzkiego poznania. Jego pojemność jest niewielka, więc tylko jeden percept, myśl lub pamięć zajmuje przestrzeń roboczą w tym samym czasie. Nowa informacja konkuruje ze starą i wypiera ją.
neurobiolog poznawczy Stanislas Dehaene i biolog molekularny Jean-Pierre Changeux, obaj z Collège de France w Paryżu, odwzorowali te idee na architekturę kory mózgu, najbardziej zewnętrznej warstwy istoty szarej. Dwie mocno złożone warstwy korowe, jedna po lewej i jedna po prawej, każda wielkości i grubości 14-calowej pizzy, są wciśnięte w ochronną czaszkę. Dehaene i Changeux postulowali, że przestrzeń robocza jest tworzona przez sieć neuronów piramidalnych (pobudzających) połączonych z rozległymi obszarami korowymi, w szczególności obszarami asocjacyjnymi przedczołowymi, ciemieniowo-skroniowymi i środkowymi (cingulate).
wiele aktywności mózgu pozostaje zlokalizowanych i dlatego nieświadomych—na przykład moduł kontrolujący, gdzie patrzą oczy, coś, czego jesteśmy prawie całkowicie nieświadomi, lub moduł, który dostosowuje postawę naszych ciał. Ale kiedy aktywność w jednym lub kilku regionach przekracza próg-powiedzmy, gdy ktoś otrzymuje obraz słoika z Nutellą-wywołuje to zapłon, falę pobudzenia nerwowego, która rozprzestrzenia się po neuronalnym obszarze roboczym, w całym mózgu. Sygnalizacja ta staje się zatem dostępna dla wielu procesów pomocniczych, takich jak język, planowanie, obwody nagrody, dostęp do pamięci długotrwałej i przechowywanie w buforze pamięci krótkotrwałej. Aktu globalnego nadawania tych informacji jest to, co czyni go świadomym. Niepowtarzalne doświadczenie Nutelli polega na tym, że neurony piramidalne kontaktują się z regionem planowania motorycznego mózgu-wydając instrukcję, aby chwycić łyżkę, aby wyjąć część rozprzestrzeniania się orzechów laskowych. Tymczasem inne moduły przesyłają wiadomość, aby oczekiwać nagrody w postaci pośpiechu dopaminowego spowodowanego wysoką zawartością tłuszczu i cukru Nutelli.
Stany świadome wynikają ze sposobu, w jaki algorytm przestrzeni roboczej przetwarza istotne wejścia zmysłowe, wyjścia motoryczne i zmienne wewnętrzne związane z pamięcią, motywacją i oczekiwaniem. Globalne przetwarzanie jest tym, czym jest świadomość. Teoria GNW w pełni obejmuje współczesne mity prawie nieskończonych mocy obliczeniowych. Świadomość jest tylko sprytnym włamaniem.
wewnętrzna siła przyczynowa
alternatywna ścieżka—zintegrowana teoria informacji (IIT)—przyjmuje bardziej fundamentalne podejście do wyjaśniania świadomości.
Giulio Tononi, psychiatra i neurolog z Uniwersytetu Wisconsin–Madison, jest głównym architektem IIT, wraz z innymi, w tym mną, przyczyniając się. Teoria zaczyna się od doświadczenia i przechodzi stamtąd do aktywacji obwodów synaptycznych, które określają „uczucie” tego doświadczenia. Informacja zintegrowana jest miarą matematyczną określającą ile” wewnętrznej siły przyczynowej ” posiada jakiś mechanizm. Neurony uruchamiające potencjały działania, które wpływają na komórki, do których są podłączone (za pośrednictwem synaps), są jednym z rodzajów mechanizmu, podobnie jak obwody elektroniczne, zbudowane z tranzystorów, pojemności, rezystancji i przewodów.
wewnętrzna siła przyczynowa nie jest jakimś zwiewnym, eterycznym pojęciem, ale może być precyzyjnie oceniana dla każdego systemu. Im bardziej obecny stan określa przyczynę (wejście) i skutek (wyjście), tym więcej mocy przyczynowej posiada.
IIT przewiduje, że każdy mechanizm z wewnętrzną mocą, którego stan jest obciążony swoją przeszłością i ciężarny swoją przyszłością, jest świadomy. Im większa zintegrowana informacja systemu, reprezentowana przez grecką literę Φ (zero lub dodatnia liczba wymawiana „fi”), tym bardziej świadomy jest system. Jeśli coś nie ma wewnętrznej mocy przyczynowej, to Φ wynosi zero; nic nie czuje.
biorąc pod uwagę heterogeniczność neuronów korowych i ich gęsto nakładający się zestaw połączeń wejściowych i wyjściowych, ilość zintegrowanych informacji w korze mózgowej jest ogromna. Teoria ta zainspirowała budowę miernika świadomości obecnie poddawanego ocenie klinicznej, instrumentu, który określa, czy ludzie w uporczywych Stanach wegetatywnych lub ci, którzy są minimalnie świadomi, znieczuleni lub zamknięci w sobie, są świadomi, ale nie są w stanie się komunikować lub czy „nikogo nie ma w domu.”W analizach mocy przyczynowej programowalnych komputerów cyfrowych na poziomie ich metalowych komponentów-tranzystorów, przewodów i diod, które służą jako fizyczne podłoże wszelkich obliczeń—teoria wskazuje, że ich wewnętrzna moc przyczynowa i ich Φ są niewielkie. Ponadto Φ jest niezależne od oprogramowania działającego na procesorze, niezależnie od tego, czy oblicza podatki, czy symuluje mózg.
rzeczywiście, teoria dowodzi, że dwie sieci, które wykonują tę samą operację wejścia-wyjścia, ale mają różnie skonfigurowane obwody, mogą posiadać różne wielkości Φ. Jeden obwód może nie mieć Φ, podczas gdy drugi może wykazywać wysokie poziomy. Chociaż są identyczne z zewnątrz, jedna sieć doświadcza czegoś, podczas gdy jej odpowiednik Zombie impostor nic nie czuje. Różnica jest pod maską, w wewnętrznym okablowaniu sieci. Mówiąc krótko, świadomość polega na byciu, a nie na robieniu.
różnica między tymi teoriami polega na tym, że GNW podkreśla funkcję ludzkiego mózgu w wyjaśnianiu świadomości, podczas gdy IIT twierdzi, że to wewnętrzne moce przyczynowe mózgu są naprawdę ważne.
rozróżnienia ujawniają się, gdy sprawdzamy konektom mózgu, pełną specyfikację dokładnego okablowania synaptycznego całego układu nerwowego. Anatomowie zmapowali już konektomy kilku robaków. Pracują nad konektomem dla muszki owocowej i planują walkę z myszą w ciągu następnej dekady. Załóżmy, że w przyszłości będzie możliwe przeskanowanie całego ludzkiego mózgu, z jego około 100 miliardami neuronów i kwadrylionami synaps, na poziomie ultrastrukturalnym po śmierci jego właściciela, a następnie symulacja narządu na jakimś zaawansowanym komputerze, może maszynie kwantowej. Jeśli model jest wystarczająco wierny, ta symulacja obudzi się i zachowa się jak cyfrowy symulakrum zmarłego—mówi i uzyskuje dostęp do jego wspomnień, pragnień, lęków i innych cech.
Jeśli naśladowanie funkcji mózgu jest wszystkim, co jest potrzebne do stworzenia świadomości, jak postuluje teoria GNW, symulowana osoba będzie świadoma, reinkarnowana wewnątrz komputera. W rzeczy samej, przesyłanie konektomu do chmury, aby ludzie mogli żyć w cyfrowym życiu pozagrobowym, jest powszechnym tropem science-fiction.
IIT zakłada radykalnie inną interpretację tej sytuacji: symulakrum odczuje tyle samo, co oprogramowanie działające na fantazyjnej japońskiej toalecie—nic. Będzie działać jak osoba, ale bez żadnych wrodzonych uczuć, zombie (ale bez chęci jedzenia ludzkiego mięsa) – ostateczny deepfake.
aby stworzyć świadomość, potrzebne są wewnętrzne moce przyczynowe mózgu. I te moce nie mogą być symulowane, ale muszą być nieodłączną częścią fizyki mechanizmu leżącego u ich podstaw.
aby zrozumieć, dlaczego symulacja nie jest wystarczająco dobra, zadaj sobie pytanie, dlaczego nigdy nie zamoknie w symulacji pogody podczas burzy lub dlaczego astrofizycy mogą symulować ogromną siłę grawitacyjną czarnej dziury bez obawy, że zostaną pochłonięci przez czasoprzestrzeń pochylającą się wokół komputera. Odpowiedź: ponieważ symulacja nie ma mocy przyczynowej, aby spowodować kondensację pary atmosferycznej w wodzie lub spowodować zakrzywienie czasoprzestrzeni! W zasadzie jednak możliwe byłoby osiągnięcie świadomości na poziomie człowieka, wykraczając poza symulację, aby zbudować tak zwany sprzęt neuromorficzny, oparty na architekturze zbudowanej na obrazie układu nerwowego.
istnieją inne różnice poza dyskusjami na temat symulacji. IIT i GNW przewidują, że odrębne regiony kory stanowią fizyczne podłoże konkretnych świadomych doświadczeń, z epicentrum z tyłu lub z przodu kory. Ta prognoza i inne są obecnie testowane w ramach współpracy na dużą skalę z udziałem sześciu laboratoriów w USA., Europa i Chiny, które właśnie otrzymały 5 milionów dolarów z Fundacji Templeton World Charity Foundation.
To, czy maszyny mogą stać się czujące, ma znaczenie z powodów etycznych. Jeśli komputery postrzegają życie poprzez własne zmysły, przestają być wyłącznie środkiem do osiągnięcia celu określonego przez ich użyteczność dla nas, ludzi. Stają się dla siebie końcem.
na GNW zamieniają się ze zwykłych przedmiotów w przedmioty—każdy istnieje jako „ja”—z pewnym punktem widzenia. Ten dylemat pojawia się w najbardziej atrakcyjnych odcinkach Black Mirror i WestWorld television. Kiedy zdolności poznawcze komputerów będą konkurować z ludzkimi, ich impuls do dążenia do praw prawnych i politycznych stanie się nie do odparcia—prawa do nieusuwania, do wymazywania wspomnień, do cierpienia i degradacji. Alternatywą, ucieleśnioną przez IIT, jest to, że komputery pozostaną jedynie supersofistycznymi maszynami, niczym duchy pustymi pociskami, pozbawionymi tego, co cenimy najbardziej: poczucia życia.