un viitor în care capacitățile de gândire ale computerelor se apropie de ale noastre intră rapid în vedere. Ne simțim din ce în ce mai puternici algoritmi de învățare automată (ML) care ne respiră pe gât. Progresul Rapid în deceniile următoare va aduce mașini cu inteligență la nivel uman capabile de vorbire și raționament, cu o multitudine de contribuții la economie, politică și, inevitabil, warcraft. Nașterea adevăratei inteligențe artificiale va afecta profund viitorul omenirii, inclusiv dacă are una.
următoarele Citate oferă un exemplu în acest sens:
„de la ultima mare descoperire a inteligenței artificiale la sfârșitul anilor 1940, oamenii de știință din întreaga lume au căutat modalități de a valorifica această „inteligență artificială” pentru a îmbunătăți tehnologia dincolo de ceea ce poate realiza chiar și cel mai sofisticat dintre programele de inteligență artificială de astăzi.”
” chiar și acum, cercetările sunt în curs de desfășurare pentru a înțelege mai bine ce vor putea face noile programe AI, rămânând în limitele inteligenței de astăzi. Majoritatea programelor AI programate în prezent s-au limitat în primul rând la luarea de decizii simple sau la efectuarea de operații simple pe cantități relativ mici de date.”
aceste două paragrafe au fost scrise de GPT-2, un bot de limbă pe care l-am încercat vara trecută. Dezvoltat de OpenAI, un institut din San Francisco care promovează ai benefică, GPT-2 este un algoritm ML cu o sarcină aparent idioată: prezentat cu un text de pornire arbitrar, acesta trebuie să prezică următorul cuvânt. Rețeaua nu este învățată să „înțeleagă” proza în niciun sens uman. În schimb, în timpul fazei sale de antrenament, ajustează conexiunile interne din rețelele sale neuronale simulate pentru a anticipa cel mai bine următorul cuvânt, cuvântul după acesta și așa mai departe. Antrenat pe opt milioane de pagini Web, interiorul său conține mai mult de un miliard de conexiuni care imită sinapsele, punctele de legătură dintre neuroni. Când am introdus primele câteva propoziții ale articolului pe care îl citiți, algoritmul a scos două paragrafe care sunau ca efortul unui boboc de a aminti esența unei prelegeri introductive despre învățarea automată în timpul căreia visa cu ochii deschiși. Rezultatul conține toate cuvintele și frazele potrivite-nu-i rău, într-adevăr! Amorsat cu același text a doua oară, algoritmul vine cu ceva diferit.
descendenții unor astfel de roboți vor dezlănțui un val de recenzii de produse „deepfake” și știri care se vor adăuga la miasma Internetului. Acestea vor deveni doar un exemplu de programe care fac lucruri considerate până acum a fi unic umane—jucând jocul de strategie în timp real StarCraft, traducând text, făcând recomandări personale pentru cărți și filme, recunoscând oamenii în imagini și videoclipuri.va fi nevoie de multe progrese în învățarea automată înainte ca un algoritm să poată scrie o capodoperă la fel de coerentă ca cea a lui Marcel Proust în căutarea timpului pierdut, dar codul este pe perete. Amintiți-vă că toate încercările timpurii de a juca jocuri pe calculator, traducere și vorbire au fost stângace și ușor de micșorat, deoarece, evident, nu aveau pricepere și poloneză. Dar, odată cu inventarea rețelelor neuronale profunde și a infrastructurii computaționale masive a industriei tehnologice, computerele s-au îmbunătățit neîncetat până când rezultatele lor nu mai păreau risibile. Așa cum am văzut cu Go, șah și poker, algoritmii de astăzi pot fi cei mai buni oameni, iar atunci când o fac, râsul nostru inițial se transformă în consternare. Suntem ca Ucenicul vrăjitorului lui Goethe, care a convocat spirite ajutătoare pe care acum nu le putem controla?
conștiința artificială?
deși experții nu sunt de acord cu privire la ceea ce constituie exact inteligența, naturală sau altfel, majoritatea acceptă că, mai devreme sau mai târziu, computerele vor realiza ceea ce se numește inteligență generală artificială (AGI) în jargon.
accentul pus pe inteligența mașinii ascunde întrebări destul de diferite: se va simți ca ceva să fie un AGI? Computerele programabile pot fi vreodată conștiente?
prin „conștiință” sau „sentiment subiectiv”, mă refer la calitatea inerentă oricărei experiențe—de exemplu, gustul delicios al Nutellei, înțepătura ascuțită a unui dinte infectat, trecerea lentă a timpului când cineva este plictisit sau sentimentul de vitalitate și anxietate chiar înainte de un eveniment competitiv. Canalizându-l pe filosoful Thomas Nagel, am putea spune că un sistem este conștient dacă există ceva, este ca și cum ar fi acel sistem.
luați în considerare sentimentul jenant de a vă da seama brusc că tocmai ați comis o gafă, că ceea ce ați vrut să spuneți ca o glumă a venit ca o insultă. Pot computerele să experimenteze vreodată astfel de emoții? Când sunteți la telefon, așteptați minut după minut și o voce sintetică intonează: „Ne pare rău că vă facem să așteptați”, software-ul se simte rău în timp ce vă menține în iadul serviciului pentru clienți?
nu există nicio îndoială că inteligența și experiențele noastre sunt consecințe ineluctabile ale puterilor cauzale naturale ale creierului nostru, mai degrabă decât ale oricăror supranaturale. Această premisă a servit științei extrem de bine în ultimele secole, pe măsură ce oamenii au explorat lumea. Creierul uman de trei kilograme este de departe cea mai complexă bucată de materie activă organizată din universul cunoscut. Dar trebuie să respecte aceleași legi fizice ca și câinii, copacii și stelele. Nimic nu primește un permis gratuit. Încă nu înțelegem pe deplin puterile cauzale ale creierului, dar le experimentăm în fiecare zi—un grup de neuroni este activ în timp ce vedeți culori, în timp ce celulele care ard într-un alt cartier cortical sunt asociate cu o dispoziție joculară. Când acești neuroni sunt stimulați de electrodul unui neurochirurg, subiectul vede culori sau erupe în râs. În schimb, închiderea creierului în timpul anesteziei elimină aceste experiențe.
având în vedere aceste ipoteze de fond larg împărtășite, ce va implica evoluția inteligenței artificiale adevărate despre posibilitatea conștiinței artificiale?
contemplând această întrebare, ajungem inevitabil la o furculiță în față, ducând la două destinații fundamental diferite. Zeitgeist, așa cum este întruchipat în romane și filme precum Blade Runner, Her și Ex Machina, marșează hotărât pe drumul spre presupunerea că mașinile cu adevărat inteligente vor fi simțitoare; ei vor vorbi, rațiunea, auto-monitorizarea și introspecția. Sunt conștienți de Eo ipso.
această cale este reprezentată cel mai explicit de teoria spațiului de lucru neuronal global (GNW), una dintre teoriile științifice dominante ale conștiinței. Teoria începe cu creierul și deduce că unele dintre caracteristicile sale arhitecturale specifice sunt cele care dau naștere conștiinței.
descendența sa poate fi urmărită înapoi la „blackboard architecture” din informatica anilor 1970, în care programele specializate au accesat un depozit comun de informații, numit blackboard sau Central workspace. Psihologii au postulat că o astfel de resursă de procesare există în creier și este esențială pentru cunoașterea umană. Capacitatea sa este mică, deci doar o singură percepție, gândire sau memorie ocupă spațiul de lucru în orice moment. Informațiile noi Concurează cu cele vechi și le deplasează.neurologul cognitiv Stanislas Dehaene și biologul molecular Jean-Pierre Changeux, ambii la Collective de France din Paris, au cartografiat aceste idei pe arhitectura cortexului creierului, stratul cel mai exterior al materiei cenușii. Două foi corticale foarte pliate, una în stânga și una în dreapta, fiecare de dimensiunea și grosimea unei pizza de 14 inci, sunt înghesuite în craniul protector. Dehaene și Changeux au postulat că spațiul de lucru este instanțiat de o rețea de neuroni piramidali (excitatori) legați de regiuni corticale îndepărtate, în special zonele asociative prefrontale, parietotemporale și mediane (cingulate).
o mare parte din activitatea creierului rămâne localizată și, prin urmare, inconștientă—de exemplu, cea a modulului care controlează unde privesc ochii, ceva despre care suntem aproape complet ignorați sau cea a modulului care reglează postura corpului nostru. Dar când activitatea într—una sau mai multe regiuni depășește un prag—să zicem, când cineva este prezentat cu o imagine a unui borcan Nutella-declanșează o aprindere, un val de excitație neuronală care se răspândește în spațiul de lucru neuronal, la nivelul creierului. Prin urmare, această semnalizare devine disponibilă pentru o serie de procese subsidiare, cum ar fi limbajul, planificarea, circuitele de recompensă, accesul la memoria pe termen lung și stocarea într-un tampon de memorie pe termen scurt. Actul de difuzare globală a acestor informații este ceea ce o face conștientă. Experiența inimitabilă a Nutellei este constituită de neuronii piramidali care intră în contact cu regiunea de planificare motorie a creierului-emitând o instrucțiune de a apuca o lingură pentru a scoate o parte din răspândirea alunelor. Între timp, alte module transmit mesajul pentru a aștepta o recompensă sub forma unui val de dopamină cauzat de conținutul ridicat de grăsimi și zahăr al Nutella.
stările conștiente apar din modul în care algoritmul spațiului de lucru procesează intrările senzoriale relevante, ieșirile motorii și variabilele interne legate de memorie, motivație și așteptare. Procesarea globală este ceea ce este conștiința. Teoria GNW cuprinde pe deplin miturile contemporane ale puterilor aproape infinite ale calculului. Conștiința este doar un hack inteligent departe.
puterea cauzală intrinsecă
calea alternativă—teoria informației integrate (IIT)—are o abordare mai fundamentală pentru explicarea conștiinței.
Giulio Tononi, psihiatru și neurolog la Universitatea din Wisconsin–Madison, este arhitectul șef al IIT, contribuind și alții, inclusiv eu. Teoria începe cu experiența și continuă de acolo la activarea circuitelor sinaptice care determină „sentimentul” acestei experiențe. Informația integrată este o măsură matematică care cuantifică câtă „putere cauzală intrinsecă” posedă un mecanism. Neuronii care declanșează potențialele de acțiune care afectează celulele din aval la care sunt conectate (prin sinapse) sunt un tip de mecanism, la fel ca și circuitele electronice, realizate din tranzistoare, capacități, rezistențe și fire.
puterea cauzală intrinsecă nu este o noțiune eterică aerisită, ci poate fi evaluată cu precizie pentru orice sistem. Cu cât starea sa actuală specifică cauza (intrarea sa) și efectul (ieșirea sa), cu atât are mai multă putere cauzală.
IIT stipulează că orice mecanism cu putere intrinsecă, a cărui stare este încărcată de trecutul său și însărcinată cu viitorul său, este conștientă. Cel mai mare sistem integrat de informații, reprezentată de litera grecească Φ (un zero sau un număr pozitiv pronunțat „fi”), mai conștient de sistem. Dacă ceva nu are o putere cauzală intrinsecă, el este zero; nu simte nimic.având în vedere eterogenitatea neuronilor corticali și setul lor dens suprapus de conexiuni de intrare și ieșire, cantitatea de informații integrate din cortex este vastă. Teoria a inspirat construirea unui contor de conștiință aflat în prezent în evaluare clinică, un instrument care determină dacă persoanele aflate în stări vegetative persistente sau cele care sunt minim conștiente, anesteziate sau blocate sunt conștiente, dar incapabile să comunice sau dacă „nimeni nu este acasă”.”În analizele puterii cauzale a computerelor digitale programabile la nivelul componentelor lor metalice—tranzistoarele, firele și diodele care servesc drept substrat fizic al oricărui calcul—teoria indică faptul că puterea lor cauzală intrinsecă și al lor sunt minime. Mai mult decât atât, aplicația este independentă de software-ul care rulează pe procesor, indiferent dacă calculează taxele sau simulează creierul.
într-adevăr, teoria dovedește că două rețele care efectuează aceeași operație de intrare-ieșire, dar au circuite configurate diferit, pot poseda cantități diferite de XV. Un circuit poate să nu aibă nici un număr de Centimetre, în timp ce celălalt poate să prezinte niveluri ridicate. Deși sunt identice din exterior, o rețea experimentează ceva în timp ce omologul său impostor zombie nu simte nimic. Diferența este sub capotă, în cablajul intern al rețelei. Pe scurt, conștiința este despre a fi, nu despre a face.diferența dintre aceste teorii este că GNW subliniază funcția creierului uman în explicarea conștiinței, în timp ce IIT afirmă că puterile cauzale intrinseci ale creierului sunt cele care contează cu adevărat.
distincțiile se dezvăluie atunci când inspectăm conectomul creierului, specificația completă a cablajului sinaptic exact al întregului sistem nervos. Anatomiștii au cartografiat deja conectomii câtorva viermi. Ei lucrează la conectomul pentru zbura de fructe și intenționează să abordeze mouse-ul în următorul deceniu. Să presupunem că în viitor va fi posibil să scanăm un întreg creier uman, cu aproximativ 100 de miliarde de neuroni și cvadrilioane de sinapse, la nivel ultrastructural după ce proprietarul său a murit și apoi să simulăm organul pe un computer avansat, poate o mașină cuantică. Dacă modelul este suficient de fidel, această simulare se va trezi și se va comporta ca un simulacru digital al persoanei decedate—vorbind și accesând amintirile, poftele, temerile și alte trăsături.dacă imitarea funcționalității creierului este tot ceea ce este necesar pentru a crea conștiința, așa cum este postulat de teoria GNW, persoana simulată va fi conștientă, reîncarnată în interiorul unui computer. Într-adevăr, încărcarea conectomului în cloud, astfel încât oamenii să poată trăi în viața de apoi digitală, este un trop comun de știință-ficțiune.
IIT prezintă o interpretare radical diferită a acestei situații: simulacrul se va simți la fel de mult ca software—ul care rulează pe o toaletă japoneză fantezie-nimic. Acesta va acționa ca o persoană, dar fără sentimente înnăscute, un zombie (dar fără nici o dorință de a mânca carne umană)—deepfake final.
pentru a crea conștiința, sunt necesare puterile cauzale intrinseci ale creierului. Iar aceste puteri nu pot fi simulate, ci trebuie să fie parte integrantă a fizicii mecanismului de bază.
pentru a înțelege de ce simularea nu este suficient de bună, întrebați-vă de ce nu se udă niciodată în interiorul unei simulări meteorologice a unei furtuni de ploaie sau de ce astrofizicienii pot simula vasta putere gravitațională a unei găuri negre fără a fi nevoie să vă faceți griji că vor fi înghițiți de spațiu-timp îndoindu-se în jurul computerului lor. Răspunsul: deoarece o simulare nu are puterea cauzală de a determina condensarea vaporilor atmosferici în apă sau de a determina curba spațiu-timpului! În principiu, însă, ar fi posibil să se realizeze conștiința la nivel uman, depășind o simulare pentru a construi așa-numitul hardware neuromorf, bazat pe o arhitectură construită în imaginea sistemului nervos.
există și alte diferențe în afară de dezbaterile despre simulări. IIT și GNW prezic că regiuni distincte ale cortexului constituie substratul fizic al experiențelor conștiente specifice, cu un epicentru fie în partea din spate, fie în partea din față a cortexului. Această predicție și altele sunt acum testate într-o colaborare pe scară largă care implică șase laboratoare din SUA., Europa și China care tocmai au primit finanțare de 5 milioane de dolari de la Fundația de caritate Templeton World.
dacă mașinile pot deveni simțitoare contează din motive etice. Dacă computerele experimentează viața prin propriile simțuri, ele încetează să mai fie pur și simplu un mijloc pentru un scop determinat de utilitatea lor pentru noi oamenii. Ele devin un scop pentru ei înșiși.
per GNW, ele se transformă din simple obiecte în subiecte—fiecare există ca un „eu”—cu un punct de vedere. Această dilemă apare în cele mai convingătoare episoade de televiziune Black Mirror și Westworld. Odată ce abilitățile cognitive ale computerelor rivalizează cu cele ale umanității, impulsul lor de a impune drepturi legale și politice va deveni irezistibil—dreptul de a nu fi șters, de a nu-și șterge amintirile, de a nu suferi durere și degradare. Alternativa, întruchipată de IIT, este că computerele vor rămâne doar mașini supersofisticate, cochilii goale asemănătoare fantomelor, lipsite de ceea ce prețuim cel mai mult: sentimentul vieții în sine.