Ecoul din camera chinezească

Cristina VOINEA
Publicat în Dilema Veche nr. 733 din 8-14 martie 2018
Ecoul din camera chinezească jpeg

„Lucrurile sînt împotriva noastră!“, anunța, în 1948, fictivul Pierre-Marie Ventre, dînd astfel naștere rezistențialismului, un așa-zis curent filozofic care susținea că obiectele au o atitudine ostilă față de oameni, aflîndu-se într-un perpetuu război cu aceștia. Rezistențialismul nu ar trebui să fie luat în serios, pînă la urmă a fost gîndit ca o ironie la adresa lui Jean Paul-Sartre și a existențialismului său. În ciuda acestui lucru, a lăsat în urma lui o importantă moștenire: ideea, încă larg îmbrățișată, conform căreia încercarea oamenilor de a crea tehnologii tot mai inteligente va avea ca rezultat nu progresul incremental, ci chiar dispariția rasei umane.

Șaizeci de ani după Pierre-Marie Ventre apare Nick Bostrom, un filozof al tehnologiei oxonian, care propune un scenariu înfricoșător, de mult cunoscut fanilor de SF-uri. Atunci cînd inteligența artificială generală (AI) va apărea – o chestiune de certitudine, spun ei – va trebui să ne pregătim pentru sfîrșitul existenței noastre; de aici și riscul existențial. O inteligență superioară nouă va fi declicul pentru o „explozie a inteligenței“, o serie de autoîmbunătățiri care vor transforma mințile artificiale și activitățile lor în chestiuni de neînțeles pentru oameni. Presupune apariția unei inteligențe net superioare celei umane dispariția speciei noastre? Bostrom ne propune să fim realiști și să acceptăm acest scenariu ca fiind cel mai plauzibil, doar avem un model pe care îl putem extrapola: comportamentul nostru față de alte specii pe care aproape că le-am adus în pragul extincției. Dacă oamenii, cu inteligența lor superioară, au reușit să schimbe felul în care arată această planetă, atunci același lucru îl va încerca și o minte artificială, ceea ce s-ar putea să nu fie neapărat bine pentru noi. Nu e foarte clar cît mai avem de așteptat pînă la Singularitate (un alt nume pentru inteligența artificială generală); predicțiile riscurilor existențiale ale inteligenței artificiale sînt mereu plasate într-un viitor nu foarte îndepărtat, însă nici foarte apropiat, astfel încît să ne pună în gardă fără a-i stînjeni pe profeți în cazul în care predicțiile lor nu se îndeplinesc.

Sîntem încă departe de o inteligență artificială generală. Sistemele specializate pe care le folosim astăzi, printre care și inteligențe artificiale (precum Siri sau Alexa), nu ridică nici un fel de risc existențial. Ce le lipsește și, totodată, ceea ce deosebește inteligența umană de alte tipuri de inteligențe este generalitatea. De exemplu, nu putem învăța o albină să construiască un cuib de rîndunele, așa cum nu putem învăța rîndunelele să ridice un stup. În mod similar, faimoasa DeepBlue, inteligența artificială care i-a luat titlul de campion mondial la șah lui Gari Kasparov, nu poate fi antrenată să conducă o mașină sau să joace pe bursă. Însă oamenii pot învăța să întreprindă toate aceste activități, uneori într-un timp destul de scurt. Este discutabil dacă inteligența umană este cu adevărat generală, însă nimeni nu s-ar putea îndoi că aceasta este în mod semnificativ mai generală decît cea prezentă în lumea animală.

Una dintre principalele probleme în calea construirii unei AI este că nu prea știm ce este și cum funcționează inteligența umană. Deși avem o sumedenie de teorii (cognitive, biologice, cognitiv-contextuale etc.) despre minte, conștiință sau inteligență, nici una nu este definitivă. Asta pentru că nu putem scăpa de recursivitate: obiectul de studiu este, în același timp, și instrumentul cu care studiem. Însă treaba filozofilor este să găsească soluții pentru a ieși din astfel de încurcături, iar pentru aceste situații speciale au bricolat un „instrument“ aparte: experimentele mentale, cu ajutorul cărora pot imagina și verifica sau „testa“ consecințele unor ipoteze, teorii sau principii.

Conținut semantic vs. sintaxă

Pentru a testa posibilitatea creării unei minți artificiale, adică a unei AI, filozoful John Searle a imaginat un experiment mental numit camera chinezească – un răspuns la testul Turing –, care din anii ’80 și pînă astăzi a stîrnit imense dezbateri și discuții. Experimentul este următorul: un individ care nu vorbește limba chineză este închis într-o cameră în care se află o cutie cu semnele alfabetului chinezesc (pe care nu le poate înțelege) și o carte de instrucțiuni pentru asamblarea acestora (instrucțiuni pe care le poate înțelege). În afara camerei avem un vorbitor de limbă chineză care strecoară pe sub ușa camerei diverse mesaje în chineză. Cel dinăuntru va putea răspunde mesajelor primite în următorul fel: se va uita în manualul cu instrucțiuni, iar mai apoi va manipula caracterele chinezești astfel încît va reuși să ofere un răspuns coerent vorbitorului de afară. Instrucțiunile arată ceva de tipul: dacă ai semnul x, răspunde cu semnul y, cu mențiunea că cel din cameră nu știe ce înseamnă x și y. Înțelege atunci acesta răspunsurile pe care le trimite vorbitorului de chineză sau mesajele pe care le primește? Nu. Întocmai unui computer, el nu face decît să manipuleze simboluri, fără a avea nici cea mai vagă idee despre semnificația lor. De aici și legătura cu imposibilitatea apariției inteligenței artificiale generale: mințile umane au conținut semantic, adică au capacitatea de a înțelege sensul simbolurilor cu care operează; în schimb, programele și computerele au numai sintaxă, mai precis manipulează simboluri fără a le înțelege. Inteligența presupune adaptabilitate și spontaneitate, lucruri pentru care avem nevoie de înțelegere și nu doar de reguli de acțiune sau interacțiune.

Așa cum s-a observat, concluziile acestui experiment mental sînt radicale: nu putem crea o inteligență artificială generală pentru că nu știm cum să îi programăm înțelegerea așa cum apare ea la oameni. Oricît de bine am antrena o astfel de entitate, ea nu va rămîne decît un manipulator de simboluri. Chiar dacă Siri răspunde uneori ca un om, părînd astfel să treacă testul Turing, aceasta nu are de fapt capacitatea să priceapă ce i se spune sau ce răspunde.

Însă camera chinezească nu arată imposibilitatea logică a unei inteligențe artificiale generale, ci doar faptul că acum nu știm exact cum să o creăm. Există două sensuri ale acelui ar putea din atît de rostogolita sintagmă „inteligența artificială generală ar putea să apară cîndva“. Într-o primă instanță, ar putea se referă la posibilitate, adică la faptul că nu există nici o contradicție logică ce ne-ar opri să asumăm că AI este teoretic posibilă. Însă, într-un al doilea sens, ar putea se referă la probabilitate, adică la posibilități concrete. Diferența între cele două este următoarea: aș putea ca la un moment dat să îmi pierd telefonul mobil (e foarte plauzibil, avînd în vedere istoricul meu personal) vs. aș putea să rezolv conjectura lui Hodge (nu e logic imposibil, dar e foarte puțin probabil avînd în vedere că nu am mai făcut matematică de mai bine de zece ani). Ceea ce înseamnă că inteligența artificială generală, împreună cu toate riscurile existențiale pe care le ridică, este posibilă conceptual, însă foarte puțin probabilă astăzi sau în viitor.

Există însă alte riscuri existențiale, precum posibilitatea războaielor nucleare sau încălzirea climatică, pe care dacă nu le rezolvăm cît mai repede nu vom mai ajunge niciodată să vedem o inteligență artificială generală. Ne-am obișnuit să tratăm tehnologiile ca simple instrumente neutre, iar reflecția morală provocată de acestea a fost mai degrabă retroactivă, decît proactivă. Așa că ne-am trezit, în mod surprinzător, cu o sumedenie de probleme care cu greu pot fi rezolvate după ce tehnologiile au fost larg îmbrățișate și utilizate. Aceasta pentru că am realizat foarte tîrziu că toate artefactele din jurul nostru sînt precum niște legislatori ascunși ai societăților moderne. Pe măsură ce creăm noi și noi tehnologii, tot mai sofisticate și complexe, ar trebui să ne întrebăm, în primul rînd: ce fel de lume vrem să creăm cu ajutorul acestora? Ceea ce ar însemna să ne mutăm atenția dinspre productivitate și eficiență înspre condițiile sociale, politice sau morale, pe care le creăm sau restrîngem odată cu schimbarea tehnologică. Ajungem astfel la imperativul moral al zilelor noastre: găsirea unor forme sau limite pe care să le impunem tehnologiilor pentru ca acestea să lărgească spectrul libertății umane, al autonomiei și al capacității de autoguvernare a utilizatorilor săi. 

Cristina Voinea este doctorandă a Facultății de Filozofie, Universitatea din București, cu o teză de filozofie politică și etică a Internetului.

„Am avut covidu’!”, iar „de murit, murea oricum   ” jpeg
„Nu ne mai facem bine”
Și eu am propria mea curiozitate, așa că încerc să aflu ce s-a schimbat aici, din perspectiva lor, este una dintre principalele teme de discuție.
p 10 jpg
România era țara mea bună, dar vitregă
Astăzi consider că România e țara în care mă pot întoarce cînd doresc, e „cartierul vecin”.
Palatul Culturii Iasi   Aerial jpg
Iași, mon amour contrarié
Iașiul îmi pare un cameleon. Apar întruna terase noi și e tonifiant. Vara asta am mîncat într-un gastrobar cu specific andaluz, cu o veselă aleasă cu gust, cu prețuri rezonabile și porții mărișoare.
640px Parliament 704254 jpg
Stai, cum adică avem o imagine bunicică la Bruxelles?!
Dar cum adică „nu creăm probleme” la Bruxelles, dacă în România sînt atîtea probleme? E simplu, grijile Bruxelles-ului sînt altele decît ale noastre.
p 12 WC jpg
Cum văd eu România? După 15 ani și de la 3.500 de kilometri distanță?
În cele cîteva limbi de circulație pe care le înțeleg, nu găsesc un sinonim în valoare absolută al cuvîntului „omenie”. Poate în el rezidă, totuși, logica speranței.
Bjc cv cs foto 089 jpg
Secretul stă la primărie
În România, m-am ocupat, vrînd-nevrînd, cu colecționarea de faze și impresii, să le spun ilustrate.
p 13 sus jpg
Cînd trăiești între aici și acolo
Am început, timid, să ies în afara granițelor, întrebîndu-mă deseori cum ar fi viața mea în altă parte, în momentul în care nimic nu mă mai reținea în România.
Page 428 Captured Romanians transported away (12239755986) jpg
Trei neîntoarceri
România are acum un chip ponosit, în tușe de gri și negru. Dar e OK pentru că e o Românie exterioară, din afara ta, e un context din care ai scăpat. High five.
Romania Parliament at night jpg
Sedarea românilor
n reacție, nu puțini români refuză calmarea și emigrează, seduși de melodia sirenelor potrivit cărora „în România, asta e!”, totul a „rămas la fel”.
Scriitorii, rudele mele maghiare jpeg
Tribunalul Poporului
Vedem asta în fiecare zi: nimic din ceea ce se postează nu rămîne necorectat, necontestat, nejudecat, nesancționat. Mai devreme sau mai tîrziu – ca să fac o parafrază – fiecare are parte de cincisprezece minute de judecată publică.
p 10 jpg
Critica publică în online: virtuți și vicii
Am observat, de asemenea, și cum platometre digitale au fost utilizate pentru a instiga la ură, dispreț și sexism, pentru a delegitima această mișcare și a decredibiliza victimele violenței de gen.
p 11 Ostrakon WC jpg
Ostracizarea online ca dilemă liberală
Cu toate acestea, nu trebuie să uităm de pericolul pe care apelul la ostracizarea online îl deschide, ținînd cont de stimulentele pe care viața în mediul online ni le oferă în conjuncție cu impactul pe care emoțiile morale îl au la adresa modului în care interacționăm cu ceilalți
640px The Two Gossips (Les Deux Commères) MET DP808826 jpg
Gura satului global
Gura satului global nu este diferită de gura satului tradițional decît prin instrumentele sale.
640px Cyber bullying 122156 960 720 jpg
Cel fără de păcat – o sursă idiopatică?
Realitatea socială poate fi remarcabilă datorită ansamblului de creiere umane adunate pentru a influența evoluția societății în bine, și aici avem nevoie de etică – în lipsa acesteia, realitatea se poate transforma în factori și actori sociali maligni.
John George Brown The Bully of the Neighborhood jpg
Și cu copiii ce facem? Intruziune, expunere, violență, anulare
Spațiul virtual a căpătat dimensiuni tot mai mari în viața copiilor, marea lor majoritate preferînd o interacțiune mediată de un dispozitiv uneia reale.
p 14 sus jpg
J’accuse! Indignarea morală și ostracizarea digitală
Nu e mare lucru să ne gîndim mai mult înainte de a (re)acționa, cum nu e nici prea mare efortul de a încerca să vedem lucrurile dintr-o perspectivă mai largă, dincolo de interesele noastre imediate.
p 21 jpg
Linșajul contemporan
Strămoșii noștri nu aveau lideri, judecători sau poliție, dar aveau mijloace pentru a răspunde celor care încălcau normele sociale de a respecta autonomia celorlalți sau de a contribui în mod echitabil la bunăstarea socială
Cea mai bună parte din noi jpeg
Ce rol mai au valorile?
Am aflat că valorile sînt cele care ne dau un sens, iar acest lucru ne face să fim perseverenți și să depășim obstacolele.
p 10 sus jpg
Dihotomia fapte/valori a fost greşit înţeleasă
Valorile sînt ingredientele indispensabile ale realităţii sociale.
Elevi jpg
StateLibQld 2 198959 Planting a tree for Arbor Day at Ban Ban Springs State School, 1920 jpg
Tot ceea ce vreau să fiu
„Prietenia înseamnă să împarți punga de chips-uri cu celălalt.”
p 12 sus jpg
Mesajul corect
Într-o clinică de toxicomani e barometrul cel mai fidel al suferinței unei societăți.
640px Islamic   Garden Scene   1987 360 4   Art Institute of Chicago jpg
Valori, virtuți, viață în islam
Societățile musulmane sînt puternic condiționate de tradiții.
Social Media and Technology jpg
Social media și tribalizarea valorică
Viața noastră socială nu arată întotdeauna precum fluxul nostru de pe rețelele sociale.

Adevarul.ro

Mugur Isărescu - conferinţă de presă sediul BNR - 6 iul 2022 / FOTO Inquam Photos / George Călin
Isărescu: „Am pus cursul valutar tampon la creșterea prețurilor energiei“. Dolarul a atins un nou record
Creșterea accelerată a dolarului în raport cu leul poate fi considerată un tampon pentru creșterea prețurilor la energie, care se răsfrânge în prea multe produse, a explicat Mugur Isărescu.
contor energie electrica
Expert: Noile reguli pentru plafonarea prețurilor energiei sunt imposibil de aplicat
Conexiunea dintre locul de consum și numărul copiilor sau frecventarea școlii de către aceștia este imposibil de realizat de către emitentul facturii la energia electrică, spune Dumitru Chisăliță.
Antony Blinken FOTO EPA EFE jpg
Blinken: Ucraina poate folosi arme occidentale pentru a recâștiga teritoriile anexate de Rusia
Liderul diplomației americane, Antony Blinken, a afirmat că Statele Unite nu se opun ca Ucraina să utilizeze armele furnizate de Occident pentru a recâștiga teritoriile în care Rusia a organizat referendumuri, relatează Ukrainska Pravda.

HIstoria.ro

image
Care este importanța strategică a Insulei Șerpilor?
De mici dimensiuni, având doar 17 hectare, Insula Șerpilor are cu toate acestea o importanță geostrategică semnificativă. Controlul insulei și al apelor înconjurătoare afectează toate rutele de navigație care leagă Ucraina de restul lumii.
image
Cum era la ora de istorie ținută de I.L. Caragiale?
Ca mulţi alţi literaţi, Ion Luca Caragiale a avut o pasiune pentru istorie, inclusiv pentru cea naţională. Blamat de unii încă din timpul vieţii pentru că, în scrierile sale, s-ar fi relevat drept anti-român, el a avut, uneori, o viziune romantică (dacă nu chiar idilică) asupra trecutului neaoș.
image
Aristide Blank, finanțistul camarilei lui Carol al II-lea
Aristide Blank (1883-1961) a fost o personalitate complexă, care după ce a studiat dreptul și filosofia, s-a implicat în lumea financiară națională și internațională, reușind astfel să influențeze major viața politică românească dintre cele două războaie mondiale.