Ochi roșii, de robot

Prin anii ’70, în orășelul meu, care era și stațiune balneoclimaterică, exista un parc tăiat din pădurea seculară în care fuseseră construite un hotel cu 600 de locuri și unul cu 900 de locuri, mereu ocupate de oameni ai muncii cu probleme de stomac, veniți la tratament și aer curat. În parc a apărut o instalație pe care o priveam cu respirația tăiată, cu intensitatea fascinației pe care o încerci la vîrsta de patru-cinci ani față de ceva nemaivăzut. Un țăran și un muncitor decupați din tablă și pictați fără dubiu confom identității lor profesionale munceau împreună, ridicînd alternativ uriașe baroase, pentru edificarea unei construcții care-mi părea la fel de măreață ca simpla lor prezență. Îi anima un mecanism hidraulic și instalația era de fapt o fîntînă arteziană în care apa era distribuită în recipientul care ridica primul baros, de unde cădea în recipientul care-l activa pe al doilea și în felul ăsta baletul socialist continua la nesfîrșit. Singurul lucru care stătea în calea transformării instalației în perpetuum mobile era, cum se întîmplă în viață, realitatea că nici un sistem nu funcționează la randament de 100% și că apa evaporată de căldura verii trebuia periodic readusă la nivel. Eu eram vrăjită de toată scena de propagandă, la care voiam să asist zilnic, chiar dacă părinții nu-mi împărtășeau fixația. Criza familială a durat pînă la vizita bunicului Ion, care mi-a explicat metodic parcursul apei, mi-a reprodus acasă, cu pahare și căni, mișcarea celor două personaje și cu asta a dezvrăjit totul.

Aveam să aflu că nu trecusem doar eu prin vrăjirea și dezvrăjirea automatonului: la fel pățise Dorothy, nu atît în legătură cu Omul-de-tinichea, care voia să fie om adevărat, după cum păpușa de lemn devenea băiețel adevărat în Pinocchio, cît în legătură cu marele vrăjitor însuși, capabil, asemenea bunicului meu Ion, să inventeze mașinării mecanice și să le pună în mișcare ca și cum ar fi naturale și vii; la fel, băiatul din Regele alb, de György Dragomán, care învață cum să-i răpească puterea „turcului mecanic”, automatonul șahist; la fel, nedumeriții de mașinăriile căpitanului Nemo și cîți și mai cîți. De la Cartea eleganțelor hidraulice, din China secolului al VII-lea, la Cartea cunoașterii mecanismelor ingenioase, scrisă în secolul al XIII-lea de inginerul-filosof Al-Jazari, pînă la leul mecanic proiectat de Leonardo da Vinci sau la mecanismele visate în proza lui Mircea Cărtărescu, avem dovezi nenumărate despre cîte palpitații ne dă iluzia că viața s-ar putea ascunde în rețeta unui mecanism construit de o minte omenească.

De parcă mai era nevoie, tratatul cartezian despre om, unul dintre principalele texte care ne-au făcut să înțelegem, în Europa, raționalitatea ca pe o condiție a umanității, leagă indestructibil ecuația umanului de mecanism și mecanicitate, insistînd că sufletul nu este decît mecanismul care contractă mușchii, folosind creierul ca pe o mașinărie hidraulică. Din secolul al XVII-lea, frisonul automatoanelor a bîntuit fără rival pînă recent, cînd altul i-a luat locul. Pentru mine, a fost declanșat de un film hollywoodian lansat în 2013 și intitulat HER, în care personajul masculin destul de stingher, jucat de Joaquin Phoenix, suferă că i s-a destrămat căsnicia și se îndrăgostește de sistemul de operare care-i vorbește cu vocea senzuală a lui Scarlett Johansson. Finalul (spoiler alert) dezvăluie că tot ceea ce Theodore trăise drept relație plenară, semnificativă și, mai ales, reală, fusese doar unul dintre traseele de acțiune ale sistemului care întreținea simultan și la aceeași profunzime relații semnificative cu alte entități umane. Or acum, pe finalul filmului, sistemul de operare se îndrepta, aveam să aflu după lecturi frenetice pe temă, către momentul singularității, chiar dacă filmul nu ne explicita asta, lăsîndu-și utilizatorul și mai distrus emoțional decît îl găsise, dar și stupefiat că așa ceva fusese posibil. Iată că mecanismul automatonului nu mai putea fi desfăcut și înțeles.

Singularitatea tehnologică nu e, cum li s-ar putea părea umaniștilor hrăniți cu iluziile romantice ale individualismului modern (originalitate, spontaneitate, unicitate, unul pentru toți, toți pentru unul), o metaforă, o apoteoză a ceea ce individul are mai scump și mai frumos, ci un presupus (și nu prea îndepărtat, se pare) moment în care tehnologiile cibernetice create și antrenate de către om vor atinge punctul în care intervenția omului nu va mai fi necesară pentru ca ele să continue să execute programe, să construiască algoritmi și, desigur, să ia decizii cu privire la traseele acestora.

Androidul Sophia, ChatGPT, AI, sistemele inteligente de automatizare a vieții cotidiene, algoritmii de recunoaștere vizuală și de profilare a consumului în rețelele de socializare sînt tot atîtea noi subiecte de fascinație și rezumă tot atîtea victorii ale inteligenței tehnologice. Un lucru este însă fundamental diferit de epocile mecanice, cînd invenției inginerești îi urma mereu o durată în care i se oferea și un sens: filosofic, etic, social, istoric, individual și colectiv. Un spațiu în care lucrurile puteau fi explicate și înțelese nu doar mecanic, ci uman, etic, integrativ. Sigur că apariția oricărei tehnologii e privită cu suspiciune și teamă din principiu: ni-i putem imagina pe conservatorii din Paleolitic avertizîndu-i pe tinerii paleolitici cu privire la pericolul folosirii focului, roții, toporului din piatră cioplită (da, chiar dacă nu vorbeau articulat, n-am nici o îndoială că înțelepții își vor fi comunicat dezaprobarea cu maximă claritate, ca și astăzi). Dar e la fel de adevărat că pînă nu demult demistificarea acestei suspiciuni avea timp să se întîmple și că nu venea niciodată din cercurile inginerești, ci din alte două surse: din utilizare și din discursul socio-umanist.

Amenințarea și frica de singularitate, de prezentele transformări bio-socio-tehnologice vine din suspendarea și chiar anularea acestei perioade de reflecție în vîrtejul mereu mai rapid al progresiei inginerești. Barosul ingineriei nu mai este urmat de contrapartea lui filosofică și mecanismul hidraulic s-a defectat. Într-o formulare memorabilă din 2009, a controversatului Edward O. Wilson, problema modernității noastre este că „avem emoții paleolitice, instituții medievale și tehnologie cvasi-divină (god-like)”. Din această discrepanță vine pericolul mascat sub inocența interacțiunii noastre cu ChatGPT sau cu aplicațiile de autoexpunere și morfare accesibile gratuit în toate rețelele de socializare. Ideea că, de vreme ce noi le-am făcut, le putem și desface, colportată printre hăhăieli în discursul public, e de o naivitate iluministă îngrijorătoare. Spre exemplu, aplicația FaceApp, căreia sute de milioane de utilizatori i-au încredințat de bunăvoie date personale din joaca vanitoasă de a vedea cum vor arăta în viitor, a stocat toate aceste date în proprietatea companiei rusești care o deține, cu sediul în St. Petersburg. Pe lîngă complicitatea la destrămarea propriei intimități și la dotarea voluntară a unor arhive deținute de proprietari obscuri, pentru scopuri neclare, ar trebui să fim mai atenți la capacitatea tehnologiilor amintite de a meta-opera, respectiv de a se autoanaliza pentru a-și repara disfuncțiile și pentru a progresa după o curbă de progresie multiplu și imprevizibil accelerată geometric. 

Există azi un Institute for Humane Knowledge (un bun rezumat face Tristan Harris, unul dintre inițiatori, din articolul căruia, publicat în The New York Times, am rezumat mai sus), care identifică o fractură a cunoașterii (a wisdom gap)cînd apare un clivaj „între complexitatea lumii și capacitatea noastră de a-i da sens și de a reacționa adecvat”. Aș adăuga că, mai ales în modernitățile „originale”, în care etapele de dezvoltare socio-economică au fost arse amestecat și simultan, cred că ne-ar prinde bine astfel de instrumente de semnificare, cu care să metabolizăm progresul tehnologic și din punct de vedere etic, în care să gîndim proiectiv cu privire la rezultatele lui asupra lumii, umanului și non-umanului, a dezastrului climatic etc. Non-catastrofic, dar și non-idealizant.

Sigur că pînă aici noi am hrănit AI și am furnizat toate materialele utilizate acum de ChatGPT pentru a scrie texte, romane, muzică, cărți, pentru a întreține dialoguri în mod „omenesc”. Dar din acest punct încolo, contribuția noastră e deja imitabilă, replicabilă și corijabilă într-un ritm și pe niște rute care, spun socio-biologii, aproape ne-au scăpat de sub control. Pînă aici, automatoanele cibernetice se mișcau ca și cum ar fi vii, dar e posibil ca astăzi raportul de autoritate să se afle într-un punct de basculare, ca barosul ridicat în aer de la începutul acestui text, și să avem deja mai multe în comun cu automatoanele decît cu creatorii. Cît timp rezistăm fără să ne verificăm telefoanele, aplicațiile, mesajele? Cît facem față presiunii bulinuțelor roșii care ni se acumulează pe ecrane ca semn că uite, nu merge lumea fără noi, trebuie să acționăm, să lăsăm deoparte ce-am face din propria noastră dorință/voință (mai știm care sînt?) și să ne achităm de sarcina urgentă, semnalată cu roșu. Pervers este că, în crearea algoritmilor de construire a dependenței utilizatorilor, sînt folosite tocmai emoțiile noastre paleolitice, adică devenim automatoane din cel mai omenesc izvor al propriei „naturaleți”, mișcîndu-ne apoi pe cele mai previzibile trasee mecanice, trași de sfori electronice.

Ca să nu fiu inexact inclusă în corul sus-pomenit al conservatorilor paleolitici, vreau să clarific că am o relație bună cu tehnologia, sînt fundamental optimistă științific și îmi gonflez narcisismul ca tot omul pe rețelele sociale. Doar că mă număr printre cei convinși că progresul ingineresc nu poate fi lăsat exclusiv în seama inginerilor și cu atît mai puțin în seama finanțatorilor acestora, că nu poate rămîne nereglementat etic și nici lipsit de al doilea timp, al reflecției care să proiecteze care e sensul uman și non-uman al posibilelor lui rezultate. 

Mihaela Ursa este profesoară de literatură comparată la Facultatea de Litere din Cluj. A publicat recent Indisciplina ficțiunii. Viața de după carte a literaturii (Editura Casa cărții de știință, 2022).