Ochi roșii, de robot

Mihaela URSA
Publicat în Dilema Veche nr. 1021 din 2 noiembrie – 8 noiembrie 2023
HER
HER

Prin anii ’70, în orășelul meu, care era și stațiune balneoclimaterică, exista un parc tăiat din pădurea seculară în care fuseseră construite un hotel cu 600 de locuri și unul cu 900 de locuri, mereu ocupate de oameni ai muncii cu probleme de stomac, veniți la tratament și aer curat. În parc a apărut o instalație pe care o priveam cu respirația tăiată, cu intensitatea fascinației pe care o încerci la vîrsta de patru-cinci ani față de ceva nemaivăzut. Un țăran și un muncitor decupați din tablă și pictați fără dubiu confom identității lor profesionale munceau împreună, ridicînd alternativ uriașe baroase, pentru edificarea unei construcții care-mi părea la fel de măreață ca simpla lor prezență. Îi anima un mecanism hidraulic și instalația era de fapt o fîntînă arteziană în care apa era distribuită în recipientul care ridica primul baros, de unde cădea în recipientul care-l activa pe al doilea și în felul ăsta baletul socialist continua la nesfîrșit. Singurul lucru care stătea în calea transformării instalației în perpetuum mobile era, cum se întîmplă în viață, realitatea că nici un sistem nu funcționează la randament de 100% și că apa evaporată de căldura verii trebuia periodic readusă la nivel. Eu eram vrăjită de toată scena de propagandă, la care voiam să asist zilnic, chiar dacă părinții nu-mi împărtășeau fixația. Criza familială a durat pînă la vizita bunicului Ion, care mi-a explicat metodic parcursul apei, mi-a reprodus acasă, cu pahare și căni, mișcarea celor două personaje și cu asta a dezvrăjit totul.

Aveam să aflu că nu trecusem doar eu prin vrăjirea și dezvrăjirea automatonului: la fel pățise Dorothy, nu atît în legătură cu Omul-de-tinichea, care voia să fie om adevărat, după cum păpușa de lemn devenea băiețel adevărat în Pinocchio, cît în legătură cu marele vrăjitor însuși, capabil, asemenea bunicului meu Ion, să inventeze mașinării mecanice și să le pună în mișcare ca și cum ar fi naturale și vii; la fel, băiatul din Regele alb, de György Dragomán, care învață cum să-i răpească puterea „turcului mecanic”, automatonul șahist; la fel, nedumeriții de mașinăriile căpitanului Nemo și cîți și mai cîți. De la Cartea eleganțelor hidraulice, din China secolului al VII-lea, la Cartea cunoașterii mecanismelor ingenioase, scrisă în secolul al XIII-lea de inginerul-filosof Al-Jazari, pînă la leul mecanic proiectat de Leonardo da Vinci sau la mecanismele visate în proza lui Mircea Cărtărescu, avem dovezi nenumărate despre cîte palpitații ne dă iluzia că viața s-ar putea ascunde în rețeta unui mecanism construit de o minte omenească.

De parcă mai era nevoie, tratatul cartezian despre om, unul dintre principalele texte care ne-au făcut să înțelegem, în Europa, raționalitatea ca pe o condiție a umanității, leagă indestructibil ecuația umanului de mecanism și mecanicitate, insistînd că sufletul nu este decît mecanismul care contractă mușchii, folosind creierul ca pe o mașinărie hidraulică. Din secolul al XVII-lea, frisonul automatoanelor a bîntuit fără rival pînă recent, cînd altul i-a luat locul. Pentru mine, a fost declanșat de un film hollywoodian lansat în 2013 și intitulat HER, în care personajul masculin destul de stingher, jucat de Joaquin Phoenix, suferă că i s-a destrămat căsnicia și se îndrăgostește de sistemul de operare care-i vorbește cu vocea senzuală a lui Scarlett Johansson. Finalul (spoiler alert) dezvăluie că tot ceea ce Theodore trăise drept relație plenară, semnificativă și, mai ales, reală, fusese doar unul dintre traseele de acțiune ale sistemului care întreținea simultan și la aceeași profunzime relații semnificative cu alte entități umane. Or acum, pe finalul filmului, sistemul de operare se îndrepta, aveam să aflu după lecturi frenetice pe temă, către momentul singularității, chiar dacă filmul nu ne explicita asta, lăsîndu-și utilizatorul și mai distrus emoțional decît îl găsise, dar și stupefiat că așa ceva fusese posibil. Iată că mecanismul automatonului nu mai putea fi desfăcut și înțeles.

Singularitatea tehnologică nu e, cum li s-ar putea părea umaniștilor hrăniți cu iluziile romantice ale individualismului modern (originalitate, spontaneitate, unicitate, unul pentru toți, toți pentru unul), o metaforă, o apoteoză a ceea ce individul are mai scump și mai frumos, ci un presupus (și nu prea îndepărtat, se pare) moment în care tehnologiile cibernetice create și antrenate de către om vor atinge punctul în care intervenția omului nu va mai fi necesară pentru ca ele să continue să execute programe, să construiască algoritmi și, desigur, să ia decizii cu privire la traseele acestora.

Androidul Sophia, ChatGPT, AI, sistemele inteligente de automatizare a vieții cotidiene, algoritmii de recunoaștere vizuală și de profilare a consumului în rețelele de socializare sînt tot atîtea noi subiecte de fascinație și rezumă tot atîtea victorii ale inteligenței tehnologice. Un lucru este însă fundamental diferit de epocile mecanice, cînd invenției inginerești îi urma mereu o durată în care i se oferea și un sens: filosofic, etic, social, istoric, individual și colectiv. Un spațiu în care lucrurile puteau fi explicate și înțelese nu doar mecanic, ci uman, etic, integrativ. Sigur că apariția oricărei tehnologii e privită cu suspiciune și teamă din principiu: ni-i putem imagina pe conservatorii din Paleolitic avertizîndu-i pe tinerii paleolitici cu privire la pericolul folosirii focului, roții, toporului din piatră cioplită (da, chiar dacă nu vorbeau articulat, n-am nici o îndoială că înțelepții își vor fi comunicat dezaprobarea cu maximă claritate, ca și astăzi). Dar e la fel de adevărat că pînă nu demult demistificarea acestei suspiciuni avea timp să se întîmple și că nu venea niciodată din cercurile inginerești, ci din alte două surse: din utilizare și din discursul socio-umanist.

Amenințarea și frica de singularitate, de prezentele transformări bio-socio-tehnologice vine din suspendarea și chiar anularea acestei perioade de reflecție în vîrtejul mereu mai rapid al progresiei inginerești. Barosul ingineriei nu mai este urmat de contrapartea lui filosofică și mecanismul hidraulic s-a defectat. Într-o formulare memorabilă din 2009, a controversatului Edward O. Wilson, problema modernității noastre este că „avem emoții paleolitice, instituții medievale și tehnologie cvasi-divină (god-like)”. Din această discrepanță vine pericolul mascat sub inocența interacțiunii noastre cu ChatGPT sau cu aplicațiile de autoexpunere și morfare accesibile gratuit în toate rețelele de socializare. Ideea că, de vreme ce noi le-am făcut, le putem și desface, colportată printre hăhăieli în discursul public, e de o naivitate iluministă îngrijorătoare. Spre exemplu, aplicația FaceApp, căreia sute de milioane de utilizatori i-au încredințat de bunăvoie date personale din joaca vanitoasă de a vedea cum vor arăta în viitor, a stocat toate aceste date în proprietatea companiei rusești care o deține, cu sediul în St. Petersburg. Pe lîngă complicitatea la destrămarea propriei intimități și la dotarea voluntară a unor arhive deținute de proprietari obscuri, pentru scopuri neclare, ar trebui să fim mai atenți la capacitatea tehnologiilor amintite de a meta-opera, respectiv de a se autoanaliza pentru a-și repara disfuncțiile și pentru a progresa după o curbă de progresie multiplu și imprevizibil accelerată geometric. 

Există azi un Institute for Humane Knowledge (un bun rezumat face Tristan Harris, unul dintre inițiatori, din articolul căruia, publicat în The New York Times, am rezumat mai sus), care identifică o fractură a cunoașterii (a wisdom gap)cînd apare un clivaj „între complexitatea lumii și capacitatea noastră de a-i da sens și de a reacționa adecvat”. Aș adăuga că, mai ales în modernitățile „originale”, în care etapele de dezvoltare socio-economică au fost arse amestecat și simultan, cred că ne-ar prinde bine astfel de instrumente de semnificare, cu care să metabolizăm progresul tehnologic și din punct de vedere etic, în care să gîndim proiectiv cu privire la rezultatele lui asupra lumii, umanului și non-umanului, a dezastrului climatic etc. Non-catastrofic, dar și non-idealizant.

Sigur că pînă aici noi am hrănit AI și am furnizat toate materialele utilizate acum de ChatGPT pentru a scrie texte, romane, muzică, cărți, pentru a întreține dialoguri în mod „omenesc”. Dar din acest punct încolo, contribuția noastră e deja imitabilă, replicabilă și corijabilă într-un ritm și pe niște rute care, spun socio-biologii, aproape ne-au scăpat de sub control. Pînă aici, automatoanele cibernetice se mișcau ca și cum ar fi vii, dar e posibil ca astăzi raportul de autoritate să se afle într-un punct de basculare, ca barosul ridicat în aer de la începutul acestui text, și să avem deja mai multe în comun cu automatoanele decît cu creatorii. Cît timp rezistăm fără să ne verificăm telefoanele, aplicațiile, mesajele? Cît facem față presiunii bulinuțelor roșii care ni se acumulează pe ecrane ca semn că uite, nu merge lumea fără noi, trebuie să acționăm, să lăsăm deoparte ce-am face din propria noastră dorință/voință (mai știm care sînt?) și să ne achităm de sarcina urgentă, semnalată cu roșu. Pervers este că, în crearea algoritmilor de construire a dependenței utilizatorilor, sînt folosite tocmai emoțiile noastre paleolitice, adică devenim automatoane din cel mai omenesc izvor al propriei „naturaleți”, mișcîndu-ne apoi pe cele mai previzibile trasee mecanice, trași de sfori electronice.

Ca să nu fiu inexact inclusă în corul sus-pomenit al conservatorilor paleolitici, vreau să clarific că am o relație bună cu tehnologia, sînt fundamental optimistă științific și îmi gonflez narcisismul ca tot omul pe rețelele sociale. Doar că mă număr printre cei convinși că progresul ingineresc nu poate fi lăsat exclusiv în seama inginerilor și cu atît mai puțin în seama finanțatorilor acestora, că nu poate rămîne nereglementat etic și nici lipsit de al doilea timp, al reflecției care să proiecteze care e sensul uman și non-uman al posibilelor lui rezultate. 

Mihaela Ursa este profesoară de literatură comparată la Facultatea de Litere din Cluj. A publicat recent Indisciplina ficțiunii. Viața de după carte a literaturii (Editura Casa cărții de știință, 2022).

Comunismul se aplică din nou jpeg
Începe vara
Tranziția pe care o aduce toamna poate fi de multe ori delicată, ca o dulce amînare.
11642099644 1a9d5559e6 o jpg
A treia fiică a anului
Toamna întind mîna după paharul de vin și fotografii vechi, mă duc la tîrgul de cărți, ascult teatru radiofonic.
Chisinau Center4 jpg
Toamna-Toamnelor
Pentru mine, Chişinăul devenise, încet, un oraș galben, despre care îmi plăcea să spun că găzduiește Toamna-Toamnelor.
p 11 sus Sonata de toamna jpg
Lasă-mi toamna
În „Sonata de toamnă” (1978), Ingmar Bergman dedică acest anotimp transpunerii unei întîlniri dintre o mamă și o fiică înstrăinate.
31524231041 19fca33e3b o jpg
Viața începe cînd cade prima frunză
Și-acum, la 33 de ani, îmi cumpăr haine noi odată cu fiecare început de toamnă, de parcă m-aș pregăti iar pentru școală.
p 12 sus WC jpg
Delta
Septembrie era pentru noi și luna marii traversări a lacului Razelm.
51604890122 85f6db3777 k jpg
Toamna vrajbei noastre
„Nu «Rarul umple carul», ci «Desul umple carul»!“
3035384225 17c8a2043e k jpg
Toamna între maşini paralele
Ne mai amintim cum arăta o toamnă în București în urmă cu 17 ani?
p 14 WC jpg
p 23 WC jpg
Make tea, not war
Ori de cîte ori englezii nu se simt în largul lor într-o situație (adică aproape tot timpul), pun de ceai.
image png
SF-ul din viețile noastre
Dosarul de acum e o revizitare a unor epoci dispărute.
p 10 la Babeti WC jpg
Cine te face voinic?
Iar azi – numai săpunuri bio, zero clăbuc, sau geluri antibacteriene, zero miros.
image png
Sînt atît de bătrîn, că
Sînt atît de bătrîn, că în copilăria mea dudele se mîncau de pe jos, din praf.
image png
În tranziţie
O zi şi o noapte a durat, cred, aşteptarea pe trotuarul primului McDonald’s, pentru un burger gratuit.
p 11 la Rugina jpg
Avem casete cu „Casablanca“
Fell in love with you watching Casablanca.
p 12 la Mihalache jpg
Unde ești?
„Și după aia pot să plec?” „În nici un caz!” „Nu mai înțeleg nimic!”, se bosumflă. Nu știu dacă e ceva de înțeles, m-am gîndit, dar nu i-am mai spus.
image png
Cu o bursă de studii la Berlin
Mă întreb cum s-ar mai putea realiza astăzi experiența unei călătorii în care totul nu e planificat dinainte pe Internet
p 13 foto Alex Galmeanu jpg
image png
Despre dinozauri şi mamifere conectate (şi tatuate)
De pe margine, cei care privesc melancolic şi neputincios sînt doar dinozaurii.
image png
30 de ani mai tîrziu
Mă atrag tîrgurile cu vechituri într-un fel de neînțeles.
WhatsApp Image 2023 11 22 at 10 28 30 jpeg
Ceea ce nu poate reda o fotografie
Și cît de greu ar fi azi să-ți imaginezi încarnarea unei legături printr-un tom de hîrtie?
image png
image png
Schiță pentru o etică a recunoștinței
Gratitudinea e o recunoaștere a felului misterios în care ni se întîmplă binele.
image png
Recunoștința, darul „învățăceilor”
Ceea ce primesc eu de la „învațăceii” mei este extrem de prețios.

Adevarul.ro

image
Caz șocant în Olt. Un bărbat a fost decapitat, iar capul i-a fost aruncat la WC
Un caz șocant de crimă s-a produs miercuri, 6 decembrie 2023, în jurul orei 14,30, în localitatea Slătioara din județul Olt. Un bărbat a fost decapitat de un altul.
image
Manele cu conotații sexuale, la balurile de boboci din Craiova. "Au ajuns să le arate pe scenă și cum se face" VIDEO
Un liceu renumit din Craiova este arătat cu degetul după ce în spațiul public au apărut imagini de la petrecerea elevilor de clasa a IX-a. Artistul Luis Gabriel, anunțat pe afișul evenimentului drept "special guest". este acuzat că a cântat în fața minorilor melodii obscene.
image
Scandal în Italia: Bijutier condamnat la 17 ani de închisoare pentru uciderea a doi hoți care i-au legat fiica și i-au jefuit magazinul VIDEO
Un bijutier din Italia a fost condamnat la 17 ani de închisoare pentru că a împușcat mortal doi hoți care i-au jefuit magazinul și i-au legat fiica. Sentința a declanșat o dezbatere aprinsă privind limitele autoapărării în Italia.

HIstoria.ro

image
Zguduitoarea dramă amoroasă din Brăila, care a captivat presa interbelică
În anii 1923-1924, numita Anny Bally din Brăila, „de o frumuseţe rară“, a încercat să se sinucidă din dragoste. În 8 noiembrie 1924, tot din amor, şi-a împuşcat iubitul, după care s-a împuşcat şi ea.
image
Importanța stației NKVD de la Londra în timpul celui de-al Doilea Război Mondial
În 1941, stația NKVD de la Londra era cea mai productivă din lume, comunicând Moscovei 7.867 de documente diplomatice și politice, 715 documente pe probleme militare, 127 referitoare la aspecte economice și 51 legate de activități sau operațiuni ale serviciilor de informații.
image
Ce a însemnat România Mare
1 Decembrie 1918 a rămas în mentalul colectiv ca data la care idealul românilor a fost îndeplinit, în fața deschizându-se o nouă etapă, aceea a conștientizării și punerii în aplicare a consecințelor ce au urmat acestui act, crearea României Mari.