Idioția artificială

Slavoj ŽIŽEK
Publicat în Dilema Veche nr. 990 din 30 martie – 5 aprilie 2023
Chatbot © wikimedia commons
Chatbot © wikimedia commons

„Chatbot-urile” (sau „interfețele conversaționale”) capabile să poarte o conversație în limbaj natural, să înțeleagă intenția de bază a unui utilizator și să ofere răspunsuri pe baza unor reguli și informații presetate nu sînt o noutate. Dar capacitatea unor astfel de chatbot-uri a sporit dramatic în ultimele luni, ceea ce i-a făcut pe unii să-și frîngă mîinile și să se panicheze.

S-au spus multe despre chatbot-uri și s-a prevestit sfîrșitul eseurilor academice tradiționale. Dar o problemă care justifică o atenție sporită e modul în care chatbot-urile ar trebui să răspundă atunci cînd interlocutorii umani folosesc expresii agresive, sexiste sau rasiste pentru a provoca bot-ul să răspundă cu propriile fantezii spurcate. Ar trebui oare programată inteligența artificială (IA) să răspundă la același nivel cu întrebările care i se pun?

Dacă decidem că numite reglementări sînt în ordine, mai trebuie atunci să stabilim cît de departe ar trebui să meargă cenzura. Se vor interzice punctele de vedere politice pe care anumite grupuri le consideră „ofensatoare”? Ce ne facem cu declarațiile de solidaritate față de palestinienii din Cisiordania sau cu afirmația că Israelul e un stat apartheid (inclusă la un moment dat de fostul președinte american Jimmy Carter în titlul unei cărți [Palestine: Peace Not Apartheid – n. trad.])? Vor fi blocate ca fiind „antisemite”?

Problema nu se termină aici. După cum avertizează artistul și scriitorul James Bridle, noile IA „se bazează pe însușirea la grămadă, fără discernămînt, a culturii existente”, iar convingerea că ele sînt „de fapt bine informate sau semnificative e în mod activ periculoasă”. De aceea, trebuie să fim foarte precauți și față de noile generatoare de imagini IA. „În încercarea lor de a înțelege și reproduce cultura vizuală umană în întregul ei”, observă Bridle, „ele par să fi recreat și fricile noastre cele mai întunecate. Ceea ce e, poate, doar un semn că aceste sisteme sînt într-adevăr capabile să maimuțărească foarte bune conștiința omenească – chiar și oroarea care pîndește în adîncurile existenței: frica noastră de mizerie, de moarte și de depravare.”

Dar cît de bune sînt noile IA în a aproxima conștiința omenească? Să ne gîndim la barul care a lansat recent o reclamă pentru o băutură la ofertă, în următorii termeni: „Cumpără o bere la preț de două și primești a doua bere gratis!”. Pentru orice om asta e, evident, o glumă. Clasica ofertă „cumpără una, primești două” a fost reformulată astfel încît să se autoanuleze. E o expresie de cinism care poate fi apreciată ca formă comică de onestitate, cu scopul de a crește vînzările. Ar înțelege oare un chatbot ceva din toate acestea?

„Fuck” prezintă o problemă similară. Deși desemnează ceva care face plăcere celor mai mulți oameni (actul sexual), termenul capătă uneori și o conotație negativă („Sîntem futuți!”, „Du-te și te fute!”). Limba și realitatea sînt confuze. E IA pregătită să discearnă astfel de diferențe?

În eseul său din 1885 „Despre elaborarea treptată a gîndurilor prin vorbire” (publicat pentru prima oară postum, în 1878), poetul german Heinrich von Kleist contrazice ideea, îndeobște acceptată, potrivit căreia e mai bine să-ți ții gura dacă nu știi ce anume exact vrei să spui: „Dacă, așadar, o idee e exprimată în mod confuz, nu înseamnă că ea a fost şi gîndită în acest fel; dimpotrivă, e foarte posibil ca ideile exprimate cel mai confuz să fi fost gîndite cel mai clar”.

Relația dintre limbă și gîndire e extraordinar de complicată. Într-un pasaj dintr-un discurs de-al lui Stalin, la începutul anilor 1930, el propune măsuri radicale pentru a-i „depista și combate fără milă chiar și pe cei care se opun doar în gînd colectivizării – da, chiar asta vreau să spun, trebuie să combatem chiar și gîndurile oamenilor”. Putem presupune, fără să ne înșelăm prea tare, că acest pasaj nu a fost pregătit dinainte. Aflat, inițial, sub puterea momentului, Stalin a realizat deîndată ceea ce tocmai spusese. Dar, în loc să retracteze, a decis să-și mențină hiperbola.

Acesta a fost un caz, după cum a formulat mai tîrziu Jacques Lacan, în care adevărul a ieșit la suprafață în mod surprinzător, prin actul enunțării. Louis Althusser a identificat un fenomen similar în interacțiunea dintre prise și surprise.Cineva care „prinde” („prise”) sau pricepe dintr-odată o idee va fi surprins de propria sa realizare. Întreb din nou: poate vreun chatbot să facă așa ceva?

Problema nu e că chatbot-urile ar fi stupide, ci că nu sînt suficient de „stupide”. Nu e vorba că ele sînt naive (prin lipsa de ironie și reflexivitate), ci că nu sînt suficient de naive (ele nu își dau seama cînd naivitatea disimulează perspicacitatea). De aceea, adevăratul pericol nu e că oamenii vor confunda un chatbot cu o persoană reală, ci că, datorită comunicării cu chatbot-uri, persoanele reale vor începe să vorbească ca niște chatbot-uri – ratînd toate nuanțele și ironiile, spunînd obsesiv, cu exactitate, doar ceea ce cred ele că vor să spună.

Cînd eram mai tînăr, un prieten s-a dus la psihanalist pentru a se trata în urma unei experiențe traumatice. Reprezentarea prietenului meu despre așteptările acestor analiști de la pacienții lor era un clișeu, astfel încît și-a petrecut prima ședință livrînd false „asociații libere” despre faptul că își ura tatăl și că își dorea să-l vadă mort. Reacția psihanalistului a fost ingenioasă: a adoptat o postură naivă „pre-freudiană” și i-a reproșat prietenului meu că nu își respectă tatăl („Cum poți vorbi astfel despre persoana datorită căreia ești ceea ce ești?”). Această naivitate simulată a transmis un mesaj clar: nu mă las păcălit de „asociațiile” tale. Ar putea să înțeleagă un chatbot acest subtext?

Pesemne că nu, deoarece lucrurile se petrec ca în interpretarea lui Rowan William a Prințului Mîșkin din Idiotul lui Dostoievski. Potrivit lecturii standard, Mîșkin, „idiotul”, e un sfînt, „un om pozitiv bun și frumos” pe care brutalitatea cruntă și patimile lumii reale îl duc la nebunie și izolare. Dar, în reinterpretarea radicală a lui William, Mîșkin reprezintă ochiul unei furtuni: oricît de bun și de sfînt ar fi el, Mîșkin e și cel care declanșează dezastrul și moartea la care devine martor, datorită rolului pe care îl joacă în rețeaua complexă de relații din jurul său.

Mîșkin nu e doar un prostănac naiv. Doar că, datorită naturii speciale a stupidității sale, el nu realizează efectul dezastruos pe care îl are asupra celorlalți. E un personaj plat, care literalmente vorbește ca un chatbot. „Bunătatea” sa rezidă în faptul că, asemenea unui chatbot, el reacționează la feluritele provocări fără ironie, oferind platitudini lipsite de orice formă de  reflexivitate, luînd totul ad litteram și bazîndu-se mai degrabă pe o „completare automată” mentală decît pe o elaborare autentică de idei. Din acest motiv, noile chatbot-uri se vor împăca de minune cu ideologii de toate culorile – de la mulțimile „woke” din ziua de azi la naționaliștii „MAGA” care preferă să rămînă în adormire.

Slavoj Žižek, profesor de Filozofie la European Graduate School, este directorul internațional al Birkbeck Institute for the Humanities la Universitatea din Londra și autorul, printre altele, al volumului Heaven in Disorder (OR Books, 2021).

Copyright: Project Syndicate, 2023

www.project-syndicate.org

traducere de Matei PLEȘU

image png
Bolboroseala hipnotică a ideilor false
Condiția necesară pentru a evita acest epilog este ca forța de atracție a adevărului să fie mai mare decît bolboroseala hipnotică a ideilor false.
image png
Ursulețul mișel la vînătoare de spioni
Nefericita presupunere că joaca cu cuvintele nu va avea efecte e greșită.
image png
O notă, o stare, o zi...
Altfel, devenim un fel de Mega Image cu de toate...
image png
Ce este întunecarea?
Unii dintre contemporani descifrează misterele galaxiilor îndepărtate cu ajutorul unui nou telescop spațial.
image png
Diamante pe fir de telegraf
Ca și diamantele cumpărate extrem de avantajos de Charles Lewis Tiffany de la aristocrații francezi fugiți din Franța după abdicarea forțată a regelui Ludovic-Filip din 1848.
image png
A treia țeapă
Num-așa, ca ardeleanul suit în Dealul Clujului, vorba unui cîntec.
image png
La o cafea
Cu puţină mămăliguţă caldă, le veţi înghiţi, treptat, pe toate.
image png
Microbiști și tifosi
Indiferent dacă s-a dezvoltat după modelul lui tifoso sau în mod independent, microbist confirmă vitalitatea unei metafore cognitive.
image png
Timpul blamării
Dar cînd vom reuși să facem asta, constructiv, nu doar să ne facem auzite glasurile noastre vitriolate?
p 7 Gaza WC jpg
De ce „restul” respinge Vestul
Această declarație a coincis cu debutul campaniei prezidențiale în SUA, Trump fiind candidatul său preferat.
image png
image png
Buon appetito!
Dar, apropo, cred că, după ce a făcut lumea, Dumnezeu s-a mai gîndit puțin și a creat Italia.
image png
O lecție de responsabilitate
Scriu pentru cititorii noștri de bună-credință, cei mai mulți, care ne prețuiesc și care se vor fi încruntat cînd au văzut numărul nostru de săptămîna trecută.
image png
Cînd economia de piață s-a pierdut printre proteste
Întrebarea este: pînă unde vor merge încălcările principiilor economiei de piață și cele privind funcționarea Uniunii Europene?
image png
De ce n-avea Navalnîi șapcă?
Dar trebuie să îi dăm societății ruse credit că măcar a încercat. Sacrificiul lui Navalnîi e dovada.
image png
Succesiunea
Nici Europa nu stă grozav înaintea unor alegeri care pot să împingă în parlamentele europene diferiți demagogi cu promisiuni maximale și capacități mediocre.
image png
Cum trebuie să fie un președinte
Nu cred în nici o campanie electorală construită pe negativitate, pe agresiune, pe obsesii strict individuale.
image png
Avram Iancu – 200
Și totuși, posteritatea lui este impresionantă și oricine mai simte românește nu poate să nu simtă o înaltă emoție gîndindu-se la el.
image png
image png
Misterul voiniciei
„Strîmbă-Lemne” nu are, după cum se vede, o tipologie fixă, el variind imagistic în funcţie de marotele fiecărei generaţii.
image png
Înscenări
În lipsa exemplelor, utilizatorul obișnuit al dicționarului nu poate fi sigur de excluderea unei construcții.
image png
Viitorul începe ieri
Au mai fost și alte titluri, bineînțeles, poate nu atît de cunoscute, unele de psihologie și dezvoltare personală.
p 7 Adevăratul Copernic jpg
Pletele celeste ale Stăpînului Planetelor
Cel puţin aceasta a fost informaţia care s-a transmis în timp.
image png

Adevarul.ro

image
Podul peste Dunăre de la Brăila arată jalnic. Asfaltul a crăpat și s-au format șanțuri ca pe „arătură”, spun șoferii VIDEO
Șoferii care trec pe podul peste Dunăre de la Brăila sunt revoltați. Deși a fost dat în folosință în urmă cu un an, podul arată deplorabil. Asfaltul a crăpat și s-au format numeroase șanțuri, exact ca pe un drum abandonat.
image
Surse: Dani Mocanu a rămas fără permis după ce a fost prins „zburând” pe A2. Ce viteză avea manelistul
Polițiștii au amendat sâmbătă, 13 iulie, șoferul unei mașini marca BMW, care circula cu o viteza uimitoare pe A2. Potrivit unor surse, la volan s-ar fi aflat manelistul Dani Mocanu.
image
Turiștii, terorizați de marea de alge de pe litoral. „Acolo unde au curățat, valurile aduc din nou cantități mari de alge” VIDEO
Zeci de mii de turiști goniți de caniculă în stațiunile de pe Litoral au parte, în aceste zile, de o surpriză mai puțin plăcută: apele Mării Negre au devenit verzi din cauza tonelor de alge aduse la mal și care miros a hazna.

HIstoria.ro

image
România anului 1944, văzută din exil: „Sfârșitul lumii noastre”
Ajuns în Elveția, Constantin Argetoianu se miră de calmul și liniștea care domnesc în rândul localnicilor și imediat ia pulsul celor câțiva români aflați aici.
image
Un cărturar francez justifică argumentat Comunismul lui Sadoveanu
„Războiul rece bîntuia și printre intelectuali. În acest context, Sadoveanu, care făcuse deja alegerea în 1944, în timpul răsturnării de situație prosovietice acționînd convins potrivit conștiinței sale umaniste, este pus în situația să aibă luări de poziție fără echivoc în favoarea noului regim”.
image
Războiului din Pacific: decriptarea codului japonez JN-25b
Un salt major pentru SUA în domeniul informațiilor a avut loc în februarie 1942, când criptanaliștii US Navy au început decriptarea mesajelor japoneze trimise cu ajutorul codului naval standard JN-25b.