Alunecînd treptat spre distopie

1 iunie 2023
© wikimedia commons
© wikimedia commons

În condițiile în care investitorii pompează miliarde de dolari în start-up-uri din domeniul Inteligenței Artificiale (IA), frenezia IA generative începe să arate ca o bulă speculativă asemănătoare maniei olandeze a lalelelor din anii 1630 și bulei Mării de Sud de la începutul secolului al XVIII-lea. Astăzi, la fel ca și în cazul acestor episoade, boom-ul IA pare să se îndrepte spre o inevitabilă explozie. În loc să creeze noi beneficii, IA amenință să lase în urmă doar munți de datorii.

Agitația IA de azi e alimentată de convingerea că modelele de limbaj extinse, precum chatbot-ul GPT-4 recent lansat de laboratorul OpenAI, vor fi capabile să producă conținuturi virtualmente indiscernabile de cele generate de oameni. Investitorii mizează pe faptul că IA generativă avansată va putea crea fără eforturi text, muzică, imagini și film, în orice stil imaginabil, ca simplu răspuns la solicitarea utilizatorilor.

Și totuși, pe lîngă entuziasmul în creștere pentru IA generativă, există și îngrijorări tot mai mari cu privire la potențialul ei impact ei asupra pieței muncii. Un raport recent Goldman Sachs despre efectele economice „potențial de amploare” ale IA estimează că nu mai puțin de 300 de milioane de locuri de muncă riscă să fie automatizate, inclusiv munci calificate și de birou.

Evident, multe dintre promisiunile și pericolele legate de progresul IA sînt, deocamdată, doar perspective îndepărtate. Încă nu am reușit să dezvoltăm mașini care să posede nivelul de conștiință de sine și capacitatea de a lua decizii în cunoștință de cauză care să corespundă accepțiunii celor mai mulți oameni despre inteligență. Acesta e și motivul pentru care mulți specialiști în tehnologie pledează pentru integrarea unor „norme morale” în sistemele IA, mai înainte ca ele să ajungă să depășească capacitățile omenești.

Dar adevăratul pericol nu e că IA generativă va deveni autonomă, după cum ne fac să credem mulți lideri din domeniul tehnologic, ci că ea va fi folosită pentru a submina autonomia oamenilor. Atît sistemele de IA „restrînse”, cît și cele de „utilizare largă” care pot îndeplini sarcini în mod mai eficient decît oamenii reprezintă o extraordinară oportunitate pentru guvernele și corporațiile care urmăresc să exercite un control sporit asupra comportamentului uman.

După cum observă Shoshana Zuboff în cartea ei The Age of Surveillance Capitalism (2019), evoluția tehnologiilor digitale ar putea duce la apariția „unei noi ordini mondiale care revendică experiența umană ca pe o materie primă, disponibilă gratuit, pentru practici comerciale ascunse de extracție, predicție și vînzări”. Relația tot mai simbiotică dintre guverne și firmele private de supraveghere, remarcă autoarea, e, parțial, rezultatul unui aparat de securitate națională „dinamizat de atacurile din 11 septembrie” și determinat să susțină și să-și însușească tehnologiile cele mai noi, pentru a obține „cunoașterea totală” a comportamentului oamenilor și a vieților lor personale.

Palantir, compania de analiză a datelor co-fondată de investitorul miliardar Peter Thiel [co-fondator și al companiei PayPal – n. trad.] e un caz relevant. Se spune că Thiel, un sponsor important al Partidului Republican din SUA, a convins administrația președintelui american Donald Trump să aloce companiei Palantir contracte profitabile, pentru a dezvolta sisteme IA de uz militar. În schimb, Palantir furnizează servicii de informații Guvernului SUA și altor agenții de spionaj din lume.

În „Călătorie în Laputa”, a treia parte a cărții lui Jonathan Swift Călătoriile lui Gulliver, căpitanul Gulliver descoperă o insulă zburătoare locuită de savanți și de filozofi care au conceput niște metode ingenioase pentru a detecta conspirații. Una dintre aceste metode presupune inspectarea „dietelor tuturor persoanelor suspectate”, precum și examinarea îndeaproape „a excrementelor lor”, inclusiv „culoarea, mirosul, gustul, consistența, cruditatea sau maturitatea digestiei”. Chiar dacă aparatul statal de supraveghere modern se concentrează mai degrabă pe examinarea e-mail-urilor, și nu a funcțiilor corporale, el are un obiectiv similar: să descopere comploturi și conspirații împotriva „ordinii publice” sau „securității naționale” prin pătrunderea în adîncul minților oamenilor.

Dar măsura în care guvernele își pot spiona cetățenii nu depinde doar de tehnologiile disponibile, ci și de „piedicile şi contraponderile” oferite de sistemul politic. De aceea, China, al cărei sistem normativ se concentrează exclusiv pe menținerea stabilității politice și pe susținerea „valorilor socialiste”, a reușit să implementeze cel mai ramificat sistem electronic de supraveghere la nivel de stat din lume. Ceea ce explică și dorința Chinei de a se poziționa ca lider mondial în reglementarea IA generative.

La celălalt pol, în Uniunea Europeană reglementarea e centrată pe drepturile fundamentale ale omului, precum dreptul la demnitate al persoanei, dreptul la viață privată, dreptul la nediscriminare și libertatea de expresie. Cadrul ei normativ pune accentul pe sfera privată, protecția consumatorului, siguranța produselor și moderarea informațiilor. În vreme ce SUA se bazează pe concurență pentru a proteja interesele consumatorului, Legea IA europeană, care urmează să fie finalizată în cursul acestui an, interzice explicit utilizarea datelor generate de utilizatori în scopul „clasificării sociale”.

Sistemul occidental de reglementare a IA „centrat pe om”, care pune accentul pe protecția persoanelor, contrastează puternic cu modelul autoritar chinez. Există însă un pericol evident și real ca cele două sisteme să conveargă în cele din urmă. Această amenințare latentă se explică prin conflictul inerent dintre angajamentul Occidentului pentru drepturile individuale și imperativele sale de securitate națională, care tind să capete întîietate față de libertățile civile, în vremuri de tensiuni geopolitice. Versiunea curentă a Legii IA împuternicește, bunăoară, Comisia Europeană să interzică practici precum politicile predictive, dar cu diverse excepții, ca atunci cînd e vorba de securitatea națională, apărare și aplicații militare.

Odată cu competiția acerbă pentru supremația economică, capacitatea guvernelor de a dezvolta și implementa tehnologii intruzive reprezintă o amenințare nu numai pentru companii și regimuri politice, dar și pentru țări întregi. Această dinamică malignă contrastează cu previziunile optimiste potrivit cărora IA va aduce „o gamă vastă de beneficii economice și sociale pentru un întreg spectru de industrii și activități sociale”.

Din păcate, în democrațiile liberale occidentale, eroziunea treptată a contraputerilor și a limitelor constituționale care reglementează acțiunile guvernamentale face jocul regimurilor autoritare. După cum profetic a observat George Orwell, o stare de război continuu, sau chiar și simpla ei iluzie, creează conjunctura ideală pentru apariția unei distopii tehnologice.

Robert Skidelsky este membru al Camerei Lorzilor a Marii Britanii şi profesor emerit de Economie politică la Universitatea Warwick.

Copyright: Project Syndicate, 2023www.project-syndicate.org

traducere de Matei PLEŞU

image png
Bolboroseala hipnotică a ideilor false
Condiția necesară pentru a evita acest epilog este ca forța de atracție a adevărului să fie mai mare decît bolboroseala hipnotică a ideilor false.
image png
Ursulețul mișel la vînătoare de spioni
Nefericita presupunere că joaca cu cuvintele nu va avea efecte e greșită.
image png
O notă, o stare, o zi...
Altfel, devenim un fel de Mega Image cu de toate...
image png
Ce este întunecarea?
Unii dintre contemporani descifrează misterele galaxiilor îndepărtate cu ajutorul unui nou telescop spațial.
image png
Diamante pe fir de telegraf
Ca și diamantele cumpărate extrem de avantajos de Charles Lewis Tiffany de la aristocrații francezi fugiți din Franța după abdicarea forțată a regelui Ludovic-Filip din 1848.
image png
A treia țeapă
Num-așa, ca ardeleanul suit în Dealul Clujului, vorba unui cîntec.
image png
La o cafea
Cu puţină mămăliguţă caldă, le veţi înghiţi, treptat, pe toate.
image png
Microbiști și tifosi
Indiferent dacă s-a dezvoltat după modelul lui tifoso sau în mod independent, microbist confirmă vitalitatea unei metafore cognitive.
image png
Timpul blamării
Dar cînd vom reuși să facem asta, constructiv, nu doar să ne facem auzite glasurile noastre vitriolate?
p 7 Gaza WC jpg
De ce „restul” respinge Vestul
Această declarație a coincis cu debutul campaniei prezidențiale în SUA, Trump fiind candidatul său preferat.
image png
image png
Buon appetito!
Dar, apropo, cred că, după ce a făcut lumea, Dumnezeu s-a mai gîndit puțin și a creat Italia.
image png
O lecție de responsabilitate
Scriu pentru cititorii noștri de bună-credință, cei mai mulți, care ne prețuiesc și care se vor fi încruntat cînd au văzut numărul nostru de săptămîna trecută.
image png
Cînd economia de piață s-a pierdut printre proteste
Întrebarea este: pînă unde vor merge încălcările principiilor economiei de piață și cele privind funcționarea Uniunii Europene?
image png
De ce n-avea Navalnîi șapcă?
Dar trebuie să îi dăm societății ruse credit că măcar a încercat. Sacrificiul lui Navalnîi e dovada.
image png
Succesiunea
Nici Europa nu stă grozav înaintea unor alegeri care pot să împingă în parlamentele europene diferiți demagogi cu promisiuni maximale și capacități mediocre.
image png
Cum trebuie să fie un președinte
Nu cred în nici o campanie electorală construită pe negativitate, pe agresiune, pe obsesii strict individuale.
image png
Avram Iancu – 200
Și totuși, posteritatea lui este impresionantă și oricine mai simte românește nu poate să nu simtă o înaltă emoție gîndindu-se la el.
image png
image png
Misterul voiniciei
„Strîmbă-Lemne” nu are, după cum se vede, o tipologie fixă, el variind imagistic în funcţie de marotele fiecărei generaţii.
image png
Înscenări
În lipsa exemplelor, utilizatorul obișnuit al dicționarului nu poate fi sigur de excluderea unei construcții.
image png
Viitorul începe ieri
Au mai fost și alte titluri, bineînțeles, poate nu atît de cunoscute, unele de psihologie și dezvoltare personală.
p 7 Adevăratul Copernic jpg
Pletele celeste ale Stăpînului Planetelor
Cel puţin aceasta a fost informaţia care s-a transmis în timp.
image png

Adevarul.ro

image
Prețuri de infarct pe litoral. Cât a plătit un turist pentru o masă la autoservire în Mamaia: „Incredibil! 70 de lei kilogramul de cartofi” VIDEO
Cei care vor să-și petreacă concediul pe litoralul românesc vor fi nevoiți să bage mai adânc mâna în buzunar. Asta a trăit și un român care a decis să ia masa la un restaurant cu autoservire.
image
De ce i-au cerut Regele Charles și Regina Camilla Prințesei Catherine să își schimbe numele. „Prea mulți C”
Prințesa de Wales, cunoscută pe plan mondial ca Kate Middleton, a fost rugată să își schimbe modul de scriere a numelui de către regele Charles și regina Camilla, dezvăluie prințul Harry în cartea sa, „Spare”.
image
Ce a răspuns ÎPS Teodosie când a fost întrebat despre donațiile din banii câștigați la pariuri, loto sau păcănele VIDEO
Arhiepiscopul Tomisului, Teodosie, afirmă că cei care vor să doneze Bisericii sau celor nevoiaşi bani din sumele câştigate la pariuri sau la loto pot face acest lucru fără nici un fel de problemă.

HIstoria.ro

image
De ce mergeau bogătașii ruși la Nisa?
Citirea romanului Fum, de Turgheniev, dar și reluarea prozei mele despre Rușii de la Baden Baden, au făcut să mă întreb: De ce mergeau rușii din lumea înaltă în Occident în proporție de masă? De ce nu dădeau năvală occidentalii în Rusia țaristă?
image
România anului 1944, văzută din exil: „Sfârșitul lumii noastre”
Ajuns în Elveția, Constantin Argetoianu se miră de calmul și liniștea care domnesc în rândul localnicilor și imediat ia pulsul celor câțiva români aflați aici.
image
Un cărturar francez justifică argumentat Comunismul lui Sadoveanu
„Războiul rece bîntuia și printre intelectuali. În acest context, Sadoveanu, care făcuse deja alegerea în 1944, în timpul răsturnării de situație prosovietice acționînd convins potrivit conștiinței sale umaniste, este pus în situația să aibă luări de poziție fără echivoc în favoarea noului regim”.