Alunecînd treptat spre distopie

1 iunie 2023 PE CE LUME TRĂIM

În condițiile în care investitorii pompează miliarde de dolari în start-up-uri din domeniul Inteligenței Artificiale (IA), frenezia IA generative începe să arate ca o bulă speculativă asemănătoare maniei olandeze a lalelelor din anii 1630 și bulei Mării de Sud de la începutul secolului al XVIII-lea. Astăzi, la fel ca și în cazul acestor episoade, boom-ul IA pare să se îndrepte spre o inevitabilă explozie. În loc să creeze noi beneficii, IA amenință să lase în urmă doar munți de datorii.

Agitația IA de azi e alimentată de convingerea că modelele de limbaj extinse, precum chatbot-ul GPT-4 recent lansat de laboratorul OpenAI, vor fi capabile să producă conținuturi virtualmente indiscernabile de cele generate de oameni. Investitorii mizează pe faptul că IA generativă avansată va putea crea fără eforturi text, muzică, imagini și film, în orice stil imaginabil, ca simplu răspuns la solicitarea utilizatorilor.

Și totuși, pe lîngă entuziasmul în creștere pentru IA generativă, există și îngrijorări tot mai mari cu privire la potențialul ei impact ei asupra pieței muncii. Un raport recent Goldman Sachs despre efectele economice „potențial de amploare” ale IA estimează că nu mai puțin de 300 de milioane de locuri de muncă riscă să fie automatizate, inclusiv munci calificate și de birou.

Evident, multe dintre promisiunile și pericolele legate de progresul IA sînt, deocamdată, doar perspective îndepărtate. Încă nu am reușit să dezvoltăm mașini care să posede nivelul de conștiință de sine și capacitatea de a lua decizii în cunoștință de cauză care să corespundă accepțiunii celor mai mulți oameni despre inteligență. Acesta e și motivul pentru care mulți specialiști în tehnologie pledează pentru integrarea unor „norme morale” în sistemele IA, mai înainte ca ele să ajungă să depășească capacitățile omenești.

Dar adevăratul pericol nu e că IA generativă va deveni autonomă, după cum ne fac să credem mulți lideri din domeniul tehnologic, ci că ea va fi folosită pentru a submina autonomia oamenilor. Atît sistemele de IA „restrînse”, cît și cele de „utilizare largă” care pot îndeplini sarcini în mod mai eficient decît oamenii reprezintă o extraordinară oportunitate pentru guvernele și corporațiile care urmăresc să exercite un control sporit asupra comportamentului uman.

După cum observă Shoshana Zuboff în cartea ei The Age of Surveillance Capitalism (2019), evoluția tehnologiilor digitale ar putea duce la apariția „unei noi ordini mondiale care revendică experiența umană ca pe o materie primă, disponibilă gratuit, pentru practici comerciale ascunse de extracție, predicție și vînzări”. Relația tot mai simbiotică dintre guverne și firmele private de supraveghere, remarcă autoarea, e, parțial, rezultatul unui aparat de securitate națională „dinamizat de atacurile din 11 septembrie” și determinat să susțină și să-și însușească tehnologiile cele mai noi, pentru a obține „cunoașterea totală” a comportamentului oamenilor și a vieților lor personale.

Palantir, compania de analiză a datelor co-fondată de investitorul miliardar Peter Thiel [co-fondator și al companiei PayPal – n. trad.] e un caz relevant. Se spune că Thiel, un sponsor important al Partidului Republican din SUA, a convins administrația președintelui american Donald Trump să aloce companiei Palantir contracte profitabile, pentru a dezvolta sisteme IA de uz militar. În schimb, Palantir furnizează servicii de informații Guvernului SUA și altor agenții de spionaj din lume.

În „Călătorie în Laputa”, a treia parte a cărții lui Jonathan Swift Călătoriile lui Gulliver, căpitanul Gulliver descoperă o insulă zburătoare locuită de savanți și de filozofi care au conceput niște metode ingenioase pentru a detecta conspirații. Una dintre aceste metode presupune inspectarea „dietelor tuturor persoanelor suspectate”, precum și examinarea îndeaproape „a excrementelor lor”, inclusiv „culoarea, mirosul, gustul, consistența, cruditatea sau maturitatea digestiei”. Chiar dacă aparatul statal de supraveghere modern se concentrează mai degrabă pe examinarea e-mail-urilor, și nu a funcțiilor corporale, el are un obiectiv similar: să descopere comploturi și conspirații împotriva „ordinii publice” sau „securității naționale” prin pătrunderea în adîncul minților oamenilor.

Dar măsura în care guvernele își pot spiona cetățenii nu depinde doar de tehnologiile disponibile, ci și de „piedicile şi contraponderile” oferite de sistemul politic. De aceea, China, al cărei sistem normativ se concentrează exclusiv pe menținerea stabilității politice și pe susținerea „valorilor socialiste”, a reușit să implementeze cel mai ramificat sistem electronic de supraveghere la nivel de stat din lume. Ceea ce explică și dorința Chinei de a se poziționa ca lider mondial în reglementarea IA generative.

La celălalt pol, în Uniunea Europeană reglementarea e centrată pe drepturile fundamentale ale omului, precum dreptul la demnitate al persoanei, dreptul la viață privată, dreptul la nediscriminare și libertatea de expresie. Cadrul ei normativ pune accentul pe sfera privată, protecția consumatorului, siguranța produselor și moderarea informațiilor. În vreme ce SUA se bazează pe concurență pentru a proteja interesele consumatorului, Legea IA europeană, care urmează să fie finalizată în cursul acestui an, interzice explicit utilizarea datelor generate de utilizatori în scopul „clasificării sociale”.

Sistemul occidental de reglementare a IA „centrat pe om”, care pune accentul pe protecția persoanelor, contrastează puternic cu modelul autoritar chinez. Există însă un pericol evident și real ca cele două sisteme să conveargă în cele din urmă. Această amenințare latentă se explică prin conflictul inerent dintre angajamentul Occidentului pentru drepturile individuale și imperativele sale de securitate națională, care tind să capete întîietate față de libertățile civile, în vremuri de tensiuni geopolitice. Versiunea curentă a Legii IA împuternicește, bunăoară, Comisia Europeană să interzică practici precum politicile predictive, dar cu diverse excepții, ca atunci cînd e vorba de securitatea națională, apărare și aplicații militare.

Odată cu competiția acerbă pentru supremația economică, capacitatea guvernelor de a dezvolta și implementa tehnologii intruzive reprezintă o amenințare nu numai pentru companii și regimuri politice, dar și pentru țări întregi. Această dinamică malignă contrastează cu previziunile optimiste potrivit cărora IA va aduce „o gamă vastă de beneficii economice și sociale pentru un întreg spectru de industrii și activități sociale”.

Din păcate, în democrațiile liberale occidentale, eroziunea treptată a contraputerilor și a limitelor constituționale care reglementează acțiunile guvernamentale face jocul regimurilor autoritare. După cum profetic a observat George Orwell, o stare de război continuu, sau chiar și simpla ei iluzie, creează conjunctura ideală pentru apariția unei distopii tehnologice.

Robert Skidelsky este membru al Camerei Lorzilor a Marii Britanii şi profesor emerit de Economie politică la Universitatea Warwick.

traducere de Matei PLEŞU