FrankensTech

26 aprilie 2023 PE CE LUME TRĂIM

În romanul Frankenstein sau Prometeul modern al lui Mary Shelley, omul de știință Victor Frankenstein folosește, după cum bine se știe, părți de cadavre pentru a crea un monstru „suprauman” hiperinteligent care – înnebunit de cruzimea umană și de singurătate – se întoarce în cele din urmă împotriva creatorului său. Încă de la publicarea sa în 1818, povestea lui Shelley despre cercetarea științifică scăpată de sub control a ajuns să fie văzută ca o metaforă a pericolului (și a necugetării) pe care îl implică încercarea de a înzestra o mașină cu inteligență de tip omenesc.

Povestea lui Shelley capătă o nouă rezonanță odată cu ascensiunea rapidă a inteligenței artificiale (IA) generative. Pe 22 martie, institutul „Future of Life” a publicat o scrisoare deschisă semnată de sute de lideri din domeniul tehnologic – inclusiv de Elon Musk, directorul executiv al Tesla, și de cofondatorul Apple Steve Wozniak – care propune o pauză de șase luni (sau un moratoriu impus de Guvern) în dezvoltarea sistemelor IA mai puternice decît ChatGPT-4, chatbot-ul lansat recent de laboratorul OpenAI. „Sistemele IA cu inteligență capabilă să o concureze pe cea umană pot genera riscuri profunde pentru societate și pentru umanitate”, spune scrisoarea care a strîns, pînă în prezent, mai bine de 25.000 de semnături. Semnatarii avertizează în privința cursei „scăpate de sub control” pentru „dezvoltarea și implementarea unor minți digitale tot mai puternice, pe care nimeni – nici măcar cei care le-au creat – nu le poate înțelege, anticipa sau controla în mod fiabil”.

Elon Musk – în prezent, al doilea cel mai bogat om al planetei – e din multe puncte de vedere un Victor Frankenstein al vremurilor noastre. Miliardarul – lăudăros notoriu – născut în Africa de Sud a încercat deja să automatizeze întregul proces al conducerii unui autovehicul (deși cu rezultate inegale), a pretins că a inventat o nouă modalitate de transport, prin proiectul (încă ipotetic) „hyperloop” al The Boring Company, și și-a declarat intenția de „a păstra lumina conștiinței”, folosind SpaceX, compania sa producătoare de rachete, pentru a întemeia o colonie pe Marte. Întîmplarea face că Musk este și cofondator al OpenAI (în 2018 și-a dat demisia din consiliul de administrație al companiei, în urma unei încercări eșuate de a o prelua).

Unul dintre proiectele favorite ale lui Musk este să combine IA și conștiința umană. În august 2020, Musk a prezentat un porc cu un cip implantat în creier, pentru a demonstra așa-numita „interfață creier-mașină” inventată de start-up-ul său tehnologic Neuralink. Cînd scroafa Gertrude mînca și adulmeca fîn, un grafic reda activitatea sa neuronală. Această tehnologie, spunea Musk, ar putea fi folosită pentru a trata pierderile de memorie, anxietatea, dependențele și chiar orbirea. Cîteva luni mai tîrziu, Neuralink prezenta o filmare cu o maimuță care juca un joc video, folosindu-și mintea „ajutată” de un dispozitiv implantat.

Aceste isprăvi erau acompaniate de fanfaronada obișnuită a lui Musk. Tehnologia Neuralink de augmentare a capacității creierului, spera Musk, ar fi putut vesti începutul unei ere a „cogniției supraumane”, în care cipuri care optimizează funcții mentale vor fi disponibile pe scară largă (și la preț redus). Procedura de implantare, susținea el, ar fi complet automatizată și minim invazivă. Odată la cîțiva ani, pe măsură ce tehnologia progresează, cipurile vor putea fi extrase și înlocuite cu un model nou. Toate aceste scenarii sînt, oricum, ipotetice; Neuralink nu a reușit să mențină în viață maimuța-cobai.

În timp ce Musk încearcă să creeze cyborgi, oamenii ar putea fi înlocuiți curînd de mașini. În cartea sa din 2005 The Singularity Is Near, futurologul Ray Kurzweil prezice că singularitatea tehnologică – punctul în care IA depășește inteligența umană – va surveni în 2045. Începînd din acel moment, progresul tehnologic va fi preluat de „roboți cu conștiință” și va crește exponențial, marcînd începutul unui viitor post-uman mai bun. După apariția singularității, crede Kurzweil, inteligența artificială se va putea propaga, sub formă de nanoroboți autoreplicabili, în întregul univers, pînă cînd acesta va deveni „saturat” de viață inteligentă (chiar dacă artificială). Parafrazîndu-l pe Immanuel Kant, Kurzweil se referă la acest proces ca la o „deșteptare” a universului.

Acum însă, cînd singularitatea e aproape, Musk și compania par să reconsidere situația. Lansarea ChatGPT de anul trecut a creat, se pare, panică în rîndul acestor foști evangheliști ai IA, determinîndu-i să treacă de la glorificarea beneficiilor mașinilor superinteligente la căutarea unor modalități de a le împiedica să o ia razna.

Spre deosebire de motorul de căutare Google, care oferă utilizatorilor o listă de link-uri, ChatGPT poate oferi răspunsuri fluente și coerente. De curînd, un prieten de-al meu filozof a întrebat chatbot-ul ChatGPT dacă „există un stil caracteristic feminin în filozofia morală” și a trimis apoi răspunsul obținut colegilor săi. Uneia dintre colege răspunsul i s-a părut „neobișnuit de uman”. Mai precis, ea a spus că „e un eseu destul de banal, dar măcar e scris clar, corect gramatical și la obiect, ceea ce îl face mai bun decît multe eseuri ale studenților noștri”.

Cu alte cuvinte, ChatGPT trece testul Turing, vădind un comportament inteligent, indiscernabil de cel al unei ființe omenești. Această tehnologie se dovedește deja un coșmar pentru cadrele didactice universitare, iar evoluția ei rapidă sugerează că adoptarea acesteia la scară largă ar putea avea consecințe dezastruoase.

Așadar, ce e de făcut? Un raport recent al institutului „Future of Life” (sponsorizat, printre alții, și de Musk) sugerează cîteva posibile strategii pentru a gestiona riscurile IA. Aceste propuneri includ împuternicirea unor terți pentru auditare și certificare, reglementarea accesului la puterea de calcul, crearea la nivel național a unor agenții de reglementare „capabile”, stabilirea de responsabilități pentru daunele pricinuite de IA, creșterea finanțărilor pentru cercetarea din domeniul siguranței și elaborarea de standarde pentru identificarea și gestionarea conținutului generat de IA.

Dar, într-o perioadă a escaladării conflictelor geopolitice și a polarizării ideologice, prevenirea folosirii tehnologiilor IA pe post de armă și negocierea unui acord pentru standarde globale par foarte improbabile. În plus, chiar dacă moratoriul propus e menit, la o primă vedere, să le ofere liderilor din industrie, cercetătorilor și decidenților politici mai mult timp pentru a înțelege riscurile existențiale asociate acestor tehnologii și pentru a elabora protocoale de siguranță adecvate, avem puține motive să credem că liderii tehnologici de azi pot înțelege cu adevărat implicațiile etice ale creațiilor lor.

În orice caz, nu e clar ce anume ar însemna o pauză, în mod practic. Musk, bunăoară, se spune că lucrează deja la un start-up în domeniul IA, care să concureze OpenAI. Sînt oare acești Victor Frankenstein ai timpurilor noastre sinceri cu privire la pauza în dezvoltarea IA generative sau e vorba doar de un tertip al luptei pentru întîietate?

Robert Skidelsky este membru al Camerei Lorzilor a Marii Britanii şi profesor emerit de Economie politică la Universitatea Warwick.