FrankensTech

Publicat în Dilema Veche nr. 994 din 27 aprilie – 3 mai 2023
image

În romanul Frankenstein sau Prometeul modern al lui Mary Shelley, omul de știință Victor Frankenstein folosește, după cum bine se știe, părți de cadavre pentru a crea un monstru „suprauman” hiperinteligent care – înnebunit de cruzimea umană și de singurătate – se întoarce în cele din urmă împotriva creatorului său. Încă de la publicarea sa în 1818, povestea lui Shelley despre cercetarea științifică scăpată de sub control a ajuns să fie văzută ca o metaforă a pericolului (și a necugetării) pe care îl implică încercarea de a înzestra o mașină cu inteligență de tip omenesc.

Povestea lui Shelley capătă o nouă rezonanță odată cu ascensiunea rapidă a inteligenței artificiale (IA) generative. Pe 22 martie, institutul „Future of Life” a publicat o scrisoare deschisă semnată de sute de lideri din domeniul tehnologic – inclusiv de Elon Musk, directorul executiv al Tesla, și de cofondatorul Apple Steve Wozniak – care propune o pauză de șase luni (sau un moratoriu impus de Guvern) în dezvoltarea sistemelor IA mai puternice decît ChatGPT-4, chatbot-ul lansat recent de laboratorul OpenAI. „Sistemele IA cu inteligență capabilă să o concureze pe cea umană pot genera riscuri profunde pentru societate și pentru umanitate”, spune scrisoarea care a strîns, pînă în prezent, mai bine de 25.000 de semnături. Semnatarii avertizează în privința cursei „scăpate de sub control” pentru „dezvoltarea și implementarea unor minți digitale tot mai puternice, pe care nimeni – nici măcar cei care le-au creat – nu le poate înțelege, anticipa sau controla în mod fiabil”.

Elon Musk – în prezent, al doilea cel mai bogat om al planetei – e din multe puncte de vedere un Victor Frankenstein al vremurilor noastre. Miliardarul – lăudăros notoriu – născut în Africa de Sud a încercat deja să automatizeze întregul proces al conducerii unui autovehicul (deși cu rezultate inegale), a pretins că a inventat o nouă modalitate de transport, prin proiectul (încă ipotetic) „hyperloop” al The Boring Company, și și-a declarat intenția de „a păstra lumina conștiinței”, folosind SpaceX, compania sa producătoare de rachete, pentru a întemeia o colonie pe Marte. Întîmplarea face că Musk este și cofondator al OpenAI (în 2018 și-a dat demisia din consiliul de administrație al companiei, în urma unei încercări eșuate de a o prelua).

Unul dintre proiectele favorite ale lui Musk este să combine IA și conștiința umană. În august 2020, Musk a prezentat un porc cu un cip implantat în creier, pentru a demonstra așa-numita „interfață creier-mașină” inventată de start-up-ul său tehnologic Neuralink. Cînd scroafa Gertrude mînca și adulmeca fîn, un grafic reda activitatea sa neuronală. Această tehnologie, spunea Musk, ar putea fi folosită pentru a trata pierderile de memorie, anxietatea, dependențele și chiar orbirea. Cîteva luni mai tîrziu, Neuralink prezenta o filmare cu o maimuță care juca un joc video, folosindu-și mintea „ajutată” de un dispozitiv implantat.

Aceste isprăvi erau acompaniate de fanfaronada obișnuită a lui Musk. Tehnologia Neuralink de augmentare a capacității creierului, spera Musk, ar fi putut vesti începutul unei ere a „cogniției supraumane”, în care cipuri care optimizează funcții mentale vor fi disponibile pe scară largă (și la preț redus). Procedura de implantare, susținea el, ar fi complet automatizată și minim invazivă. Odată la cîțiva ani, pe măsură ce tehnologia progresează, cipurile vor putea fi extrase și înlocuite cu un model nou. Toate aceste scenarii sînt, oricum, ipotetice; Neuralink nu a reușit să mențină în viață maimuța-cobai.

În timp ce Musk încearcă să creeze cyborgi, oamenii ar putea fi înlocuiți curînd de mașini. În cartea sa din 2005 The Singularity Is Near, futurologul Ray Kurzweil prezice că singularitatea tehnologică – punctul în care IA depășește inteligența umană – va surveni în 2045. Începînd din acel moment, progresul tehnologic va fi preluat de „roboți cu conștiință” și va crește exponențial, marcînd începutul unui viitor post-uman mai bun. După apariția singularității, crede Kurzweil, inteligența artificială se va putea propaga, sub formă de nanoroboți autoreplicabili, în întregul univers, pînă cînd acesta va deveni „saturat” de viață inteligentă (chiar dacă artificială). Parafrazîndu-l pe Immanuel Kant, Kurzweil se referă la acest proces ca la o „deșteptare” a universului.

Acum însă, cînd singularitatea e aproape, Musk și compania par să reconsidere situația. Lansarea ChatGPT de anul trecut a creat, se pare, panică în rîndul acestor foști evangheliști ai IA, determinîndu-i să treacă de la glorificarea beneficiilor mașinilor superinteligente la căutarea unor modalități de a le împiedica să o ia razna.

Spre deosebire de motorul de căutare Google, care oferă utilizatorilor o listă de link-uri, ChatGPT poate oferi răspunsuri fluente și coerente. De curînd, un prieten de-al meu filozof a întrebat chatbot-ul ChatGPT dacă „există un stil caracteristic feminin în filozofia morală” și a trimis apoi răspunsul obținut colegilor săi. Uneia dintre colege răspunsul i s-a părut „neobișnuit de uman”. Mai precis, ea a spus că „e un eseu destul de banal, dar măcar e scris clar, corect gramatical și la obiect, ceea ce îl face mai bun decît multe eseuri ale studenților noștri”.

Cu alte cuvinte, ChatGPT trece testul Turing, vădind un comportament inteligent, indiscernabil de cel al unei ființe omenești. Această tehnologie se dovedește deja un coșmar pentru cadrele didactice universitare, iar evoluția ei rapidă sugerează că adoptarea acesteia la scară largă ar putea avea consecințe dezastruoase.

Așadar, ce e de făcut? Un raport recent al institutului „Future of Life” (sponsorizat, printre alții, și de Musk) sugerează cîteva posibile strategii pentru a gestiona riscurile IA. Aceste propuneri includ împuternicirea unor terți pentru auditare și certificare, reglementarea accesului la puterea de calcul, crearea la nivel național a unor agenții de reglementare „capabile”, stabilirea de responsabilități pentru daunele pricinuite de IA, creșterea finanțărilor pentru cercetarea din domeniul siguranței și elaborarea de standarde pentru identificarea și gestionarea conținutului generat de IA.

Dar, într-o perioadă a escaladării conflictelor geopolitice și a polarizării ideologice, prevenirea folosirii tehnologiilor IA pe post de armă și negocierea unui acord pentru standarde globale par foarte improbabile. În plus, chiar dacă moratoriul propus e menit, la o primă vedere, să le ofere liderilor din industrie, cercetătorilor și decidenților politici mai mult timp pentru a înțelege riscurile existențiale asociate acestor tehnologii și pentru a elabora protocoale de siguranță adecvate, avem puține motive să credem că liderii tehnologici de azi pot înțelege cu adevărat implicațiile etice ale creațiilor lor.

În orice caz, nu e clar ce anume ar însemna o pauză, în mod practic. Musk, bunăoară, se spune că lucrează deja la un start-up în domeniul IA, care să concureze OpenAI. Sînt oare acești Victor Frankenstein ai timpurilor noastre sinceri cu privire la pauza în dezvoltarea IA generative sau e vorba doar de un tertip al luptei pentru întîietate?

Robert Skidelsky este membru al Camerei Lorzilor a Marii Britanii şi profesor emerit de Economie politică la Universitatea Warwick.

Copyright: Project Syndicate, 2023www.project-syndicate.orgtraducere de Matei PLEŞU

image png
Bolboroseala hipnotică a ideilor false
Condiția necesară pentru a evita acest epilog este ca forța de atracție a adevărului să fie mai mare decît bolboroseala hipnotică a ideilor false.
image png
Ursulețul mișel la vînătoare de spioni
Nefericita presupunere că joaca cu cuvintele nu va avea efecte e greșită.
image png
O notă, o stare, o zi...
Altfel, devenim un fel de Mega Image cu de toate...
image png
Ce este întunecarea?
Unii dintre contemporani descifrează misterele galaxiilor îndepărtate cu ajutorul unui nou telescop spațial.
image png
Diamante pe fir de telegraf
Ca și diamantele cumpărate extrem de avantajos de Charles Lewis Tiffany de la aristocrații francezi fugiți din Franța după abdicarea forțată a regelui Ludovic-Filip din 1848.
image png
A treia țeapă
Num-așa, ca ardeleanul suit în Dealul Clujului, vorba unui cîntec.
image png
La o cafea
Cu puţină mămăliguţă caldă, le veţi înghiţi, treptat, pe toate.
image png
Microbiști și tifosi
Indiferent dacă s-a dezvoltat după modelul lui tifoso sau în mod independent, microbist confirmă vitalitatea unei metafore cognitive.
image png
Timpul blamării
Dar cînd vom reuși să facem asta, constructiv, nu doar să ne facem auzite glasurile noastre vitriolate?
p 7 Gaza WC jpg
De ce „restul” respinge Vestul
Această declarație a coincis cu debutul campaniei prezidențiale în SUA, Trump fiind candidatul său preferat.
image png
image png
Buon appetito!
Dar, apropo, cred că, după ce a făcut lumea, Dumnezeu s-a mai gîndit puțin și a creat Italia.
image png
O lecție de responsabilitate
Scriu pentru cititorii noștri de bună-credință, cei mai mulți, care ne prețuiesc și care se vor fi încruntat cînd au văzut numărul nostru de săptămîna trecută.
image png
Cînd economia de piață s-a pierdut printre proteste
Întrebarea este: pînă unde vor merge încălcările principiilor economiei de piață și cele privind funcționarea Uniunii Europene?
image png
De ce n-avea Navalnîi șapcă?
Dar trebuie să îi dăm societății ruse credit că măcar a încercat. Sacrificiul lui Navalnîi e dovada.
image png
Succesiunea
Nici Europa nu stă grozav înaintea unor alegeri care pot să împingă în parlamentele europene diferiți demagogi cu promisiuni maximale și capacități mediocre.
image png
Cum trebuie să fie un președinte
Nu cred în nici o campanie electorală construită pe negativitate, pe agresiune, pe obsesii strict individuale.
image png
Avram Iancu – 200
Și totuși, posteritatea lui este impresionantă și oricine mai simte românește nu poate să nu simtă o înaltă emoție gîndindu-se la el.
image png
image png
Misterul voiniciei
„Strîmbă-Lemne” nu are, după cum se vede, o tipologie fixă, el variind imagistic în funcţie de marotele fiecărei generaţii.
image png
Înscenări
În lipsa exemplelor, utilizatorul obișnuit al dicționarului nu poate fi sigur de excluderea unei construcții.
image png
Viitorul începe ieri
Au mai fost și alte titluri, bineînțeles, poate nu atît de cunoscute, unele de psihologie și dezvoltare personală.
p 7 Adevăratul Copernic jpg
Pletele celeste ale Stăpînului Planetelor
Cel puţin aceasta a fost informaţia care s-a transmis în timp.
image png

Adevarul.ro

image
Ucraina „fierbe“: înfrângerea teribilă cu România, descrisă într-un cuvânt de presa de la Kiev
Prezentă cu vedetele ei în SUA, echipa Ucrainei a suferit un rezultat de neconceput.
image
Mii de iranieni au ieșit în stradă în semn de susținere a atacului asupra Israelului
Mii de iranieni au ieșit duminică dimineața devreme pe străzile din Iran, în semn de susținere pentru atacul fără precedent cu drone și rachete în curs de desfășurare împotriva dușmanului înrăit Israel.
image
De ce a primit un jandarm din București în contul personal peste 1,6 milioane lei. „Ce de bani!”
Un subofiţer de la Direcția de Jandarmerie a Municipiului București, care îşi aştepta zilele acestea salariul, s-a trezit că i-au intrat în cont peste 1,6 milioane lei, adică peste 300.000 de euro.

HIstoria.ro

image
Bătălia codurilor: Cum a fost câștigat al Doilea Război Mondial
Pe 18 ianuarie a.c., Agenția britanică de informații GCHQ (Government Communications Headquarters) a sărbătorit 80 de ani de când Colossus, primul computer din lume, a fost întrebuințat la descifrarea codurilor germane în cel de Al Doilea Război Mondial.
image
Cum percepea aristocrația britanică societatea românească de la 1914?
Fondatori ai influentului Comitet Balcanic de la Londra, frații Noel și Charles Buxton călătoresc prin Balcani, în toamna anului 1914, într-o misiune diplomatică neoficială, menită să atragă țările neutre din regiune de partea Antantei.
image
Istoricul Maurizio Serra: „A înțelege modul de funcționare a dictaturii ne ajută să o evităm” / INTERVIU
Publicată în limba franceză în 2021, biografia lui Mussolini scrisă de istoricul Maurizio Serra, membru al Academiei Franceze, a fost considerată un eveniment literar şi istoric.