Teme şi temeri

Ioan MUNTEAN
Publicat în Dilema Veche nr. 733 din 8-14 martie 2018
Teme şi temeri jpeg

Inteligența artificială (prescurtat AI, după acronimul din engleză: Artificial Intelligence) este înțeleasă ca „inteligență generală de nivel uman“ sau peste nivelul uman (numită uneori AI+). Inteligența umană specifică unui domeniu nu mai este un prag greu de trecut: vezi rezultatele recente în șah sau în jocul de Go, precum și teoreme demonstrate sau verificate doar de computere. Noi tehnologii de învățare precum Deep Learning permit acum mașinii să învețe jocuri noi doar urmărind jocurile altora. AI este deja bazată pe un complex proces de învățare „adîncită“ cu mai multe niveluri decît creierul uman. Ar fi teribil, spun unii, ca AI să devină capabilă să creeze alte tipuri superioare de AI, similar unei reacții în lanț, concept numit super-AI. Acest proces în care AI atinge nivelul de super-AI este numit Singularitate, idee promovată de Ray Kurzweil, inspirat oarecum din teoria găurilor negre din fizică: niște cantități care cresc peste măsură, teoretic la infinit. 

Voi începe cu un avertisment: AI are o soartă dilematică. Pe de o parte, pare un element cu totul nou, nemaivăzut. Nu am întîlnit în istoria noastră creații mai inteligente decît creatorul. Dar teama că putem crea artefacte ce depășesc orice măsură și ne scapă de sub control nu e deloc nouă. În materialul de față intenționez să reflectez asupra AI ca o continuare a unui efort uman de a crea artefacte tot mai autonome – un vis universal, ce ne-a însoțit pe parcursul întregii noastre istorii ca umanitate. Iar teama că autonomia artefactelor zămislite de imaginația noastră va scăpa de sub control este, din nou, o temere veche. Golem, monstrul lui Frankenstein, Terminator sau Ava (din filmul Ex Machina) ne amintesc că tehnologia sau știința pot crea ființe magice, binevoitoare sau doar altfel. Că ar exista o diferență ontologică între noi și mașini pare o sugestie ce ne-ar putea scăpa de coșmarul unei invazii a roboților. Ideea carteziană că sîntem excepționali cînd ne comparăm cu roboții, animalele, îngerii etc. este probabil cea mai ușoară cale de a scăpa de coșmarul și spectrul Singularității. Ce este nou și ce este cunoscut în aventura umanității cu AI este o afacere veche. Elementul de noutate constă în sentimentul că, replicînd inteligența umană, am ajuns la un prag pe care nu l-am mai trecut înainte. Dar este AI chiar atît de nouă?

Şi cine se teme de super-AI? Sînt cîteva elemente necesare care trebuie clarificate. Întîi, o opoziție categorială între artificial (artificialitatea artefactelor noastre) şi natural (naturalețea). Artificialitatea a inspirat întotdeauna teamă și prudență. Mulți autori preferă să asocieze inteligența artificială cu a doua jumătate a secolului al XX-lea. Dar trebuie să ne reamintim cum romanismul și clasicismul au prefigurat probleme în-tîmpinate abia acum, iar raționalismul (în primul rînd, Descartes) a găsit o soluție metafizică. Dar există cîteva argumente mai puțin convingătoare, zic eu, pe care le trec în revistă.

Artificialitate vs. Natural

Opusă ideii de naturalitate, artificialitatea este asociată trufiei de a înlocui Creatorul cu omul – fiecare pas în direcția creării unei lumi artificiale ne îndepărtează de ceea ce este natural. De ce? Mulți din tabăra celor indignați sau de-a dreptul înfricoșați de spectrul AI aduc o obiecție intrinsecă științei și dezvoltării acestei tehnologii. Ei nu consideră consecințele benefice ale AI importante: ideea de a crea inteligență sau viață este în sine extrem de periculoasă. Cu alte cuvinte, chiar dacă AI ar avea doar consecințe benefice (ceea ce este foarte greu de închipuit), din punct de vedere metafizic comitem un păcat capital: a crea ceva necreat, ceva inexistent sau nenatural, este trufie nespusă. Tehnologia și știința sînt, în acest sens, mai periculoase decît arta. Pentru că a crea ceva ce nu există și nu a existat este „un joc de-a Dumnezeu“.

Mulți probabil se situează pe o poziție teologică și susțin că în cazul inteligenței artificiale acest joc de-a Dumnezeu este un element crucial ce depășește considerentele pragmatice de genul: „Ca orice unealtă creată de om, AI poate fi folosită în scopuri bune, dar și în scopuri rele.“ Argumentul că AI este joacă extremă de-a Dumnezeu pune însă un accent important pe ideea de inteligență sau viață. Este la fel de prezent în biologia sintetică, unde țelul cercetătorului este de a crea noi forme de viață. Important însă este să facem distincția între ce putem face și ce trebuie să facem: conform acestei tabere, am putea crea inteligență sau viață, dar nu trebuie (iar aici trebuie este moral) să dezvoltăm aceste noi forme de inteligență. Pentru cei care cred în „jocul de-a Dumnezeu“, a crea AI este la fel de distructiv ca a crea arme biologice. Putem să le dezvoltăm, dar bacteriile sau virușii creați de noi ne vor distruge. La fel, artificialitatea vieții duce la dispariția umanității. Interesant este că armele nucleare nu intră în această categorie: procesele de fuziune și fisiune sînt naturale și au loc în realitate, deci sînt naturale: noi nu facem decît să imităm natura. O super-AI nu este naturală, iar dispariția umanității este legată de dispariția umanității „naturale“. Aici argumentul stagnează de multe ori, dar inteligența este, dacă permitem glosa carteziană, ceva diferit de ceea ce este natural (material). Este un joc cu focul, mai precis cu moartea umanității ca esență nematerială. Un termen tehnic folosit în literatură este „riscul existențial“ al AI, similar cu riscul existențial al armelor biologice și al altor experimente care ne pun existența ca umanitate în pericol.

Argumentul jocului de-a Dumnezeu este însă vulnerabil pentru că presupune că inteligența este o facultate specială. Mă număr printre cei care cred în esența naturală a inteligenței sau cogniției. Cei care se opun argumentului „jocului“ spun că inteligența este naturală, emerge în lumea materială a animalelor și a oamenilor, iar AI nu ar face decît să mimeze naturalul (o tehnică numită biomimetica). Naturalul, așa cum îl percepem, pare static, nemișcat. Realitatea este alta: depășind condiția romantică, ne putem închipui o lume în care artificialul corectează naturalitatea și o îmbunătățește. Întrebarea poate fi transpusă în alte contexte: am creat zbor artificial cînd am inventat avioane bazate pe principii diferite de zborul păsărilor. Am creat computere, care nu există în lumea creată (oare o pasăre „calculează“ cînd zboară?). Avem matematica, ceea ce depășește granițele fizicului, ale vizibilului. Am trimis oameni pe Lună, ceea ce este complet în afara naturalității noastre ca specie animală. Am explorat părți ale universului care nu au nimic de-a face cu zestrea noastră naturală. Am creat forme noi și, în multe cazuri, mai eficiente decît formele naturale. Simplul fapt că vrem să creăm ceva ce nu există pare un motiv foarte slab pentru a crede că ne jucăm de-a Dumnezeu. „Nu există încă“ este o categorie naturală în sine: universul se schimbă constant și evoluează în forme noi, neașteptate sau inexistente înainte. De ce nu am integra AI în categoria naturalului? De ce este AI diferită de alte creații artificiale precum zborul, medicamentele, protezele? De ce-ar crede unii că ne jucăm de-a Dumnezeu doar creînd viață/inteligență în forme noi?

Principiul de precauție

Cei care discreditează argumentul acestui „joc“ insistă pe faptul că problemele cu AI nu sînt intrinseci, ci sînt legate de consecințele extrem de nefaste. Consecințele AI sînt așadar extrinseci și țin mai degrabă de felul în care va arăta în viitor o societate ca a noastră cu AI la îndemînă. Și acest grup presupune că în principiu putem atinge un nivel de AI egal cu cel uman sau superior, dar că majoritatea consecințelor acestei tehnologii sînt nefaste. Vom fi pur și simplu înlocuiți de AI (în timp ce alte invenții nu ne-au înlocuit ca oameni). Aici e diferența. O temere domină literatura celor care preferă să fie prudenți (și aplică așa-numitul „principiu de precauție“). Dacă există o consecință nefastă a unei tehnologii, iar consecințele benefice nu sînt cunoscute, trebuie să ne abținem să dezvoltăm tehnologia respectivă. Știm că orice algoritm sau computer poate fi hackuit, spart. Chiar dacă un algoritm AI a fost creat pentru a servi scopuri nobile, el poate deveni o armă în mîinile criminalilor. Chiar dacă vom avea roboți capabili să conducă mașini sau camioane, bone pentru copii sau asistente pentru persoanele în vîrstă, acești roboți vor fi, volens nolens, vulnerabili la pirateria cibernetică.

Acest argument extrinsec este cel mai puternic cînd vine vorba de temerile noastre de a opri dezvoltarea AI. To hack or not to hack, iată întrebarea! Iar o posibilă soluție este propusă în literatura de specialitate (David Chalmers și Nick Bostrom o discută pe îndelete): ce ar fi să experimentăm AI în laboratoare izolate, in vitro (sau în „gropi de nisip“), unde Internetul nu există şi nici nu este permis, iar agenții noștri artificiali sînt cenzurați în ceea ce privește legătura lor cu lumea exterioară? Acest paternalism AI este însă greu de menţinut pentru multă vreme: pe măsură ce AI emerge și evoluează în Singuralitate (super-AI), vom putea oare păcăli acești agenți și vom putea noi să-i ținem prizonieri pe măsură ce coeficientul lor de inteligență crește exponenţial față de coeficientul uman?

Moralitatea artificială & supervenienţa

Dar coșmarul Singularității nu se oprește aici. Scenarii comune vehiculate presupun că super-AI nu ne vor extermina, dar că urmașii noștri vor locui în rezervații în timp ce super-cyborg-ii ne vor vizita, privi și conserva, ca pe niște curiozități ale trecutului. Homo sapiens nu a exterminat toate primatele, dar le a redus la condiția de curiozități și exponate în grădini zoologice. Apoi, mai este ideea că Singularitatea va decide în viitor binele și răul pentru noi. Într-adevăr, chiar dacă unii pot admite că AI este posibilă sau chiar dezirabilă, mulți clachează intelectual la ideea de moralitate artificială (AM, după acronimul în engleză: Artificial Morality). Aici încărcătura filozofică este și mai copleșitoare. Ideea este din nou oarecum carteziană: capacitatea de a raționa despre bine și rău este condiționată de un „ceva“, de un factor X ce ne face speciali printre alte creaturi. Acest factor X poate fi conștiința, dar pot fi empatia, emoțiile, interioritatea, poate fi intenționalitatea husserliană, poate fi un Dasein heideggerian sau o combinație a acestora. Există firește mulți alți candidați ce pot ocupa acest spațiu al moralității pur umane.

Din păcate, poziția aceasta nu este deloc atractivă pentru alții (și nici pentru mine). Eu, de exemplu, prefer un argument apropiat unui funcționalism moral, iar ideea de agent moral nu îmi dă atîtea crampe intelectuale. Nu cred că sîntem atît de speciali în modul în care raționăm cu privite la etică și moralitate și cred că există un cadru comun al facultăților raționale umane. Funcționalismul sugerează că raționamentul moral este o funcție a raționamentului despre fapte, deși această relație este extrem de complicată (unii, ca Frank Jackson, susțin că avem de a face cu superveniența). Înclin să cred, prin analogie, că cogniția morală poate fi replicată și învățată, de oameni și deopotrivă de mașini. Cred că noi învățăm moralitatea precum învățăm alte deprinderi. Mă aflu, probabil, în linia unei teorii a virtuții în etică. Categoriile morale pot fi clasificate, iar algoritmii (acum sau în viitor) vor reuși să identifice aceste categorii, oarecum în mod similar algoritmilor Deep Learning care sînt capabili să discearnă o strategie bună în jocul de table de o strategie proastă. Este de asemenea evident că aceste decizii nu sînt absolute, ci depind de anumite matrici culturale sau sociale, iar aici diferența cu jocurile este fundamentală. Am simplificat mult, dar cred că moralitatea implică procese precum învățarea, optimizarea și, nu în ultimul rînd, evoluția. Toate aceste procese, cel puțin la nivel înalt, conduc la ideea de comparare, categorizare și clasificare.

De ce avem nevoie de agenți morali artificiali? Din nou prefer un argument care naturalizează moralitatea. E greu de crezut că o mașină fără șofer, o dronă autonomă, un carebot (roboți care joacă rolul de asistente medicale în aziluri pentru persoane în vîrstă sau cu deficiențe mintale), un robot-bonă pentru copii nu vor trebui să ia decizii morale şi fără ajutorul oamenilor. Din nou, revin la ideea de autonomie. Pe măsură ce pretindem acestor agenți inteligenți să fie autonomi, le cerem implicit să ia decizii despre ce e bine și ce e rău.

Închei cu un gînd speculativ: existența agenților AI și AM ne va face mai toleranți, mai deschiși la alteritate și mai puțin trufași. Mai puțin excepționaliști. 

Ioan Muntean este profesor la Universitatea North Carolina din SUA.

„Am avut covidu’!”, iar „de murit, murea oricum   ” jpeg
„Nu ne mai facem bine”
Și eu am propria mea curiozitate, așa că încerc să aflu ce s-a schimbat aici, din perspectiva lor, este una dintre principalele teme de discuție.
p 10 jpg
România era țara mea bună, dar vitregă
Astăzi consider că România e țara în care mă pot întoarce cînd doresc, e „cartierul vecin”.
Palatul Culturii Iasi   Aerial jpg
Iași, mon amour contrarié
Iașiul îmi pare un cameleon. Apar întruna terase noi și e tonifiant. Vara asta am mîncat într-un gastrobar cu specific andaluz, cu o veselă aleasă cu gust, cu prețuri rezonabile și porții mărișoare.
640px Parliament 704254 jpg
Stai, cum adică avem o imagine bunicică la Bruxelles?!
Dar cum adică „nu creăm probleme” la Bruxelles, dacă în România sînt atîtea probleme? E simplu, grijile Bruxelles-ului sînt altele decît ale noastre.
p 12 WC jpg
Cum văd eu România? După 15 ani și de la 3.500 de kilometri distanță?
În cele cîteva limbi de circulație pe care le înțeleg, nu găsesc un sinonim în valoare absolută al cuvîntului „omenie”. Poate în el rezidă, totuși, logica speranței.
Bjc cv cs foto 089 jpg
Secretul stă la primărie
În România, m-am ocupat, vrînd-nevrînd, cu colecționarea de faze și impresii, să le spun ilustrate.
p 13 sus jpg
Cînd trăiești între aici și acolo
Am început, timid, să ies în afara granițelor, întrebîndu-mă deseori cum ar fi viața mea în altă parte, în momentul în care nimic nu mă mai reținea în România.
Page 428 Captured Romanians transported away (12239755986) jpg
Trei neîntoarceri
România are acum un chip ponosit, în tușe de gri și negru. Dar e OK pentru că e o Românie exterioară, din afara ta, e un context din care ai scăpat. High five.
Romania Parliament at night jpg
Sedarea românilor
n reacție, nu puțini români refuză calmarea și emigrează, seduși de melodia sirenelor potrivit cărora „în România, asta e!”, totul a „rămas la fel”.
Scriitorii, rudele mele maghiare jpeg
Tribunalul Poporului
Vedem asta în fiecare zi: nimic din ceea ce se postează nu rămîne necorectat, necontestat, nejudecat, nesancționat. Mai devreme sau mai tîrziu – ca să fac o parafrază – fiecare are parte de cincisprezece minute de judecată publică.
p 10 jpg
Critica publică în online: virtuți și vicii
Am observat, de asemenea, și cum platometre digitale au fost utilizate pentru a instiga la ură, dispreț și sexism, pentru a delegitima această mișcare și a decredibiliza victimele violenței de gen.
p 11 Ostrakon WC jpg
Ostracizarea online ca dilemă liberală
Cu toate acestea, nu trebuie să uităm de pericolul pe care apelul la ostracizarea online îl deschide, ținînd cont de stimulentele pe care viața în mediul online ni le oferă în conjuncție cu impactul pe care emoțiile morale îl au la adresa modului în care interacționăm cu ceilalți
640px The Two Gossips (Les Deux Commères) MET DP808826 jpg
Gura satului global
Gura satului global nu este diferită de gura satului tradițional decît prin instrumentele sale.
640px Cyber bullying 122156 960 720 jpg
Cel fără de păcat – o sursă idiopatică?
Realitatea socială poate fi remarcabilă datorită ansamblului de creiere umane adunate pentru a influența evoluția societății în bine, și aici avem nevoie de etică – în lipsa acesteia, realitatea se poate transforma în factori și actori sociali maligni.
John George Brown The Bully of the Neighborhood jpg
Și cu copiii ce facem? Intruziune, expunere, violență, anulare
Spațiul virtual a căpătat dimensiuni tot mai mari în viața copiilor, marea lor majoritate preferînd o interacțiune mediată de un dispozitiv uneia reale.
p 14 sus jpg
J’accuse! Indignarea morală și ostracizarea digitală
Nu e mare lucru să ne gîndim mai mult înainte de a (re)acționa, cum nu e nici prea mare efortul de a încerca să vedem lucrurile dintr-o perspectivă mai largă, dincolo de interesele noastre imediate.
p 21 jpg
Linșajul contemporan
Strămoșii noștri nu aveau lideri, judecători sau poliție, dar aveau mijloace pentru a răspunde celor care încălcau normele sociale de a respecta autonomia celorlalți sau de a contribui în mod echitabil la bunăstarea socială
Cea mai bună parte din noi jpeg
Ce rol mai au valorile?
Am aflat că valorile sînt cele care ne dau un sens, iar acest lucru ne face să fim perseverenți și să depășim obstacolele.
p 10 sus jpg
Dihotomia fapte/valori a fost greşit înţeleasă
Valorile sînt ingredientele indispensabile ale realităţii sociale.
Elevi jpg
StateLibQld 2 198959 Planting a tree for Arbor Day at Ban Ban Springs State School, 1920 jpg
Tot ceea ce vreau să fiu
„Prietenia înseamnă să împarți punga de chips-uri cu celălalt.”
p 12 sus jpg
Mesajul corect
Într-o clinică de toxicomani e barometrul cel mai fidel al suferinței unei societăți.
640px Islamic   Garden Scene   1987 360 4   Art Institute of Chicago jpg
Valori, virtuți, viață în islam
Societățile musulmane sînt puternic condiționate de tradiții.
Social Media and Technology jpg
Social media și tribalizarea valorică
Viața noastră socială nu arată întotdeauna precum fluxul nostru de pe rețelele sociale.

Adevarul.ro

vladimir putin Sursă: Profimedia
Cu un calorifer pe post de mustață: Putin, ridiculizat de o revistă poloneză FOTO
Vladimir Putin, președintele rus care a provocat criza energetică în întreaga Europă, a fost ridiculizat duminică pe coperta uneia dintre cele mai cunoscute reviste poloneze, potrivit Nexta.
admitere facultate
Anul universitar începe. Fără ministru și fără vreo universitate de top
Aproximativ 500.000 de studenți încep cursurile universitare, astăzi, 3 octombrie. Fără ministru, fără lege nouă a învățământului superior și fără nicio universitate în top 1000.
premiul nobel foto epa efe
Săptămâna Nobel se deschide în Suedia
Câștigătorul în domeniul fiziologiei și medicinei va fi primul care va fi anunțat.

HIstoria.ro

image
Bălcescu, iacobinul român despre care nimeni nu mai vorbește
Prima jumătate a veacului al XIX-lea a reprezentat pentru Ţările Române un timp al recuperării. Al recuperării parţiale – ideologice şi naţionale, cel puţin – a decalajului ce le despărţea de Occidentul european. Europa însăşi este într-o profundă efervescenţă după Revoluţia de la 1789, după epopeea napoleoniană, Restauraţie, revoluţiile din Grecia (1821), din Belgia şi Polonia anului 1830, mişcarea carbonarilor din Italia, toată acea fierbere socială şi naţională, rod al procesului de industria
image
„Historia Special”: 100 de ani de la încoronarea regilor României Mari
„Historia Special”: 100 de ani de la Încoronarea de la Alba Iulia
image
Victor Babeș, cel mai elegant savant român
Victor Babeș a fost savant, profesor universitar, unul dintre cei mai renumiți oameni de știință, cunoscut și recunoscut în toată lumea. Când apărea profesorul Babeș la catedră, sau cu alte ocazii, acesta era îmbrăcat impecabil, foarte elegant, având o ținută exemplară.