Cine ar trebui să decidă cum decid algoritmii?

Mark ESPOSITO, Terence TSE, Joshua ENTSMINGER, Aurélie JEAN
Publicat în Dilema Veche nr. 792 din 25 aprilie – 1 mai 2019
Cine ar trebui să decidă cum decid algoritmii? jpeg

Studiul „Mașina morală“ găzduit de MIT a studiat, de-a lungul ultimilor ani, preferințele opiniei publice cu privire la modul în care aplicațiile pe bază de inteligență artificială (IA) ar trebui să se comporte în diferite contexte. Una dintre concluziile datelor colectate este că, atunci cînd un vehicul autonom (VA) se confruntă cu o situație de viață sau de moarte, felul în care un subiect consideră că ar trebui să răspundă depinde în mare măsură de proveniența sa și de ce anume știe despre pietonii sau despre pasagerii implicați.

De exemplu, în cazul unei versiuni VA a clasicei „dileme a tramvaiului“, unii s ar putea să prefere ca vehiculul să lovească un ucigaș dovedit, mai degrabă decît pe altcineva, sau să calce mai degrabă un bătrîn decît un copil. Iar alții ar putea argumenta că VA ar trebui, pur și simplu, să tragă la sorți, pentru a evita discriminarea pe baza informațiilor deținute.

În general, astfel de dileme sînt, post factum, de competența instanțelor ju-de-că-to-rești sau a poliției. Dar, în cazul VA, deciziile trebuie luate în decursul unor milisecunde, timp cu totul insuficient pentru a ajunge la o decizie în cunoștință de cauză. Aici nu contează ce anume știm noi, ci ceea ce știe vehiculul. Întrebarea este, prin urmare, ce informații trebuie să dețină VA despre oamenii din jurul lor. Și ar trebui oare să li se permită firmelor să ofere diferite sisteme etice, în scopul unui avantaj competitiv?

Să luăm următorul exemplu: un vehicul din China are un alt standard de fabricație decît unul din SUA, dar e exportat și utilizat în SUA. Vehiculul chinezesc și cel american sînt în curs de coliziune inevitabilă. Dacă șoferul vehiculului chinezesc are preferințe etice diferite de ale conducătorului american, care dintre sisteme ar trebui să prevaleze?

Dincolo de diferențele culturale care pot influența preferințele etice, trebuie luate în calcul și diferențele de reglementare a regimului datelor din diferitele țări. Un producător chinez de vehicule, bunăoară, ar putea avea acces la date despre „punctajul social“ al cetățenilor, care ar oferi algoritmului său de decizie input-uri suplimentare, indisponibile producătorilor americani. Un volum mai mare de date ar putea favoriza decizii mai bune și mai întemeiate, dar ar trebui oare ca acest avantaj să permită ca un sistem să l excludă pe altul?

E limpede că, înainte ca VA să ia în stăpînire șoselele, va trebui să stabilim cine poartă răspunderea luă-rii de decizii algoritmice, fie că e vorba de autorități municipale, de guverne naționale sau de instituții multilaterale. Mai mult, vor fi necesare noi cadre de guvernare a acestei zone de interferență dintre stat și lumea afacerilor. În discuție nu e doar ceea ce vor face VA într-un scenariu extrem, dar și modul în care lumea afacerilor va interacționa cu diferitele culturi în dezvoltarea și implementarea algoritmilor de decizie.

E simplu de imaginat că toți producătorii de VA vor face reclamă diferitelor sisteme etice care pun viața șoferului mai presus de orice sau care îi permit utilizatorului să activeze un sistem etic propriu. Pentru a preveni această „tragedie a bunurilor comune“ va fi nevoie de cadre pentru stabilirea comunicării și coordonării deciziilor între VA-uri. Dar, în procesul elaborării acestor sisteme în contexte culturale diferite, factorii de decizie politică și mediul de afaceri se vor confrunta cu diferite noțiuni culturale despre suveranitate, sferă privată și autonomie individuală.

Ceea ce, dat fiind că sistemele IA nu tolerează ambiguitatea, ridică probleme suplimentare. Crearea unei aplicații IA de la zero presupune specificări extrem de precise: indiferent de situație, aceste sisteme nu fac decît ceea ce au fost instruite să facă. Ceea ce înseamnă că firmele, guvernele și alți furnizori vor trebui să facă alegeri explicite atunci cînd programează protocoalele de răspuns pentru diferitele situații.

Dar, înainte să se ajungă aici, factorii de decizie politică vor trebui să stabilească ramificațiile responsabilității algoritmice, pentru a determina dacă și ce decizii trebuie lăsate în seama întreprinderilor sau a persoanelor private. Deciziile care sînt de competența statului vor trebui dezbătute. Și, dat fiind că astfel de probleme etice și morale nu au răspunsuri facile, e puțin probabil să se ajungă la un consens. Pînă la o soluție definitivă, va trebui să creăm sisteme care să înlesnească, cel puțin, comunicarea dintre VA-uri și să arbitreze disputele algoritmice și evenimentele din trafic.

Dată fiind nevoia de specificări precise în elaborarea algoritmilor decizionali, e de la sine înțeles că va fi nevoie de un organism internațional care să stabilească normele care vor permite rezolvarea dilemele morale și etice. VA-urile sînt, în fond, doar o aplicație a luării de decizie algoritmică. În viitor, normele responsabilității algoritmice vor trebui gestionate în tot mai multe domenii.

În cele din urmă, întrebarea principală la care trebuie să răspundem este dacă întreprinderile au dreptul să elaboreze cadre etice alternative, destinate luării de decizie algoritmice. Noi am fi de părere că nu îl au.

În epoca IA, unele componente ale „lanțurilor valorice“ globale vor fi, în mod firesc, automatizate, moment în care ele nu vor mai fi considerate terenuri de luptă pentru firmele care concurează pentru întîietate. Procesul de stabilire și arbitrare a responsabilității algoritmice va deveni, în schimb, un astfel de teren. Într-un fel sau altul, se vor lua decizii. Ar fi mai bine ca ele să fie adoptate uniform și într-un mod cît mai democratic. 

Mark Esposito, profesor de Afaceri și Economie titularizat la Hult International Business School a Universității Harvard, este co-fondator al Nexus Frontier-Tech, bursier al Mohammed Bin Rashid School of Government din Dubai și al Judge -Business School din Cambridge.

Terence Tse, profesor la ESCP Europe Business School din Londra, este co-fondator al Nexus FrontierTech.

Joshua Entsminger este cercetător la Nexus FrontierTech și bursier senior la École des Ponts Center for Policy and Competitiveness din Paris.

Aurélie Jean, specialist în calcul științific, este fondator al In Silico Veritas, consilier la Boston Consulting Group și colaborator extern al Ministerului Educației din Franța. 

© Project Syndicate, 2019
www.project-syndicate.org

traducere de Matei PLEŞU

Foto: wikimedia commons

image png
Bolboroseala hipnotică a ideilor false
Condiția necesară pentru a evita acest epilog este ca forța de atracție a adevărului să fie mai mare decît bolboroseala hipnotică a ideilor false.
image png
Ursulețul mișel la vînătoare de spioni
Nefericita presupunere că joaca cu cuvintele nu va avea efecte e greșită.
image png
O notă, o stare, o zi...
Altfel, devenim un fel de Mega Image cu de toate...
image png
Ce este întunecarea?
Unii dintre contemporani descifrează misterele galaxiilor îndepărtate cu ajutorul unui nou telescop spațial.
image png
Diamante pe fir de telegraf
Ca și diamantele cumpărate extrem de avantajos de Charles Lewis Tiffany de la aristocrații francezi fugiți din Franța după abdicarea forțată a regelui Ludovic-Filip din 1848.
image png
A treia țeapă
Num-așa, ca ardeleanul suit în Dealul Clujului, vorba unui cîntec.
image png
La o cafea
Cu puţină mămăliguţă caldă, le veţi înghiţi, treptat, pe toate.
image png
Microbiști și tifosi
Indiferent dacă s-a dezvoltat după modelul lui tifoso sau în mod independent, microbist confirmă vitalitatea unei metafore cognitive.
image png
Timpul blamării
Dar cînd vom reuși să facem asta, constructiv, nu doar să ne facem auzite glasurile noastre vitriolate?
p 7 Gaza WC jpg
De ce „restul” respinge Vestul
Această declarație a coincis cu debutul campaniei prezidențiale în SUA, Trump fiind candidatul său preferat.
image png
image png
Buon appetito!
Dar, apropo, cred că, după ce a făcut lumea, Dumnezeu s-a mai gîndit puțin și a creat Italia.
image png
O lecție de responsabilitate
Scriu pentru cititorii noștri de bună-credință, cei mai mulți, care ne prețuiesc și care se vor fi încruntat cînd au văzut numărul nostru de săptămîna trecută.
image png
Cînd economia de piață s-a pierdut printre proteste
Întrebarea este: pînă unde vor merge încălcările principiilor economiei de piață și cele privind funcționarea Uniunii Europene?
image png
De ce n-avea Navalnîi șapcă?
Dar trebuie să îi dăm societății ruse credit că măcar a încercat. Sacrificiul lui Navalnîi e dovada.
image png
Succesiunea
Nici Europa nu stă grozav înaintea unor alegeri care pot să împingă în parlamentele europene diferiți demagogi cu promisiuni maximale și capacități mediocre.
image png
Cum trebuie să fie un președinte
Nu cred în nici o campanie electorală construită pe negativitate, pe agresiune, pe obsesii strict individuale.
image png
Avram Iancu – 200
Și totuși, posteritatea lui este impresionantă și oricine mai simte românește nu poate să nu simtă o înaltă emoție gîndindu-se la el.
image png
image png
Misterul voiniciei
„Strîmbă-Lemne” nu are, după cum se vede, o tipologie fixă, el variind imagistic în funcţie de marotele fiecărei generaţii.
image png
Înscenări
În lipsa exemplelor, utilizatorul obișnuit al dicționarului nu poate fi sigur de excluderea unei construcții.
image png
Viitorul începe ieri
Au mai fost și alte titluri, bineînțeles, poate nu atît de cunoscute, unele de psihologie și dezvoltare personală.
p 7 Adevăratul Copernic jpg
Pletele celeste ale Stăpînului Planetelor
Cel puţin aceasta a fost informaţia care s-a transmis în timp.
image png

Parteneri

Demonstranţi contra reformei guvernului  se luptă cu scutierii în timpul unui protest la Paris Franţa FOTO AP
„Un permis de a ucide”. Legea controversată prin care Franța schimbă regulile folosirii armelor de către polițiști
Polițiștii și jandarmii francezi vor beneficia de prezumția de legalitate când folosesc armele de foc în timpul serviciului, potrivit unei legi adoptate definitiv pe 20 noiembrie. Contestată de organizații pentru drepturile omului și magistrați, măsura ar putea îngreuna anchetarea abuzurilor.
Rămășițele lui Ivan Zakmardi, descoperite în Catedrala din Zagreb
Rămășițe remarcabil de bine conservate într-un sicriu sigilat din plumb, descoperite în Catedrala din Zagreb
Unul dintre cei mai importanți oameni de stat ai Croației din secolul al XVII-lea a fost readus în atenția istoricilor printr-o descoperire arheologică remarcabilă. Rămășițele lui Ivan Zakmardi, remarcabil de bine conservate într-un sicriu sigilat de plumb, au fost găsite în ruinele unei capele.
901215675 1483577627291311 4315822873510217499 n jpeg
Desertul de pe vremea romanilor care se prepară și astăzi. Rețeta transmisă din generație în generație a devenit simbolul unui oraș
Un desert cu migdale, miere și dulceață, pregătit după o rețetă transmisă de-a lungul generațiilor, a devenit unul dintre cele mai cunoscute simboluri gastronomice ale unei localități din sudul Europei.
sarpe pixabay jpg
Unde se ascund șerpii pe timpul nopții. De ce unele specii devin mai active după apusul soarelui
Pentru cei mai mulți oameni, mai ales cei care locuiesc în orașe, o întâlnire cu un șarpe poate fi un moment destul de neplăcut. Mai ales atunci când această întâlnire are loc noaptea. Iar, în timp ce unii șerpi își petrec nopțile dormind, alții continuă să fie activi chiar și după apus.
vizita bilaterala ministrul Afacerilor Externe din Republica Moldova, Mihai Popșoi si luca niculescu jpg
România și Republica Moldova, discuții despre securitatea din Marea Neagră. Dronele și atacurile asupra navelor comerciale, printre subiecte
Situația de securitate din regiune, în contextul incursiunilor repetate ale dronelor și al atacurilor asupra navelor comerciale din Marea Neagră, a fost unul dintre subiectele discutate de premierul Luca Niculescu cu oficiali de la Chișinău, în cadrul unei întâlniri desfășurate la Palatul Victoria.
horoscop octombrie webp
Horoscop luni, 23 noiembrie. Peștii trec printr-un carusel emoțional, iar o zodie are șanse să avanseze în carieră
Lorina, astrologul Click!, vine cu predicțiile complete pentru toate cele 12 semne zodiacale, pentru ziua de luni, 23 noiembrie.
pexels marcus aurelius 9787924 jpg
„Suntem căsătoriți de 19 ani și nu am dormit niciodată în același pat”. Decizia neobișnuită a unui cuplu
Un cuplu din SUA a găsit o soluție neobișnuită pentru problemele care le afectau odihna: fiecare doarme în camera lui. Deși sunt căsătoriți de 19 ani, cei doi nu împart același pat. Dormitul separat le-a îmbunătățit calitatea vieții și le-a permis să aibă o căsnicie fericită.
ro alert webp
Nouă alertă aeriană în nordul județului Tulcea. Două avioane F-16 au decolat de la Baza 86 Aeriană Borcea în această seară
O nouă alertă aeriană a fost instituită duminică seara, 22 noiembrie, în nordul județului Tulcea, după ce radarele Ministerului Apărării Naționale au detectat ținte aeriene la est de Insula Șerpilor.
Aflați în vizită oficială în R.P. China, Nicolae și Elena Ceaușescu au primit, la reședința din Beijing, vizita doamnei Deng Yingchao, soția fostului premier Zhou Enlai
Ceaușescu și mirajul chinezesc: o alianță costisitoare pentru economia României
Conducerea de la București a susținut în toată perioada în care a guvernat prin teroare că dezvoltă o economie științifică, pe baze marxiste și raționale. Nimeni în lume nu putea să aibă ceva mai bun până la sfârșitul lumii cu mai multe lagăre.