Cine ar trebui să decidă cum decid algoritmii?

Mark ESPOSITO, Terence TSE, Joshua ENTSMINGER, Aurélie JEAN
Publicat în Dilema Veche nr. 792 din 25 aprilie – 1 mai 2019
Cine ar trebui să decidă cum decid algoritmii? jpeg

Studiul „Mașina morală“ găzduit de MIT a studiat, de-a lungul ultimilor ani, preferințele opiniei publice cu privire la modul în care aplicațiile pe bază de inteligență artificială (IA) ar trebui să se comporte în diferite contexte. Una dintre concluziile datelor colectate este că, atunci cînd un vehicul autonom (VA) se confruntă cu o situație de viață sau de moarte, felul în care un subiect consideră că ar trebui să răspundă depinde în mare măsură de proveniența sa și de ce anume știe despre pietonii sau despre pasagerii implicați.

De exemplu, în cazul unei versiuni VA a clasicei „dileme a tramvaiului“, unii s ar putea să prefere ca vehiculul să lovească un ucigaș dovedit, mai degrabă decît pe altcineva, sau să calce mai degrabă un bătrîn decît un copil. Iar alții ar putea argumenta că VA ar trebui, pur și simplu, să tragă la sorți, pentru a evita discriminarea pe baza informațiilor deținute.

În general, astfel de dileme sînt, post factum, de competența instanțelor ju-de-că-to-rești sau a poliției. Dar, în cazul VA, deciziile trebuie luate în decursul unor milisecunde, timp cu totul insuficient pentru a ajunge la o decizie în cunoștință de cauză. Aici nu contează ce anume știm noi, ci ceea ce știe vehiculul. Întrebarea este, prin urmare, ce informații trebuie să dețină VA despre oamenii din jurul lor. Și ar trebui oare să li se permită firmelor să ofere diferite sisteme etice, în scopul unui avantaj competitiv?

Să luăm următorul exemplu: un vehicul din China are un alt standard de fabricație decît unul din SUA, dar e exportat și utilizat în SUA. Vehiculul chinezesc și cel american sînt în curs de coliziune inevitabilă. Dacă șoferul vehiculului chinezesc are preferințe etice diferite de ale conducătorului american, care dintre sisteme ar trebui să prevaleze?

Dincolo de diferențele culturale care pot influența preferințele etice, trebuie luate în calcul și diferențele de reglementare a regimului datelor din diferitele țări. Un producător chinez de vehicule, bunăoară, ar putea avea acces la date despre „punctajul social“ al cetățenilor, care ar oferi algoritmului său de decizie input-uri suplimentare, indisponibile producătorilor americani. Un volum mai mare de date ar putea favoriza decizii mai bune și mai întemeiate, dar ar trebui oare ca acest avantaj să permită ca un sistem să l excludă pe altul?

E limpede că, înainte ca VA să ia în stăpînire șoselele, va trebui să stabilim cine poartă răspunderea luă-rii de decizii algoritmice, fie că e vorba de autorități municipale, de guverne naționale sau de instituții multilaterale. Mai mult, vor fi necesare noi cadre de guvernare a acestei zone de interferență dintre stat și lumea afacerilor. În discuție nu e doar ceea ce vor face VA într-un scenariu extrem, dar și modul în care lumea afacerilor va interacționa cu diferitele culturi în dezvoltarea și implementarea algoritmilor de decizie.

E simplu de imaginat că toți producătorii de VA vor face reclamă diferitelor sisteme etice care pun viața șoferului mai presus de orice sau care îi permit utilizatorului să activeze un sistem etic propriu. Pentru a preveni această „tragedie a bunurilor comune“ va fi nevoie de cadre pentru stabilirea comunicării și coordonării deciziilor între VA-uri. Dar, în procesul elaborării acestor sisteme în contexte culturale diferite, factorii de decizie politică și mediul de afaceri se vor confrunta cu diferite noțiuni culturale despre suveranitate, sferă privată și autonomie individuală.

Ceea ce, dat fiind că sistemele IA nu tolerează ambiguitatea, ridică probleme suplimentare. Crearea unei aplicații IA de la zero presupune specificări extrem de precise: indiferent de situație, aceste sisteme nu fac decît ceea ce au fost instruite să facă. Ceea ce înseamnă că firmele, guvernele și alți furnizori vor trebui să facă alegeri explicite atunci cînd programează protocoalele de răspuns pentru diferitele situații.

Dar, înainte să se ajungă aici, factorii de decizie politică vor trebui să stabilească ramificațiile responsabilității algoritmice, pentru a determina dacă și ce decizii trebuie lăsate în seama întreprinderilor sau a persoanelor private. Deciziile care sînt de competența statului vor trebui dezbătute. Și, dat fiind că astfel de probleme etice și morale nu au răspunsuri facile, e puțin probabil să se ajungă la un consens. Pînă la o soluție definitivă, va trebui să creăm sisteme care să înlesnească, cel puțin, comunicarea dintre VA-uri și să arbitreze disputele algoritmice și evenimentele din trafic.

Dată fiind nevoia de specificări precise în elaborarea algoritmilor decizionali, e de la sine înțeles că va fi nevoie de un organism internațional care să stabilească normele care vor permite rezolvarea dilemele morale și etice. VA-urile sînt, în fond, doar o aplicație a luării de decizie algoritmică. În viitor, normele responsabilității algoritmice vor trebui gestionate în tot mai multe domenii.

În cele din urmă, întrebarea principală la care trebuie să răspundem este dacă întreprinderile au dreptul să elaboreze cadre etice alternative, destinate luării de decizie algoritmice. Noi am fi de părere că nu îl au.

În epoca IA, unele componente ale „lanțurilor valorice“ globale vor fi, în mod firesc, automatizate, moment în care ele nu vor mai fi considerate terenuri de luptă pentru firmele care concurează pentru întîietate. Procesul de stabilire și arbitrare a responsabilității algoritmice va deveni, în schimb, un astfel de teren. Într-un fel sau altul, se vor lua decizii. Ar fi mai bine ca ele să fie adoptate uniform și într-un mod cît mai democratic. 

Mark Esposito, profesor de Afaceri și Economie titularizat la Hult International Business School a Universității Harvard, este co-fondator al Nexus Frontier-Tech, bursier al Mohammed Bin Rashid School of Government din Dubai și al Judge -Business School din Cambridge.

Terence Tse, profesor la ESCP Europe Business School din Londra, este co-fondator al Nexus FrontierTech.

Joshua Entsminger este cercetător la Nexus FrontierTech și bursier senior la École des Ponts Center for Policy and Competitiveness din Paris.

Aurélie Jean, specialist în calcul științific, este fondator al In Silico Veritas, consilier la Boston Consulting Group și colaborator extern al Ministerului Educației din Franța. 

© Project Syndicate, 2019
www.project-syndicate.org

traducere de Matei PLEŞU

Foto: wikimedia commons

image png
Bolboroseala hipnotică a ideilor false
Condiția necesară pentru a evita acest epilog este ca forța de atracție a adevărului să fie mai mare decît bolboroseala hipnotică a ideilor false.
image png
Ursulețul mișel la vînătoare de spioni
Nefericita presupunere că joaca cu cuvintele nu va avea efecte e greșită.
image png
O notă, o stare, o zi...
Altfel, devenim un fel de Mega Image cu de toate...
image png
Ce este întunecarea?
Unii dintre contemporani descifrează misterele galaxiilor îndepărtate cu ajutorul unui nou telescop spațial.
image png
Diamante pe fir de telegraf
Ca și diamantele cumpărate extrem de avantajos de Charles Lewis Tiffany de la aristocrații francezi fugiți din Franța după abdicarea forțată a regelui Ludovic-Filip din 1848.
image png
A treia țeapă
Num-așa, ca ardeleanul suit în Dealul Clujului, vorba unui cîntec.
image png
La o cafea
Cu puţină mămăliguţă caldă, le veţi înghiţi, treptat, pe toate.
image png
Microbiști și tifosi
Indiferent dacă s-a dezvoltat după modelul lui tifoso sau în mod independent, microbist confirmă vitalitatea unei metafore cognitive.
image png
Timpul blamării
Dar cînd vom reuși să facem asta, constructiv, nu doar să ne facem auzite glasurile noastre vitriolate?
p 7 Gaza WC jpg
De ce „restul” respinge Vestul
Această declarație a coincis cu debutul campaniei prezidențiale în SUA, Trump fiind candidatul său preferat.
image png
image png
Buon appetito!
Dar, apropo, cred că, după ce a făcut lumea, Dumnezeu s-a mai gîndit puțin și a creat Italia.
image png
O lecție de responsabilitate
Scriu pentru cititorii noștri de bună-credință, cei mai mulți, care ne prețuiesc și care se vor fi încruntat cînd au văzut numărul nostru de săptămîna trecută.
image png
Cînd economia de piață s-a pierdut printre proteste
Întrebarea este: pînă unde vor merge încălcările principiilor economiei de piață și cele privind funcționarea Uniunii Europene?
image png
De ce n-avea Navalnîi șapcă?
Dar trebuie să îi dăm societății ruse credit că măcar a încercat. Sacrificiul lui Navalnîi e dovada.
image png
Succesiunea
Nici Europa nu stă grozav înaintea unor alegeri care pot să împingă în parlamentele europene diferiți demagogi cu promisiuni maximale și capacități mediocre.
image png
Cum trebuie să fie un președinte
Nu cred în nici o campanie electorală construită pe negativitate, pe agresiune, pe obsesii strict individuale.
image png
Avram Iancu – 200
Și totuși, posteritatea lui este impresionantă și oricine mai simte românește nu poate să nu simtă o înaltă emoție gîndindu-se la el.
image png
image png
Misterul voiniciei
„Strîmbă-Lemne” nu are, după cum se vede, o tipologie fixă, el variind imagistic în funcţie de marotele fiecărei generaţii.
image png
Înscenări
În lipsa exemplelor, utilizatorul obișnuit al dicționarului nu poate fi sigur de excluderea unei construcții.
image png
Viitorul începe ieri
Au mai fost și alte titluri, bineînțeles, poate nu atît de cunoscute, unele de psihologie și dezvoltare personală.
p 7 Adevăratul Copernic jpg
Pletele celeste ale Stăpînului Planetelor
Cel puţin aceasta a fost informaţia care s-a transmis în timp.
image png

Adevarul.ro

image
Megastructura uriașă pentru care Ceaușescu a plătit 60 de tone de aur pur. Este unicat în România și funcționează și astăzi
La granița de nord a României se află una dintre cele mai impresionante mega-structuri a epocii comuniste. Barajul de la Stânca-Costești este un colos de beton care a costat câteva tone de aur și este al treilea ca mărime din Europa. Acum este un adevărat paradis natural.
image
EXCLUSIV. Elena Lasconi: „Dacă voi fi președintele României, voi fi un președinte pentru popor, din popor și nu din colivie”
Candidată la președinția USR și văzută ca potențial candidat la alegerile prezidențiale, Elena Lasconi a vorbit într-un interviu exclusiv pentru „Adevărul” despre relația cu Dominic Fritz, despre cum s-a decis să candideze la președinția USR și dacă e România pregătită să aibă o femeie-președinte.
image
Ce este sistemul Patriot. Plusurile și minusurile armamentului american cu preț exorbitant
Patriot este unul dintre cele mai avansate sisteme de apărare aeriană disponibile, capabil să intercepteze atât rachete cât și aeronave avansate. Principala provocare a sistemului este costul uriaș - o baterie Patriot nouă ajunge la 1 miliard de euro.

HIstoria.ro

image
Cine au fost agenții dubli din al Doilea Război Mondial?
Cea mai importantă parte a Operațiunii Fortitude a reprezentat-o rolul jucat de agenți dubli.
image
Când au apărut primele bănci din Țara Românească
Pe măsură ce viața economică a Țării Românești se dezvoltă, apar numeroase proiecte și încercări pentru organizarea instituțiilor naționale de credit. Î
image
Iuliu Maniu interceptat de Siguranță la ordinul lui Armand Călinescu
În 1932 Armand Călinescu e subsecretar de stat la Interne. La 5 decembrie el se mărturisește Jurnalului, ținut zilnic și pe ascuns: