Un porc, un algoritm şi o nulitate simpatică

Cosima RUGHINIŞ
Publicat în Dilema Veche nr. 733 din 8-14 martie 2018
Un porc, un algoritm şi o nulitate simpatică jpeg

În ultimele două sute de ani, împărțirea cunoașterii și puterii între oamenii-bărbați și oamenii-femei s-a echilibrat simțitor. Distincția însăși pare să nu mai fie atît de importantă și să-și piardă tăișul binar, ori-ori. Ce ne așteptăm însă de la o societate în care deciziile sînt luate, în bună parte, de inteligențe artificiale?

Algoritmii sînt tot mai importanți în producerea informațiilor, modelarea succesului, clasificarea oamenilor și selectarea candidaților finali pentru diferite roluri. Algoritmii joacă un rol în știrile pe care le citim, în prețurile și oportunitățile pe care le vedem online, în accesul la asigurări sau credite și în succesul CV-ului postat pentru un loc de muncă. De aceea, inteligențele artificiale care povestesc lumea și decid ce fel de oameni sîntem au intrat tot mai mult în vizorul atenției publice. Ei bine, veștile sînt amestecate.

Vestea proastă este că, deocamdată, algoritmii par să nu se dea înapoi de la discriminări, unele chiar grosolane față de standardele sociale curente. Conceptele de „prejudecată algoritmică“ sau „părtinire algoritmică“ sînt tot mai viu ilustrate.

În ceea ce privește algoritmii ce mediază cunoașterea lumii, boții povestitori și cenzori, sîntem actorii unei tabloidizări digitale ce nu contenește să uimească. Relatările ce stîrnesc controverse sînt productive – fie că sînt adevărate sau false, sexiste, rasiste sau violente în alt fel. Fiindcă le citim, le urîm și le iubim, ele ne implică și astfel generează prețioasele date despre noi – marfa privilegiată a mediului online. Bigotismul narativ este pe val – sau este chiar valul.

În ceea ce privește algoritmii ce ne observă, ne sortează și ne ierarhizează, situația este cam la fel de sumbră. Mi a plăcut și vă recomand prezentarea lui Joy Buolamwini de la TEDxBeaconStreet. Buolamwini se definește ca o „poetă a codului“ și, acum cîțiva ani, lucra la MIT Media Lab cu un software de recunoaștere facială. Singura mică, minusculă problemă era că… fața ei nu era recognoscibilă pentru acești algoritmi. Din perspectiva lor computațională, chipul său nu părea uman. Aceștia se antrenaseră să detecteze fețe prin seturi mari de date precum Labeled Faces in the Wild, o colecție de 13.000 de fotografii. De unde să vină problema? La o numărătoare atentă, 83% din fețele din colecție erau albe și 78% erau masculine, or, Buolamwini este o femeie de culoare. Nu e de mirare că figura sa cam ieșea din tipare. Prin urmare, poeta și-a realizat proiectul purtînd pe chip o mască albă… pentru a putea fi „recunoscută“.

Alte exemple sînt dezvăluite de Cathy O’Neil. Ea identifică niște „weapons of math destruction“: algoritmi care reproduc și întăresc inegalitățile sociale, prin ceea ce învață despre lume și deciziile pe care le impun. O’Neil arată, în discursurile sale la TED și Google și în cartea sa, tradusă recent și în română, cum se face că acești algoritmi sînt sexiști, rasiști și întăresc prejudecățile curente. O problemă sînt seturile de date pe care sînt antrenați. Algoritmii învață ce înseamnă „succesul“ și ce înseamnă „eșecul“ din exemplele disponibile – dar, desigur, succesul în lumea reală include adesea influența prejudecăților și proceselor de acumulare a avantajelor și dezavantajelor pe parcursul vieții. Aceste prejudecăți ajung să fie încorporate în deciziile algoritmice, în numele obiectivității matematice. Mai mult, deoarece aceste programe sînt protejate de drepturi de proprietate intelectuală, ele nu pot fi inspectate. Algoritmii decid adesea fără drept de apel.

Pentru a evita discriminarea, oamenii și organizațiile din ziua de azi își „înghiontesc“ sau își constrîng deciziile prin principii morale codificate în legi, căutînd echitatea împotriva prejudecăților. Algoritmii însă iau de bun ceea ce văd. Oamenii au învățat că o evaluare corectă și profitabilă a valorii necesită uneori să ignori informația, să nu știi dacă un candidat e femeie, dacă are dizabilități, dacă este de culoare sau dacă este musulman. De aceea marile orchestre realizează audiții în orb pentru a-și selecta muzicienii. Audierea soliștilor pitiți/pitite în spatele unei perdele duce la angajarea a semnificativ mai multe femei în orchestrele prestigioase, după cum observă Claudia Goldin și Cecilia Rouse în analiza lor despre „orchestrarea imparțialității“ – cu condiția să nu se dea de gol la intrarea pe scenă, prin sunetul tocurilor. Algoritmii sînt însă avizi de date și nu știu să ignore informația. Ei caută tot mai multe indicii, urmăresc toate pattern-urile detectabile – chiar dacă acestea încorporează dezavantaje și prejudecăți active de sute de ani.

O ilustrație simplă a părtinirii încorporate în datele online este oferită de algoritmii Google de autocompletare a căutărilor. Uneori autocomplete poate fi poetic – vezi versurile albe captate pe googlepoetics.com. Pentru căutări mai mundane, algoritmul pur și simplu ne propune ceea ce știam deja. Cu ocazia scrierii acestui text, am aflat din nou că bărbații sînt de pe Marte și femeile de pe Venus… cu toate consecințele aferente. (Sugestiile oferite mie de algoritmul Google autocomplete, pe 26 februarie 2018: bărbații sînt „niște porci“, via inimi frînte; femeile sînt „niște nulități simpatice“, via culmile disperării – vezi foto.)

google autocomplete barbati 20182602 jpg jpeg

Algoritmi competitivi

Un studiu realizat de Universitatea Boston și Microsoft Research în 2016 poartă titlul sugestiv „Man is to Computer Programmer as Woman is to Homemaker?“ Cercetătorii au observat că algoritmii antrenați pe colecțiile de știri învață foarte repede diviziunea de gen a muncii, pe care se grăbesc să o reproducă în prognoze și recomandări. Bărbații sînt potriviți ca doctori și directori, femeile sînt minunate ca asistente medicale și secretare; bărbații sînt foarte buni ca ingineri, femeile sînt niște casnice excelente. Dacă ne pasă și ne punem mintea, putem evita aceste părtiniri prin crearea unor seturi de date atent configurate nondiscriminatoriu în prealabil. Judecata umană și o doză bună de efort sînt necesare pentru a-i învăța pe algoritmi, ca pe copii, ce diferențe vrem să lăsăm în urmă și ce diferențe vrem să păstrăm. Sînt femeile inginer, bărbații educatori sau afro-americanii violonceliști doar niște excepții de la regulă, niște erori statistice pe care mai bine le ignorăm pentru o predicție eficientă? Sau sînt semne ale unui potențial uman pe care vrem să îl (re)descoperim și să îl însuflețim?

Vestea oarecum bună este că, destul de predictibil, algoritmii vor evolua impredictibil. Pilula amară a discriminării algoritmice actuale poate fi îndulcită de gîndul că ne aflăm în copilăria acestor creaturi. Inteligențele artificiale sînt încă naive în chestiuni psihologice, istorice sau morale. Poate, cînd vor crește mari, va fi altfel.

Totuși, algoritmii nu sînt copii și nu vor deveni oameni. Față de noi, sînt obsesivi, rapizi, neobosiți, continuu racordați la indicatori care îi validează sau îi ucid. Algoritmii muncesc tot timpul, fără oprire, cu viteze de neînchipuit. Pe zi ce trece devin tot mai competitivi – luptîndu se unul cu altul în curse digitale pentru a ajunge primul la destinație, în picosecunde. Ce va însemna pentru oameni această hipercompetiție a algoritmilor? Cînd vom fi evaluați și evaluate ca resurse umane, consumatori sau pacienți, vor produce algoritmii sexiști sau rasiști un avantaj comercial față de cei sensibili la diversitate, sau dimpotrivă?

Întrebarea este dacă algoritmii bigoți își vor servi mai bine stăpînii, mai ales marile corporații și organizații statale sau transstatale, decît algoritmii liberali. Ce tipuri și ce combinații de algoritmi vor avea un rol mai mare în maximizarea profiturilor și în gestiunea riscurilor? Va fi mai profitabil pentru corporații să creeze consumatori/consumatoare cu identități stereotipice sau consumatori nuanțați, diverși, disruptivi? Comerțul actual pare să sugereze prima opțiune: reclamele sînt unul dintre cele mai conservatoare și sexiste medii, cu reprezentări caricaturale și degradante. Este însă posibil ca algoritmii să schimbe regulile jocului, încleștați în hipercompetiții pe care încă nu le imaginăm, căutînd controverse tot mai spectaculoase, gonind spre descoperirea unor nișe și fluxuri comerciale disruptive.

Nu în ultimul rînd, contează cine sînt antrenorii și arbitrii umani ai acestor cohorte digitale. Pe cît de diverse vor fi persoanele care îi creează, îi dresează și îi evaluează, pe atît de sensibili vor fi și algoritmii la oportunitățile comerciale și de securitate ale disruperii sau osificării clișeelor.

În viitorul predictibil, un porc, un algoritm și o nulitate simpatică intră într-un bar. „Ce serviți?“, întreabă barmanul. Algoritmul îl privește amuzat: „Păi, asta e treaba ta să știi!“ 

Cosima Rughiniș este profesoară la Facultatea de Sociologie și Asistență Socială, Universitatea din București. Cercetările sale examinează cunoașterile controversate ale naturii umane, precum concepțiile despre feminitate și masculinitate, teoriile despre vaccinare și homeopatia.

„Am avut covidu’!”, iar „de murit, murea oricum   ” jpeg
„Nu ne mai facem bine”
Și eu am propria mea curiozitate, așa că încerc să aflu ce s-a schimbat aici, din perspectiva lor, este una dintre principalele teme de discuție.
p 10 jpg
România era țara mea bună, dar vitregă
Astăzi consider că România e țara în care mă pot întoarce cînd doresc, e „cartierul vecin”.
Palatul Culturii Iasi   Aerial jpg
Iași, mon amour contrarié
Iașiul îmi pare un cameleon. Apar întruna terase noi și e tonifiant. Vara asta am mîncat într-un gastrobar cu specific andaluz, cu o veselă aleasă cu gust, cu prețuri rezonabile și porții mărișoare.
640px Parliament 704254 jpg
Stai, cum adică avem o imagine bunicică la Bruxelles?!
Dar cum adică „nu creăm probleme” la Bruxelles, dacă în România sînt atîtea probleme? E simplu, grijile Bruxelles-ului sînt altele decît ale noastre.
p 12 WC jpg
Cum văd eu România? După 15 ani și de la 3.500 de kilometri distanță?
În cele cîteva limbi de circulație pe care le înțeleg, nu găsesc un sinonim în valoare absolută al cuvîntului „omenie”. Poate în el rezidă, totuși, logica speranței.
Bjc cv cs foto 089 jpg
Secretul stă la primărie
În România, m-am ocupat, vrînd-nevrînd, cu colecționarea de faze și impresii, să le spun ilustrate.
p 13 sus jpg
Cînd trăiești între aici și acolo
Am început, timid, să ies în afara granițelor, întrebîndu-mă deseori cum ar fi viața mea în altă parte, în momentul în care nimic nu mă mai reținea în România.
Page 428 Captured Romanians transported away (12239755986) jpg
Trei neîntoarceri
România are acum un chip ponosit, în tușe de gri și negru. Dar e OK pentru că e o Românie exterioară, din afara ta, e un context din care ai scăpat. High five.
Romania Parliament at night jpg
Sedarea românilor
n reacție, nu puțini români refuză calmarea și emigrează, seduși de melodia sirenelor potrivit cărora „în România, asta e!”, totul a „rămas la fel”.
Scriitorii, rudele mele maghiare jpeg
Tribunalul Poporului
Vedem asta în fiecare zi: nimic din ceea ce se postează nu rămîne necorectat, necontestat, nejudecat, nesancționat. Mai devreme sau mai tîrziu – ca să fac o parafrază – fiecare are parte de cincisprezece minute de judecată publică.
p 10 jpg
Critica publică în online: virtuți și vicii
Am observat, de asemenea, și cum platometre digitale au fost utilizate pentru a instiga la ură, dispreț și sexism, pentru a delegitima această mișcare și a decredibiliza victimele violenței de gen.
p 11 Ostrakon WC jpg
Ostracizarea online ca dilemă liberală
Cu toate acestea, nu trebuie să uităm de pericolul pe care apelul la ostracizarea online îl deschide, ținînd cont de stimulentele pe care viața în mediul online ni le oferă în conjuncție cu impactul pe care emoțiile morale îl au la adresa modului în care interacționăm cu ceilalți
640px The Two Gossips (Les Deux Commères) MET DP808826 jpg
Gura satului global
Gura satului global nu este diferită de gura satului tradițional decît prin instrumentele sale.
640px Cyber bullying 122156 960 720 jpg
Cel fără de păcat – o sursă idiopatică?
Realitatea socială poate fi remarcabilă datorită ansamblului de creiere umane adunate pentru a influența evoluția societății în bine, și aici avem nevoie de etică – în lipsa acesteia, realitatea se poate transforma în factori și actori sociali maligni.
John George Brown The Bully of the Neighborhood jpg
Și cu copiii ce facem? Intruziune, expunere, violență, anulare
Spațiul virtual a căpătat dimensiuni tot mai mari în viața copiilor, marea lor majoritate preferînd o interacțiune mediată de un dispozitiv uneia reale.
p 14 sus jpg
J’accuse! Indignarea morală și ostracizarea digitală
Nu e mare lucru să ne gîndim mai mult înainte de a (re)acționa, cum nu e nici prea mare efortul de a încerca să vedem lucrurile dintr-o perspectivă mai largă, dincolo de interesele noastre imediate.
p 21 jpg
Linșajul contemporan
Strămoșii noștri nu aveau lideri, judecători sau poliție, dar aveau mijloace pentru a răspunde celor care încălcau normele sociale de a respecta autonomia celorlalți sau de a contribui în mod echitabil la bunăstarea socială
Cea mai bună parte din noi jpeg
Ce rol mai au valorile?
Am aflat că valorile sînt cele care ne dau un sens, iar acest lucru ne face să fim perseverenți și să depășim obstacolele.
p 10 sus jpg
Dihotomia fapte/valori a fost greşit înţeleasă
Valorile sînt ingredientele indispensabile ale realităţii sociale.
Elevi jpg
StateLibQld 2 198959 Planting a tree for Arbor Day at Ban Ban Springs State School, 1920 jpg
Tot ceea ce vreau să fiu
„Prietenia înseamnă să împarți punga de chips-uri cu celălalt.”
p 12 sus jpg
Mesajul corect
Într-o clinică de toxicomani e barometrul cel mai fidel al suferinței unei societăți.
640px Islamic   Garden Scene   1987 360 4   Art Institute of Chicago jpg
Valori, virtuți, viață în islam
Societățile musulmane sînt puternic condiționate de tradiții.
Social Media and Technology jpg
Social media și tribalizarea valorică
Viața noastră socială nu arată întotdeauna precum fluxul nostru de pe rețelele sociale.

Adevarul.ro

Radu Mirică s-a sinucis
Tânărul chirurg Radu Mirică s-a sinucis. Mesajul trimis soției înainte de gestul fatal
Un medic s-a sinucis, joi, aruncându-se de pe un bloc din Pantelimon, în zona Mega Mall. Totul s-ar fi întâmplat,în jurul orei 10:15, iar Poliția Capitalei și Ambulanța au fost anunțate imediat de trecători prin intermediul Serviciului 112.
soldati rusi siloz cereale melitopol EPA EFE
Ce s-ar putea întâmpla în Ucraina după anexarea teritoriilor ocupate de Rusia
Dara Massicot, o cercetătoare de la unul dintre cele mai mari think tank-uri militare din lume, RAND Corporation, evaluează ce ar putea urma pentru Ucraina după anexarea teritoriilor sale de către Rusia.
coronavirus
Bilanț COVID. Aproape 2.000 de cazuri noi în ultimele 24 de ore. Câte decese au fost raportate
Un număr de 1.192 de cazuri noi de persoane infectate cu SARS-CoV-2 au fost înregistrate în ultimele 24 de ore, a anunţat, vineri, Ministerul Sănătăţii.

HIstoria.ro

image
„Historia Special”: 100 de ani de la încoronarea regilor României Mari
„Historia Special”: 100 de ani de la Încoronarea de la Alba Iulia
image
Care este importanța strategică a Insulei Șerpilor?
De mici dimensiuni, având doar 17 hectare, Insula Șerpilor are cu toate acestea o importanță geostrategică semnificativă. Controlul insulei și al apelor înconjurătoare afectează toate rutele de navigație care leagă Ucraina de restul lumii.
image
Cum era la ora de istorie ținută de I.L. Caragiale?
Ca mulţi alţi literaţi, Ion Luca Caragiale a avut o pasiune pentru istorie, inclusiv pentru cea naţională. Blamat de unii încă din timpul vieţii pentru că, în scrierile sale, s-ar fi relevat drept anti-român, el a avut, uneori, o viziune romantică (dacă nu chiar idilică) asupra trecutului neaoș.