Mă surprind dimineața uitîndu-mă în oglindă și văzîndu-mă așa cum nu apar în fotografii. De fapt, nu mă recunosc în fotografii. În oglindă mă văd încă băietanul de 12 ani, pus pe șotii, gata să se arunce cu capul înainte în orice părea vag periculos și care în același timp voia să devină cercetător subacvatic. Am devenit cercetător și fac scuba diving, dar nu împreună. Pe la 15-16 ani, odată cu descoperirea filozofiei, am lăsat oceanului ce este al său. Dar nu despre asta e vorba aici, ci despre fotografii. De toate felurile. Cele clasice sînt impresii pe care lumina le lasă într-o fracțiune de secundă pe un material fotosensibil. Cele digitale sînt colecții de date, din aceeași sursă, lumină, însă asamblate după regulile algoritmilor din computerul camerei (un alt tip de camera obscura) și redate pe ecran, unde pot fi din nou modificate, reasamblate, distorsionate (știți, evident, aplicațiile acelea simpatice care vă fac figura grotescă) și redate spre admirație individuală sau colectivă, privat intimă sau public anonimă pe paginile vreunei rețele sociale la care sîntem înscriși – numele acesteia variază în funcție de vîrstă, geografie, statut social, interese și așa mai departe. Instagram să fie…

De cele mai multe ori nu recunosc bărbatul mai degrabă mărunt, cu barba gri, tuns zero pentru a egaliza calviția pe întreg exteriorul cutiei craniene, cu mîini mari (sîc-sîc, Trump). Îi recunosc zîmbetul sau rîsul și ochii vioi, ca la 12 ani. Reasamblarea de date luminoase captate de aparatul de fotografiat îmi redă o imagine identică probabil, dar nu identitară, a sinelui sau a ceea ce percep eu că este sinele.

Să mergem mai departe. Pun o fotografie la profilul meu, mă bucur la cele cîteva like-uri și mă uit după prietenii care mă plac, deși îmbătrînesc sau poate tocmai pentru că îmbătrînesc împreună cu ei. Pentru a accesa profilul, am o parolă și o adresă de e-mail. Adresa de e-mail însăși are o parolă și o cu totul altă funcție – mai degrabă legată de muncă și de chestiuni administrative, de la schimbarea pașaportului la înștiințări despre diverse evenimente la care doresc sau nu să particip. Mai am parole pentru rețelele de televiziune cu care îmi pierd timpul, iar telefonul îmi cere amprenta de fiecare dată cînd îmi accesez conturile bancare între care transfer bani și care îmi dau măsura cuantificată a valorii mele sociale (sau lipsa acesteia). Nu, cifrele alea din cont nu sînt bani, sînt informații despre nivelul de confort și bunăstare la care, în viziunea socială generală, „merit“ să mă clasez, rezultat al unor serii de întîmplări mai mult sau mai puțin fericite din viața mea, ale unor alegeri și ale unor circumstanțe în afara controlului personal. Îmi mai las amprenta de fiecare dată cînd trec granița în Hong Kong (unde trăiesc acum) și în alte state care includ din ce în ce mai mult controlul populației prin big data.

Cînd merg pe stradă las în urmă o dîră de big data care curge din GPS-ul telefonului meu către toți algoritmii aplicațiilor pe care le-am încărcat inutil acolo, sperînd în momentul respectiv că îmi vor face viața mai bună, plină, ușor de trăit, excitantă – de fapt, că vor adăuga înțeles vieții. Nu prea o fac, însă colectează traiectoria mea zilnică atunci cînd am telefonul cu mine. Camerele de luat vederi montate mai peste tot în spațiul așa-zis public culeg și ele cînd pot impresii luminoase ale chipului meu pe care algoritmi misterioși și opaci le pot compara cu mai toate pozele cu mine care apar pe Internet, inclusiv în social media, și care mă pot identifica pînă la adresă și număr de telefon. (Un articol recent în New York Times relatează cum un astfel de algoritm, Clearview, a început să fie folosit extensiv de către departamente de poliție din Statele Unite pentru a identifica suspecți. Probleme cu un astfel de demers au fost o grămadă, de la chestiunea vieții private și alunecarea către societatea de control total pînă la pericolul utilizării unui astfel de algoritm în scopuri mai degrabă malefice.)

Mai adaug aici locurile pe care le vizitez ocazional virtual pe Internet, de la site-uri de știri pînă la cele de divertisment, și ele permițînd colectarea de date și informații asupra preferințelor mele – dar sînt oare ele preferințe ale mele? Formează toată această colecție de date despre mine o imagine identică cu mine, așa cum o fotografie o face? 

Aceasta este întrebarea-cheie și problema majoră a utilizării și răspîndirii big data – și implicit a Inteligenței Artificiale – în mai toate aspectele vieții noastre, acestea devenind nu neapărat o unealtă pentru a facilita anumite operații și sarcini plictisitoare făcute de om, ci mecanisme de decizie asupra destinelor individuale și colective bazate pe recrearea unor noi identități/profiluri ale utilizatorului în funcție de care acesta este judecat. Big data răspunde foarte bine la întrebarea „Ce faci?“, dar nu și la întrebarea „De ce faci ce faci?“ și „Cum te angajezi“ în făcutul acelui lucru. La nivel individual, big data poate identifica pattern-uri de comportament pe care le asociază anumitor identități, însă acestea sînt de fapt modele ale extraordinarei variații umane și nu surprind motivații și intenționalități ale individului – deci îl identifică cu un model fără însă a-i lua în considerație identitatea. Problema modelelor este chiar faptul că sînt modele, și nu realitate. Ele nu reflectă realitatea, ci propun o imagine simplificată a acesteia – Cathy O’Neil, matematiciană și programatoare, identifică și explică foarte bine această incongruență în cartea sa Weapons of Math Destruction / Arme de distrugere matematică. Problema raportării noastre la modele este că în momentul de față am ajuns fie să confundăm modelele cu realitatea (e mai simplu, mai ales în numele zeului eficienței), fie să încercăm a modela realitatea în baza modelelor ideale, inclusiv propriul corp (mulțumesc pentru nimic, Platon!). Cu alte cuvinte, practicile instituționale de astăzi bazate pe big data, de la administrație pînă la medicină, riscă să confunde identificarea cu identitatea și să acționeze asupra indivizilor ca și cum ar fi identici cu modelul. Consecințele pot fi, și sînt, dezastruoase. Cum observa și Philip Ball într-un articol foarte recent, The AI delusion: why humans trump machines, publicat în Prospect Magazine, consecințele erorilor în sistemele bazate pe big data pot fi catastrofice, mai ales dacă vorbim de diagnoze medicale sau de mașini automate (fără șofer) pentru că ele sînt amplificabile la scală enormă.

Tehnologia modernă bazată pe big data lucrează cu modele. Însăși crearea acestor modele este problematică și este demonstrat faptul că ele incorporează bias-urile modelatorilor. La rîndul lor, modelele se propagă înghesuind varietatea identității umane în simplificarea identificării tehnologice. Identificarea se face în absența tabloului complet conferit de nuanțele intenționalității și de contrastele modului de a fi. Subiecți direcți ai acestei identificări, este foarte posibil să nu ne recunoaștem în fotografia creată de big data, așa cum eu nu mă recunosc de multe ori în propriile fotografii ce surprind o milisecundă de lumină petrecută pe chipul meu. Însă instanța instituțională sau practica socială e posibil să recunoască doar identificarea și nu identitatea noastră, acționînd asupra fiecăruia dintre noi ca și cum am fi identici cu modelul și astfel remodelîndu-ne pentru a ne potrivi cu propria imagine generată de urmele noastre de date. Bine ați venit în lumea lui Dorian Gray, fotografiat algoritmic și amplificat exponențial!

Alec Bălășescu este antropolog, autor al volumelor Paris Elegant, Teheran Incitant, Voioasa expunere a ordinii mondiale și Într-o zi, orașul. Predă la Universitatea Royal Roads din Victoria, Canada.