Mașinile autonome și etica IA

27 septembrie 2023 PE CE LUME TRĂIM

Luna trecută, autoritățile de reglementare din California au permis ca două companii care operează autovehicule autonome să accepte, în San Francisco, clienți cu plată. Prima săptămînă nu a mers bine. Una dintre mașini s-a „autocondus” pe o porțiune de ciment proaspăt turnat a unui drum aflat în construcție, deși șantierul era semnalizat de conuri de trafic și muncitori cu fanioane. Mașina s-a împotmolit în cimentul umed și compania urmează să plătească repavarea străzii.

Cu ocazia unui incident mai grav, un pasager al unei mașini autonome a fost rănit într-o coliziune cu o autospecială de pompieri. În urma incidentului, operatorul a acceptat să-și înjumătățească numărul de mașini autonome operate în San Francisco.

Decizia de a da undă verde mașinilor autonome poate marca începutul unei noi ere a transportului sau se poate dovedi un fals început. În orice caz, problemele ridicate de mașinile autonome sînt un ecou al multora dintre întrebările etice prilejuite de impactul Inteligenței Artificiale (IA) asupra vieții de zi cu zi.

O lume în care cele mai multe vehicule ar fi complet autonome ar avea multe avantaje. Majoritatea mașinilor private petrec mult timp fără să circule. Dacă fiecare dintre noi ar putea chema un vehicul autonom oricînd e nevoie, nu ar mai fi necesar să deținem o mașină proprie, ceea ce ar economisi resursele. În plus, menținînd traficul mai fluid, utilizarea la scară largă a mașinilor autonome ar putea economisi combustibil și timp.

Dar cel mai important argument pentru a elimina conducătorii auto umani este că în felul acesta s-ar putea elimina și erorile umane care provoacă nenumărate accidente, răniri și decese în trafic. (Administrația Națională SUA pentru Siguranța Traficului Rutier a înregistrat anul trecut pe șoselele SUA 42.795 de decese.)

Elon Musk a spus că dezvoltarea autovehiculelor complet autonome e o obligație morală, întrucît poate asigura un „viitor, practic, fără accidente”. Dar acest viitor e încă departe: pînă în momentul de față, autovehiculele Tesla produse de compania lui Musk au fost implicate în mai mult de 700 de accidente, soldate cu 17 decese, atunci cînd funcționau pe Autopilot – funcția lor de conducere asistată.

Ambele companii care operează mașini autonome în San Francisco pretind că mașinile lor sînt implicate în mai puține accidente – și, mai ales, în mai puține coliziuni soldate cu răniri – decît șoferii umani în împrejurări de trafic similare. Dar validitatea unor astfel de afirmații e contestată, din cauza îndoielilor cu privire la pertinența comparării împrejurărilor de trafic.

Și totuși, chiar dacă cea mai nouă generație de mașini fără șofer e mai puțin sigură decît șoferul uman mediu, s-ar putea argumenta că punerea lor în circulație acum e justificată, deoarece va salva foarte multe vieți pe termen lung. Atunci cînd mașinile autonome se vor perfecționa, s-ar putea chiar să impunem conducătorilor auto umani viteze mai reduse sau să le interzicem cu totul să conducă, în ideea că riscul pe care aceștia îl prezintă pentru ceilalți participanți la trafic va deveni, prin comparație cu opțiunea mai sigură oferită de mașinile fără șofer, inacceptabil.

Nu e de mirare că taximetriștii se opun „robo-taxiurilor” – o reacție similară avînd loc și în alte domenii în care IA amenință să ia locurile de muncă ale oamenilor. Prin creșterea productivității, spun susținătorii ei, IA ne va permite să obținem un echilibru muncă/viață privată mai bun. Dar „noi” nu îi va include pe cei cărora IA le va lua locul de muncă – mai puțin în cazul în care angajații vor fi recalificați pentru alte munci sau companiilor li se va impune să le plătească angajaților un salariu decent pentru o săptămînă de lucru mai scurtă. Va exista însă voința politică pentru a impune așa ceva?

Privind mai departe în viitor, ce se va întîmpla dacă IA se va răspîndi într-atît, încît doar o mică parte dintre oameni vor mai lucra? Vom fi oare capabili să inventăm noi scopuri care să înlocuiască menirea muncii, aceea de a conferi un sens și un sentiment de împlinire vieților noastre?

Programarea IA va fi probabil un alt domeniu care va trebui reglementat. Pentru a reveni la exemplul autovehiculelor fără șofer, consumatorii unei piețe nereglementate își vor dori mașini care minimizează riscurile pentru ei înșiși și pentru pasagerii lor, chiar dacă asta implică riscuri considerabil mai mari pentru pietoni. Dar dacă toate mașinile ar fi programate astfel, numărul celor uciși sau răniți de către mașini va fi mai mare decît în cazul în care mașinile ar fi programate să urmărească strategii de diminuare a riscurilor, indiferent că e vorba de cei aflați în mașină sau de cei din afara ei. Doar o reglementare care impune o astfel de „imparțialitate” poate preveni un rezultat care să semene cu binecunoscuta „tragedie a bunurilor comune”.

O problemă mai neobișnuită pe care o au mașinile fără șofer e că sînt mai puțin sigure în detectarea pietonilor de culoare, comparativ cu detectarea celor cu piele deschisă la culoare, ceea ce înseamnă că ele ar putea accidenta un număr disproporțional de mare de persoane de culoare. Un studiu (publicat în 2019, care a folosit tehnologii de ultimă oră din 2018) a sugerat că această disfuncție se explică prin faptul că software-ul a fost dezvoltat și testat în regiuni în care pietonii cu piele deschisă la culoare sînt mai numeroși decît cei cu pielea închisă. Dacă așa stau lucrurile, odată ce cunoaștem cauza problemei, putem și trebuie să găsim remedii.

O problemă de etică importantă, dar adesea ignorată, pe care o ridică autovehiculele autonome este dacă ele trebuie programate pentru a evita accidentarea animalelor și, dacă da, pe care anume. Toate vertebratele, dar și unele nevertebrate, sînt ființe conștiente, pasibile de suferință dacă sînt lovite fără a muri instantaneu. În plus, în cazul multor specii, pierderea unui partener e dureroasă sau poate duce la moartea prin inaniție a descendenților încă dependenți. Cum anume ar trebui să prețuim și să ținem seama de viețile și de interesele tuturor ființelor conștiente? – e o întrebare pe care etica IA trebuie să o abordeze.

Peter Singer, profesor de Bioetică la Universitatea Princeton, e fondatorul organizației caritabile „The Life You Can Save” și autorul, printre altele, al recentului volum Animal Liberation Now (Harper Perennial, 2023). Tse Yip Fai, cercetător în domeniul IA, e angajat în prezent la Center for Human Values al Universității Princeton, pentru a-l asista pe P. Singer la cercetările din acest domeniu.

traducere de Matei PLEŞU