Visează androizii garduri electrice?

Tehnologiile au fost la început ficţiune, iar roboţii nu fac excepţie. De la filmul-cult Metropolis, trecînd prin romanele lui Isaac Asimov şi Philip K. Dick şi ajungînd la roboţii omnipotenţi şi atotcunoscători Data (din Start Trek) şi Marvin (robotul hiperinteligent, drept urmare tot timpul deprimat, din Ghidul autostopistului galactic), am trăit un secol plin de pasiune. O pasiune umanistă, oricît de paradoxal ar părea. Roboţii ficţionali nu numai că sînt mai inteligenţi decît oamenii, dar deţin capacităţi de analiză morală superioare, au simţul datoriei şi al sacrificiului, au umor şi nu obosesc niciodată. Aceşti roboţi sînt împlinirea unui vis filozofic al îmbunătăţirii şi perfecţionării umane: prin ei umanitatea îşi atinge ultimul său stadiu. Unii, deloc convinşi de faptul că cogniţia ar fi totuna cu computaţia, l-ar numi coşmarul automatizării care duce la dispariţia autenticităţii; alţii, pentru care orice simulare e realizare a unei stări mentale, ar vedea în roboţi şansa noastră de progres ştiinţific şi moral. Roboţii, între timp, sînt aici, în scenarii mai puţin elaborate decît cele ficţionale, cu funcţii şi roluri specifice, dar încă departe de ceea ce numim inteligenţă artificială.

Dacă aceste creaturi l-ar enerva pe Descartes şi i-ar surîde tandru lui Alan Turing, nu am avea de ce să ne mirăm. Pe cît de mare este rezistenţa la înţelegerea automatelor ca entităţi autonome, echivalente agenţilor umani, pe atît de puternică este dorinţa de a utiliza, în folosul propriu, puterile lor. Să ne închipuim o lume populată cu roboţii zilei de azi: maşini care se conduc singure (dezvoltate de Google), roboţi-companioni atît pentru copii (cum e francezul Nao, prezent deja în sălile de clasă din lumea largă), cît şi pentru seniori, roboţi sexuali, roboţi medicali (uneori sub forma unor sisteme-expert), roboţi spaţiali (precum Kirobo, companionul comandantului Staţiei Spaţiale Internaţionale) etc. Alături de aceştia, umanoizi în înfăţişare, lumea e plină de roboţi industriali, de elemente robotice componente ale unor tehnologii utilizate pe scară largă, de chatterbots (care te pot păcăli adesea că sînt psihologi pe Internet) şi de drone care distrug, cu aceeaşi precizie, celule teroriste şi şcoli în Orientul Mijlociu. Această lume nu mai e deloc ficţională, ci pune o serie întreagă de probleme morale care se cer rezolvate cît mai curînd. Un scenariu este adesea vehiculat: în viitorul deloc îndepărtat (în jur de 2045), Inteligenţa Artificială va fi deplină, iar noi, oamenii, vom pierde supremaţia pe Planetă. Ce e de făcut? Să oprim acum expansiunea tehnologică şi cercetarea? Să ne unim într-o nouă specie cu aceste entităţi, spre a crea cyborgul? Sau să ne acceptăm destinul de a deveni sclavii sclavilor noştri de acum? Sînt roboţii ultimul proletariat şi vor definitiva ei revoluţia ştiinţifico-industrială?

Riscul existenţial

Mulţi refuză acest scenariu, şi au motive foarte întemeiate. Argumentele lor gravitează în jurul unor poziţii de genul: roboţii nu vor avea conştiinţă sau intenţionalitate, roboţii nu vor putea să-şi dea singuri regulile morale, roboţii nu pot duplica şi nu se pot adapta complexităţii vieţii, atît în sens biologic, cît şi social. Dar respingerea scenariului nu elimină deloc riscul existenţial. Pentru că, deja prezenţi, roboţii alterează atît interacţiunea dintre oameni, cît şi înţelegerea umanităţii din noi. Copiii actuali sînt mai apropiaţi de asemenea entităţi, ajungînd la o empatie deplină, decît sînt de alţi copii din jurul lor sau de alte forme de viaţă. Seniorii sînt daţi în grija roboţilor şi acest lucru este privit cu suspiciune, dar acceptat, pentru că e mult mai eficient economic. Medicii, dar şi profesorii sau judecătorii, cer sfatul şi ajutorul acestor automate în decizii de o importanţă majoră. Şi zi de zi milioane de oameni tranzitează oraşe, ţări şi întreaga Planetă, purtaţi în mîinile dibace ale unor roboţi (invizibili nouă) instalaţi în trenuri, metrouri şi avioane. Cît de curînd o vor face în maşini automate. În această artificializare şi automatizare complexe, cine va mai fi responsabil, în caz de eroare şi accident? Pe lîngă problema clasică a responsabilităţii, se nasc întrebări legate de preferinţe şi prioritizare, dar şi de discriminare.

Ce ştim pînă acum nu ne va ajuta foarte mult în evaluarea morală a roboţilor. Asumăm de la început (aşa cum am făcut-o şi eu aici) o viziune antropocentrică. Dar dacă aceşti roboţi, încă primitivi, vor deveni cu adevărat mai inteligenţi decît noi, putem să mai susţinem poziţia actuală? Chiar şi astăzi, a trata un robot precum un frigider, o Dacie sau un vibrator, adică drept instrumente pure, pare imoral. De ce imoral? Răspunsul la această întrebare, diferit de la caz la caz, spune ceva mult mai important despre noi şi umanitatea noastră decît despre roboţi.

Constantin Vică este asistent universitar la Facultatea de Filozofie şi cercetător la Centrul de Cercetare în Etică Aplicată, Universitatea Bucureşti.