Consecinţele utilizării soldaţilor artificiali

Mihail-Valentin CERNEA
Publicat în Dilema Veche nr. 733 din 8-14 martie 2018
Consecinţele utilizării soldaţilor artificiali jpeg

Vorbim foarte des despre modul în care dezvoltările uimitoare din domeniile roboticii și inteligenței artificiale vor afecta munca civilă, dar la fel de spectaculoase și, poate, periculoase vor fi efectele acestor noi tehnologii în cadrul conflictelor armate. Ca să înțelegem aceste efecte ar fi util să explicităm o distincție care se face în literatura de specialitate între automatizare și autonomizare. Un sistem automat este capabil să ducă la capăt o sarcină prestabilită indiferent de schimbările ce pot avea loc în mediul în care acesta funcționează. Un sistem autonom este capabil de mult mai mult – modul în care este efectuată sarcina pe care trebuie să o îndeplinească este adaptat la context. Folosind un exemplu simplu, o mașină de spălat automată își face ciclurile indiferent de natura textilelor cu care am încărcat-o, de cantitatea de detergent folosită sau de impactul său asupra mediului înconjurător. Dacă am programat-o să spele haine de bumbac, aceasta își va face treaba indiferent că am pus în cuvă poliester, bocanci sau pisici. O mașină de spălat autonomă ar fi capabilă să detecteze ce textile am pus în ea, să-și adapteze ciclul de spălat la material, să se autoalimenteze cu detergentul de care are nevoie ș.a.m.d. Astfel, dacă se presupune că multe meserii civile vor fi afectate de automatizare, lumea militară va fi schimbată radical de autonomizare. Dronele viitorului, cel puțin la nivel teoretic, nu vor mai avea nevoie de un operator uman care să aleagă țintele și să decidă dacă acestea pot fi atacate sau nu. Comandantul unei unități militare robotice trebuie doar să delimiteze zona de conflict, să desemneze obiectivele și caracteristicile principale ale țintelor asaltului, iar flota de drone aeriene și/sau terestre se va putea ocupa singură de tot.

Dacă vă vin în minte scenarii apocaliptice inspirate de filme ca Terminator sau Blade Runner, în care acești robo-soldați capătă o voință proprie și pun în lanțuri umanitatea întreagă, aflați că vă gîndiți probabil mult prea departe. În orice documente oficiale ale armatelor care pot dezvolta aceste capacități avansate de luptă, posibilitatea intervenției umane în acțiunile inteligențelor artificiale marțiale este desemnată ca obligatorie. Este greu de crezut că vreo forță militară va construi vreodată arme pe care nu le poate controla corespunzător. Cu toate acestea, majoritatea filozofilor și oamenilor de știință ce se specializează în această zonă a eticii militare cer o interdicție totală sau măcar un moratoriu pentru sistemele de arme autonome.

Înainte de a trece în revistă argumentele ce sprijină această poziție, să ne preocupăm un pic de motivele pentru care forțele armate sînt totuși foarte deschise acestor noutăți tehnologice. Încă din 2005, publicația americană The New York Times ne semnala perspectiva pozitivă a comandamentului militar american asupra acestui fenomen. Lăsînd la o parte eficiența pe cîmpul de bătălie, folosirea de drone autonome poate avea consecințe morale pozitive. Programați să respecte legislația internațională pentru conflicte armate, robo-soldații s-ar putea îngriji mai bine de drepturile civililor aflați în zone de conflict. Dacă facem o simplă statistică istorică, războiul modern durează mult și devine din ce în ce mai crud și mai violent odată cu trecerea timpului. De exemplu, Primul Război Mondial a avut parte de un armistițiu de Crăciun doar în primul său an, iar conflictul contemporan aparent interminabil din Siria își consumă unul dintre cele mai sîngeroase capitole chiar zilele acestea într-o suburbie rebelă din Damasc. O cauză este desensibilizarea soldaților umani, odată ce sînt expuși constant la stresul bătăliei și la moartea propriilor camarazi. Sistemele autonome de arme nu au camarazi, nu simt nimic cînd suferă o înfrîngere, nu au cum, prin definiție, să-și piardă resursele de umanitate odată cu prelungirea conflictelor și nici nu au tentații specific umane. Aceștia își vor îndeplini misiunea fără rezerve și, continuă teoria, cu minimul de victime colaterale posibile. O analogie potrivită este reprezentată de avantajele imaginate pentru automobilele fără șofer: acestea nu ar trece pe roșu, nu ar tăia calea în intersecție și nu ar coborî din mașină ca să se ia la bătaie cu alți șoferi cînd aceștia greșesc. La o primă vedere, singura problemă este aceea de a ne asigura că această tehnologie funcționează „ca-n reclamă“, iar conflictele armate ale viitorului vor fi mult mai puțin problematice.

Ei bine, nu. În 2009, mai mulți specialiști reputați în etica militară au format Comitetul Internațional pentru Controlul Armelor Robotice (ICRAC) cu misiunea explicită de determina o prohibiție internațională a acestor dispozitive militare. Argumentele lor sînt diverse și, din punctul meu de vedere, puternice.

Zone de război „neconvenționale“

În primul rînd, dacă dronele autonome își aleg singure țintele, aceasta înseamnă că iau de unele singure decizii de viață și de moarte cu privire la ființe umane. Nu este legitim ca astfel de sentințe să poată fi date de roboți fără ca o altă ființă umană să fie parte din „deliberări“. Intuitiv, este greu de crezut că am fi de acord cu o situație în care aparatele care țin în viață o persoană aflată în comă să decidă întreruperea tratamentul acelei persoane.

În al doilea rînd, tehnologia din spatele inteligenței artificiale ce ar urma să controleze dronele autonome este foarte departe de a putea fi folosită în zonele de conflict contemporane. Membrii ICRAC, precum și alți eticieni, argumentează că sistemele robotice au probleme foarte mari cînd vine vorba de interacțiuni nestructurate cu subiecți umani. În fabricile ce folosesc roboți pe liniile de producție, de pildă, aceștia sînt izolați de colegii lor umani tocmai pentru că au nevoie de un mediu previzibil ca să funcționeze corect. Majoritatea zonelor de război din ziua de astăzi sînt, în termeni mai tehnici, „neconvenționale“ – nu există soldați în uniforme standard, fronturi bine delimitate și zone libere de civili. E greu de crezut că dronele autonome ar putea distinge corect între civili și combatanți pe un cîmp de bătălie precum Afganistan, unde nu toți indivizii neînarmați sînt civili și nu toți indivizii înarmați sînt inamici. E drept că astfel de echipamente se folosesc în mod curent în zona demilitarizată dintre Coreea de Nord și Coreea de Sud, dar acolo vorbim de un teritoriu în care viața umană lipsește cu desăvîrșire. Un alt aspect problematic al tehnologiei din spatele robo-soldaților ține de faptul că înșiși cercetătorii care lucrează cu inteligența artificială nu reușesc, în multe cazuri, să reconstruiască cu precizie motivele subiacente deciziilor pe care le iau aceste modele de învățare statistică. În acest caz, responsabilitatea (concept esențial în etica militară) pentru greșelile cu costuri în vieți umane care pot avea loc este greu de stabilit, iar erorile sînt greu de reparat.

În al treilea rînd, poate cel mai important, odată cu utilizarea la scară largă a sistemelor armate autonome, scad și costurile pe care le plătesc decidenții politici dacă pornesc războaie inutile. Soldații umani au apropiați care, cel puțin în democrațiile vestice, votează. Astfel, politicienii sînt încurajați să-și trimită militarii la luptă cît mai rar, deoarece dezastrele pe cîmpul de bătălie pot fi decontate apoi la urne. Chiar și în state iliberale, opinia publică se poate întoarce ușor împotriva unei puteri politice care cheltuiește cu prea mare ușurință vieți omenești (a se vedea eforturile regimului Putin de a ascunde costurile militare reale ale recentei intervenții din Ucraina). Dacă forța principală armată a unui actor statal este robotică, sînt create stimulente pentru conflicte mai dese, deoarece dispar posibilele costuri umane ale asalturilor militare. Mai mult, apar premisele unei noi curse a înarmării cibernetice care ar destabiliza echilibrul și așa prea fragil al ordinii internaționale. Nu este un accident că majoritatea politicilor de apărare ale marilor puteri militare ale lumii conțin în ziua de astăzi referințe la dezvoltarea zonei de inteligență artificială.

Dacă sîntem dispuși să trecem peste predicțiile apocaliptice cu care sîntem bombardați de filme, cărți sau persoane publice în căutare de audiență, vom vedea, cum sper că acest articol demonstrează, că utilizarea militară a rezultatelor din cercetarea în inteligență artificială și robotică ridică niște provocări mari și imediate pentru pacea relativă care s-a instalat în lume odată cu încheierea Războiului Rece. O interdicție măcar temporară ar curma din consecințele negative expuse mai sus. 

Mihail-Valentin Cernea este doctor în filozofie al Universității din București. A publicat articole academice pe teme de filozofia generală a științei, filozofia biologiei și etică militară.

„Am avut covidu’!”, iar „de murit, murea oricum   ” jpeg
„Nu ne mai facem bine”
Și eu am propria mea curiozitate, așa că încerc să aflu ce s-a schimbat aici, din perspectiva lor, este una dintre principalele teme de discuție.
p 10 jpg
România era țara mea bună, dar vitregă
Astăzi consider că România e țara în care mă pot întoarce cînd doresc, e „cartierul vecin”.
Palatul Culturii Iasi   Aerial jpg
Iași, mon amour contrarié
Iașiul îmi pare un cameleon. Apar întruna terase noi și e tonifiant. Vara asta am mîncat într-un gastrobar cu specific andaluz, cu o veselă aleasă cu gust, cu prețuri rezonabile și porții mărișoare.
640px Parliament 704254 jpg
Stai, cum adică avem o imagine bunicică la Bruxelles?!
Dar cum adică „nu creăm probleme” la Bruxelles, dacă în România sînt atîtea probleme? E simplu, grijile Bruxelles-ului sînt altele decît ale noastre.
p 12 WC jpg
Cum văd eu România? După 15 ani și de la 3.500 de kilometri distanță?
În cele cîteva limbi de circulație pe care le înțeleg, nu găsesc un sinonim în valoare absolută al cuvîntului „omenie”. Poate în el rezidă, totuși, logica speranței.
Bjc cv cs foto 089 jpg
Secretul stă la primărie
În România, m-am ocupat, vrînd-nevrînd, cu colecționarea de faze și impresii, să le spun ilustrate.
p 13 sus jpg
Cînd trăiești între aici și acolo
Am început, timid, să ies în afara granițelor, întrebîndu-mă deseori cum ar fi viața mea în altă parte, în momentul în care nimic nu mă mai reținea în România.
Page 428 Captured Romanians transported away (12239755986) jpg
Trei neîntoarceri
România are acum un chip ponosit, în tușe de gri și negru. Dar e OK pentru că e o Românie exterioară, din afara ta, e un context din care ai scăpat. High five.
Romania Parliament at night jpg
Sedarea românilor
n reacție, nu puțini români refuză calmarea și emigrează, seduși de melodia sirenelor potrivit cărora „în România, asta e!”, totul a „rămas la fel”.
Scriitorii, rudele mele maghiare jpeg
Tribunalul Poporului
Vedem asta în fiecare zi: nimic din ceea ce se postează nu rămîne necorectat, necontestat, nejudecat, nesancționat. Mai devreme sau mai tîrziu – ca să fac o parafrază – fiecare are parte de cincisprezece minute de judecată publică.
p 10 jpg
Critica publică în online: virtuți și vicii
Am observat, de asemenea, și cum platometre digitale au fost utilizate pentru a instiga la ură, dispreț și sexism, pentru a delegitima această mișcare și a decredibiliza victimele violenței de gen.
p 11 Ostrakon WC jpg
Ostracizarea online ca dilemă liberală
Cu toate acestea, nu trebuie să uităm de pericolul pe care apelul la ostracizarea online îl deschide, ținînd cont de stimulentele pe care viața în mediul online ni le oferă în conjuncție cu impactul pe care emoțiile morale îl au la adresa modului în care interacționăm cu ceilalți
640px The Two Gossips (Les Deux Commères) MET DP808826 jpg
Gura satului global
Gura satului global nu este diferită de gura satului tradițional decît prin instrumentele sale.
640px Cyber bullying 122156 960 720 jpg
Cel fără de păcat – o sursă idiopatică?
Realitatea socială poate fi remarcabilă datorită ansamblului de creiere umane adunate pentru a influența evoluția societății în bine, și aici avem nevoie de etică – în lipsa acesteia, realitatea se poate transforma în factori și actori sociali maligni.
John George Brown The Bully of the Neighborhood jpg
Și cu copiii ce facem? Intruziune, expunere, violență, anulare
Spațiul virtual a căpătat dimensiuni tot mai mari în viața copiilor, marea lor majoritate preferînd o interacțiune mediată de un dispozitiv uneia reale.
p 14 sus jpg
J’accuse! Indignarea morală și ostracizarea digitală
Nu e mare lucru să ne gîndim mai mult înainte de a (re)acționa, cum nu e nici prea mare efortul de a încerca să vedem lucrurile dintr-o perspectivă mai largă, dincolo de interesele noastre imediate.
p 21 jpg
Linșajul contemporan
Strămoșii noștri nu aveau lideri, judecători sau poliție, dar aveau mijloace pentru a răspunde celor care încălcau normele sociale de a respecta autonomia celorlalți sau de a contribui în mod echitabil la bunăstarea socială
Cea mai bună parte din noi jpeg
Ce rol mai au valorile?
Am aflat că valorile sînt cele care ne dau un sens, iar acest lucru ne face să fim perseverenți și să depășim obstacolele.
p 10 sus jpg
Dihotomia fapte/valori a fost greşit înţeleasă
Valorile sînt ingredientele indispensabile ale realităţii sociale.
Elevi jpg
StateLibQld 2 198959 Planting a tree for Arbor Day at Ban Ban Springs State School, 1920 jpg
Tot ceea ce vreau să fiu
„Prietenia înseamnă să împarți punga de chips-uri cu celălalt.”
p 12 sus jpg
Mesajul corect
Într-o clinică de toxicomani e barometrul cel mai fidel al suferinței unei societăți.
640px Islamic   Garden Scene   1987 360 4   Art Institute of Chicago jpg
Valori, virtuți, viață în islam
Societățile musulmane sînt puternic condiționate de tradiții.
Social Media and Technology jpg
Social media și tribalizarea valorică
Viața noastră socială nu arată întotdeauna precum fluxul nostru de pe rețelele sociale.

Adevarul.ro

Nord Stream FOTO Shutterstock jpg
Sabotajul împotriva infrastructurilor critice, noul scenariu operativ: se dă drumul imprevizibilului
Criza din Ucraina, nicidecum aproape de o rezolvare rațională, se amplifică în direcții dintre cele mai primejdioase.
Noul stadion Farul FOTO Machetă Primăria Constanța jpg
Hagi și Popescu au văzut viitorul stadion al Constanței. Arena ultramodernă va avea 20.000 de locuri
Primarul Constanței, Vergil Chițac, a anunțat că marți, 28 septembrie, a avut o întâlnire cu Gheorghe Hagi și Gheorghe Popescu în care s-au discutat ultimele detalii ale proiectului noului stadion.
nicusor dan declaratii. FOTO Inquam Photos / Octav Ganea
Nicușor Dan: Am oprit centrala care furniza apa caldă pentru angajați ca să facem economie
Municipalitatea a oprit centrala care furniza apa caldă pentru angajaţi ca să facă economie, a anunţat edilul general al Capitalei, Nicuşor Dan.

HIstoria.ro

image
Care este importanța strategică a Insulei Șerpilor?
De mici dimensiuni, având doar 17 hectare, Insula Șerpilor are cu toate acestea o importanță geostrategică semnificativă. Controlul insulei și al apelor înconjurătoare afectează toate rutele de navigație care leagă Ucraina de restul lumii.
image
Cum era la ora de istorie ținută de I.L. Caragiale?
Ca mulţi alţi literaţi, Ion Luca Caragiale a avut o pasiune pentru istorie, inclusiv pentru cea naţională. Blamat de unii încă din timpul vieţii pentru că, în scrierile sale, s-ar fi relevat drept anti-român, el a avut, uneori, o viziune romantică (dacă nu chiar idilică) asupra trecutului neaoș.
image
Aristide Blank, finanțistul camarilei lui Carol al II-lea
Aristide Blank (1883-1961) a fost o personalitate complexă, care după ce a studiat dreptul și filosofia, s-a implicat în lumea financiară națională și internațională, reușind astfel să influențeze major viața politică românească dintre cele două războaie mondiale.