Consecinţele utilizării soldaţilor artificiali

Mihail-Valentin CERNEA
Publicat în Dilema Veche nr. 733 din 8-14 martie 2018
Consecinţele utilizării soldaţilor artificiali jpeg

Vorbim foarte des despre modul în care dezvoltările uimitoare din domeniile roboticii și inteligenței artificiale vor afecta munca civilă, dar la fel de spectaculoase și, poate, periculoase vor fi efectele acestor noi tehnologii în cadrul conflictelor armate. Ca să înțelegem aceste efecte ar fi util să explicităm o distincție care se face în literatura de specialitate între automatizare și autonomizare. Un sistem automat este capabil să ducă la capăt o sarcină prestabilită indiferent de schimbările ce pot avea loc în mediul în care acesta funcționează. Un sistem autonom este capabil de mult mai mult – modul în care este efectuată sarcina pe care trebuie să o îndeplinească este adaptat la context. Folosind un exemplu simplu, o mașină de spălat automată își face ciclurile indiferent de natura textilelor cu care am încărcat-o, de cantitatea de detergent folosită sau de impactul său asupra mediului înconjurător. Dacă am programat-o să spele haine de bumbac, aceasta își va face treaba indiferent că am pus în cuvă poliester, bocanci sau pisici. O mașină de spălat autonomă ar fi capabilă să detecteze ce textile am pus în ea, să-și adapteze ciclul de spălat la material, să se autoalimenteze cu detergentul de care are nevoie ș.a.m.d. Astfel, dacă se presupune că multe meserii civile vor fi afectate de automatizare, lumea militară va fi schimbată radical de autonomizare. Dronele viitorului, cel puțin la nivel teoretic, nu vor mai avea nevoie de un operator uman care să aleagă țintele și să decidă dacă acestea pot fi atacate sau nu. Comandantul unei unități militare robotice trebuie doar să delimiteze zona de conflict, să desemneze obiectivele și caracteristicile principale ale țintelor asaltului, iar flota de drone aeriene și/sau terestre se va putea ocupa singură de tot.

Dacă vă vin în minte scenarii apocaliptice inspirate de filme ca Terminator sau Blade Runner, în care acești robo-soldați capătă o voință proprie și pun în lanțuri umanitatea întreagă, aflați că vă gîndiți probabil mult prea departe. În orice documente oficiale ale armatelor care pot dezvolta aceste capacități avansate de luptă, posibilitatea intervenției umane în acțiunile inteligențelor artificiale marțiale este desemnată ca obligatorie. Este greu de crezut că vreo forță militară va construi vreodată arme pe care nu le poate controla corespunzător. Cu toate acestea, majoritatea filozofilor și oamenilor de știință ce se specializează în această zonă a eticii militare cer o interdicție totală sau măcar un moratoriu pentru sistemele de arme autonome.

Înainte de a trece în revistă argumentele ce sprijină această poziție, să ne preocupăm un pic de motivele pentru care forțele armate sînt totuși foarte deschise acestor noutăți tehnologice. Încă din 2005, publicația americană The New York Times ne semnala perspectiva pozitivă a comandamentului militar american asupra acestui fenomen. Lăsînd la o parte eficiența pe cîmpul de bătălie, folosirea de drone autonome poate avea consecințe morale pozitive. Programați să respecte legislația internațională pentru conflicte armate, robo-soldații s-ar putea îngriji mai bine de drepturile civililor aflați în zone de conflict. Dacă facem o simplă statistică istorică, războiul modern durează mult și devine din ce în ce mai crud și mai violent odată cu trecerea timpului. De exemplu, Primul Război Mondial a avut parte de un armistițiu de Crăciun doar în primul său an, iar conflictul contemporan aparent interminabil din Siria își consumă unul dintre cele mai sîngeroase capitole chiar zilele acestea într-o suburbie rebelă din Damasc. O cauză este desensibilizarea soldaților umani, odată ce sînt expuși constant la stresul bătăliei și la moartea propriilor camarazi. Sistemele autonome de arme nu au camarazi, nu simt nimic cînd suferă o înfrîngere, nu au cum, prin definiție, să-și piardă resursele de umanitate odată cu prelungirea conflictelor și nici nu au tentații specific umane. Aceștia își vor îndeplini misiunea fără rezerve și, continuă teoria, cu minimul de victime colaterale posibile. O analogie potrivită este reprezentată de avantajele imaginate pentru automobilele fără șofer: acestea nu ar trece pe roșu, nu ar tăia calea în intersecție și nu ar coborî din mașină ca să se ia la bătaie cu alți șoferi cînd aceștia greșesc. La o primă vedere, singura problemă este aceea de a ne asigura că această tehnologie funcționează „ca-n reclamă“, iar conflictele armate ale viitorului vor fi mult mai puțin problematice.

Ei bine, nu. În 2009, mai mulți specialiști reputați în etica militară au format Comitetul Internațional pentru Controlul Armelor Robotice (ICRAC) cu misiunea explicită de determina o prohibiție internațională a acestor dispozitive militare. Argumentele lor sînt diverse și, din punctul meu de vedere, puternice.

Zone de război „neconvenționale“

În primul rînd, dacă dronele autonome își aleg singure țintele, aceasta înseamnă că iau de unele singure decizii de viață și de moarte cu privire la ființe umane. Nu este legitim ca astfel de sentințe să poată fi date de roboți fără ca o altă ființă umană să fie parte din „deliberări“. Intuitiv, este greu de crezut că am fi de acord cu o situație în care aparatele care țin în viață o persoană aflată în comă să decidă întreruperea tratamentul acelei persoane.

În al doilea rînd, tehnologia din spatele inteligenței artificiale ce ar urma să controleze dronele autonome este foarte departe de a putea fi folosită în zonele de conflict contemporane. Membrii ICRAC, precum și alți eticieni, argumentează că sistemele robotice au probleme foarte mari cînd vine vorba de interacțiuni nestructurate cu subiecți umani. În fabricile ce folosesc roboți pe liniile de producție, de pildă, aceștia sînt izolați de colegii lor umani tocmai pentru că au nevoie de un mediu previzibil ca să funcționeze corect. Majoritatea zonelor de război din ziua de astăzi sînt, în termeni mai tehnici, „neconvenționale“ – nu există soldați în uniforme standard, fronturi bine delimitate și zone libere de civili. E greu de crezut că dronele autonome ar putea distinge corect între civili și combatanți pe un cîmp de bătălie precum Afganistan, unde nu toți indivizii neînarmați sînt civili și nu toți indivizii înarmați sînt inamici. E drept că astfel de echipamente se folosesc în mod curent în zona demilitarizată dintre Coreea de Nord și Coreea de Sud, dar acolo vorbim de un teritoriu în care viața umană lipsește cu desăvîrșire. Un alt aspect problematic al tehnologiei din spatele robo-soldaților ține de faptul că înșiși cercetătorii care lucrează cu inteligența artificială nu reușesc, în multe cazuri, să reconstruiască cu precizie motivele subiacente deciziilor pe care le iau aceste modele de învățare statistică. În acest caz, responsabilitatea (concept esențial în etica militară) pentru greșelile cu costuri în vieți umane care pot avea loc este greu de stabilit, iar erorile sînt greu de reparat.

În al treilea rînd, poate cel mai important, odată cu utilizarea la scară largă a sistemelor armate autonome, scad și costurile pe care le plătesc decidenții politici dacă pornesc războaie inutile. Soldații umani au apropiați care, cel puțin în democrațiile vestice, votează. Astfel, politicienii sînt încurajați să-și trimită militarii la luptă cît mai rar, deoarece dezastrele pe cîmpul de bătălie pot fi decontate apoi la urne. Chiar și în state iliberale, opinia publică se poate întoarce ușor împotriva unei puteri politice care cheltuiește cu prea mare ușurință vieți omenești (a se vedea eforturile regimului Putin de a ascunde costurile militare reale ale recentei intervenții din Ucraina). Dacă forța principală armată a unui actor statal este robotică, sînt create stimulente pentru conflicte mai dese, deoarece dispar posibilele costuri umane ale asalturilor militare. Mai mult, apar premisele unei noi curse a înarmării cibernetice care ar destabiliza echilibrul și așa prea fragil al ordinii internaționale. Nu este un accident că majoritatea politicilor de apărare ale marilor puteri militare ale lumii conțin în ziua de astăzi referințe la dezvoltarea zonei de inteligență artificială.

Dacă sîntem dispuși să trecem peste predicțiile apocaliptice cu care sîntem bombardați de filme, cărți sau persoane publice în căutare de audiență, vom vedea, cum sper că acest articol demonstrează, că utilizarea militară a rezultatelor din cercetarea în inteligență artificială și robotică ridică niște provocări mari și imediate pentru pacea relativă care s-a instalat în lume odată cu încheierea Războiului Rece. O interdicție măcar temporară ar curma din consecințele negative expuse mai sus. 

Mihail-Valentin Cernea este doctor în filozofie al Universității din București. A publicat articole academice pe teme de filozofia generală a științei, filozofia biologiei și etică militară.

image png
„O vîscozitate, sau altceva analog”
Înlocuirea unei piese de schimb presupune îndeobște oprirea mașinăriei, „scoaterea din priză” a ansamblului care trebuie reparat.
p 10 jpg
Grefe, transplant, înlocuiri de organe
Dimineața, doctorii își pun repede la loc „piesele” și pleacă la drum.
p 11 jpg
Despre viața eternă. Un creier în borcan
ă mă salvez în cer? Păi, ce discutăm noi aici, domnule, neuroștiințe, filosofie, transumanism sau teologie? În halul ăsta am ajuns? Doamne ferește!
p 12 jpg
Făpturi de unică folosință
Dar pentru a fi, realmente, mai buni, trebuie să găsim ieșirea din labirint.
image png
Poema centralei
Am găsit-o aici, montată de fostul proprietar, și va împlini în curînd 22 de ani.
p 13 jos  la Prisecaru jpg
Piese de schimb
Sperăm ca prin aceste considerații elementare să vă fi trezit dorința de a afla mai multe aspecte legate de acest capitol și curiozitatea de a urmări mai îndeaproape subiectul.
p 14 jpg
(Sub)ansambluri cognitive
Omul nu mai este, poate, măsura tuturor lucrurilor.
p 16 foto C  Mierlescu credit MNLR jpg
Cu ură și abjecție
Mă amuz și eu, dar constatativ, de un alt episod, grăitor, zic eu, cît zece.
image png
Groapa, cazul și centenarul
Eugen Barbu (20 februarie 1924 – 7 septembrie 1993) este, probabil, cel mai detestabil și mai controversat scriitor român din postbelicul literar românesc.
p 10 adevarul ro jpg
Dilemele decadenței
Există aici, poate, o secretă soteriologie la confiniile cu sensibilitatea decadentă, și anume credința că printr-o înălțare estetică deasupra oricărei etici contingente.
p 11 WC jpg
„Biografia detestabilă” și „opera admirabilă”
Groapa, cîteva nuvele din Oaie și ai săi ori Prînzul de duminică, parabolele decadente Princepele și Săptămîna nebunilor sînt titluri de neocolit.
p 12 Pe stadionul Dinamo, 1969 jpg
Montaje despre un mare prozator
Din dorința de a da autenticitate însemnării, autorul s-a slujit și de propria biografie. Cititorul va fi înțeles astfel semnificația primului montaj.
p 13 Eugen Barbu, Marcela Rusu, Aurel Baranga foto Ion Cucu credit MNLR jpg
Ce trebuie să faci ca să nu mai fii citit
Nu cred că Barbu e un scriitor mare, dar Groapa rămîne un roman bun (preferata mea e scena nunții) și pînă și-n Principele sînt pagini de foarte bună literatură.
p 14 credit MNLR jpg
Cele trei „Grații” ale „Împăratului Mahalalei”
Se pune, astfel, întrebarea ce ratează și unde ratează acest scriitor: fie în proasta dozare a elementului senzațional, fie în inabila folosire a șablonului ideologic.
image png
Dalí la București
Dalí vorbește românilor pe limba lor, spunîndu‑le, totuși, o poveste pe care nu o pot auzi de la nici un alt artist.
p 11 credit ARCUB jpg
Space venus Museum jpg
Declarația de independență a imaginației
și drepturile omului la propria sa nebunie
În coșmarul unei Venus americane, din beznă apare (ticsit de umbrele uscate) vestitul taxi al lui Cristofor Columb.
p 12 credit ARCUB jpg
Gala
Numai Gala și Dalí sînt deghizați într‑o mitologie deja indestructibilă.
Charme Pendentif Avide Dollars jpg
Suprarealismul sînt eu! Avida Dollars
Materia nu poate fi spiritualizată decît dacă o torni în aur.
047 jpg
Viziunea suprarealistă a lumii
Ne aflăm pe versantul opus lucidității gîndului. Intrăm în ținutul somnului, al tainei, adică în zona de umbră a vieții.
p 14 credit ARCUB jpg
Dalí în România?
Dacă ar fi să căutăm influența lui Dalí în arta românească, este necesar ca mai întîi să înțelegem cine și ce a fost Salvador Dalí.
image png
Mințile înfierbîntate
Cu alte cuvinte, cum diferă noile forme de fanatism de cele din trecut?
p 10 adevarul ro jpg
Dragă Domnule Cioran,
Pe vremuri, m-ați fi vrut arestat; acum, trebuie să-mi acceptați o „distanță ironică de destinul nostru”. Vai, lumea merge înainte cu „semi-idealuri”!
p 11 jpg

Adevarul.ro

image
Nu suntem egali în fața bolilor: care sunt românii care nu vor plăti suprataxă pe concediu medical
Politicienii și-au făcut calculele și au decis că nu suntem egali în fața bolilor. Mai exact, PSD și PNL lucrează la o ordonanță de urgență prin care încearcă să elimine supraimpozitarea concediilor medicale doar în cazul anumitor pacienți
image
„Lâna de aur”, cel mai scump material textil natural din lume. Firul de Vicuña se vinde la gram, la fel ca aurul
Firul de Vicuña, recoltat o dată la doi sau trei ani în cantități limitate, se distinge ca fiind cel mai rar și scump fir din lume. Cu o grosime de 12 microni, comparabilă cu cea a aurului, este comercializat la gramaj, se vinde la prețuri exorbitante și presupune un proces de producție meticulos.
image
Decizie radicală pentru „Tesla de Cluj”. „Dacă ziceam că e produsă în Elveția, clienții ar fi sărit s-o cumpere cu 450.000 de euro”
Echipa proiectului a luat o decizie importantă: va regândi „Tesla de Cluj” într-o variantă mult mai ieftină. „Probabil că dacă ziceam că mașina este produsă în Elveția, clienții ar fi sărit să o cumpere cu 450.000 de euro”, susține Florin Dehelean, unul dintre investitori

HIstoria.ro

image
Cum percepea aristocrația britanică societatea românească de la 1914?
Fondatori ai influentului Comitet Balcanic de la Londra, frații Noel și Charles Buxton călătoresc prin Balcani, în toamna anului 1914, într-o misiune diplomatică neoficială, menită să atragă țările neutre din regiune de partea Antantei.
image
Istoricul Maurizio Serra: „A înțelege modul de funcționare a dictaturii ne ajută să o evităm” / INTERVIU
Publicată în limba franceză în 2021, biografia lui Mussolini scrisă de istoricul Maurizio Serra, membru al Academiei Franceze, a fost considerată un eveniment literar şi istoric.
image
Procesul „Numai o guriță”, o noutate pentru justiția română la început de secol XX
În primăvara anului 1912, pictorul Gore Mircescu îl aducea în fața justiției pe librarul Constantin Sfetea, pe motivul reproducerii neautorizate a uneia din lucrările sale – „Numai o guriță” – pe care cel din urmă o folosise la ilustrarea unor cărți poștale.