Tendinte
Mașinile autonome și dilema morală sau atunci când un robot se joacă de-a Dumnezeu
Autor:Cristian SUCA
Marti, 19 Martie 2019

Nu puține sunt vocile care susțin că mașinile autonome vor reduce drastic numărul victimelor accidentelor rutiere. În ultima vreme însă, la fel de mulți sunt și cei care susțin că, momentan, mașinile autonome au venit însoțite de o dilemă morală.

Închide ochii și imaginează-ți că ești în situația în care ai cel mult o fracțiune de secundă pentru a salva o viață. A ta sau a altcuiva, amândoi fiind, într-un fel sau altul, amenințați de același risc: moartea. Acum, imaginează-ți că un robot s-ar juca de-a Dumnezeu și ar decide cine moare și cine trăiește. Da, mașinile autonome ar trebui să joace, în viitorul apropiat, acest joc. Într-un fel sau altul, un robot va fi programat să ucidă. Pe tine sau pe celălalt. Și nu, nu e vorba de un film, ci de realitatea de mâine.

Tehnologia e deja aici. Nu puține sunt vocile care susțin că mașinile autonome vor reduce drastic numărul victimelor accidentelor rutiere. În ultima vreme însă, la fel de mulți sunt și cei care susțin că, momentan, mașinile autonome au venit însoțite de o dilemă morală. În eventualitatea unui accident, pe cine ar trebui să salveze mașina, pe tine sau pe celălalt? Cât de mult schimbă datele problemei copiii și/sau bătrânii? Cât de mare e provocarea care se ascunde în spatele Inteligenței Artificiale?

Să luăm în calcul următorul scenariu: un copil sare de nicăieri în fața unei mașini autonome care circulă cu viteză normală. Nu e timp de frânare. Ce se întâmplă? E o problemă care trebuie rezolvată într-o clipă. Virează la stânga, spre mașinile care circulă din sens opus, cu riscul de a provoca un accident în urma căruia să fie răniți pasagerii și/sau șoferul? Virează la dreapta, cu riscul de a răni pietonii? Merge drept înainte, cu riscul de a spulbera copilul care i-a apărut în față?

Anul trecut, Germania a încercat să găsească rezolvarea, devenind prima țară care a căutat să răspundă acestor întrebări morbide, propunând un set de reguli. Regulile arată, printre altele, că mașinile autonome trebuie să minimizeze mereu riscul decesului unei persoane și să nu facă discriminări între persoane, care să ia în calcul elemente precum sex, vârstă sau orice alt factor. De asemenea, viața unui om trebuie să aibă mereu prioritate înaintea celei a unui animal sau înaintea unei proprietăți.

Peste trei sferturi dintre cei care au participat la studiul realizat în acest sens de autoritățile germane au fost de acord cu acest tip de abordare. Asta, atâta vreme cât nu se află în mașină. Dacă ar fi în mașină, cei mai mulți ar vrea să protejeze pasagerii și pe ei înșiși, cu toate costurile. Acest lucru arată că, în principiu, oamenii au o gândire etică, dar, în practică, intervine egoismul. În teorie, oamenii spun că sunt pregătiții oricând să se sacrifice, dacă prin acest gest ar salva viețile altor participanți la trafic.

Joaca de-a etica sau cum bătrânii pot fi sacrificați mai ușor

Potrivit unui articol apărut în Forbes, MIT Media Lab a încercat, în 2016, să rezolve această problemă etică prin intermediul unui joc, lansând Moral Machine. Astfel, utilizatorii făceau cunoștință online cu alegerile pe care mașinile autonome le vor face în viitor. Ar trebui ca o mașină autonomă să salveze un pieton care traversează neregulamentar, cu riscul de a sacrifica, în același timp, pasagerii? Sau ar trebui ca mașina să salveze pasagerii și, în același timp, să sacrifice pietonul?

Prezentând studiul cu o zi înainte ca mașinile autonome să facă prima victimă (o mașină autonomă Uber a spulberat, în Arizona, o femeie de 49 de ani, care se plimba cu bicicleta), profesorul Iyad RAHWAN a explicat că acesta este cel mai mare studiu realizat vreodată la nivel global pe probleme de etică. Astfel, Moral Machine a avut nu mai puțin de 4 milioane de utilizatori, iar scenariile au inclus diverse combinații: sexul și vârsta pietonilor, pisici și câini traversând drumul etc.

Cercetătorii au aflat că, atunci când vine vorba de alegeri „simple” - sacrifici un copil sau sacrifici un adult -, rezultatele au favorizat, în mod copleșitor, protejarea vieților tinere. Cu cât pietonii erau mai în vârstă, cu atât mai mult erau considerați „dispensabili”, „sacrificabili”. Rezultate la fel de uimitoare au apărut și la protejarea pietonilor vs. protejarea pasagerilor, 40% dintre utilizatori alegând să salveze pasagerii, chiar dacă asta ar însemna să spulbere pietonii.

Cu cât scenariul prezentat de Moral Machine era mai complex, cu atât mai greu le era utilizatorilor să își exprime opinia. Puși să aleagă dacă e mai bine să sacrifice un pieton care circulă regulamentar sau doi pietoni care circulă neregulamentar, utilizatorii și-au împărțit răspunsurile cu exactitate: 50 - 50. Pentru a sublinia și mai mult dificultățile pe care le avem în identificarea celor mai comune valori etice, rezultatele Moral Machine au variat și în funcție de factori precum țară sau o regiune din țara respectivă.

Rezultatele subliniază există aspecte diferite pe care trebuie le luăm în considerare, sunt diferite valori care intră în conflict, ceea ce înseamnă o provocare pentru propria noastră etică. Mai mult decât atât, ne provoacă rezolvăm această dilemă singuri, pentru nu toți suntem de acord. Dacă va fi construim mașini care reflectă propriile noastre valori, trebuie înțelegem mai bine aceste valori, le cuantificăm și negociem, pentru a stabili importanța acestora, a declarat Iyad RAHWAN.
 

 


Decizia cu privire la ce va face mașina a fost luată deja de un programator

David DANKS - Head of Philosophy Department, Carnegie Mellon University -, arată că, la mijloc, este o neînțelegere a modului în care mașinile autonome percep ce se întâmplă în jurul lor. Decizia cu privire la ce va face mașina a fost luată cu luni în urmă, când un programator a decis atât valorează un pieton, atât valorează un biciclist ș.a.m.d. În momentul respectiv, mașina nu ia decizia la fel cum ar lua-o un om, ci încearcă găsească varianta cea mai bună luând în calcul valorile programate.

Același David DANKS mai arată că încercarea de a învăța să avem încredere în mașinile autonome va fi o călătorie extrem de confuză. Un anumit tip de încredere, arată el, e bazat pe predictibilitate și fiabilitate. Observând cum se comportă un anumit sistem în anumite situații îți permite, la un moment dat, când te afli într-una din situațiile respective, anticipezi , prin prisma experiențelor anterioare, sistemul va face ceva similar, explică David DANKS.

Pe de altă parte, un alt tip de încredere este bazat pe faptul că știm de ce și cum funcționează ceva anume. În acest sens, David DANKS oferă un exemplu personal, dar care ar putea fi înțeles mai bine tocmai prin prisma simplității sale. Înțeleg cum și de ce soția mea ia deciziile pe care le ia. Totodată, înțeleg principiile și valorile pe care le are, înțeleg modul în care ea vede lumea, chiar dacă, prin orice măsură statistică, soția mea este mai puțin previzibilă decât mașina.

Interacționând cu alți oameni, ajungem să-i cunoaștem și să le anticipăm reacțiile în anumite situații, dar, având în vedere modul în care sunt concepute mașinile autonome, nu le putem interpreta ca și cum ar fi oameni. Tocmai pentru sunt sisteme autonome, sunt capabile de reacții cu mult mai sofisticate și nu poți spune , dacă ai văzut asta o dată, înseamnă ai văzut-o de mii de ori, explică David DANKS. Prin urmare, ne va fi extrem de greu să avem încredere în mașinile autonome.

Cât de palpabil este visul unei mașini complet autonome?

Nu știm ce ne va aduce ziua de mâine, dar nu este exclus ca mașinile complet autonome să rămână doar la stadiul de ideal. Ian ROBERTSON, un reprezentant al companiei BMW, spune că mașinile autonome ar putea să nu ajungă pe drumurile publice, având în vedere că vor fi forțate să facă alegeri etice, ceea ce poate fi prea mult. El a mai sugerat că se poate ajunge la un punct în care mașinile complet autonome să fie aprobate strict pentru circulația pe autostradă, nu și pentru celelalte drumuri publice.

În Marea Britanie, autoritățile încurajează testarea mașinilor autonome, chiar dacă unele dintre principiile fundamentale ale acestora contravin legislației rutiere din țară. Cred însă , pe termen lung, autoritățile de reglementare vor pune piciorul în prag și vor stabili niște limite, care arate cât de departe se poate merge cu această tehnologie. Mașinile complet autonome ar putea fi folosite strict pe autostrăzi, având în vedere o autostradă este un mediu controlat, a spus ROBERTSON, într-un interviu pentru The Sun.

Deși mulți evită să se gândească la asta, răspunsul la o întrebare extrem de importantă ar putea fi cheia pentru dezvoltarea acestei tehnologii. Cum hotărăști care este valoarea unei vieți? Un șofer poate crede că, de vreme ce mașina îi aparține, aceasta ar trebui să fie programată astfel încât să îl protejeze pe el înaintea tuturor celorlalți. Alt șofer poate considera că viața unui pieton este mai presus de orice altceva. Răspunsul la această întrebare poate fi cheia pentru o mașină complet autonomă.

Așa cum arată și cei de la Smithsonian, ce este ușor pentru oameni poate fi, de multe ori, dificil pentru mașini. Evoluția ne-a dezvoltat anumite abilități, paradoxul lui Moravec spune însă că e extrem de dificil să predai aceste abilități sau să le programezi. Deciziile luate de inginerii de astăzi nu vor determina cum va conduce o mașină autonomă în viitor, ci cum vor conduce absolut toate mașinile autonome. Cu alte cuvinte, algoritmii de astăzi vor deveni regulile de mâine.

În loc de concluzie: ne dorim, oare, mașini autonome care să conducă așa cum o fac oamenii? Orice s-ar spune, oamenii nu sunt chiar cei mai pricepuți șoferi, mai ales dacă ne gândim că, de cele mai multe ori, dau dovadă, la volan, de o etică mai mult decât îndoielnică. Chiar ne dorim asta? Atunci, poate ar trebui să ne oprim pentru o secundă și să analizăm valorile și principiile care ne ghidează. Nu de alta, dar poate că ar trebui să ne dorim mașini autonome care să conducă ALTFEL. Mai bine, mai sigur.

 

 

 

 

 

 

 

 

 

 

 

Acest articol este proprietatea Media XPRIMM si este protejat de legea drepturilor de autor.
In lipsa unui acord scris din partea Media XPRIMM, puteti prelua maxim 500 de caractere din acest articol. Este necesara precizarea sursei si inserarea in mod vizibil a linkului articolului (Mașinile autonome și dilema morală sau atunci când un robot se joacă de-a Dumnezeu).

Comenteaza articolul

Nume*
Comentariu*
Pentru a valida comentariul, va rugam introduceti textul din imagine:

Ora de Risc

Alexandra SMEDOIU: Economisirea inseamna responsabilitate fata de noi si generatiile viitoare

Alexandra SMEDOIU - Vicepresedinte CFA Society Romania si Partener Deloitte
Sergiu COSTACHE - Revista PRIMM Asigurari & Pensii


TOP Stiri 1asig

Revista PRIMM este realizata
cu sprijinul urmatoarelor companii
carora le multumim!