Etica mașinilor în inteligența artificială

Etica mașinilor (sau moralitatea mașinilor, moralitatea computațională sau etica computațională) este o parte a eticii inteligenței artificiale care se ocupă de adăugarea sau asigurarea comportamentelor morale ale mașinilor create de om care folosesc inteligența artificială, altfel cunoscute sub numele de agenți inteligenți artificiali. Etica mașinilor diferă de alte domenii etice legate de inginerie și tehnologie. Etica mașinilor nu trebuie confundată cu etica computerului, care se concentrează pe utilizarea computerelor de către oameni. De asemenea, ar trebui să se distingă de filosofia tehnologiei, care se preocupă de efectele sociale mai largi ale tehnologiei.

Istorie

Înainte de secolul 21, etica mașinilor a fost în mare parte subiectul literaturii științifico-fantastice, în principal din cauza limitărilor de calcul și inteligență artificială (AI). Deși definiția „eticii mașinilor” a evoluat de atunci, termenul a fost inventat de Mitchell Waldrop în articolul din 1987 din revista AI „A Question of Responsibility”:

„Cu toate acestea, un lucru care reiese din discuția de mai sus este că mașinile inteligente vor întruchipa valori, presupuneri și scopuri, indiferent dacă programatorii lor intenționează în mod conștient sau nu. Astfel, pe măsură ce computerele și roboții devin din ce în ce mai inteligenți, devine imperativ să ne gândim cu atenție și în mod explicit la ceea ce sunt acele valori încorporate. Poate că ceea ce avem nevoie este, de fapt, o teorie și o practică a eticii mașinilor, în spiritul celor trei legi ale roboticii ale lui Asimov.”

În 2004, Towards Machine Ethics a fost prezentat la AAAI Workshop on Agent Organizations: Theory and Practice în care au fost stabilite bazele teoretice pentru etica mașinilor.

În cadrul Simpozionului AAAI din toamna lui 2005 privind etica mașinilor, cercetătorii s-au întâlnit pentru prima dată pentru a lua în considerare implementarea unei dimensiuni etice în sistemele autonome. O varietate de perspective ale acestui domeniu în curs de dezvoltare pot fi găsite în ediția colectată „Etica mașinilor” care provine din Simpozionul AAAI din toamna lui 2005 privind etica mașinilor.

În 2007, AI Magazine a publicat Machine Ethics: Creating an Ethical Intelligent Agent, un articol care a discutat despre importanța eticii mașinilor, nevoia de mașini care să reprezinte principiile etice în mod explicit și provocările cu care se confruntă cei care lucrează la etica mașinilor. De asemenea, a demonstrat că este posibil, cel puțin într-un domeniu limitat, ca o mașină să abstragă un principiu etic din exemple de judecăți etice și să folosească acel principiu pentru a-și ghida propriul comportament.

În 2009, Oxford University Press a publicat Moral Machines, Teaching Robots Right from Wrong, pe care a promovat-o drept „prima carte care a examinat provocarea construirii agenților morali artificiali, cercetând profund natura luării deciziilor umane și a eticii”. A citat aproximativ 450 de surse, dintre care aproximativ 100 au abordat întrebări majore ale eticii mașinilor.

În 2011, Cambridge University Press a publicat o colecție de eseuri despre etica mașinilor editate de Michael și Susan Leigh Anderson, care au editat și un număr special al IEEE Intelligent Systems pe această temă în 2006. Colecția constă în provocările de a adăuga principii etice la mașini.

În 2014, Oficiul de Cercetare Navală din SUA a anunțat că va distribui 7,5 milioane de dolari în granturi pe o perioadă de cinci ani cercetătorilor din universități pentru a studia chestiunile legate de etica mașinilor aplicate roboților autonomi și Superintelligence: Paths, Dangers, Strategies a lui Nick Bostrom, care a ridicat etica mașinilor drept „cea mai importantă… problemă cu care umanitatea s-a confruntat vreodată”, a ajuns pe locul 17 pe lista New York Times cu cele mai bine vândute cărți de știință.

În 2016, Parlamentul European a publicat o lucrare (PDF de 22 de pagini), pentru a încuraja Comisia să abordeze problema statutului juridic al roboților, așa cum este descrisă mai pe scurt în presă. Această lucrare a inclus secțiuni referitoare la răspunderile legale ale roboților, în care obligațiile au fost argumentate ca fiind proporționale cu nivelul de autonomie al roboților. Lucrarea a pus sub semnul întrebării și numărul de locuri de muncă care ar putea fi înlocuite de roboți AI.

Definiții

James H. Moor, unul dintre teoreticienii de pionierat în domeniul eticii computerului, definește patru tipuri de roboți etici. În calitate de cercetător amplu în studiile despre filosofia inteligenței artificiale, filosofia minții, filosofia științei și logica, Moor definește mașinile ca fiind agenți de impact etic, agenți etici impliciti, agenți etici expliciți sau agenți etici compleți. O mașină poate fi mai mult de un tip de agent.

• Agenți etici de impact: Acestea sunt sisteme de mașini care au un impact etic, indiferent dacă sunt intenționați sau nu. În același timp, acești agenți au potențialul de a acționa neetic. Moor oferă un exemplu ipotetic numit „agentul Goodman”, numit după filozoful Nelson Goodman. Agentul Goodman compară datele, dar are bug-ul mileniului. Acest bug a rezultat de la programatori care au reprezentat datele doar cu ultimele două cifre ale anului. Deci orice dată dincolo de 2000 ar fi tratată în mod înșelător ca mai devreme decât cele de la sfârșitul secolului al XX-lea. Astfel, agentul Goodman a fost un agent de impact etic înainte de 2000 și un agent de impact neetic după aceea.
• Agenți etici impliciți: Pentru a lua în considerare siguranța umană, acești agenți sunt programați pentru a avea o virtute de siguranță sau o virtute încorporată. Ei nu sunt în întregime de natură etică, ci mai degrabă programați pentru a evita rezultatele neetice.
• Agenți etici expliciți: Acestea sunt mașini care sunt capabile să proceseze scenarii și să acționeze în baza deciziilor etice. Mașini care au algoritmi pentru a acționa etic.
• Agenți etici compleți: Aceste mașini sunt similare cu agenții etici expliciți în a putea lua decizii etice. Cu toate acestea, ele conțin și trăsături metafizice umane. (adică au liberul arbitru, conștiință și intenționalitate)

(Include texte traduse și adaptate din Wikipedia de Nicolae Sfetcu)