Părtiniri de algoritm pre-existente și tehnice în inteligența artificială

Părtiniri de algoritm pre-existente

Prejudecățile preexistente într-un algoritm este o consecință a ideologiilor sociale și instituționale subiacente. Astfel de idei pot influența sau pot crea părtiniri personale în cadrul designerilor sau programatorilor individuali. Astfel de prejudecăți pot fi explicite și conștiente, sau implicite și inconștiente. Datele de intrare prost selectate, sau pur și simplu datele dintr-o sursă părtinitoare, vor influența rezultatele create de mașini. Codificarea prejudecățile preexistente în software pot păstra părtinirea socială și instituțională și, fără a fi corectate, ar putea fi replicate în toate utilizările viitoare ale acelui algoritm.

Un exemplu al acestei forme de părtinire este British Nationality Act Program, conceput pentru a automatiza evaluarea noilor cetățeni britanici după British Nationality Act din 1981. Programul reflecta cu acuratețe principiile legii, care afirma că „un bărbat este tatăl numai al copiilor săi legitimi, în timp ce o femeie este mama tuturor copiilor ei, legitimi sau nu.” În încercarea sa de a transfera o anumită logică într-un proces algoritmic, BNAP a înscris logica Actului de naționalitate britanică în algoritmul său, care ar perpetua-o chiar dacă actul ar fi fost în cele din urmă abrogat.

Părtiniri de algoritm tehnice

(S-a constatat că software-ul de recunoaștere facială utilizat împreună cu camerele de supraveghere afișează părtinire în recunoașterea fețelor asiatice și negre față de fețele albe.)

Prejudecățile tehnice apar prin limitările unui program, puterea de calcul, proiectarea acestuia sau alte constrângeri asupra sistemului. O astfel de părtinire poate fi, de asemenea, o restrângere a designului, de exemplu, un motor de căutare care arată trei rezultate pe ecran poate să privilegieze primele trei rezultate puțin mai mult decât următoarele trei, ca în afișarea prețului unei companii aeriene. Un alt caz este software-ul pentru distribuirea aleatorie corectă a rezultatelor. Dacă mecanismul de generare a numerelor aleatoare nu este cu adevărat aleatoriu, acesta poate introduce prejudecăți, de exemplu, prin declinarea selecțiilor către elementele de la sfârșitul sau începutul unei liste.

Un algoritm decontextualizat folosește informații care nu au legătură pentru a sorta rezultatele, de exemplu, un algoritm de stabilire a prețurilor zborurilor care sortează rezultatele în ordine alfabetică ar fi părtinitor în favoarea American Airlines față de United Airlines. Se poate aplica și opusul, în care rezultatele sunt evaluate în contexte diferite de cele pentru care sunt colectate. Datele pot fi colectate fără un context extern crucial: de exemplu, atunci când software-ul de recunoaștere facială este utilizat de camerele de supraveghere, dar este evaluat de personalul de la distanță dintr-o altă țară sau regiune, sau evaluat de algoritmi non-umani, fără a fi conștient de ceea ce are loc dincolo de câmpul vizual al camerei. Acest lucru ar putea crea o înțelegere incompletă a locului crimei, de exemplu, potențial prin confundarea trecătorilor cu cei care comit crima.

În cele din urmă, părtinirea tehnică poate fi creată prin încercarea de a oficializa deciziile în pași concreti, pornind de la presupunerea că comportamentul uman funcționează în același mod. De exemplu, software-ul cântărește punctele de date pentru a determina dacă un inculpat ar trebui să accepte un acord de pledoarie, ignorând în același timp impactul emoției asupra unui juriu. Un alt rezultat nedorit al acestei forme de părtinire a fost găsit în software-ul de detectare a plagiatului, Turnitin, care compară textele scrise de elevi cu informațiile găsite online și returnează un scor de probabilitate ca munca studentului să fie copiată. Deoarece software-ul compară șiruri lungi de text, este mai probabil să identifice vorbitori non-nativi de limba engleză decât vorbitorii nativi, deoarece acest din urmă grup ar putea fi mai capabil să schimbe cuvinte individuale, să spargă șiruri de text plagiat sau să ascundă pasaje copiate prin sinonime. Deoarece este mai ușor pentru vorbitorii nativi să evite detectarea ca urmare a constrângerilor tehnice ale software-ului, acest lucru creează un scenariu în care Turnitin identifică vorbitorii străini de engleză pentru plagiat, permițând în același timp mai multor vorbitori nativi să evite detectarea.

(Include texte traduse și adaptate din Wikipedia de Nicolae Sfetcu)