Părtiniri de algoritm în inteligența artificială

Părtinirile de algoritm descriu erori sistematice și repetabile într-un sistem informatic care creează rezultate „nedrepte”, cum ar fi „privilegierea” unei categorii față de alta în moduri diferite de funcția intenționată a algoritmului.

Prejudecățile pot apărea din mulți factori, inclusiv, dar fără a se limita la, proiectarea algoritmului sau utilizarea neintenționată sau neprevăzută sau deciziile legate de modul în care datele sunt codificate, colectate, selectate sau utilizate pentru antrenamentul algoritmului. De exemplu, părtinirea de algoritm a fost observată în rezultatele motoarelor de căutare și platformele de social media. Această părtinire poate avea efecte de la încălcarea involuntară a confidențialității până la consolidarea părtinirilor sociale de rasă, gen, sexualitate și etnie. Studiul părtinirii de algoritm este cel mai preocupat de algoritmii care reflectă discriminarea „sistematică și nedreaptă”. Această părtinire a fost abordată abia recent în cadre juridice, cum ar fi Regulamentul general al Uniunii Europene privind protecția datelor (2018) și propusa Lege privind inteligența artificială (2021).

Pe măsură ce algoritmii își extind capacitatea de a organiza societatea, politica, instituțiile și comportamentul, sociologii au devenit preocupați de modurile în care producția neprevăzută și manipularea datelor pot avea impact asupra lumii fizice. Deoarece algoritmii sunt adesea considerați neutri și imparțiali, ei pot proiecta în mod inexact o autoritate mai mare decât expertiza umană (în parte din cauza fenomenului psihologic al părtinirii automatizării) și, în unele cazuri, încrederea în algoritmi poate înlocui responsabilitatea umană pentru rezultatele lor. Prejudecățile pot intra în sisteme algoritmice ca urmare a așteptărilor culturale, sociale sau instituționale preexistente; din cauza limitărilor tehnice ale proiectării lor; sau prin utilizarea în contexte neprevăzute sau de către un public care nu este luat în considerare în proiectarea inițială a software-ului.

Prejudecățile de algoritm au fost citate în diverse cazuri, de la rezultatele alegerilor până la răspândirea discursului instigator la ură online. De asemenea, a apărut în justiția penală, asistența medicală și angajarea, agravând prejudecățile rasiale, socioeconomice și de gen existente. Incapacitatea relativă a tehnologiei de recunoaștere facială de a identifica cu exactitate fețele cu pielea mai întunecată a fost legată de mai multe arestări ilegale de bărbați de culoare, o problemă care decurge din seturi de date dezechilibrate. Problemele de înțelegere, cercetare și descoperire a părtinirii algoritmice persistă din cauza naturii de proprietate a algoritmilor, care sunt de obicei tratați ca secrete comerciale. Chiar și atunci când este asigurată o transparență deplină, complexitatea anumitor algoritmi reprezintă o barieră în înțelegerea funcționării lor. În plus, algoritmii se pot schimba sau pot răspunde la intrare sau ieșire în moduri care nu pot fi anticipate sau reproduse cu ușurință pentru analiză. În multe cazuri, chiar și în cadrul unui singur site web sau aplicație, nu există un singur „algoritm” de examinat, ci o rețea de multe programe interconectate și intrări de date, chiar și între utilizatorii aceluiași serviciu.

Definiții

(O diagramă din 1969 despre modul în care un simplu program de calculator ia decizii, ilustrând un algoritm foarte simplu. )

Algoritmii sunt dificil de definit, dar pot fi înțeleși în general ca liste de instrucțiuni care determină modul în care programele citesc, colectează, procesează și analizează datele pentru a genera rezultate. Progresele în hardware-ul computerelor au condus la o capacitate crescută de procesare, stocare și transmitere a datelor. Acest lucru a stimulat, la rândul său, proiectarea și adoptarea de tehnologii precum învățarea automată și inteligența artificială. Prin analizarea și procesarea datelor, algoritmii sunt coloana vertebrală a motoarelor de căutare, a site-urilor de social media, motoare de recomandare, vânzare cu amănuntul online, publicitate online și multe altele.

Oamenii de științe sociale contemporani sunt preocupați de procesele algoritmice încorporate în aplicațiile hardware și software din cauza impactului lor politic și social, și pun sub semnul întrebării ipotezele de bază ale neutralității unui algoritm. Termenul de părtinire de algoritm descrie erori sistematice și repetabile care creează rezultate nedrepte, cum ar fi privilegiarea unui grup arbitrar de utilizatori față de alții. De exemplu, un algoritm de scor de credit poate refuza un împrumut fără a fi nedrept, dacă cântărește în mod constant criteriile financiare relevante. Dacă algoritmul recomandă împrumuturi unui grup de utilizatori, dar refuză împrumuturile unui alt set de utilizatori aproape identici pe baza unor criterii care nu au legătură și dacă acest comportament poate fi repetat în mai multe apariții, un algoritm poate fi descris ca părtinitor. Această părtinire poate fi intenționată sau neintenționată (de exemplu, poate proveni din date părtinitoare obținute de la un lucrător care a făcut anterior treaba pe care o va face algoritmul de acum înainte).

Metode

Părtinirea poate fi introdusă la un algoritm în mai multe moduri. În timpul adunării unui set de date, datele pot fi colectate, digitizate, adaptate și introduse într-o bază de date conform criteriilor de catalogare concepute de om. În continuare, programatorii atribuie priorități sau ierarhii pentru cum un program evaluează și sortează acele date. Acest lucru necesită decizii umane cu privire la modul în care datele sunt clasificate și ce date sunt incluse sau aruncate. Unii algoritmi își colectează propriile date pe baza unor criterii selectate de oameni, care pot reflecta, de asemenea, părtinirea designerilor umani. Alți algoritmi pot întări stereotipurile și preferințele pe măsură ce procesează și afișează date „relevante” pentru utilizatorii umani, de exemplu, prin selectarea informațiilor pe baza alegerilor anterioare ale unui utilizator sau grup similar de utilizatori.

Dincolo de asamblarea și prelucrarea datelor, părtinirea poate apărea ca rezultat al proiectării. De exemplu, algoritmii care determină alocarea resurselor sau controlul (cum ar fi stabilirea plasamentelor la școală) pot discrimina din neatenție împotriva unei categorii atunci când determină riscul pe baza unor utilizatori similari (ca în scorurile de credit). Între timp, motoarele de recomandare care funcționează prin asocierea utilizatorilor cu utilizatori similari sau care folosesc trăsăturile de marketing deduse, se poate baza pe asocieri inexacte care reflectă stereotipuri etnice, de gen, socio-economice sau rasiale ample. Un alt exemplu vine din stabilirea criteriilor pentru ceea ce este inclus și exclus din rezultate. Acest criteriu ar putea prezenta rezultate neprevăzute pentru rezultatele căutării, cum ar fi software-ul de recomandare de zboruri care omite zborurile care nu urmează traseele de zbor ale companiei aeriene sponsorizate. Algoritmii pot prezenta, de asemenea, o părtinire de incertitudine, oferind evaluări mai sigure atunci când sunt disponibile seturi de date mai mari. Acest lucru poate denatura procesele algoritmice către rezultate care corespund mai strâns cu eșantioanele mai mari, care pot ignora datele de la populațiile subreprezentate.

(Include texte traduse și adaptate din Wikipedia de Nicolae Sfetcu)