Inteligența artificială și efectele sale sociale

Inteligența artificială (Artificial Intelligence, AI) a progresat până la punctul în care este o componentă esențială în aproape toate sectoarele economiei moderne actuale, cu un impact semnificativ asupra vieții noastre private, sociale și politice. AI se referă la un ecosistem de modele și tehnologii pentru percepție, raționament, interacțiune și învățare. Revenirea AI în lumina reflectoarelor în ultimii ani este legată în principal de învățarea din date, învățarea automată (Machine Learning, ML), care a făcut un salt înainte datorită apariției Big Data. Amestecul este triplu: datele ajung la masa critică de exemple de învățat, algoritmii descoperă tipare predictive și tipare ascunse în date, arhitecturile de înaltă performanță reușesc să compenseze resursele de calcul și stocare necesare. Pe baza acestui mix, AI a reușit să abordeze cu succes provocări deschise de lungă durată, cum ar fi înțelegerea și traducerea textelor și vorbirii, recunoașterea conținutului imaginilor și a videoclipurilor, și alte sarcini despre care se crede că necesită inteligență. Cu aproximativ zece ani în urmă, s-a observat că unele modele de învățare cunoscute de mult, până acum ineficiente pentru sarcinile menționate, dacă sunt generalizate în mod corespunzător și instruite pe un set mare de date de exemplu, pot face un salt calitativ. Într-adevăr, astfel de metode pot învăța, din pixelii imaginilor sau din cuvintele textelor de exemplu, „conceptele” generale care permit să recunoască și să clasifice cu precizie imagini noi și texte noi.

Etapa actuală de dezvoltare a AI prezintă puncte forte și puncte slabe. Pe de o parte, capacitatea de învățare a modelelor de AI crește, aducând progrese extraordinare în viziunea robotică și conducerea autonomă, în traducerea automată a textului și a vorbirii, în diagnosticul medical, în evaluarea riscurilor, în întreținerea predictivă. Pe de altă parte, decalajul cu alte aspecte ale AI crește, în special, cu raționamentul și interacțiunea persoană-mașină, aspecte centrale pentru dezvoltarea unei AI umane, etice și antropocentrice, care este punctul central al abordării europene. Opacitatea și natura cutiilor negre ale modelelor de AI sunt în creștere, împreună cu riscul de a crea sisteme expuse la prejudecăți în datele de instruire, sisteme pe care chiar experții nu reușesc să le înțeleagă. Instrumentele lipsesc pentru a permite dezvoltatorilor de AI să certifice fiabilitatea modelelor lor. Este crucial să se injecteze în tehnologiile AI valori etice ale corectitudinii (cum să se evite deciziile neloiale și discriminatorii), acuratețea (cum să se furnizeze informații fiabile), confidențialitatea (cum să se protejeze confidențialitatea persoanelor implicate) și transparența (cum să se modele și să se ia decizii inteligibile tuturor părților interesate). Această abordare de proiectare sensibilă la valoare, care încă nu a fost pe deplin operaționalizată, este puternic necesară pentru a stimula acceptarea socială pe scară largă a AI, fără a-i inhiba puterea.

Mai mult, pe măsură ce apar sisteme sociotehnice din ce în ce mai complexe, formate din mulți oameni care interacționează și sisteme inteligente și autonome, AI capătă o dimensiune societală importantă. O observație cheie este că o mulțime de indivizi inteligenți (asistată de instrumente AI) nu este neapărat o mulțime inteligentă. Dimpotrivă, poate fi proastă în multe cazuri, din cauza efectelor de rețea nedorite, neintenționate și a comportamentului agregat emergent. Exemplele abundă în societatea contemporană. De exemplu, utilizarea unei navigații auto pentru a evita un blocaj de trafic pe ruta principală poate provoca blocaje suplimentare pe rutele alternative locale. În domeniul formării și difuzării opiniei, o mulțime de cetățeni care utilizează rețelele sociale ca sursă de informații este supusă părtinirii algoritmice a mecanismelor de recomandare ale platformei care sugerează conținut personalizat. Această părtinire va crea camere de ecou și va filtra bule, uneori induse într-un mod artificial, în sensul că fără părtinirea de personalizare mulțimea ar ajunge la o opinie partajată comună. Recomandările furnizate de sistemele de AI pot avea sens la nivel individual, dar pot duce la efecte colective nedorite ale tulburării informației și ale radicalizării.

Fluxul de informații care ne ajunge prin intermediul platformelor media online și al piețelor de comerț electronic este optimizat nu prin conținutul informațiilor sau calitatea produsului, ci prin popularitate și apropierea de țintă. Acest lucru se efectuează de obicei pentru a maximiza utilizarea platformei. Algoritmii de recomandare sugerează interlocutorii, produsele și conținutul la care suntem expuși, pe baza profilelor potrivite, promovând cele mai populare alegeri pentru oameni similari cu noi. Drept urmare, observăm apariția fenomenului „bogatul devine mai bogat”: utilizatorii, conținutul și produsele populare devin din ce în ce mai populare. Pe piețele online, acest lucru ar însemna că unele companii obțin cea mai mare cotă de piață, în timp ce celelalte multe trebuie să împartă restul. Aceste companii devin hub-urile rețelei, adunând majoritatea achizițiilor utilizatorilor în detrimentul marii majorități. În media socială, acest lucru ar însemna că anumiți colegi sau conținuturi populare adună toată atenția utilizatorului, devenind hub-urile rețelei sociale. Ca o consecință a efectelor de rețea ale mecanismelor de recomandare AI pentru piețele online, motoarele de căutare și rețelele sociale, apariția inegalității extreme și a hub-urilor monopoliste este amplificată artificial, în timp ce diversitatea ofertelor și ușurința accesului la piețe sunt sărăcite artificial.

Sursa: Pedreschi, D., Artificial Intelligence (AI): new developments and innovations applied to e-commerce, Study for the committee on the Internal Market and Consumer Protection, Policy Department for Economic, Scientific and Quality of Life Policies, European Parliament, Luxembourg, 2020. © European Union, 2020. Traducere și adaptare independentă: Nicolae Sfetcu