Inteligența artificială: Problema explicabilității

Luarea deciziilor în, de exemplu, medicină, justiție, recrutare etc., este în esență un sistem sociotehnic, în care un decident interacționează cu diverse surse de informații și instrumente de sprijinire a deciziilor, un proces a cărui calitate ar trebui evaluată în termeni de rezultat final. , rezultat agregat — calitatea deciziei — mai degrabă decât evaluarea doar a calității instrumentului de sprijinire a deciziilor în mod izolat (de exemplu, în ceea ce privește acuratețea predictivă și precizia sa independentă). Prin urmare, este important să se dezvolte instrumente care explică predicțiile și recomandările lor în termeni semnificativi, o proprietate rareori egalată de sistemele de inteligența artificială (AI) bazate pe învățarea automată, disponibilă astăzi.

Problema explicației pentru un sistem de sprijinire a deciziilor poate fi înțeleasă ca „unde” să se plaseze o graniță între detaliile algoritmice pe care decidentul le poate ignora în siguranță și ce informații semnificative ar trebui să cunoască absolut decidentul pentru a lua o decizie în cunoștință de cauză. Astfel, o explicație trebuie să implice încredere (ce trebuie ignorat în siguranță), comprehensibilitate (semnificația explicațiilor) și responsabilitate (oamenii păstrând responsabilitatea finală pentru decizie). În acest context, apar câteva întrebări: care sunt cele mai critice caracteristici pentru AI explicativă? Există o structură generală pentru AI explicativă? Cum ajunge un sistem AI la o anumită decizie și pe baza cărui raționament sau motive face acest lucru? Explicațiile ar trebui să favorizeze o interacțiune om-mașină prin narațiuni semnificative exprimate clar și concis prin text și vizualizări sau orice alt format ușor de înțeles de om care să dezvăluie de ce da, de ce nu, și ce-ar fi dacă.

Chiar și în domeniile în care mizele sunt mai puțin mari, cum ar fi publicitatea personalizată pe platformele online (social media, motoarele de căutare, piețele online), un nivel adecvat de explicabilitate a mecanismelor automate de recomandare este de mare importanță din două motive. În primul rând, să împuternicească consumatorii și cetățenii împotriva discriminării și manipulărilor; în al doilea rând, să împuternicească organele de supraveghere și agențiile de supraveghere/execuție (de exemplu, pentru nediscriminare, protecția consumatorilor și confidențialitate) în îndeplinirea acțiunilor lor. Din mai multe cazuri concrete reiese deja clar că rezultatul profilării automate pentru publicitatea personalizată direcționată poate, de multe ori din neatenție, să discrimineze zonele minoritare și comunitățile dezavantajate (cum ar fi negarea sistematică a prețurilor și condițiilor favorabile), precum și exploatarea vulnerabilităților (cum ar fi vizarea persoanelor cu condiții de dependență cu reclame de pariuri online). Aceste fenomene sunt adânc înrădăcinate în logica învățării automate, predispuse să moștenească părtinirea care este ascunsă în datele de training. Prin urmare, este esențial ca mecanismele AI explicabile, îndreptate către diverse părți interesate (cum ar fi consumatorii și instituțiile de control), să facă parte din platformele și piețele online într-un format deschis și inspectabil. O formă de „drept de explicație” pentru platforme și piețele online, extinderea și adaptarea prevederilor adoptate în GDPR, ar putea stimula inovații în sectorul publicității online care, dincolo de a aduce transparență și încredere, ar putea îmbunătăți și eficacitatea sistemului pentru atât agențiile de publicitate, cât și pentru consumatori.

Sursa: Pedreschi, D., Artificial Intelligence (AI): new developments and innovations applied to e-commerce, Study for the committee on the Internal Market and Consumer Protection, Policy Department for Economic, Scientific and Quality of Life Policies, European Parliament, Luxembourg, 2020. © European Union, 2020. Traducere și adaptare independentă: Nicolae Sfetcu