Entități implicate în ciclul de viață al inteligenței artificiale

Există diferite entități (actori) implicați activ în contextul întregului ciclu de viață al AI. Printre actori se numără designerii AI / designeri de aplicații AI implicați în proiectarea și crearea sistemelor AI. Există, de asemenea, dezvoltatorii AI care dezvoltă și construiesc software-ul și algoritmii utilizați în sistemele AI, și care lucrează și pentru a le rafina și îmbunătăți. Experiența și capacitatea lor joacă un rol cheie în dezvoltarea sistemelor AI securizate.

Dezvoltatorii și designerii AI lucrează îndeaproape cu specialițtii din știința datelor. Munca acestora ar putea implica asistența la proiectarea și dezvoltarea modelelor AI, sau poate consta în utilizarea unor astfel de modele și analizarea rezultatelor. Mai precis, pecialițtii din știința datelor sunt implicați în colectarea și interpretarea datelor, concentrându-se pe extragerea de cunoștințe și perspective din acele date. Alți actori ai ciclului de viață AI sunt inginerii de date, a căror activitate implică în primul rând extragerea și colectarea datelor din diferite surse, apoi transformarea, curățarea, standardizarea și stocarea acestora. Inginerii de date se concentrează în principal pe proiectarea, gestionarea și optimizarea fluxului de date.

Alți actori importanți ai ciclului de viață AI sunt proprietarii de date (38). Proprietarii de date dețin seturile de date care sunt utilizate fie pentru a instrui/valida sistemele AI, fie pentru a folosi aceste sisteme pentru a îndeplini sarcini. Sunt adesea companii care au propriile seturi de date legate de afacerea lor, la care implementează un sistem AI pentru a îndeplini o sarcină în numele lor. Proprietarii de date pot fi, de asemenea, furnizori / brokeri de date. Aceștia sunt terțe părți care monetizează datele utilizate de sistemele AI, fie în scopuri de instruire, fie pentru a îndeplini diverse sarcini. Aceștia pot include brokerii comerciali de date, care colectează, stochează și vând diferite tipuri de date, în mod legal. Există, de asemenea, rapoarte ale brokerilor de date din zona gri, care adună date despre utilizatori fără ca aceștia să știe că datele lor personale sunt colectate, stocate și vândute (39).

Alți actori ai ciclului de viață AI includ furnizorii de modele, care livrează modele (precum și implementări ale acestora sub formă de biblioteci AI/ML) care au fost deja testate și ajustate. Unii furnizori de modele sunt furnizori de cloud, care oferă modelele ca serviciu, în special utilizarea capabilităților de calcul și analiză a datelor bazate pe AI în cloud. Pe lângă furnizorii de modele, alți actori implică furnizori terți care pot oferi, de asemenea, cadre software și biblioteci terțe, pe care dezvoltatorii le pot folosi pentru instruirea sistemelor AI și hardware specializat de înaltă performanță.

În cele din urmă, există utilizatorii finali care folosesc sisteme AI, inclusiv consumatorii de servicii. Acestea ar putea fi companii, dintre care multe sunt utilizatori de modele. Acestea includ, de asemenea, consumatorii și publicul larg. Utilizatorii finali pot fi și utilizatori ai altor sisteme AI.

Note

(38) De reținut că, în cazul datelor cu caracter personal, rolul proprietarilor de date este echivalent cu cel al operatorilor de date.

(39) Evident, dacă apar astfel de cazuri, atunci există o lipsă clară de conformitate cu prevederile GDPR și o analiză juridică suplimentară (în afara domeniului de aplicare al acestei lucrări) este foarte recomandată.

Sursa: ENISA, AI Cybersecurity Challenges – Threat Landscape for Artificial Intelligence, December 2020. Editora: Apostolos Malatras, Georgia Dede – European Union Agency for Cybersecurity. © European Union Agency for Cybersecurity (ENISA), 2020. Traducere și adaptare independentă: Nicolae Sfetcu