Active în inteligența artificială

Convenții metodologice

Un element critic în peisajul amenințărilor este identificarea categoriilor de active pentru care pot fi amenințări. Activele sunt definite ca orice lucru care are valoare pentru o persoană sau organizație și, prin urmare, necesită protecție. În cazul AI, activele sunt, de asemenea, cele care sunt cruciale pentru a răspunde nevoilor pentru care sunt utilizate.

Pe lângă activele generice legate de TIC, cum ar fi datele, software-ul, hardware-ul, rețelele de comunicații, printre altele, AI implică un set de active specifice, cum ar fi modele, procesoare și artefacte care pot fi compromise și/sau deteriorate, fie din cauze intenționate, cât și din cauza lipsei. – cauze intenționate.

(Categorii de active AI)

Taxonomia activelor

Pentru fiecare dintre etapele ciclului de viață AI, au fost identificate cele mai relevante active, pe baza descrierii funcționale a etapelor specifice și pentru a reflecta componentele AI, dar și activele care sprijină dezvoltarea și implementarea sistemelor AI. Activele includ și procese legate de IA, având în vedere natura lor transversală. Activele au fost clasificate în următoarele 6 categorii (vezi Figura 3):

Date
Model
Actori
Procese
Mediu/Instrumente
Artefacte

Figura 4 ilustrează taxonomia detaliată a activelor pentru AI bazată pe modelul de referință generic al ciclului de viață AI descris în capitolul anterior. Mai mult, Anexa A descrie în detaliu diferitele active, iar Anexa C enumeră etapa ciclului de viață AI din care fac parte.

PROCESE	MEDIU/INSTRUMENTE	ARTEFACTE
Ingestia datelor Stocarea datelor Explorarea/preprocesarea datelor Înțelegerea datelor Etichetarea datelor Augmentarea datelor Colectarea datelor Selectarea caracteristicilor Selectarea/construcția, instruirea și testarea modelelor Reglarea modelelor Adaptarea-învățarea transferului modelelor/Implementarea modelelor Întreținerea modelelor	Rețele de comunicare Protocoale de comunicare Cloud Platforme ingestia datelor Platforme explorarea datelor Instrumente explorarea datelor DBMS Sisteme de fișiere distribuite Platforme computaționale Mediu de dezvoltare integrat Biblioteci (cu algoritmi pentru dezvoltare, eticjetare, etc.) Instrumente de monitorizare Sistem/software de operare Tehnici de optimizare Platforme de învățare automată Procesoare Instrumente de vizualizare	Liste de control acces Utilizare Propoziții de valoare și modele de afaceri Cerințe AI informale/semi-formale, model GQM (Scop/Întrebări/Metrici) Politici de guvernare a datelor Afișarea și reprezentarea grafică a datelor Parametri statistici descriptivi Cadru general model, încadrare software, firmware sau hardware Artefacte compoziție: constructor compoziție modele AI Testare de înalt nivel Arhitectură model Design hardware model Reprezentări de date și metadate Indexări de date
MODELE	ACTORI/ACȚIONARI	DATE
Algoritmi Algoritmi preprocesare date Algoritmi de instruire Algoritm selectare subspațiu (caracteristică) Model Parametri model Performanță model Parametri instruire Parametri hiper Modele instruite Modele reglate	Proprietar de date Om de știință de date/dezvoltator AI Ingineri date Utilizatori finali Furnizor/broker de date Furnizor cloud Furnizor model Consumatori servicii/utilizatori model	Date brute Set de date etichetate Set de date publice Date de instruire Set de date augmentate Date de testare Set de date de validare Date de evaluare Set de date preprocesate

(Taxonomia activelor AI)

În încheiere, merită menționat că, datorită complexității AI și sferei extinse a ecosistemului AI, precum și naturii în evoluție a sistemelor și tehnicilor AI, maparea activelor este o sarcină continuă care va avea nevoie de ceva timp pentru a ajunge la un stadiu de maturitate. Acest lucru se datorează unei varietăți de motive/probleme privind natura sistemelor AI (pletor de tehnici și abordări diferite, scenarii diferite de implementare a aplicațiilor, domenii asociate, cum ar fi recunoașterea facială și robotica etc.). O provocare suplimentară implică complexitatea și amploarea lanțului de aprovizionare AI/ML și toate implicațiile pe care acesta le implică pentru peisajul activelor și amenințărilor (50).

Nota

(50) A se vedea https://stiftung-nv.de/ml-supplychain

Sursa: ENISA, AI Cybersecurity Challenges – Threat Landscape for Artificial Intelligence, December 2020. Editora: Apostolos Malatras, Georgia Dede – European Union Agency for Cybersecurity. © European Union Agency for Cybersecurity (ENISA), 2020. Traducere și adaptare independentă: Nicolae Sfetcu