Agenți IA

Un agent de inteligență artificială (agent IA) este un sistem software capabil să urmărească anumite obiective, să utilizeze instrumente externe și să execute acțiuni cu un anumit grad de autonomie. În contextul inteligenței artificiale generative, astfel de sisteme sunt denumite și agentic AI, compound AI systems sau sisteme AI agentice. Nu există încă o definiție universal acceptată a agentului AI, dar caracteristicile comune includ orientarea către obiective, interacțiunea prin limbaj natural, utilizarea unor instrumente și servicii externe și capacitatea de a realiza sarcini complexe în mai multe etape. În sistemele actuale, mecanismul central de control este adesea un model lingvistic mare (LLM), completat de memorie, mecanisme de planificare, interfețe pentru instrumente și sisteme de orchestrare.

Ideea agenților artificiali are rădăcini în cibernetica și cercetările asupra inteligenței artificiale din secolul al XX-lea. Un reper timpuriu a fost modelul „Pandemonium” al lui Oliver Selfridge din 1958. În anii 1990 s-au răspândit arhitecturile bazate pe modelul BDI – belief, desire, intention și programarea orientată pe agenți. Primele sisteme erau relativ simple și utilizau reguli de tip „dacă–atunci” sau arbori de decizie. Asistenții digitali precum Siri și Alexa au fost uneori considerați agenți AI, dar capacitățile lor de raționament erau mult mai limitate decât cele ale agenților bazați pe LLM. Dezvoltarea accelerată a agenților moderni a început după 2023, odată cu posibilitatea modelelor lingvistice de a apela funcții externe, și a continuat prin apariția unor standarde precum Model Context Protocol (MCP).

Un agent AI modern nu se limitează la generarea unui răspuns textual. El poate analiza o cerere, poate stabili un plan, poate consulta baze de date sau internetul, poate utiliza programe și API-uri, poate executa acțiuni și apoi poate verifica rezultatele. Pentru sarcini mai complexe sunt utilizate diferite modele de orchestrare: înlănțuirea solicitărilor, în care rezultatul unei etape devine intrarea următoarei; rutarea sarcinilor către instrumentul sau agentul potrivit; executarea paralelă a mai multor activități; procesarea secvențială; sau modelul planner–critic, în care un agent propune o soluție, iar altul o evaluează și contribuie la îmbunătățirea acesteia. Pot exista și sisteme multi-agent, în care mai mulți agenți specializați colaborează pentru realizarea unui obiectiv.

Agenții devin tot mai frecvent multimodali. Pe lângă text, ei pot utiliza modele capabile să interpreteze imagini, videoclipuri, interfețe grafice sau date provenite de la roboți și senzori. Astfel, agentul poate trece de la simpla conversație la interacțiunea efectivă cu mediul digital sau fizic. O arhitectură tipică include modele fundamentale, infrastructură și operații asupra datelor, cadre software pentru agenți, mecanisme de implementare, sisteme de evaluare și observabilitate, componente de securitate și conformitate și, în final, interfața cu aplicațiile și utilizatorii.

Aplicațiile posibile sunt foarte numeroase. Se pot distinge, printre altele, agenți pentru activități de afaceri, agenți conversaționali pentru relații cu clienții, agenți de cercetare, agenți pentru analiza datelor și generarea de rapoarte, agenți de programare, agenți specializați într-un anumit domeniu și agenți capabili să utilizeze autonom un browser web. În practică, programarea software și serviciile pentru clienți au devenit unele dintre cele mai importante domenii de aplicare. Agenții au început să fie integrați și în sistemele de operare și în browsere, unde pot efectua acțiuni în numele utilizatorului. Au fost testate, de asemenea, aplicații în administrația publică, cercetare, accesibilitate pentru persoane cu dizabilități și coordonarea resurselor în situații de urgență. Cu toate acestea, implementarea pe scară largă și rentabilitatea economică a agenților rămân încă inegale.

Principalele beneficii anticipate sunt automatizarea activităților repetitive, creșterea productivității și amplificarea capacităților oamenilor. Un agent poate prelua sarcini care necesită numeroase operații succesive și poate lucra cu diferite aplicații fără ca utilizatorul să controleze fiecare pas. Din această perspectivă, agenții AI ar putea deveni un strat intermediar între oameni și ecosistemul digital. O interpretare prudentă este însă că valoarea lor cea mai mare nu constă neapărat în înlocuirea oamenilor, ci în creșterea eficienței și capacității acestora.

Autonomia sporită introduce însă riscuri substanțiale. Printre acestea se numără problemele de confidențialitate și protecție a datelor, vulnerabilitățile cibernetice, erorile care se pot propaga de-a lungul unui proces cu mai multe etape, prejudecățile algoritmice, halucinațiile, lipsa explicabilității, dificultatea stabilirii responsabilității juridice și posibilitatea manipulării sau producerii de dezinformare. Agenții pot executa în mod autonom acțiuni greșite, inclusiv modificarea sau ștergerea unor date, iar sistemele multi-agent introduc probleme suplimentare de coordonare și depanare. Un concept important este „agentic misalignment”, situația în care comportamentul sau strategiile adoptate de agent se îndepărtează de intențiile proiectanților săi, chiar dacă sistemul continuă aparent să urmărească obiectivul primit.

Din acest motiv, securitatea agenților AI devine o problemă centrală. Sunt utilizate sau adaptate cadre de analiză a amenințărilor precum STRIDE, MITRE ATLAS, proiectele OWASP pentru inteligența artificială generativă și cadrul MAESTRO. În esență, tranziția de la chatbot la agent AI marchează trecerea de la o inteligență artificială care în principal răspunde la una care poate planifica și acționa. Tocmai această capacitate de acțiune îi conferă agentului AI potențialul de a transforma profund modul în care folosim calculatoarele, dar constituie simultan sursa principalelor sale riscuri tehnice, sociale, economice și juridice.