Asemenea instrumente există și sunt folosite tot mai mult, însă rezultatele lor nu pot fi considerate dovezi certe privind originea unui conținut. În special în cazul textelor, detectoarele încearcă să identifice regularități statistice și stilistice asociate modelelor lingvistice, precum formulări repetitive, structuri foarte uniforme sau anumite tipare de exprimare.
Principala problemă este fiabilitatea limitată. Studiile arată atât existența rezultatelor fals pozitive — texte scrise de oameni, dar catalogate drept produse ale inteligenței artificiale — cât și a rezultatelor fals negative, când un text generat automat nu este recunoscut. Riscul este deosebit de important în mediul educațional, deoarece o clasificare greșită poate conduce la acuzații nejustificate de fraudă academică. Unele cercetări au constatat, de asemenea, că persoanele care nu sunt vorbitori nativi de engleză pot fi dezavantajate de astfel de sisteme, anumite particularități ale stilului lor fiind confundate cu caracteristici ale textului generat automat.
Detectarea devine și mai dificilă atunci când materialul produs de AI este ulterior reformulat, editat sau trecut prin instrumente special concepute pentru a evita identificarea. Din acest motiv s-au propus metode alternative, între care marcajele digitale invizibile (watermarking) inserate direct în conținutul generat. Nici acestea nu oferă însă o soluție definitivă, deoarece pot fi afectate de parafrazare și de alte transformări deliberate. Probleme similare apar în detectarea imaginilor, materialelor audio, videoclipurilor și a deepfake-urilor: există sisteme specializate, dar precizia lor rămâne imperfectă. În ansamblu, detectarea conținutului generat de inteligența artificială e un „joc de-a șoarecele și pisica” între tehnologiile de generare și cele de detectare și sugerează că rezultatul unui detector AI ar trebui privit mai degrabă ca un indiciu care necesită verificări suplimentare, nu ca o demonstrație incontestabilă a modului în care a fost creat un conținut.
Introducere în inteligența artificială
Pășește în era digitală pregătit să înțelegi și să aplici conceptele care schimbă lumea!
Inteligența, de la originile naturale la frontierele artificiale – Inteligența Umană vs. Inteligența Artificială
Inteligența: redefinirea frontierelor. Explorarea Inteligenței Umane și Artificiale. Descoperă, învață și imaginează-ți viitorul.
Inteligența artificială în serviciile de informații, apărare și securitatea națională
Perfectă pentru oricine investit în viitorul AI în securitate. Rămâi în față în înțelegerea puterii transformatoare a AI.
Descoperă mai multe la MultiMedia
Abonează-te ca să primești ultimele articole prin email.
Lasă un răspuns