Cuvintele modelelor lingvistice pot face referire?

Sursa: Matthew Mandelkern, Tal Linzen; Do Language Models’ Words Refer?. Computational Linguistics 2024; 50 (3): 1191–1200. doi: https://doi.org/10.1162/coli_a_00522 (Rezumat)

Articolul „Do Language Models’ Words Refer?”, semnat de Matthew Mandelkern și Tal Linzen, analizează o problemă fundamentală aflată la intersecția dintre filosofia limbajului și inteligența artificială: atunci când un model lingvistic produce cuvinte și propoziții, acestea se referă efectiv la obiecte, persoane și fenomene din lume sau sunt doar combinații de simboluri care imită convingător limbajul uman? Autorii se concentrează asupra referinței, adică asupra legăturii „cuvânt–lume”, fără a pretinde că rezolvă problema mai largă a înțelegerii sau a sensului în cazul modelelor lingvistice.

Punctul de plecare îl constituie o obiecție frecvent formulată împotriva modelelor lingvistice: deoarece acestea sunt antrenate în principal pe șiruri de simboluri și nu au contact direct cu lumea, cuvintele lor nu ar putea dobândi o referință autentică. Pentru a clarifica problema, autorii adaptează un exemplu inspirat de Hilary Putnam. Dacă niște furnici trasează accidental în nisip un model asemănător propoziției „Peano proved that arithmetic is incomplete”, urmele lor nu spun propriu-zis nimic. În schimb, dacă o persoană, Luke, trimite aceeași propoziție într-un mesaj, ea este semnificativă, chiar dacă afirmația este falsă, întrucât teorema incompletitudinii a fost demonstrată de Gödel. Cuvântul „Peano” folosit de Luke continuă să se refere la Peano. Întrebarea este dacă rezultatele unui model lingvistic seamănă mai mult cu urmele furnicilor sau cu mesajul lui Luke.

Autorii contestă ideea că referința ar necesita obligatoriu experiențe senzoriale, credințe corecte sau capacitatea de a recunoaște obiectul la care se referă un cuvânt. Ei se bazează pe tradiția externalistă din filosofia limbajului, asociată în special cu Saul Kripke și Hilary Putnam. Conform acestei perspective, referința este determinată în mare măsură de istoria naturală și cauzală a utilizării cuvintelor într-o comunitate lingvistică, nu numai de reprezentările mentale ale vorbitorului. Astfel, chiar dacă Luke știe foarte puține lucruri despre Peano și ceea ce știe este în mare parte greșit, el poate totuși folosi numele „Peano” pentru a se referi la persoana corectă, deoarece utilizarea sa face parte dintr-un lanț istorico-cauzal care conduce la Peano.

Aceeași idee este ilustrată prin celebrul experiment mental al Pământului Geamăn al lui Putnam. Pe Pământ, „water” se referă la H₂O, în timp ce pe o planetă ipotetică identică din punct de vedere macroscopic, unde substanța asemănătoare apei are compoziția XYZ, termenul corespunzător se referă la XYZ. Diferența nu provine din credințele vorbitorilor, ci din istoria contactului comunității lor cu substanța respectivă. În mod similar, oamenii pot utiliza corect cuvinte precum „ulm” și „fag” chiar dacă nu sunt capabili să deosebească un ulm de un fag, deoarece se bazează implicit pe utilizarea comunității lingvistice și pe competența experților.

Aplicată modelelor lingvistice, această concepție schimbă radical problema „fundamentării” limbajului. Datele de antrenament ale unui model nu sunt simple forme lipsite de context, ci texte care au ele însele istorii de utilizare referențială. Dacă lanțurile cauzal-istorice care leagă utilizările umane ale unui cuvânt de referentul său pot continua și prin datele de antrenament până la utilizarea acelui cuvânt de către model, atunci există cel puțin o bază pentru a susține că și cuvintele produse de model pot avea referință. Autorii consideră că modele contemporane precum ChatGPT par, cel puțin la prima vedere, mai apropiate de Luke decât de furnicile din exemplul inițial, deoarece participă la interacțiuni lingvistice aparent obișnuite. Totuși, ei nu susțin că această concluzie este definitiv demonstrată.

Articolul examinează și două posibile obiecții. Prima privește intenția: s-ar putea susține că un cuvânt nu poate referi fără intenția vorbitorului de a se referi la ceva. Externalismul arată însă că intențiile detaliate nu sunt nici necesare, nici suficiente pentru determinarea referinței. Rămâne deschisă problema dacă modelele lingvistice pot avea o formă minimală, implicită, de intenție comunicativă comparabilă cu cea pe care o atribuim copiilor sau chiar anumitor sisteme automate. Autorii avertizează însă că nu ar trebui impuse modelelor standarde mai exigente decât cele aplicate oamenilor. A doua problemă este dezambiguizarea. Cuvinte precum „kiwi” pot desemna lucruri diferite, dar autorii arată că sensul utilizat poate fi identificat prin reprezentările contextuale ale modelului și prin contextul lingvistic, fără a presupune neapărat o intenție referențială conștientă.

În concluzie, Mandelkern și Linzen nu afirmă că au demonstrat că modelele lingvistice înțeleg limbajul sau că toate cuvintele lor au referință. Teza lor este mai restrânsă: absența experienței directe cu lumea nu este, în sine, suficientă pentru a nega referința cuvintelor produse de modelele lingvistice. Externalismul arată că istoria cauzală a cuvintelor și apartenența la o comunitate lingvistică pot fi suficiente pentru stabilirea legăturii dintre cuvânt și lume. Problema decisivă devine astfel dacă modelele lingvistice pot fi considerate participanți relevanți la comunitățile noastre lingvistice și la lanțurile istorico-cauzale care susțin referința. Autorii lasă această problemă deschisă, dar consideră că teoria externalistă face mult mai dificilă susținerea tezei simple potrivit căreia modelele lingvistice produc doar simboluri lipsite de orice legătură semantică cu lumea.