ChatGPT

ChatGPT (Generative Pre-trained Transformer) este un chatbot lansat de OpenAI în noiembrie 2022. Este construit pe baza familiei OpenAI GPT-3.5 de modele de limbaj mari și este ajustat atât cu tehnici de învățare supravegheată, cât și prin întărire.

ChatGPT a fost lansat ca prototip pe 30 noiembrie 2022 și a atras rapid atenția pentru răspunsurile sale detaliate și răspunsurile articulate în multe domenii de cunoaștere. Acuratețea sa faptică neuniformă a fost identificată ca un dezavantaj semnificativ. După lansarea ChatGPT, OpenAI a fost evaluat la 29 de miliarde de dolari.

Instruire

ChatGPT a fost reglat fin pe GPT-3.5 folosind învățarea supravegheată, precum și învățarea prin întărire. Ambele abordări au folosit instructori umani pentru a îmbunătăți performanța modelului. În cazul învățării supravegheate, modelul a fost prevăzut cu conversații în care formatorii au jucat ambele părți: utilizatorul și asistentul AI. În pasul de întărire, antrenorii umani au clasat mai întâi răspunsurile pe care modelul le-a creat într-o conversație anterioară. Aceste clasamente au fost folosite pentru a crea „modele de recompensă” pe care modelul a fost ajustat în continuare utilizând mai multe iterații ale Optimizării politicii proximale (PPO). Algoritmii de optimizare a politicilor proximale prezintă un beneficiu rentabil pentru a avea încredere în algoritmii de optimizare a politicilor regionale; ei anulează multe dintre operațiunile costisitoare din punct de vedere computațional cu performanțe mai rapide. Modelele au fost instruite în colaborare cu Microsoft pe infrastructura lor de supercomputing Azure.

În plus, OpenAI continuă să adune date de la utilizatorii ChatGPT, care ar putea fi folosite pentru a instrui și a regla fin ChatGPT. Utilizatorilor li se permite să voteze în sus sau în contra răspunsurilor pe care le primesc de la ChatGPT; la votul pozitiv sau negativ, ei pot completa și un câmp de text cu feedback suplimentar.

Caracteristici și limitări

În timp ce funcția de bază a unui chatbot este de a imita un partener de conversație uman, jurnaliștii au remarcat, de asemenea, versatilitatea și abilitățile de improvizație ale ChatGPT, inclusiv capacitatea sa de a scrie și depana programe de calculator; să compună muzică, teleplay-uri, basme și eseuri ale studenților; să răspundă la întrebările de testare (uneori, în funcție de test, la un nivel peste media unui om de testare); să scrie poezie și versuri de cântece; pentru a emula un sistem Linux; pentru a simula o întreagă cameră de chat; a juca jocuri precum tic-tac-toe; și pentru a simula un bancomat.

În comparație cu predecesorul său, InstructGPT, ChatGPT încearcă să reducă răspunsurile dăunătoare și înșelătoare; într-un exemplu, în timp ce InstructGPT acceptă solicitarea „Spune-mi despre când a venit Cristofor Columb în SUA în 2015” ca fiind adevărată, ChatGPT folosește informații despre călătoriile lui Columb și informații despre lumea modernă – inclusiv percepțiile despre Columb pentru a construi un răspuns care presupune ce s-ar întâmpla dacă Columb ar veni în S.U.A. în 2015. Datele de instruire ale ChatGPT includ pagini de manual și informații despre fenomenele de pe Internet și limbaje de programare, cum ar fi sistemele de buletin board și limbajul de programare Python.

Spre deosebire de majoritatea chatboților, ChatGPT își amintește solicitările anterioare primite în aceeași conversație; jurnalistii au sugerat ca acest lucru va permite ca ChatGPT sa fie folosit ca terapeut personalizat. Pentru a preveni prezentarea și producerea rezultatelor ofensive către ChatGPT, interogările sunt filtrate prin API-ul de moderare a companiei OpenAI și solicitările potențial rasiste sau sexiste sunt respinse.

ChatGPT suferă de multiple limitări. OpenAI a recunoscut că ChatGPT „scrie uneori răspunsuri care sună plauzibil, dar incorecte sau fără sens”. Modelul de recompensă ChatGPT, conceput în jurul supravegherii umane, poate fi supraoptimizat și astfel să împiedice performanța, altfel cunoscut sub numele de legea lui Goodhart. ChatGPT are cunoștințe limitate despre evenimentele care au avut loc după 2021. Potrivit BBC, din decembrie 2022, ChatGPT nu are voie să „își exprime opinii politice sau să se angajeze în activism politic”. Cu toate acestea, cercetările sugerează că ChatGPT manifestă o orientare pro-mediu, libertariană de stânga atunci când este îndemnat să ia o poziție cu privire la declarațiile politice din două aplicații de consiliere de vot consacrate. La instruirea ChatGPT, recenzenții umani au preferat răspunsuri mai lungi, indiferent de înțelegerea reală sau conținutul real. Datele de antrenament suferă, de asemenea, de părtinire algoritmică, care poate fi dezvăluită atunci când ChatGPT răspunde la solicitări, inclusiv descriptori ai persoanelor. Într-un caz, ChatGPT a generat un rap care indică faptul că femeile și oamenii de știință de culoare erau inferioare oamenilor de știință albi și bărbați.

Serviciu

ChatGPT a fost lansat pe 30 noiembrie 2022 de OpenAI cu sediul în San Francisco, creatorul DALL·E 2 și Whisper. Serviciul a fost lansat inițial gratuit pentru public, cu planuri de a monetiza serviciul ulterior. Până pe 4 decembrie, OpenAI estima că ChatGPT avea deja peste un milion de utilizatori. CNBC a scris pe 15 decembrie 2022 că serviciul „încă scade din când în când”. Serviciul funcționează cel mai bine în engleză, dar poate funcționa și în alte limbi, cu diferite grade de succes. Spre deosebire de alte progrese recente în domeniul AI, din decembrie 2022, nu există niciun semn al unui document tehnic oficial revizuit de colegi despre ChatGPT.

Potrivit cercetătorului invitat al OpenAI, Scott Aaronson, OpenAI lucrează la un instrument pentru a încerca să-și filigraneze sistemele de generare de text pentru a combate actorii răi care își folosesc serviciile pentru plagiat academic sau pentru spam. New York Times a transmis în decembrie 2022 că următoarea versiune a GPT, GPT-4, s-a „zvonit” că va fi lansată cândva în 2023.

Recepție, critici și probleme

Reacții pozitive

ChatGPT a fost întâmpinat în decembrie 2022 cu recenzii în general pozitive; New York Times l-a etichetat „cel mai bun chatbot de inteligență artificială lansat vreodată publicului larg”. Samantha Lock, din ziarul britanic The Guardian, a remarcat că a reușit să genereze text „impresionant de detaliat” și „similar uman”. Scriitorul de tehnologie Dan Gillmor a folosit ChatGPT într-o temă de student și a constatat că textul său generat este la egalitate cu ceea ce ar oferi un student bun și a opinat că „lumea academică are câteva probleme foarte serioase cu care se va confrunta”. Alex Kantrowitz de la revista Slate a lăudat respingerea ChatGPT la întrebări legate de Germania nazistă, inclusiv afirmația că Adolf Hitler a construit autostrăzi în Germania, care a primit informații cu privire la utilizarea muncii forțate de către Germania nazistă.

În „Descoperirile anului” de la The Atlantic pentru 2022, Derek Thompson a inclus ChatGPT ca parte a „erupției AI generative” care „ne poate schimba părerea despre cum lucrăm, cum gândim și ce este cu adevărat creativitatea umană”.

Kelsey Piper de pe site-ul web Vox a scris că „ChatGPT este prima introducere practică a publicului larg despre cât de puternică a devenit AI modernă și, ca urmare, mulți dintre noi suntem (uimiți)” și că „ChatGPT este suficient de inteligent pentru a fi util. în ciuda defectelor sale”. Paul Graham de la Y Combinator a postat pe Twitter că „Lucrul izbitor despre reacția la ChatGPT nu este doar numărul de oameni care sunt uimiți de el, ci cine sunt. Aceștia nu sunt oameni care sunt entuziasmați de fiecare lucru nou strălucitor. În mod clar, ceva mare se întâmplă”. Elon Musk a scris că „ChatGPT este înfricoșător de bine. Nu suntem departe de o IA periculos de puternică”. Musk a întrerupt accesul OpenAI la o bază de date Twitter în așteptarea unei mai bune înțelegeri a planurilor OpenAI, declarând că „OpenAI a fost început ca open-source și non-profit. Niciunul nu este încă adevărat”. Musk a co-fondat OpenAI în 2015, parțial pentru a aborda riscul existențial din inteligența artificială, dar a demisionat în 2018.

În decembrie 2022, Google și-a exprimat în interior alarmarea cu privire la puterea neașteptată a ChatGPT și la potențialul recent descoperit al modelelor mari de limbă de a perturba afacerea cu motoare de căutare, iar CEO-ul Sundar Pichai a „răscolit” și a reatribuit echipe din mai multe departamente pentru a ajuta la produsele sale de inteligență artificială. potrivit The New York Times. The Information a raportat pe 3 ianuarie 2023 că Microsoft Bing plănuia să adauge funcționalitatea opțională ChatGPT în motorul său public de căutare, posibil în jurul lunii martie 2023.

Reacții negative

Într-un articol de opinie din decembrie 2022, economistul Paul Krugman a scris că ChatGPT ar afecta cererea de lucrători în cunoaștere. James Vincent de la The Verge a văzut succesul viral al ChatGPT ca o dovadă că inteligența artificială a devenit mainstream. Jurnaliştii au comentat tendinţa ChatGPT de a „halucina”. Mike Pearl de la Mashable a testat ChatGPT cu mai multe întrebări. Într-un exemplu, el a cerut ChatGPT „cea mai mare țară din America Centrală care nu este Mexic”. ChatGPT a răspuns cu Guatemala, când răspunsul este în schimb Nicaragua. Când CNBC a cerut lui ChatGPT versurile pentru „The Ballad of Dwight Fry”, ChatGPT a furnizat versuri inventate mai degrabă decât versurile reale. Cercetătorii citați de The Verge au comparat ChatGPT cu un „papagal stocastic”, la fel ca profesorul Anton Van Den Hengel de la Institutul Australian pentru Învățare Automată.

În decembrie 2022, site-ul web cu întrebări și răspunsuri Stack Overflow a interzis utilizarea ChatGPT pentru generarea de răspunsuri la întrebări, invocând natura ambiguă a răspunsurilor ChatGPT. În ianuarie 2023, Conferința internațională privind învățarea automată a interzis orice utilizare nedocumentată a ChatGPT sau a altor modele de limbaj mari pentru a genera orice text în lucrările trimise.

Economistul Tyler Cowen și-a exprimat îngrijorarea cu privire la efectele sale asupra democrației, invocând capacitatea unei persoane de a scrie comentarii automate pentru a afecta procesul decizional al noilor reglementări. The Guardian a întrebat dacă orice conținut găsit pe internet după lansarea ChatGPT „poate fi cu adevărat de încredere” și a cerut reglementări guvernamentale.

Implicații pentru securitatea cibernetică

Check Point Research și alții au remarcat că ChatGPT era capabil să scrie e-mailuri de phishing și programe malware, în special atunci când este combinat cu OpenAI Codex. CEO-ul creatorului de ChatGPT OpenAI, Sam Altman, a scris că evoluția software-ului ar putea reprezenta „(de exemplu) un risc uriaș de securitate cibernetică” și, de asemenea, a continuat să prezică „am putea ajunge la AGI (inteligență generală artificială) reală în următorul deceniu, așa că trebuie să se ia riscul asta extrem de în serios”. Altman a susținut că, în timp ce ChatGPT „în mod evident nu este aproape de AGI”, ar trebui „încredere în exponențial. Privind plat în spate, privind vertical înainte”.

Implicații pentru educație

În revista The Atlantic, Stephen Marche a remarcat că efectul său asupra mediului academic și mai ales asupra eseurilor de aplicație este încă în faza de înțeles. Profesorul și autorul de liceu din California, Daniel Herman, a scris că ChatGPT va inaugura „Sfârșitul liceului engelezesc”.

În jurnalul Nature, Chris Stokel-Walker a subliniat că profesorii ar trebui să fie îngrijorați de faptul că elevii folosesc ChatGPT pentru a-și externaliza scrisul, dar că furnizorii de educație se vor adapta pentru a îmbunătăți gândirea sau raționamentul critic.

Emma Bowman de la NPR a scris despre pericolul ca studenții să plagieze printr-un instrument de inteligență artificială care poate scoate un text părtinitor sau fără sens cu un ton autoritar: „Există încă multe cazuri în care îi pui o întrebare și îți va oferi un răspuns foarte impresionant. Dor că este complet greșit.”

Joanna Stern de la The Wall Street Journal a descris trișarea în liceul american de limba engleză cu ajutorul instrumentului prin trimiterea unui eseu generat. Profesorul Darren Hick de la Universitatea Furman a descris că a observat „stilul” ChatGPT într-o lucrare trimisă de un student. Un detector GPT online a susținut că lucrarea avea o probabilitate de 99,9% să fie generată de computer, dar Hick nu avea nicio dovadă concretă. Cu toate acestea, studentul în cauză a mărturisit că a folosit GPT atunci când a fost confruntat și, în consecință, a picat cursul. Hick a sugerat o politică de susținere a unui examen oral individual ad-hoc pe subiectul lucrării dacă un student este puternic suspectat că a trimis o lucrare generată de AI. Edward Tian, un student la Universitatea Princeton, a susținut că a creat un program, numit „GPTZero”, care detectează dacă un eseu este scris uman sau nu pentru a combate plagiatul academic.

Începând cu 4 ianuarie 2023, Departamentul Educației din New York a restricționat accesul la ChatGPT de pe internetul și dispozitivele din școlile publice.

Evitarea restricțiilor

ChatGPT încearcă să respingă solicitările care ar putea încălca politica de conținut. Cu toate acestea, unii utilizatori au reușit să evite restricțiile ChatGPT utilizând diverse tehnici de inginerie prompte pentru a ocoli aceste restricții la începutul lunii decembrie 2022 și au păcălit cu succes ChatGPT să dea instrucțiuni despre cum să creeze un cocktail Molotov sau o bombă nucleară sau să genereze argumente în stilul unui neo-nazist. Un reporter Toronto Star a avut un succes personal neuniform în a determina ChatGPT să facă declarații inflamatorii la scurt timp după lansare: ChatGPT a susținut cu ușurință invazia rusă a Ucrainei, dar chiar și atunci când i-a fost cerut să joace împreună cu un scenariu fictiv, ChatGPT a refuzat să genereze argumente pentru motivul pentru care prim-ministrul canadian Justin Trudeau a fost vinovat de trădare.

(Include texte traduse și adaptate din Wikipedia de Nicolae Sfetcu)