După lansarea ChatGPT în noiembrie 2022, fenomenalul chatbot AI a apărut ca unul dintre cele mai de încredere instrumente de scriere de pe internet. Este simplu de utilizat; descrieți ceea ce aveți nevoie pentru a fi scris, iar ChatGPT îl imprimă pe ecran în câteva secunde.
Cu toate acestea, într-o epocă în care textul generat de AI este transmis ca scris de om și folosit pentru a obține un avantaj nedrept, identificarea conținutului AI este foarte importantă. Dar ChatGPT nu poate identifica cu exactitate conținutul AI, chiar și propria sa activitate, dar de ce?
Există o diferență între textul AI și scrierea umană?
O condiție prealabilă pentru ca ChatGPT să-și identifice propria scriere sau orice text generat de AI este că trebuie să existe o diferență între acesta și textul scris de om. Deci, există vreo diferență semnificativă între textul scris de oameni și conținutul generat de AI? Dacă există, cu siguranță, un instrument precum ChatGPT ar trebui să îl poată discerne.
Am scris o povestire scurtă fără nicio contribuție din partea vreunui instrument AI și apoi am întrebat ChatGPT dacă povestea era conținut scris prin AI. ChatGPT l-a semnalat cu încredere ca text generat de AI.
Apoi am cerut ChatGPT să genereze o poveste și, în același fir de chat, am copiat-lipit textul generat și am întrebat ChatGPT dacă textul a fost creat de AI. Răspunsul ChatGPT? Un „Nu”.
ChatGPT nu a reușit să identifice textul scris de om sau generat de AI în ambele cazuri. Deci, de ce ChatGPT nu-și poate detecta propriul text? Înseamnă asta că nu există nicio diferență între AI și textul uman?
Ei bine, există. Am putea scrie o carte întreagă despre diferența dintre cele două, dar nu va conta prea mult. Deci, dacă există o diferență, de ce ChatGPT sau orice alt instrument AI nu este în măsură să identifice aceste diferențe și să sublinieze cu precizie textul generat de AI dintr-unul scris de om? Răspunsul constă în cum funcționează ChatGPT și cum generează text.
Cum ChatGPT generează text
Când cereți ChatGPT să genereze text, acesta încearcă să imite procesul de scriere uman. În primul rând, modelul din spatele ChatGPT — Generative Pre-Trained Transformer (GPT) — a fost antrenat pe un corp mare de text uman. Totul, de la e-mailuri, articole de sănătate, articole tehnice, eseuri de liceu și aproape orice text pe care îl puteți găsi online, a fost alimentat cu modelul în timpul antrenamentului. Așadar, ChatGPT înțelege cum ar trebui scris fiecare dintre aceste tipuri de texte.
Dacă îi cereți lui ChatGPT să scrie un e-mail șefului dvs., acesta știe cum ar trebui să arate un e-mail de această natură, deoarece a fost instruit pe e-mailuri similare - probabil mii dintre ele. În mod similar, dacă îi cereți să scrie un eseu de liceu, știe și cum ar trebui să sune un eseu de liceu. ChatGPT va încerca să scrie tot ceea ce doriți să scrie într-un mod în care ar face un om.
Dar există o captură. Spre deosebire de modul în care scriu oamenii, ChatGPT nu înțelege cu adevărat ce scrie într-un mod în care ar face-o un om. În schimb, chatbot-ul încearcă să prezică care ar fi următorul cuvânt cel mai plauzibil dintr-o propoziție până când finalizează redactarea.
Cum scrie ChatGPT prin predicție
Să presupunem că îi ceri lui ChatGPT să scrie o poveste despre un oraș fictiv numit Volkra. Există o posibilitate uriașă ca chatbot-ul să înceapă povestea cu cuvintele „Once upon”. Acest lucru se datorează faptului că chatbot-ul nu gândește pentru însă încearcă să prezică ce ar scrie un om pe baza a ceea ce a învățat din miile de povești cu care a fost hrănit în timpul Instruire.
Așadar, crezând că un om va începe probabil povestea cu cuvintele „Odată,” ChatGPT ar încerca apoi să prezică următorul cuvânt logic, care ar fie „a” urmat de „timp”. Deci ai avea apoi „A fost odată ca niciodată...” urmat de următorul cuvânt logic și următorul până când povestea este finalizată. ChatGPT scrie practic prin prezicerea ce cuvânt ar urma în mod natural (sau cel puțin are cea mai mare probabilitate) să apară următorul într-o propoziție și să-l insereze.
Deci, atunci când un instrument AI încearcă să detecteze dacă un text este generat de AI, unul dintre criteriile pe care încearcă să le cântărească este predictibilitatea textului, deoarece instrumentele AI scriu prin predicție. Această măsură a predictibilității se numește perplexitate în limbajul AI. Acum, atunci când este prezentat cu un text, printre alte criterii, un instrument AI precum ChatGPT încearcă să analizeze textul pentru a măsura cât de previzibilă este succesiunea de cuvinte sau propoziții din text. Previzibilitate mai mare sau perplexitate scăzută înseamnă de obicei că textul este probabil generat de AI. Mai puțină predictibilitate sau o perplexitate mai mare înseamnă de obicei că textul este scris probabil de oameni.
Aceste criterii, împreună cu alți factori precum nivelul de creativitate al unui text, nu sunt, din păcate, suficiente pentru a stabili cu certitudine dacă un text este scris de un instrument AI sau nu. Acest lucru se datorează faptului că oamenii pot scrie cu o variație mai mare, ca în textul exemplu pe care l-am folosit pentru demonstrație la începutul acestui articol.
Chatboții AI precum ChatGPT sunt proiectați să imite cât mai mult posibil limbajul uman natural. Deci, în timp ce textul AI poate avea modele vizibile, acele modele nu sunt atât de evidente chiar și pentru un instrument puternic precum ChatGPT. Acesta este motivul pentru care ChatGPT nu își poate identifica propria scriere, la fel de bine de ce instrumentele de detectare a textului AI nu funcționează.
ChatGPT își va recunoaște propria scriere în viitor?
În prezent, instrumente precum ChatGPT nu pot detecta dacă un text a fost scris singur sau orice alt instrument AI, deoarece nu există un model clar și vizibil în conținutul generat de AI. Cu toate acestea, există șanse mari ca acest lucru să se schimbe în curând. Odată cu eforturile companiilor precum ChatGPT de a introduce filigrane digitale în conținutul generat de ChatGPT, textul generat de chatbot va avea un model mai vizibil.