Astăzi, milioane de oameni se bazează pe ChatGPT ca o resursă utilă, fie că este vorba de muncă, distracție sau educație. Dar te poți baza pe acest chatbot AI pentru a oferi întotdeauna faptele? ChatGPT minte vreodată sau îți va oferi doar informații concrete?
De unde își obține informațiile ChatGPT?
În perioada sa de pregătire, ChatGPT a fost alimentat cu date din surse de pe web, cum ar fi site-urile web ale guvernelor și agențiilor, reviste științifice, studii, articole de știri, podcasturi, forumuri online, cărți, baze de date, filme, documentare și rețele sociale mass-media.
Mai exact, ChatGPT-3 a fost instruit folosind o bază de date extinsă de informații care se ridica la 570 GB de date. După cum se spune într-un articol din Focus pe știință, 300 de miliarde de cuvinte de informații au fost introduse în sistemul GPT-3 în timpul dezvoltării sale.
Ceva demn de remarcat aici este că ChatGPT a fost alimentat doar cu date care existau înainte de 2021. Aceasta înseamnă că chatbot-ul nu poate răspunde la întrebări legate de evenimente recente. De asemenea, ChatGPT nu are acces la internet. Datele pe care le-au fost furnizate în timpul instruirii sunt singurele pe care le folosește pentru a îndeplini solicitările utilizatorilor.
Dar ChatGPT vă oferă doar faptele sau unele informații mai ambigue sunt amestecate cu răspunsurile sale? În plus, ChatGPT vă poate minți?
ChatGPT minte?
În timp ce ChatGPT oferă adesea informații veridice utilizatorilor, are capacitatea de a „minți”. Desigur, ChatGPT nu decide să mintă utilizatorii în mod rău intenționat, deoarece pur și simplu nu poate face acest lucru. La urma urmei, ChatGPT este un instrument de procesare a limbajului, nu o imitație a unei persoane reale, sensibile.
Cu toate acestea, ChatGPT poate minți din punct de vedere tehnic printr-un fenomen cunoscut sub numele de halucinație AI.
halucinație AI implică un sistem AI care furnizează informații care par rezonabile sau plauzibile, dar, în realitate, nu sunt deloc adevărate. De fapt, halucinația AI poate oferi informații că nu a fost niciodată hrănită în timpul perioadei de antrenament. Alternativ, poate apărea atunci când un sistem AI furnizează informații care nu au legătură cu solicitarea sau solicitarea. Un sistem AI poate chiar pretinde că este uman într-un eveniment de halucinație.
Sistemele AI, cum ar fi chatboții, cad în capcana halucinațiilor din mai multe motive: lipsa lor de înțelegere a lumii reale, erori de software și limitări ale datelor furnizate.
După cum sa menționat anterior, ChatGPT poate furniza informații numai folosind date publicate până în 2021, ceea ce cu siguranță limitează tipurile de solicitări pe care le poate îndeplini.
Unul dintre Marile probleme ale ChatGPT este că poate cădea și victima părtinirii atunci când oferă utilizatorilor informații. Chiar și creatorii ChatGPT au afirmat că sistemul AI a fost „părtinitor din punct de vedere politic, ofensator” și „de altfel inacceptabil” în trecut. După cum a raportat Independentul, dezvoltatorii ChatGPT s-au angajat să abordeze această problemă, dar asta nu înseamnă că nu mai prezintă un risc.
Când a fost întrebat, ChatGPT a declarat că motivele pentru care poate furniza informații inexacte includ următoarele:
- Ambiguitate în întrebare (indemnuri vagi, neclare);
- Informații incomplete furnizate;
- Informații părtinitoare sau incorecte furnizate; sau,
- Limitări tehnice (în principal din cauza lipsei de acces la datele curente).
Deci, ChatGPT însuși a declarat că există scenarii în care nu va furniza informații precise utilizatorilor.
Într-un alt răspuns din aceeași conversație, ChatGPT a declarat că „este întotdeauna o idee bună să verifici orice informații [pe care le furnizează] cu alte surse”.
Poți avea încredere în ChatGPT?
Pentru că poate oferi informații false, în mod clar nu pot avea încredere în ChatGPT 100% din timp.
Puteți reduce riscul ca un chatbot AI să aibă halucinații prin stabilirea unor parametri specifici despre modul în care vă poate răspunde. Cu toate acestea, încă nu există nicio garanție că unele informații false nu vor trece prin fisuri.
Din acest motiv, cel mai bine este să verificați orice informații pe care vi le oferă ChatGPT, mai ales dacă solicitați informații despre evenimentele recente. Verificarea dublă a acestor date prin referire la alte surse vă poate ajuta să determinați dacă ChatGPT are dreptate în ceea ce spune și vă poate împiedica să luați decizii neconforme.
ChatGPT este util, dar nu întotdeauna adevărat
Din păcate, nu te poți baza pe ChatGPT pentru a oferi informații veridice și imparțial 100% din timp. Acest chatbot alimentat de inteligență artificială este incontestabil util și vă poate ajuta în diverse moduri, dar merită întotdeauna să verificați dacă informațiile pe care le oferă sunt faptice.
