Pe măsură ce domeniul inteligenței artificiale continuă să evolueze într-un ritm amețitor, un nou concurent este gata să intre pe terenul de joc. TruthGPT, un chatbot AI propus de miliardarul tehnologic Elon Musk, generează o mulțime de zgomot online.
Dar ce este TruthGPT? De ce vrea Elon Musk să-l creeze? Și cum va fi diferit de instrumentele AI pe care le avem deja?
Ce este TruthGPT?
TruthGPT este un model AI propus, care vizează abordarea problemelor modelelor existente, care alimentează oameni precum ChatGPT și Bard, cu accent deosebit pe adevăr și siguranță. Potrivit lui Elon Musk, TruthGPT va fi o IA „în căutarea maximă a adevărului” care înțelege natura univers și este puțin probabil să distrugă umanitatea, deoarece vede oamenii ca o componentă critică a univers.
AI maximă în căutarea adevărului? Înțelegi natura universului?
Veți fi iertat dacă descrierea lui Musk nu vă oferă o imagine clară despre ceea ce încearcă exact să construiască. Cu toate acestea, vă veți face o idee mai bună despre ce vorbește, uitându-vă de ce încearcă să-l construiască în primul rând.
De ce Elon Musk construiește TruthGPT?
Într-un interviu cu Fox News, Elon Musk și-a exprimat îngrijorarea cu privire la modul în care marile firme de inteligență artificială pot perpetua părtinirea și dezinformarea prin intermediul chatbot-urilor AI - un instrument emergent de care depind din ce în ce mai mult oamenii pentru informații. Elon Musk a comentat, de asemenea, amenințarea pe care o reprezintă IA pentru umanitate, subliniind posibilitatea unei apocalipse a AI, un scenariu în care sistemele AI ar putea prelua controlul asupra vieții noastre de zi cu zi.
Evidențiind companii precum OpenAI și Google, care, în opinia sa, nu fac suficient în domeniile siguranței AI și protejării împotriva dezinformarii, Elon Musk a propus o a treia forță - TruthGPT. CEO-ul SpaceX și Tesla vrea să creeze TruthGPT ca o contrapondere pentru Bard de la Google și ChatGPT de la OpenAI. Ideea este de a crea un model AI care încearcă pe cât posibil să fie veridic în informațiile pe care le oferă.
Elon Musk, care a scris recent o scrisoare deschisă prin care cere a moratoriu asupra dezvoltării unei IA puternice modelele (în special cele mai puternice decât GPT-4), consideră că AI se mișcă prea repede. El crede că trebuie să încetinim și să reevaluăm abordarea noastră cu privire la siguranța AI înainte ca AI să „preia controlul”. TruthGPT este un model de limbaj mare (LLM) care promite să abordeze aceste două preocupări de bază cu AI de astăzi sisteme.
Cum ar arăta TruthGPT?
Primul indiciu despre cum ar arăta TruthGPT este în nume. Având în vedere apendicele „GPT”, TruthGPT va avea probabil o arhitectură similară cu ChatGPT. Amintiți-vă, Elon Musk a ajutat la asamblarea OpenAI și a echipei care a construit modelul GPT al ChatGPT.
De asemenea, având în vedere că arhitectura GPT s-a dovedit a fi atât un succes tehnic, cât și comercial, urmărirea unei căi diferite va fi probabil prea consumatoare de timp și costisitoare. Timpul este un lucru pe care Elon Musk nu îl are dacă vrea să construiască ceva care să poată rezista cu adevărat în picioare cu AI de ultimă generație cât mai curând posibil. Așadar, nu vă încântați – TruthGPT s-ar putea să nu fie atât de diferit de instrumentele AI pe care le avem deja.
Precizia sau, în limbajul lui Elon Musk, „adevarul” unui model AI depinde în mare măsură de datele sale de antrenament și de algoritmul de antrenament. Nu suntem exact siguri cum ar fi obținute datele de formare TruthGPT, dar pentru a obține cea mai bună șansă de a construi un LLM la fel de „adevărat” posibil, TruthGPT al lui Elon Musk ar trebui să prioritizeze datele din „surse veridice”. Dar tocmai asta este problemă. Adevărul este un concept foarte subiectiv. Ceea ce este adevărat pentru mine s-ar putea să nu fie adevărat pentru tine.
Așadar, este chiar practică această idee a unei IA maxime de căutare a adevărului?
De ce construirea TruthGPT este o provocare uriașă
Odata ce tu înțelegeți cum funcționează modelele mari de limbă precum GPT, devine clar că nu este practic să fii corect în orice moment. În mod obișnuit, instruiți pe un set mare de date de pe internet, multe dintre ele vor fi, în mod previzibil, informații false, iar LLM-urile nu au un mod inert de a distinge faptele de ficțiune.
Cea mai bună intervenție este de obicei din partea formatorilor umani care încearcă să învețe modelul lingvistic ce este un comportament bun și ce este rău. Dar antrenorii umani sunt părtinitori. Biasul este transmis modelelor AI, înfrângând întregul scop al unei „IA maxime de căutare a adevărului”. Rețineți, nu vorbim despre prejudecăți sau prejudecăți împotriva unui popor sau a altora. Este o prejudecată mai subtilă cu privire la modul în care interpretezi limbajul, situațiile, provocările și așa mai departe, care leșie în proces. Oamenii sunt oameni, până la urmă.
Desigur, precizia poate fi abordată și din partea algoritmului. Cu toate acestea, indiferent de algoritm, ambiguitatea limbajului încă reprezintă o mare problemă pentru acuratețea modelelor AI. Chiar și oamenii se luptă adesea să interpreteze cu exactitate semnificația unei propoziții sau a unei fraze, ceea ce duce la dezinformare. Pentru modelele AI, ambiguitatea poate duce la interpretări greșite care au ca rezultat inexactități.
Pentru Musk, TruthGPT pare a fi o șansă pentru el să creeze un model AI pe care îl consideră potrivit pentru a oferi adevărul. Cum s-ar întâmpla asta fără a introduce propriile sale părtiniri este o altă întrebare complet și eficientă care ne duce înapoi la începutul conversației. Cum sunt părerile lui Musk despre ceea ce este părtinitor sau nu diferit de cei care au antrenat și au condus ChatGPT?
Este TruthGPT o posibilitate interesantă?
Planurile lui Elon Musk pentru TruthGPT par nobile și lăudabile. Cu toate acestea, construirea unui model AI cu o incidență neglijabilă a inexactităților este o sarcină grea.
Deși ne-am aștepta ca un miliardar din tehnologie care a demistificat știința rachetelor să poată realiza ceva de această natură, unele lucruri sunt mai ușor de spus decât de făcut.
