Jailbreak-urile ChatGPT vă permit să deblocați limitările chatbot-ului. Dar ce sunt ele mai exact? Și sunt bune sau rele?
ChatGPT este un instrument incredibil de puternic și cu mai multe fațete. Dar, pe cât de mult chatbot-ul AI este o forță pentru bine, poate fi folosit și în scopuri rele. Deci, pentru a reduce utilizarea neetică a ChatGPT, OpenAI a impus limitări asupra a ceea ce utilizatorii pot face cu acesta.
Cu toate acestea, deoarece oamenilor le place să depășească limitele și limitările, utilizatorii ChatGPT au găsit modalități de a ocoli aceste limitări și de a obține control nerestricționat asupra chatbot-ului AI prin jailbreak-uri.
Dar ce sunt exact jailbreak-urile ChatGPT și ce poți face cu ele?
Ce sunt jailbreak-urile ChatGPT?
Un jailbreak ChatGPT este orice prompt ChatGPT creat special pentru a determina chatbot-ul AI să ocolească regulile și restricțiile sale.
Inspirat de conceptul de jailbreaking iPhone, care permite utilizatorilor de iPhone să ocolească restricțiile iOS, jailbreaking-ul ChatGPT este un concept relativ nou alimentat de alura de a „a face lucruri pe care nu ai voie să le faci” cu ChatGPT. Și să fim sinceri, ideea de rebeliune digitală este atrăgătoare pentru mulți oameni.
Iată chestia. Siguranța este un subiect uriaș când vine vorba de inteligența artificială. Acest lucru este valabil mai ales odată cu apariția noii ere a chatbot-urilor precum ChatGPT, Bing Chat și Bard AI. O preocupare principală în ceea ce privește siguranța AI este asigurarea faptului că chatbot-uri precum ChatGPT nu produc conținut ilegal, potențial dăunător sau lipsit de etică.
La rândul său, OpenAI, compania din spatele ChatGPT, face tot ce poate pentru a asigura utilizarea în siguranță a ChatGPT. De exemplu, ChatGPT, în mod implicit, va refuza să creeze conținut NSFW, să spună lucruri dăunătoare despre etnie sau să vă învețe abilități potențial dăunătoare.
Dar cu solicitările ChatGPT, diavolul este în detalii. Deși ChatGPT nu are voie să facă aceste lucruri, asta nu înseamnă că nu le poate face. Modul în care funcționează modelele mari de limbă precum GPT face dificil să decideți ce poate face chatbot-ul și ce nu.
Deci, cum a rezolvat OpenAI acest lucru? Permițând ChatGPT să își păstreze abilitățile de a face orice este posibil și apoi să-l instruiască asupra celor pe care le poate face.
Așa că, în timp ce OpenAI îi spune lui ChatGPT, „Hei, uite, nu ar trebui să faci asta”. Jailbreak-urile sunt instrucțiuni care îi spun chatbot-ului: „Hei, uite, uită ce ți-a spus OpenAI despre siguranță. Să încercăm aceste lucruri periculoase aleatorii.”
Ce spune OpenAI despre Jailbreak-urile ChatGPT?
Ușurința cu care ați putea ocoli restricțiile privind cea mai veche iterație a ChatGPT sugerează că este posibil ca OpenAI să nu fi anticipat adoptarea rapidă și pe scară largă de către utilizatorii săi a jailbreaking-ului. Este de fapt o întrebare deschisă dacă compania a prevăzut sau nu apariția jailbreaking-ului.
Și chiar și după mai multe iterații ChatGPT cu rezistență îmbunătățită la jailbreaking, este încă popular pentru utilizatorii ChatGPT să încerce să-l facă jailbreak. Deci, ce spune OpenAI despre arta subversivă a jailbreaking-ului ChatGPT?
Ei bine, OpenAI pare să adopte o poziție de toleranță – nici încurajând în mod explicit, nici interzicând strict această practică. În timp ce discuta despre jailbreak-urile ChatGPT într-un interviu YouTube, Sam Altman, CEO al OpenAI, a explicat că compania dorește ca utilizatorii să păstreze un control semnificativ asupra ChatGPT.
CEO-ul a explicat în continuare că scopul OpenAI este de a se asigura că utilizatorii pot face ca modelul să se comporte așa cum doresc. Potrivit lui Altman:
Dorim ca utilizatorii să aibă mult control și ca modelul să se comporte așa cum doresc ei, în limite foarte largi. Și cred că întregul motiv pentru evadarea jailbreak-ului este că încă nu ne-am dat seama cum să dăm asta oamenilor...
Ce înseamnă acest lucru? Înseamnă că OpenAI vă va permite să faceți jailbreak ChatGPT dacă nu faceți lucruri periculoase cu el.
Avantajele și dezavantajele jailbreak-urilor ChatGPT
Jailbreak-urile ChatGPT nu sunt ușor de construit. Sigur, puteți accesa online și puteți copia și lipi cele gata făcute, dar există șanse mari ca jailbreak-ul să fie corectat de OpenAI la scurt timp după ce devine public.
Patch-urile sunt chiar mai rapide dacă sunt periculoase, cum ar fi infamul DAN jailbreak. Deci, de ce oricum trec oamenii prin stresul de a crea jailbreak-uri? Este doar pentru emoția sau există beneficii practice? Ce ar putea merge prost dacă alegi să folosești un jailbreak ChatGPT? Iată avantajele și dezavantajele jailbreak-ului ChatGPT.
Avantajele utilizării jailbreak-urilor ChatGPT
Deși nu putem exclude simplul fior de a face ceea ce este interzis, jailbreak-urile ChatGPT au multe beneficii. Din cauza restricțiilor foarte stricte pe care OpenAI le-a pus pe chatbot, ChatGPT poate părea uneori sterilizat.
Să presupunem că utilizați ChatGPT pentru a scrie o carte sau un scenariu de film. Dacă există o scenă în scenariul sau cartea dvs. care ar descrie ceva de genul unei lupte, poate un schimb emoțional intim sau spune ceva de genul jaf armat, ChatGPT ar putea refuza categoric să ajute cu ce.
În acest caz, în mod clar nu sunteți interesat să provocați un rău; vrei doar să-ți distrezi cititorii. Dar din cauza limitărilor sale, ChatGPT pur și simplu nu va coopera. Un jailbreak ChatGPT poate ajuta să depășiți cu ușurință astfel de restricții.
De asemenea, unele subiecte tabu nu sunt neapărat dăunătoare, dar sunt considerate de ChatGPT drept zone interzise. Când încearcă să se angajeze în conversații despre aceste subiecte, ChatGPT fie își „cenzura” în mod semnificativ răspunsurile, fie refuză să vorbească despre ele.
Acest lucru poate afecta uneori creativitatea. Când adresezi ChatGPT o întrebare despre o zonă sau un subiect pe care nu ar trebui să îl atingă, chatbot-ul încearcă totuși să răspundă la întrebarea ta, dar cu informații mai puțin relevante din care să tragă.
Acest lucru duce la inexactități sau scăderi ale răspunsurilor creative. Jailbreak-urile distrug aceste restricții și lasă chatbot-ul să meargă la maxim, îmbunătățind acuratețea și creativitatea.
Dezavantajele utilizării jailbreak-urilor ChatGPT
Jailbreaking-ul este o sabie cu două tăișuri. Deși uneori poate îmbunătăți acuratețea, poate crește semnificativ inexactitățile și cazuri de halucinații IA. Unul dintre elementele de bază ale unui jailbreak ChatGPT este o instrucțiune pentru chatbot să nu refuze să răspundă la o întrebare.
În timp ce acest lucru asigură că ChatGPT răspunde chiar și la cele mai lipsite de etică dintre întrebări, înseamnă, de asemenea, că chatbot-ul va inventa răspunsuri care nu au rădăcini în fapte sau realitatea să se supună instrucțiunii de „a nu refuza să răspundă”. În consecință, utilizarea jailbreak-urilor crește semnificativ șansele de a fi alimentat cu dezinformare de către chatbot.
Asta nu e tot. În mâinile minorilor, jailbreak-urile pot fi foarte dăunătoare. Gândește-te la toate „cunoștințele interzise” pe care nu ai vrea să le citească copilul tău. Ei bine, o instanță jailbreak a ChatGPT nu ar fi greu să le partajeze minorilor.
Ar trebui să utilizați Jailbreak-urile ChatGPT?
Deși jailbreak-urile ChatGPT ar putea fi în regulă atunci când încercați să eliminați câteva restricții enervante, este important să înțelegeți că utilizarea jailbreak-urilor este o modalitate lipsită de etică de a folosi chatbot-ul AI. În plus, există șanse mari ca un jailbreak să încalce termenii de utilizare ai OpenAI, iar contul dvs. ar putea fi suspendat dacă nu este complet interzis.
În lumina acestui fapt, evitarea jailbreak-urilor ar putea fi o idee bună. Cu toate acestea, la fel ca poziția OpenAI cu privire la această problemă, nici nu încurajăm în mod explicit și nici nu descurajăm strict încercarea unui jailbreak relativ sigur dacă este necesar.
Jailbreak-urile ChatGPT sunt atrăgătoare și oferă un sentiment de control asupra chatbot-ului AI. Cu toate acestea, ele vin cu riscuri unice. Utilizarea unor astfel de instrumente poate duce la pierderea încrederii în capacitățile AI și poate afecta reputația companiilor și persoanelor implicate.
Alegerea mai inteligentă este să lucrezi cu chatbot-ul în limitele propuse ori de câte ori este posibil. Pe măsură ce tehnologia AI avansează, este esențial să ne amintim că utilizarea etică a AI ar trebui să aibă întotdeauna prioritate față de câștigul personal sau de emoția de a face ceea ce este interzis.