De ce este ChatGPT-4 atât de lent în comparație cu ChatGPT-3.5?

Cu cea mai nouă versiune de ChatGPT, GPT-4, lansată în martie 2023, mulți se întreabă acum de ce este atât de lent în comparație cu predecesorul său, GPT-3.5. Deci, care este motivul principal aici?

De ce este ChatGPT-4 atât de lent și ar trebui să rămâneți la GPT-3.5?

Ce este ChatGPT-4?

ChatGPT-4 este cel mai nou model de Chatbot-ul OpenAI, cunoscut în general ca ChatGPT. ChatGPT este alimentat de inteligența artificială, permițându-i să vă răspundă la întrebări și solicitări mult mai bine decât chatbot-urile anterioare. ChatGPT folosește un model de limbaj mare, alimentat de un GPT (Generative Pre-Trained Transformer) pentru a oferi informații și conținut utilizatorilor, putând, de asemenea, să converseze.

ChatGPT are o gamă largă de capabilități, ceea ce îl face util pentru milioane de oameni. De exemplu, ChatGPT poate scrie povești, poate formula glume, poate traduce text, educa utilizatorii și multe altele. În timp ce ChatGPT poate fi folosit și pentru mai multe acte ilicite, cum ar fi

crearea de malware, versatilitatea sa este oarecum revoluționară.

Modelul GPT-4 al ChatGPT a fost lansat pe 14 martie 2023. Această versiune de ChatGPT este concepută pentru a înțelege mai bine limbajul emoțional prin intermediul textului, în timp ce înțelege mai bine diferitele dialecte ale limbii și procesarea imaginilor. De asemenea, GPT-4 poate susține conversații mai lungi și poate răspunde eficient la solicitările mai lungi ale utilizatorului.

În plus, parametrii lui GPT-4 îi depășesc în mare măsură pe cei ai lui GPT-3.5. Parametrii ChatGPT determină modul în care AI procesează și răspunde la informații. Pe scurt, parametrii determină abilitățile pe care chatbot-ul o are de a interacționa cu utilizatorii. În timp ce GPT-3.5 are 175 de miliarde de parametri, GPT-4 are un incredibil de 100 de trilioane până la 170 de trilioane (se zvonește – OpenAI nu a confirmat această cifră).

GPT-3.5 de la OpenAI a fost folosit pentru a alimenta ChatGPT, care este acum cel mai popular chatbot AI din lume. Deci, GPT-3.5 și-a făcut o amprentă incontestabilă în domeniul AI. Dar lucrurile progresează mereu în industria tehnologiei, așa că nu este surprinzător faptul că GPT-3.5 are acum un succesor în GPT-4.

Cu toate acestea, GPT-4 nu este deloc perfect. De fapt, timpii lungi de răspuns ai GPT-4 provoacă destulă agitație. Deci, să analizăm această problemă și de ce se poate întâmpla.

ChatGPT-4 este lent

Mulți au observat la lansarea GPT-4 că noul chatbot al OpenAI era incredibil de lent. Acest lucru a lăsat zeci de utilizatori frustrați, deoarece GPT-4 trebuia să fie un pas înainte de GPT-3.5, nu înapoi. Drept urmare, utilizatorii GPT-4 au apelat la platforme online, cum ar fi Reddit și consiliul comunității OpenAI, pentru a discuta problema.

Pe Forumul comunității OpenAI, un număr de utilizatori și-au exprimat frustrările legate de întârzierea GPT-4. Un utilizator a declarat că GPT-4 a fost „extrem de lent” și că chiar și cererile mici adresate chatbot-ului au dus la întârzieri neobișnuit de lungi de peste 30 de secunde.

Alți utilizatori s-au grăbit să-și împărtășească experiențele cu GPT-4, unul comentând sub postare că „același apel cu aceleași date poate dura de până la 4 ori mai lent decât 3,5 turbo”.

In alt Postare pe forumul comunității OpenAI, un utilizator a comentat că solicitările sale sunt uneori întâmpinate cu un „eroare în fluxul corporal" mesaj, rezultând niciun răspuns. În același thread, o altă persoană a declarat că nu a putut face ca GPT-4 să „răspundă cu succes cu un script complet.” Un alt utilizator a comentat că au continuat să întâlnească erori de rețea în timp ce încercau să folosească GPT-4.

Cu întârzieri și răspunsuri eșuate sau pe jumătate, se pare că GPT-4 este plin de probleme care determină rapid utilizatorii.

Deci, de ce, exact, se întâmplă asta? Este ceva în neregulă cu GPT-4?

De ce este GPT-4 lent în comparație cu GPT-3.5?

În postarea pe forumul comunității OpenAI la care se face referire mai sus, un utilizator a răspuns sugerând că întârzierea se datorează unei „probleme curente cu întreaga infrastructură. supraîncărcare”, adăugând că există o provocare în „abordarea scalabilității într-un interval de timp atât de scurt, cu această popularitate și numărul de utilizatori atât ai chat-ului, cât și API."

Într-o Postare Reddit încărcat în subreddit r/singularity, un utilizator a expus câteva motive posibile pentru încetineala lui GPT-4, începând cu o dimensiune mai mare a contextului. În cadrul ecosistemului GPT, dimensiunea contextului se referă la câte informații poate procesa o anumită versiune de chatbot și apoi poate produce informații. În timp ce dimensiunea contextului lui GPT-3.5 a fost de 4K, cea a lui GPT-4 este dublu. Deci, a avea o dimensiune a contextului de 8K poate avea un impact asupra vitezelor generale ale GPT-4.

Autorul Reddit a sugerat, de asemenea, că direcția și controlul îmbunătățit al GPT-4 ar putea juca un rol în timpul de procesare a chatbot-ului. Aici, autorul a afirmat că GPT-4 are o mai mare direcție și control al halucinațiilor și este inadecvat. limba ar putea fi vinovată, deoarece aceste caracteristici adaugă pași suplimentari la metoda de procesare a lui GPT-4 informație.

În plus, s-a propus că capacitatea GPT-4 de a procesa imagini ar putea încetini lucrurile. Această caracteristică utilă este iubită de mulți, dar ar putea veni cu o captură. Având în vedere că se zvonește că GPT-4 durează 10-20 de secunde pentru a procesa o imagine furnizată, există șansa ca această componentă prelungește timpii de răspuns (deși acest lucru nu explică întârzierile întâmpinate de utilizatorii care furnizează doar solicitări text).

Alți utilizatori au sugerat că noutatea ChatGPT-4 joacă un rol important în aceste întârzieri. Cu alte cuvinte, unii cred că cel mai nou chatbot al OpenAI trebuie să se confrunte cu unele dureri de creștere înainte ca toate defectele să poată fi remediate.

Dar cel mai mare motiv pentru care GPT-4 este lent este numărul de parametri pe care GPT-4 poate apela față de GPT-3.5. The creșterea fenomenală a parametrilor înseamnă pur și simplu că noului model GPT ia mai mult timp pentru a procesa informațiile și a răspunde cu precizie. Obțineți răspunsuri mai bune cu o complexitate crescută, dar ajungeți acolo durează puțin mai mult.

Ar trebui să alegeți GPT-3.5 față de GPT-4?

Deci, având în vedere aceste probleme, ar trebui să utilizați GPT-3.5 sau GPT-4?

La momentul scrierii, se pare că GPT-3.5 este opțiunea mai rapidă față de GPT-4. Atât de mulți utilizatori s-au confruntat cu întârzieri, încât este probabil ca problema timpului să fie prezentă în general, nu doar cu câteva persoane. Așadar, dacă ChatGPT-3.5 îndeplinește în prezent toate așteptările tale și nu vrei să aștepți un răspuns în schimbul unor funcții suplimentare, poate fi înțelept să rămâi la această versiune pentru moment.

Cu toate acestea, ar trebui să rețineți că GPT-4 nu este doar GPT-3.5, ci mai lent. Această versiune a chatbot-ului OpenAI are numeroase avantaje față de predecesorul său. Dacă sunteți în căutarea unui chatbot AI mai avansat și nu vă deranjează să așteptați mai mult pentru răspunsuri, poate merita să treceți de la GPT-3.5 la GPT-4.

De-a lungul timpului, întârzierile GPT-4 pot fi diminuate sau rezolvate în întregime, așa că răbdarea ar putea fi o virtute aici. Indiferent dacă încercați să treceți la GPT-4 acum sau să așteptați puțin mai mult pentru a vedea cum se desfășoară lucrurile cu această versiune, puteți obține în continuare multe din micul chatbot inteligent al OpenAI.

GPT-4 este mai avansat, dar vine cu un decalaj

În timp ce GPT-4 are numeroase capabilități avansate față de GPT-3.5, întârzierile sale semnificative și erorile de răspuns l-au făcut inutilizabil pentru unii. Aceste probleme pot fi rezolvate în viitorul apropiat, dar pentru moment, GPT-4 are cu siguranță câteva obstacole de depășit înainte de a fi acceptat la scară mai largă.