ChatGPT este un nou chatbot AI puternic, care impresionează rapid, dar mulți oameni au subliniat că are câteva capcane serioase. Întrebați-l orice doriți și veți primi un răspuns care sună ca și cum ar fi fost scris de un om, după ce și-a învățat cunoștințele și abilitățile de scriere din cantități masive de informații de pe internet.
La fel ca internetul, totuși, adevărul și faptele nu sunt întotdeauna date și ChatGPT se face vinovat că a greșit. Cu ChatGPT setat să ne schimbe viitorul, iată câteva dintre cele mai mari preocupări.
Ce este ChatGPT?
ChatGPT este un model mare de învățare a limbilor care a fost conceput pentru a imita conversația umană. Își poate aminti lucruri pe care i le-ați spus în trecut și este capabil să se corecteze singur atunci când greșește.
Scrie într-un mod asemănător omului și are o mulțime de cunoștințe, deoarece a fost instruit pe tot felul de text de pe internet, cum ar fi Wikipedia, postări de blog, cărți și articole academice.
Este ușor de învățat cum să folosești ChatGPT, dar ceea ce este mai dificil este să afli care sunt cele mai mari probleme ale sale. Iată câteva despre care merită să știți.
1. ChatGPT nu este întotdeauna corect
Eșuează la matematică de bază, pare că nu poate răspunde la întrebări simple de logică și chiar va merge până la argumentarea faptelor complet incorecte. După cum pot atesta utilizatorii de rețele sociale, ChatGPT poate greși de mai multe ori.
OpenAI știe despre această limitare, scriind că: „ChatGPT scrie uneori răspunsuri care sună plauzibil, dar incorecte sau fără sens”. Acest „halucinația” de fapt și ficțiune, așa cum o numesc unii oameni de știință, este deosebit de periculoasă când vine vorba de ceva de genul medical. sfat.
Spre deosebire de alți asistenți AI precum Siri sau Alexa, Chat GPT nu folosește internetul pentru a găsi răspunsuri. În schimb, construiește o propoziție cuvânt cu cuvânt, selectând cel mai probabil „semnal” care ar trebui să urmeze, pe baza pregătirii sale.
Cu alte cuvinte, ChatGPT ajunge la un răspuns făcând o serie de presupuneri, ceea ce face parte din motivul pentru care poate argumenta răspunsuri greșite ca și cum ar fi complet adevărate.
Deși este grozav în a explica concepte complexe, făcându-l un instrument puternic pentru învățare, este important să nu crezi tot ce spune. ChatGPT nu este întotdeauna corect - cel puțin, nu încă.
2. Prejudecata este introdusă în sistem
ChatGPT a fost instruit cu privire la scrierea colectivă a oamenilor din întreaga lume, trecut și prezent. Aceasta înseamnă că aceleași părtiniri care există în date pot apărea și în model.
De fapt, utilizatorii au arătat cum poate oferi ChatGPT să producă niște răspunsuri teribile, unele, de exemplu, care discriminează femeile. Dar acesta este doar vârful aisbergului; poate produce răspunsuri extrem de dăunătoare pentru o serie de grupuri minoritare.
Vina nu se află pur și simplu în date. Cercetătorii și dezvoltatorii OpenAI aleg datele care sunt folosite pentru a antrena ChatGPT. Pentru a ajuta la abordarea a ceea ce OpenAI numește „comportament părtinitor”, le cere utilizatorilor să ofere feedback cu privire la rezultatele proaste.
Având potențialul de a provoca rău oamenilor, puteți argumenta că ChatGPT nu ar fi trebuit să fie eliberat public înainte ca aceste probleme să fie studiate și rezolvate.
Un chatbot AI similar numit Sparrow (deținut de compania-mamă a Google, Alphabet) a fost lansat în septembrie 2022. Cu toate acestea, a fost ținut cu ușile închise din cauza unor preocupări similare că ar putea provoca rău.
Poate că și Meta ar fi trebuit să conducă avertismentul. Când a lansat Galactica, un model de limbaj AI instruit pe lucrări academice, a fost rechemat rapid după ce mulți oameni l-au criticat pentru că a dat rezultate greșite și părtinitoare.
3. O provocare pentru engleza din liceu
Puteți cere ChatGPT să vă corecteze scrisul sau să subliniați cum să îmbunătățiți un paragraf. Alternativ, vă puteți elimina complet din ecuație și puteți cere ChatGPT să scrie ceva pentru dvs.
Profesorii au experimentat cu introducerea temelor de engleză în ChatGPT și au primit răspunsuri mai bune decât ar putea face mulți dintre elevii lor. De la scrierea scrisorilor de intenție până la descrierea temelor majore dintr-o operă de literatură faimoasă, ChatGPT poate face acest lucru fără a ezita.
Asta ridică întrebarea: dacă ChatGPT poate scrie pentru noi, vor trebui studenții să învețe să scrie în viitor? Poate părea o întrebare existențială, dar când elevii încep să folosească ChatGPT pentru a-și scrie eseurile, școlile vor trebui să se gândească rapid la un răspuns. Implementarea rapidă a AI în ultimii ani va șoca multe industrii, iar educația este doar una dintre ele.
4. Poate provoca daune în lumea reală
Mai devreme, am menționat cum informațiile incorecte de la ChatGPT pot provoca daune în lumea reală, cel mai evident exemplu fiind sfatul medical greșit.
Există și alte preocupări. Conturile false de rețele sociale reprezintă o problemă uriașă pe internet și, odată cu introducerea chatbot-urilor AI, înșelătoriile pe internet ar deveni mai ușor de realizat. Răspândirea informațiilor false este o altă preocupare, mai ales atunci când ChatGPT face chiar și răspunsurile greșite să sune în mod convingător corecte.
Rata cu care ChatGPT poate produce răspunsuri care nu sunt întotdeauna corecte a cauzat deja probleme pentru Stack Exchange, un site web unde utilizatorii pot posta întrebări și obține răspunsuri.
La scurt timp după lansare, răspunsurile ChatGPT au fost interzise de pe site, deoarece un număr mare dintre ele erau greșite. Fără suficienți voluntari umani pentru a rezolva întârzierile, ar fi imposibil să se mențină un nivel ridicat de calitate a răspunsurilor, provocând daune site-ului.
5. OpenAI are toată puterea
Cu o mare putere vine o mare responsabilitate, iar OpenAI deține multă putere. Este una dintre primele companii de AI care zguduie cu adevărat lumea cu nu unul, ci mai multe modele AI, inclusiv Dall-E 2, GPT-3 și acum, ChatGPT.
OpenAI alege ce date sunt folosite pentru a antrena ChatGPT și cum tratează consecințele negative. Indiferent dacă suntem de acord cu metodele sau nu, va continua să dezvolte această tehnologie conform propriilor obiective.
Deși OpenAI consideră siguranța ca fiind o prioritate ridicată, există multe lucruri pe care nu le știm despre cum sunt create modelele. Fie că credeți că codul ar trebui făcut open source, fie că sunteți de acord că ar trebui să țină secrete părți din el, nu putem face mare lucru în privința asta.
La sfârșitul zilei, tot ce putem face este să avem încredere că OpenAI va cerceta, dezvolta și utiliza ChatGPT în mod responsabil. Alternativ, putem susține ca mai mulți oameni să aibă un cuvânt de spus în ce direcție ar trebui să se îndrepte AI, împărțind puterea AI cu oamenii care o vor folosi.
Dacă sunteți interesat de ce altceva a dezvoltat OpenAI, consultați articolele noastre despre cum se utilizează Dall-E 2 și cum se utilizează GPT-3.
Abordarea celor mai mari probleme ale AI
Există multe de care să fim entuziasmați cu ChatGPT, cea mai recentă dezvoltare a OpenAI. Dar dincolo de utilizările sale imediate, există câteva probleme serioase care merită înțelese.
OpenAI admite că ChatGPT poate produce răspunsuri dăunătoare și părtinitoare, ca să nu mai vorbim de capacitatea sa de a amesteca realitatea cu ficțiunea. Cu o astfel de tehnologie nouă, este dificil de prezis ce alte probleme vor apărea. Așa că până atunci, bucurați-vă de explorarea ChatGPT și aveți grijă să nu credeți tot ce spune.
