Cine nu a folosit ChatGPT în acest moment? Este distractiv, absolut fascinant dacă te interesează inteligența artificială și gratuit (deocamdată).
Deși este de obicei descris ca un chatbot, ChatGPT este mult mai mult decât atât. Poate genera copie, explica subiecte complexe, poate acționa ca traducător, poate face glume și poate scrie cod. Dar poate fi și armat de către actorii amenințărilor.
Cum funcționează ChatGPT și de ce este atractiv pentru infractorii cibernetici
ChatGPT (Generative Pre-trained Transformer) a fost dezvoltat de laboratorul de cercetare a inteligenței artificiale OpenAI și lansat în noiembrie 2022. Este un model de limbaj mare care utilizează o combinație de tehnici de învățare automată supravegheată și de întărire.
Poate și mai important, ChatGPT este constant ajustat și instruit de utilizatori, care pot fie să voteze pozitiv sau respingeți răspunsurile, făcându-le cu atât mai precise și mai puternice, cu cât adună date pe cont propriu.
Acesta este ceea ce separă ChatGPT de alți chatbot. Și dacă l-ați folosit vreodată, știți că diferența se observă imediat: spre deosebire de alte produse similare, este capabil să participați activ la o conversație și finalizați sarcini complexe cu o acuratețe uimitoare, oferind în același timp coerente și asemănătoare omului răspunsuri.
Dacă ți s-ar arăta un scurt eseu scris de un om și unul scris de ChatGPT, probabil te-ai chinui să determinați care este care. De exemplu, iată o parte din textul generat de ChatGPT când i s-a spus să scrie un scurt eseu despre The Catcher in the Rye.
Acest lucru nu înseamnă că ChatGPT nu are limitările sale - cu siguranță că are. Cu cât îl folosiți mai mult, cu atât mai mult veți observa că este cazul. Oricât de puternic este, se poate lupta cu logica elementară, poate face greșeli, poate împărtăși false și înșelătoare. informații, să interpreteze greșit instrucțiunile într-un mod comic și să fie manipulat să deseneze greșit concluzie.
Dar puterea ChatGPT nu constă în capacitatea sa de a conversa. Mai degrabă, constă în capacitatea sa aproape nelimitată de a îndeplini sarcini în masă, mai eficient și mult mai rapid decât ar putea un om. Cu intrările și comenzile potrivite și câteva soluții creative, ChatGPT poate fi transformat într-un instrument de automatizare deranjant de puternic.
Având în vedere asta, nu este dificil să ne imaginăm cum ar putea un criminal cibernetic să armeze ChatGPT. Totul este să găsiți metoda potrivită, să o scalați și să faceți ca AI să finalizeze cât mai multe sarcini deodată, cu mai multe conturi și pe mai multe dispozitive, dacă este necesar.
5 lucruri pe care actorii de amenințări le-ar putea face cu ChatGPT
Există deja câteva exemple reale de utilizare a ChatGPT de către actorii amenințărilor, dar este mai mult probabil că va fi armat în mai multe moduri sau va fi la un moment dat în viitor. Iată cinci lucruri pe care hackerii le pot face (și probabil le fac) cu ChatGPT.
1. Scrieți malware
Dacă ChatGPT poate scrie cod, poate scrie malware. Nicio surpriză acolo. Dar aceasta nu este doar o posibilitate teoretică. În ianuarie 2023, firma de securitate cibernetică Check Point Research a descoperit că infractorii cibernetici sunt deja folosind ChatGPT pentru a scrie malware— și lăudându-se cu asta pe forumuri underground.
Actorul de amenințări pe care Check Point Research a descoperit a folosit chatbot-ul avansat într-un mod destul de creativ, pentru a recrea malware-ul bazat pe Python descris în anumite publicații de cercetare. Când cercetătorii au testat programul rău intenționat, criminalul cibernetic spunea adevărul: malware-ul său generat de ChatGPT a făcut exact ceea ce a fost conceput pentru a face.
2. Generați e-mailuri de phishing
Pe cât de puternice au devenit filtrele de spam, e-mailuri de phishing periculoase încă scapă prin fisuri și nu există multe lucruri pe care omul obișnuit poate face decât să raporteze expeditorul furnizorului său. Dar există multe lucruri pe care un actor de amenințări capabil ar putea face cu o listă de corespondență și acces la ChatGPT.
Cu comenzile și sugestiile potrivite, ChatGPT poate genera e-mailuri convingătoare de phishing, automatizează posibil procesul pentru actorul amenințării și permițându-i să-și extindă operațiunile.
3. Creați site-uri web înșelătorie
Dacă căutați doar pe Google termenul „construiți un site web cu ChatGPT”, veți găsi o mulțime de tutoriale care explică în detaliu cum să faceți exact asta. Deși aceasta este o veste bună pentru oricine ar dori să creeze un site web de la zero, este și o veste excelentă pentru infractorii cibernetici. Ce îi împiedică să folosească ChatGPT pentru a construi o mulțime de site-uri înșelătorii sau pagini de destinație de phishing?
Posibilitățile sunt aproape nesfârșite. Un actor de amenințare ar putea clona un site web existent cu ChatGPT și apoi să-l modifice, să creeze site-uri web false de comerț electronic, să ruleze un site-ul cu escrocherii scareware, și așa mai departe.
4. Creați conținut spam
Pentru a crea un site web fals, pentru a rula o pagină de socializare înșelătorie sau pentru a construi un site imitator, aveți nevoie de conținut - mult din el. Și trebuie să pară cât mai legitim posibil pentru ca înșelătoria să funcționeze. De ce un actor de amenințări ar angaja scriitori de conținut sau ar scrie postări pe blog pe cont propriu, atunci când poate doar ca ChatGPT să facă asta pentru ei?
Desigur, un site web cu conținut generat de inteligență artificială ar fi probabil penalizat de Google destul de repede și nu va apărea în rezultatele căutării, dar există multe moduri diferite în care un hacker ar putea promova un site web, trimite trafic către acesta și înșela oamenii din banii lor sau le fură informațiile personale.
5. Răspândiți dezinformare și știri false
Dezinformarea online a devenit o problemă majoră în ultimii ani. Știrile false s-au răspândit ca focul pe rețelele de socializare, iar oamenii care nu știu nimic mai bine se îndrăgostesc adesea de poveștile înșelătoare – și uneori literalmente inventate. Acest lucru poate avea consecințe groaznice în viața reală și se pare că nimeni nu are idee cum să se oprească răspândirea știrilor false fără a încălca legile privind libertatea de exprimare.
Instrumente precum ChatGPT ar putea exacerba această problemă. Actorii de amenințări care au acces la software care este capabil să genereze mii de știri false și postări pe rețelele sociale în fiecare zi pare o rețetă pentru dezastru.
Nu ne credeți pe cuvânt
Dacă nu ești convins, am întrebat ChatGPT cum l-ar folosi un criminal cibernetic. Se pare că este de acord cu cheia acestui articol.
În mâinile greșite, ChatGPT devine periculos
Nu ne putem imagina decât de ce va fi capabilă inteligența artificială peste cinci sau 10 ani. Deocamdată, cel mai bine este să ignorați hype-ul și panica și să evaluați rațional ChatGPT.
Ca orice tehnologie, ChatGPT nu este nici util, nici dăunător în mod inerent. În ciuda unor deficiențe, este de departe cel mai capabil chatbot lansat vreodată publicului.