Cum folosesc hackerii inteligența artificială generativă în atacurile lor și ce putem face în acest sens

Inteligența artificială generativă (AI) a fost în centrul atenției în ultima vreme. Chatbot-ul ChatGPT alimentat de AI și alte sisteme acceptate de procesare a limbajului natural, cum ar fi VALL-E, au adus AI generativă publicului larg și i-au dezlănțuit beneficiile și efectele negative.

Una dintre preocupările esențiale legate de AI generativă este faptul că poate fi folosită pentru a actualiza exploit-urile rău intenționate și pentru a crea atacuri cibernetice mai sofisticate. Deci, cum folosesc hackerii AI generativ în atacurile lor și ce înseamnă acest lucru pentru viitorul securității cibernetice?

Ce este AI generativă și cum funcționează?

După cum sugerează și numele, IA generativă este un tip de IA care este capabil să genereze conținut nou - imagini, text, audio și date sintetice.

Un exemplu celebru este ChatGPT, un chatbot alimentat de inteligență artificială cu care poți avea conversații asemănătoare oamenilor și primiți niște recomandări superbe de filme, adică dacă nu vă puteți gândi la o misiune mai semnificativă pentru a trimite ChatGPT pe.

Lasă-ne să-ți dăm o idee sau două — ai putea obțineți ChatGPT să vă scrie toate acele e-mailuri dificile, folosi ChatGPT ca instrument de traducere, și chiar transformă ChatGPT în asistentul tău sănătos pentru planificarea meselor. Una peste alta, în câteva secunde, acest chatbot poate veni cu conținut aparent nou, convingibil și îl poate prezenta într-un mod destul de corect din punct de vedere politic.

Cu toate acestea, un AI generativ nu poate fi creativ în felul în care poate un om, încă. Acest lucru se datorează faptului că utilizează algoritmi de învățare automată nesupravegheați și semi-supravegheați pentru a procesa o mulțime de date și a genera rezultate personalizate.

De exemplu, dacă doriți să comandați o pictură asemănătoare lui Picasso dintr-un AI generativ, cum ar fi DALL-E 2, va trebui să tastați descrierea dvs. într-un câmp desemnat – să spunem „Guernica lui Picasso, dar cu pisoi” – și rămâneți câteva secunde. În acest timp, AI va aplica toate trăsăturile specifice stilului artistului pe care l-a învățat înainte, adaugă pisoi pentru bună măsură și veniți cu ceva original - avem acea poză pe care o puteți vedea ușor de mai sus.

Cum folosesc hackerii AI generativ în atacurile lor?

Băieții răi au fost întotdeauna atrași de algoritmi buni. Așa că nu este surprinzător că exploatează AI generativ pentru a-și intensifica atacurile. Prin utilizarea metodelor ML, cum ar fi învățarea prin întărire și rețelele adverse generative, infractorii cibernetici pot veni cu atacuri cibernetice noi, mai sofisticate, care pot depăși standardele apărare cibernetică.

Un exemplu al acestei perversii este chatbot-ul „de vârf” al OpenAI ChatGPT este folosit de infractorii cibernetici pentru a scrie malware. La început, ChatGPT părea distracție și jocuri, dar acum este expus ca una dintre amenințările majore de securitate și confidențialitate. Dacă vă place să discutați cu ChatGPT, este inteligent să fiți atenți la lucruri pe care infractorii cibernetici le-ar putea face cu ChatGPT.

Pe scurt, ChatGPT și alte instrumente AI generative au făcut viața mai ușoară infractorilor cibernetici și mai dificilă pentru echipele de securitate. Unele dintre modurile în care actorii amenințărilor cibernetice utilizează AI în atacurile lor includ:

• Crearea de programe malware mai bune și mai sofisticate: În mâinile hackerilor, IA generativă poate fi folosită pentru a genera tulpini de malware greu de detectat și pentru a executa atacuri. Combinat cu modelele AI, malware-ul și-ar putea masca intenția până când își îndeplinește scopul rău.
• Scrierea de e-mailuri de phishing personalizate bazate pe inteligență artificială: Cu ajutorul inteligenței artificiale generative, e-mailurile de tip phishing nu mai au semnele revelatoare ale unei escrocherii, cum ar fi ortografia proastă, gramatica proastă și lipsa de context. În plus, cu AI precum ChatGPT, actorii amenințărilor pot lansa atacuri de phishing la o viteză și o scară fără precedent.
• Generarea de date false profunde: Deoarece poate crea imitații convingătoare ale activităților umane, cum ar fi scrisul, vorbirea și imagini — IA generativă poate fi utilizată în activități frauduloase, cum ar fi furtul de identitate, frauda financiară și dezinformare.
• Cracking CAPTCHA-uri și ghicirea parolelor: Folosit de site-uri și rețele pentru a elimina roboții care caută acces neautorizat, CAPTCHA poate fi acum ocolit de hackeri. Utilizând ML, ei pot îndeplini și alte sarcini repetitive, cum ar fi ghicirea parolelor și atacurile cu forță brută.
• Sabotarea ML în detectarea amenințărilor cibernetice: Dacă un sistem de securitate este copleșit de prea multe false pozitive, un hacker îl poate lua prin surprindere cu un adevărat atac cibernetic.

Cum putem combate amenințarea generativă AI?

Pe măsură ce atacurile cibernetice devin mai sofisticate și consecințele lor mai grave, sistemele tradiționale de securitate se vor transforma în lucruri din epoca trecută. Cu capacitatea de a învăța din atacurile anterioare și de a se adapta, AI este un atu de neprețuit atât pentru infractorii cibernetici, cât și pentru adversarii acestora.

Utilizarea inteligenței artificiale în securitatea cibernetică are câteva avantaje serioase, cum ar fi detectarea mai rapidă a amenințărilor, identificarea amenințărilor și răspunsul la amenințări – așadar, combaterea focului cu focul pare a fi răspunsul corect. Înainte ca infractorii cibernetici să învețe cum să dea lovituri devastatoare persoanelor și companiilor din întreaga țară În lume, profesioniștii în securitate cibernetică trebuie să-și învețe sistemele bazate pe inteligență artificială să se ferească de acestea atacuri.

Cu toate acestea, nu totul depinde de AI. La urma urmei, ne putem întări, de asemenea, propria securitate și confidențialitate cu metode încercate și testate, cum ar fi autentificarea cu mai mulți factori (MFA), tehnologia biometrică, utilizarea unui manager de parole, folosind cele mai bune instrumente de colaborare criptate, și un bun, vechi bun simț.

Lupta împotriva AI cu AI

Deci, vom asista la războaiele de securitate cibernetică AI în viitorul apropiat? Ei bine, sperăm că nu. Cu toate acestea, pe măsură ce AI continuă să avanseze și devine accesibilă tuturor – infractorii cibernetici și profesioniștii în securitate cibernetică deopotrivă – rolul AI și ML va deveni mai mare în anii următori.