Inteligența artificială (IA) are potențialul de a schimba însăși natura societății noastre. Și dacă instrumentele AI pe care le avem în prezent la dispoziție sunt vreun indiciu a ceea ce urmează, avem multe de așteptat.
De asemenea, avem multe de care să ne ferim. Și anume, armonizarea AI de către infractorii cibernetici și alți actori amenințări. Aceasta nu este o preocupare teoretică și nici măcar generatorii de imagini AI nu sunt imuni la abuz.
Ce sunt generatoarele de imagini AI? Cum funcționează?
Dacă ați folosit vreodată un generator de imagini AI, aveți o idee destul de bună despre ce este vorba. Chiar dacă nu ați folosit niciodată una, cel mai probabil ați întâlnit imagini generate de AI pe rețelele de socializare și în alte părți. Software-ul care este popular astăzi funcționează pe un principiu foarte simplu: utilizatorul introduce textul, iar AI generează o imagine pe baza textului respectiv.
Ceea ce se întâmplă sub capotă este mult mai complex. AI a devenit mult mai bun în ultimii ani și majoritatea generatoare de text în imagine în zilele noastre sunt așa-numitele modele de difuzie. Aceasta înseamnă că sunt „antrenați” pe o perioadă lungă de timp pe un număr enorm de texte și imagini, ceea ce face creațiile lor atât de impresionante și uimitor de realiste.
Ceea ce face aceste instrumente AI și mai impresionante este faptul că nu doar modifică imaginile existente sau combină mii de imagini într-una singură, ci și creează imagini noi, originale de la zero. Cu cât mai mulți oameni folosesc aceste generatoare text-to-image, cu atât mai multe informații sunt alimentate și cu atât creațiile lor devin mai bune.
Unele dintre cele mai cunoscute Generatoarele de imagini AI sunt Dream by WOMBO, DALL-E, Stable Diffusion, Midjourney, DeepAI, Fotor și Craiyon. Alții noi apar în stânga și în dreapta, iar giganții tehnologiei, inclusiv Google, își lansează propriile lor, așa că nu putem decât să speculăm cu privire la ceea ce ne va aduce viitorul.
4 moduri în care actorii amenințări armează generatoarele de imagini AI
Ca aproape toată tehnologia, generatoarele de imagini AI pot fi abuzate de actori răuvoitori. De fapt, ele sunt deja folosite pentru tot felul de scopuri nefaste. Dar exact ce tip de escrocherii și atacuri cibernetice poate efectua un infractor cu ajutorul generatoarelor de imagini AI?
1. Inginerie sociala
Un lucru evident pe care actorii de amenințări l-ar putea face cu generatoarele de imagini AI este se angajează în ingineria socială; de exemplu, creați profiluri de rețele sociale false. Unele dintre aceste programe pot crea imagini incredibil de realiste care arată exact ca fotografiile autentice ale unor oameni reali, iar un escroc ar putea folosi aceste profiluri de rețele sociale false pentru pescuitul cu cat.
Spre deosebire de fotografiile oamenilor reali, cele generate de AI nu pot fi descoperite prin căutarea inversă a imaginilor, iar criminalul cibernetic nu trebuie să lucreze cu un un număr limitat de fotografii pentru a-și ținta ținta — folosind AI, pot genera câte doresc, construind o identitate online convingătoare din zgârietură.
Dar există exemple din viața reală de actori ai amenințărilor care folosesc generatoare de imagini AI pentru a înșela oamenii. În aprilie 2022, TechTalks bloggerul Ben Dickinson a primit un e-mail de la o firmă de avocatură în care susținea că a folosit o imagine fără permisiune. Avocații au trimis prin e-mail o notificare de încălcare a drepturilor de autor DMCA, spunându-i lui Dickinson că trebuie să se conecteze la un client de-al lor sau să elimine imaginea.
Dickinson a căutat pe Google firma de avocatură și a găsit site-ul oficial. Totul părea complet legitim; site-ul avea chiar și fotografii cu 18 avocați, complet cu biografiile și acreditările lor. Dar nimic nu a fost real. Fotografiile au fost toate generate de AI, iar presupusele notificări de încălcare a drepturilor de autor au fost trimise de cineva care caută să stocheze backlink-uri de la bloggeri nebănuiți, ca parte a unui neetic, negru pălărie SEO (optimizare pentru motoarele de căutare) strategie.
2. Escrocherii de caritate
Când cutremure devastatoare au lovit Turcia și Siria în februarie 2023, milioane de oameni din întreaga lume și-au exprimat solidaritatea cu victimele donând haine, alimente și bani.
Potrivit unui raport de la BBC, escrocii au profitat de acest lucru, folosind AI pentru a crea imagini realiste și pentru a solicita donații. Un escroc a arătat imagini cu ruine generate de inteligență artificială pe TikTok Live, cerând spectatorilor săi donații. Un altul a postat o imagine generată de inteligență artificială a unui pompier grec care salvează un copil rănit din ruine și le-a cerut adepților săi donații în Bitcoin.
Ne puteți imagina doar ce tip de escrocherii de caritate vor rula criminalii cu ajutorul AI în viitor, dar este sigur să presupunem că vor deveni mai buni la abuzarea acestui software.
3. Deepfakes și dezinformare
Guvernele, grupurile de activiști și grupurile de reflecție au avertizat de mult cu privire la pericolele deepfake-urilor. Generatoarele de imagini AI adaugă o altă componentă acestei probleme, având în vedere cât de realiste sunt creațiile lor. De fapt, în Marea Britanie, există chiar și o emisiune de comedie numită Deep Fake Neighbor Wars, care găsește umor în perechi improbabile de celebrități. Ce ar împiedica un agent de dezinformare să creeze o imagine falsă și să o promoveze pe rețelele de socializare cu ajutorul roboților?
Acest lucru poate avea consecințe în viața reală, așa cum aproape a făcut-o în martie 2022, când un videoclip fals înfățișând președintele ucrainean Volodimir Zelenski spunându-le ucrainenilor să se predea a circulat online, conform NPR. Dar acesta este doar un exemplu, pentru că posibilitățile sunt aproape nesfârșite și există nenumărate moduri a actorul amenințării ar putea dăuna reputației cuiva, poate promova o narațiune falsă sau poate răspândi știri false cu ajutorul de AI.
4. Fraudă publicitară
TrendMicro cercetătorii au descoperit în 2022 că escrocii foloseau conținut generat de inteligență artificială pentru a crea reclame înșelătoare și pentru a promova produse dubioase. Ei au creat imagini care sugerau că celebrități populare folosesc anumite produse și au desfășurat campanii publicitare bazate pe acele imagini.
De exemplu, un anunț pentru o „oportunitate de consiliere financiară” îl prezenta pe miliardarul Elon Musk, fondatorul și CEO-ul Tesla. Desigur, Musk nu a susținut niciodată produsul în cauză, dar filmările generate de AI prezentate l-au făcut să pară așa, probabil că a atras spectatorii nebănuiți să facă clic pe reclame.
AI și securitatea cibernetică: o problemă complexă pe care trebuie să o abordăm
În viitor, autoritățile de reglementare guvernamentale și experții în securitate cibernetică vor trebui probabil să colaboreze pentru a aborda amenințarea emergentă a criminalității cibernetice bazate pe inteligență artificială. Dar cum putem reglementa AI și proteja oamenii obișnuiți, fără a înăbuși inovația și a restrânge libertățile digitale? Această întrebare va rămâne mare în anii următori.
Până când veți găsi un răspuns, faceți tot ce puteți pentru a vă proteja: verificați cu atenție orice informație pe care o vedeți online, evitați site-uri web umbrite, utilizați software sigur, mențineți dispozitivele la zi și învățați să utilizați inteligența artificială pentru dvs avantaj.
