Inteligența artificială generativă devine un nou instrument de dezinformare?

Inteligența artificială (IA) joacă acum un rol în diferite aspecte ale vieții noastre. Mai exact, instrumentele AI generative, cum ar fi ChatGPT și altele, au crescut semnificativ. Aceasta înseamnă că va exista o abundență de conținut generat de AI în viitor.

Cu toate acestea, IA generativă introduce și riscul dezinformarii generate de AI. Caracteristicile sale fac mai ușor pentru persoanele oportuniste să răspândească informații false. Deci, haideți să explorăm modul în care IA generativă este utilizată pentru dezinformare.

Riscuri potențiale ale inteligenței artificiale generative pentru a răspândi dezinformarea

Inteligența artificială generativă reprezintă multe amenințări pentru oameni, cum ar fi luarea de locuri de muncă, mai multă supraveghere și atacurile cibernetice. Si problemele de securitate cu AI se vor agrava. Dar există o altă îngrijorare: oamenii îl pot folosi pentru a răspândi minciuni. Persoanele înșelătoare pot folosi IA generativă pentru a împărtăși știri false prin conținut vizual, auditiv sau textual.

Știrile false pot fi clasificate în trei tipuri:

1. Dezinformare: Informații incorecte sau false neintenționate.
2. Dezinformare: Utilizarea deliberată a informațiilor manipulatoare sau înșelătoare.
3. Informații defectuoase: știri înșelătoare sau o versiune exagerată a adevărului.

Când combinat cu tehnologia deepfake, instrumentele AI generative pot face conținut care arată și sună real, cum ar fi imagini, videoclipuri, clipuri audio și documente. Există multe posibilități de a crea conținut fals, deci știind cum să te protejezi de videoclipurile deepfake este important.

Distribuitorii de știri false pot genera conținut în cantități mari, facilitând diseminarea în rândul maselor prin intermediul rețelelor sociale. Dezinformarea direcționată poate fi folosită pentru a influența campaniile politice, care ar putea avea un impact asupra alegerilor. În plus, utilizarea instrumentelor de generare a textului și a imaginilor AI ridică preocupări cu privire la legile privind drepturile de autor, după cum a raportat Serviciul de Cercetare a Congresului: determinarea dreptului de proprietate asupra conținutului generat de aceste instrumente devine o provocare.

Cum va aborda legea propagarea știrilor false prin IA generativă? Cine va fi responsabil pentru răspândirea de informații false - utilizatorii, dezvoltatorii sau instrumentele în sine?

4 moduri în care IA generativă poate fi folosită pentru a răspândi dezinformarea

Pentru a rămâne în siguranță online, toată lumea trebuie să înțeleagă riscurile AI generative în răspândirea dezinformarii, deoarece aceasta vine în multe forme diferite. Iată câteva moduri în care poate fi folosit pentru a manipula oamenii.

1. Generarea de conținut fals online

Crearea de conținut fals folosind IA generativă este o strategie comună folosită de cei care răspândesc știri false. Ei folosesc instrumente populare AI generative precum ChatGPT, DALL-E, Bard, Midjourney și altele pentru a produce diferite tipuri de conținut. De exemplu, ChatGPT poate ajuta creatorii de conținut în multe feluri. Dar poate genera și postări pe rețelele sociale sau articole de știri care pot înșela oamenii.

Pentru a dovedi acest lucru, am cerut ChatGPT să scrie un articol inventat despre arestarea președintelui american Joe Biden sub acuzația de corupție. De asemenea, i-am solicitat să includă declarații de la autoritățile relevante pentru a face să pară mai credibil.

Iată articolul fictiv cu care a venit ChatGPT:

În mod surprinzător, rezultatul a fost extrem de persuasiv. Acesta a inclus numele și declarațiile unor figuri cu autoritate pentru a face articolul mai convingător. Aceasta arată cum oricine poate folosi astfel de instrumente pentru a genera știri false și a le răspândi cu ușurință online.

2. Folosirea chatbot-urilor pentru a influența opiniile oamenilor

Chatboții care se bazează pe modele AI generative pot folosi diverse tactici pentru a influența opiniile oamenilor, inclusiv:

• Manipularea emoțională: AI poate folosi modele de inteligență emoțională pentru a exploata declanșatorii și părtinirile emoționale pentru a vă modela perspectivele.
• Camere de eco și părtinire de confirmare: Chatbot-urile pot consolida convingerile existente prin crearea unor camere de ecou care vă validează părtinirile. Dacă aveți deja un anumit punct de vedere, AI îl poate consolida prin prezentarea de informații care se aliniază cu opiniile dvs.
• Dovadă socială și efect de bandwagon: AI poate manipula sentimentul public generând dovezi sociale. Acest lucru poate avea consecințe semnificative, deoarece îi poate determina pe indivizi să se conformeze opiniilor populare sau să urmeze mulțimea.
• Personalizare direcționată: Chatboții au acces la cantități mari de date pe care le pot aduna pentru a crea profiluri personalizate. Acest lucru le permite să personalizeze conținutul în funcție de preferințele dvs. Prin personalizarea direcționată, AI poate convinge indivizii sau își poate consolida opiniile.

Toate aceste exemple ilustrează modul în care chatboții pot fi utilizați pentru a induce oamenii în eroare.

3. Crearea AI DeepFakes

Cineva poate folosi deepfakes pentru a crea videoclipuri false cu o persoană spunând sau făcând lucruri pe care nu le-a făcut niciodată. Ei pot folosi astfel de instrumente pentru inginerie socială sau pentru a desfășura campanii de calomnie împotriva altora. Mai mult, în cultura meme de astăzi, deepfake-urile pot servi ca instrumente pentru hărțuirea cibernetică pe rețelele sociale.

În plus, adversarii politici pot folosi sunet și videoclipuri deepfake pentru a păta reputația oponenților lor, manipulând sentimentul public cu ajutorul AI. Asa de Deepfake-urile generate de AI reprezintă numeroase amenințări în viitor. Conform unui 2023 Raportul Reuters, creșterea tehnologiei AI ar putea avea un impact asupra alegerilor din 2024 din America. Raportul evidențiază accesibilitatea instrumentelor precum Midjourney și DALL-E care pot crea cu ușurință conținut fabricat și pot influența opiniile colective ale oamenilor.

Deci, este crucial să poți identifica videoclipurile create de deepfakes și deosebiți-le de originale.

4. Clonarea vocilor umane

AI generativ, împreună cu tehnologia deepfake, permite manipularea vorbirii cuiva. Tehnologia Deepfake avansează rapid și oferă o varietate de instrumente care pot reproduce vocea oricui. Acest lucru permite indivizilor rău intenționați să se usureze pe alții și să înșele persoane nebănuitoare. Un astfel de exemplu este utilizarea muzicii deepfake.

S-ar putea să fi întâlnit instrumente precum Seamănă cu AI, Vorbire, FakeYou, și altele care pot imita vocile celebrităților. Deși aceste instrumente audio AI pot fi distractive, ele prezintă riscuri semnificative. Escrocii pot utiliza tehnici de clonare a vocii pentru diverse scheme frauduloase, ceea ce duce la pierderi financiare.

Escrocii pot folosi voci false profunde pentru a-ți uzurpa identitatea celor dragi și a te suna, pretinzând că sunt în primejdie. Cu un sunet sintetic care sună convingător, ei te-ar putea îndemna să trimiți bani urgent, ceea ce te duce să devii o victimă a înșelătoriilor lor. Un incident raportat de The Washington Post în martie 2023 exemplifica această problemă: escrocii au folosit voci false pentru a convinge oamenii că nepoții lor sunt în închisoare și au nevoie de bani...

Cum să depistați dezinformarea răspândită prin AI

Combaterea răspândirii dezinformarii facilitată de AI este o problemă presantă în lumea de astăzi. Deci, cum puteți descoperi informații false care au fost făcute de AI?

1. Abordați conținutul online cu scepticism. Dacă întâlniți ceva care pare manipulator sau incredibil, verificați-l prin verificare încrucișată.
2. Înainte de a avea încredere într-un articol de știri sau o postare pe rețelele sociale, asigurați-vă că provine dintr-o sursă de renume.
3. Atenție la indicatorii de deepfakes, cum ar fi clipirea nenaturală sau mișcările faciale, calitatea audio slabă, imaginile distorsionate sau neclare și lipsa unei emoții autentice în vorbire.
4. Utilizați site-uri web de verificare a faptelor pentru a verifica acuratețea informațiilor.

Urmând acești pași, vă puteți identifica și vă proteja de informațiile greșite generate de AI.

Atenție la dezinformarea răspândită de AI

Software-ul generativ a jucat un rol crucial în promovarea AI. Totuși, ele pot fi, de asemenea, o sursă semnificativă de dezinformare în societate. Aceste instrumente accesibile au permis oricui să creeze diferite tipuri de conținut folosind modele AI sofisticate; capacitatea lor de a genera conținut în cantități mari și de a încorpora deepfake-uri le face și mai periculoase.

Este important să fii conștient de provocările dezinformarii în era AI. Înțelegerea modului în care AI poate fi folosită pentru a răspândi știri false este primul pas către a vă proteja de dezinformări.