Cum AI a păcălit oamenii făcându-le să creadă că Trump a fost arestat

Dacă ești activ pe Twitter, s-ar putea să fi văzut câteva imagini șocante cu fostul președinte american Donald Trump arestat de ofițeri de poliție, luptându-se cu ei și chiar fugind de ei. Se pare că nimic din toate acestea nu a fost real. Dar cum s-au întâmplat toate acestea?

Arestarea lui Donald Trump care nu s-a întâmplat niciodată

Fostul președinte american a împărtășit o presupusă scurgere prin intermediul oficialului său Truth Social handle pe 18 martie. Postarea spunea că se aștepta la o arestare marți a săptămânii următoare pentru acuzații „vechi și complet dezmințite” împotriva lui. Nu a trecut mult timp până când imaginile cu arestarea lui Trump au început să apară pe tot internetul.

Imaginile au arătat ceea ce părea a fi filmări ale arestării lui Trump de către un grup de ofițeri de aplicare a legii.

Imaginile au fost generate de AI

Imaginile, însă, nu erau autentice. Au fost deepfake-uri făcute cu

Midjourney, un generator de imagini AI. Midjourney folosește un algoritm de învățare profundă pentru a genera imagini de la zero folosind solicitări text. În acest caz, mesajele text au fost variante ale arestării lui Trump.

Tehnologia deepfake există de ceva vreme și devine din ce în ce mai sofisticat. Imaginile generate de AI erau ușor de identificat: le lipseau detaliile și realismul. In orice caz, Cea mai recentă versiune a lui Midjourney (v5) a remediat majoritatea acestor probleme și a fost, de fapt, versiunea folosită pentru a genera deepfakes arestarea lui Trump.

Cum au devenit virale imaginile

Eliot Higgins, un jurnalist de investigație, a creat primele versiuni ale deepfakes-ului arestării lui Trump pentru a vizualiza cum ar arăta o arestare a lui Trump. Le-a postat pe contul său de Twitter. Deși legenda lui a fost clar de la început că imaginile sunt false, nu a durat mult până când postarea a devenit virală.

Pe măsură ce imaginile s-au răspândit pe rețelele de socializare, mulți oameni au crezut că este real. Postarea lui Trump pe Truth Social a avut deja oameni suspicioși, iar imaginile realiste nu au făcut decât să alimenteze focul. A durat ceva timp până să devină clar că fotografiile erau false și că povestea arestării fusese o farsă.

Postările de pe rețelele de socializare care „raportează” arestarea falsă au fost șterse sau au pe ele eticheta de dezinformare. Ca penalizare, Midjourney i-a interzis și pe Higgins de pe serverul lor timp de o lună, per The Washington Post.

Era Deepfakes necesită vigilență

Deepfake-urile arestării lui Trump evidențiază progresele alarmante ale tehnologiei AI. Imaginile false pot fi create acum cu o ușurință incredibilă și pot arăta atât de realiste încât este dificil să disting ce este real de ceea ce nu este. Vigilența este acum mai critică ca niciodată când vine vorba de conținut online.