Poate Deepfake Fool Recunoașterea facială? Un studiu nou spune că da!

Deepfakes și videoclipurile generate de AI sunt aici pentru a rămâne. Dar, în ultimii ani, au crescut în calitate și cantitate, făcând mulți oameni să se îngrijoreze de securitatea națională și de confidențialitatea personală.

Totuși, oricât de mult ar fi încercat utilizatorii online anonimi să-și facă realistele video false, nu ar putea trece niciodată peste software-ul avansat de recunoaștere facială. Până acum.

API-uri de recunoaștere a feței înșelătoare

Cercetătorii de la Universitatea Sungkyunkwan din Suwon, Coreea de Sud, a testat calitatea tehnologiei actuale deepfake. Au testat atât API-urile Amazon, cât și Microsoft folosind software-ul open-source și în mod obișnuit folosit pentru generarea de videoclipuri deepfake pentru a vedea cât de performante sunt.

Cercetătorii au folosit chipurile vedetelor de la Hollywood. Pentru a crea deepfakes solide, software-ul are nevoie de o mulțime de imagini de înaltă calitate din diferite unghiuri ale acelorași persoane, care sunt mult mai ușor de achiziționat de vedete în loc de obișnuite oameni.

Cercetătorii au decis, de asemenea, să utilizeze API-ul Microsoft și Amazon ca puncte de referință pentru studiul lor, deoarece ambele companii oferă servicii de recunoaștere a feței celebrităților. Au folosit seturi de date disponibile publicului și au creat puțin peste 8.000 de falsificări. Din fiecare videoclip deepfake, au extras mai multe fețe și l-au trimis API-urilor.

Cu Azure Cognitive Services de la Microsoft, cercetătorii au reușit să păcălească sistemul 78 la sută din timp folosind deepfakes. Rezultatele Amazon au fost puțin mai bune, 68% dintre fețele trimise fiind identificate ca fiind reale.

Dar detectoarele Deepfake?

Detectoarele Deepfake funcționează mai mult sau mai puțin la fel ca deepfake. Detectoarele sunt programe software care au fost instruite folosind modele de învățare automată despre modul de detectare a videoclipurilor deepfake.

Dar, în loc să se concentreze pe crearea unui videoclip hiper-realist pentru a păcăli detectorii, deepfakes-urile pot include acum exemple contradictorii în fiecare cadru pentru a confunda sistemul AI. De fapt, atacurile deepfake de acest tip au rate de succes variate de la 78 la 99 la sută.

Devine mai rău

Deepfakes sunt o aplicație de învățare automată. Pentru a crea una care să fie chiar convingătoare de la distanță, aveți nevoie de sute de imagini ale feței aceleiași persoane din unghiuri diferite și care să afișeze diferite emoții.

Din cauza necesității unor cantități masive de date, s-ar crede că doar persoanele cu o prezență online mare sunt expuse riscului, precum vedetele și politicienii. Dar nu mai este cazul.

Potrivit Deeptrace, numărul de deepfakes online a crescut cu 330% în mai puțin de un an - din octombrie 2019 până în iunie 2020. Ca să nu mai vorbim, software-ul și algoritmii utilizați de producătorii de deepfake devin din ce în ce mai puternici și mai ușor disponibili și mai accesibili.

Cine riscă Deepfakes?

Când deepfakes a devenit mainstream, prima grijile erau pentru intimitate și securitate națională. Oamenii se temeau că filmările video ale politicienilor și ale lucrătorilor oficiali ai guvernului nu mai puteau fi de încredere.

Însă, deși ar fi iresponsabil să nu luăm în considerare riscul de securitate pe care îl prezintă deepfake, mai multe sondaje au arătat că factorii de decizie deepfake nu sunt încă atât de interesați să deranjeze politica. Majoritatea videoclipurilor deepfakes online pot fi împărțite în două categorii: videoclipuri amuzante cu interviuri cu vedete și filme și materiale pornografice.

În timp ce studiul recent a fost realizat folosind chipuri de vedete pentru a se asigura că deepfakes-urile au fost de înaltă calitate pentru a păcăli API-urile, asta nu înseamnă că nu puteți face deepfakes cu mai puține date. Sigur, s-ar putea să nu aibă șanse să păcălească sisteme avansate de recunoaștere facială, dar pot fi suficient de convingători pentru a păcăli alte persoane.

În zilele noastre, deepfakes-ul oricui are o prezență socială poate fi făcut convingător. Tot ce au nevoie sunt câteva fotografii cu tine și poate un videoclip în care apare. Deepfake-ul rezultat poate fi de calitate scăzută, dar este totuși realizabil și poate fi dăunător.

Viitorul este încă necunoscut

Există multe previziuni contradictorii cu privire la starea deepfakes, deoarece acestea nu vor dispărea în curând.

Unii se așteaptă la un viitor cibernetic apocaliptic în care nu puteți avea încredere în nicio înregistrare pe care o întâlniți online. Alții sunt mai optimiști, comparând deepfakes cu animația și spunând că ar putea avea un viitor în producția de conținut.

Cum să vă protejați de videoclipurile Deepfake

Deepfakes devin din ce în ce mai răspândite. Iată cum vă pot amenința confidențialitatea online și cum să evite să fie preluați.

Citiți în continuare

Despre autor