Având în vedere modul în care deepfakes sunt atât potențial devastatoare pentru reputația cuiva, cât și foarte greu de observat când sunt făcute corect, acestea reprezintă o preocupare majoră de securitate. Acum, Microsoft își propune să ajute la oprirea deepfakes-ului prin lansarea unui instrument care le poate detecta.

Amenințarea reprezentată de deepfakes este atât de substanțială, încât a provocat-o Facebook pentru a interzice tot conținutul deepfake. Cu toate acestea, cel mai mare obstacol este modul în care sunt făcute deepfakes să pară convingătoare; ca atare, localizarea și confirmarea unui deepfake este foarte dificilă.

Facebook interzice Deepfakes și Photoshops

Facebook interzice fotografiile deepfakes și Photoshopped. Ideea este de a elimina suporturile manipulate menite să înșele utilizatorii.

După cum sa raportat la Microsoft privind problemele, compania vrea să schimbe acest lucru cu noul său instrument. Se numește Microsoft Video Authenticator și analizează videoclipuri pentru a căuta „cusăturile” rămase în urma creației deepfake. Aceste cusături sunt invizibile pentru ochii omului, dar un computer le poate detecta folosind analiza cadru cu cadru.

instagram viewer

Pentru a preveni agenții rău intenționați de a face tehnologie inversă, Microsoft Video Authenticator nu va fi o versiune publică. În schimb, Microsoft își distribuie sistemul către știri și organizații politice. În acest fel, aceste organizații pot folosi instrumentul pentru a separa realul de fals.

Cu toate acestea, Microsoft a anunțat o a doua tehnologie pentru identificarea deepfakes. Compania propune un sistem în care un creator de conținut își poate eticheta videoclipurile cu o „semnătură” unică. Dacă videoclipul este editat, va genera o semnătură diferită de cea originală, identificând astfel un deepfake.

Autorul cărții Deep Fakes and the Infocalypse, Nina Schick, a spus următoarele:

Singura utilizare cu adevărat răspândită pe care am văzut-o până acum este în pornografia non-consensuală împotriva femeilor. Dar se așteaptă ca materialele sintetice să devină omniprezente în aproximativ trei până la cinci ani, așa că trebuie să dezvoltăm aceste instrumente în viitor. Cu toate acestea, pe măsură ce capabilitățile de detectare se îmbunătățesc, la fel și capacitatea de generare - nu este niciodată va fi cazul în care Microsoft poate lansa un instrument care poate detecta tot felul de videoclipuri manipulare.

Deepfakes sunt o problemă semnificativă pentru credibilitatea mass-media, iar companiile au nevoie de o cale spune ce este real din ce este ficțiune. Microsoft a lansat un instrument pentru a ajuta la identificarea videoclipurilor editate. Cu toate acestea, dacă instrumentul va fi sau nu suficient pentru a ține pasul cu dezvoltatorii deepfake, este încă de văzut.

Dacă nu sunteți sigur ce sunt deepfakes și de ce contează, cu siguranță merită să vă luați puțin timp pentru a afla despre ele. Deepfakes sunt gata să devină echivalentul acestui deceniu al imaginilor „Photoshopping” și pot provoca daune grave dacă sunt utilizate cu răutate.

E-mail
Explicații despre Deepfakes: AI care face videoclipuri false prea convingătoare

Videoclipurile false generate de AI subminează complet înțelegerea noastră asupra evenimentelor mondiale. Iată cum deepfakes ar putea schimba totul.

Subiecte asemănătoare
  • Internet
  • Securitate
  • Știri tehnice
  • Microsoft
  • Știri false
  • Deepfakes
  • Securitate cibernetică
Despre autor
Simon Batt (434 articole publicate)

Un absolvent de informatică cu o pasiune profundă pentru securitatea tuturor lucrurilor. După ce a lucrat pentru un studio de jocuri independente, și-a găsit pasiunea pentru scris și a decis să-și folosească setul de abilități pentru a scrie despre toate lucrurile din tehnologie.

Mai multe de la Simon Batt

Aboneaza-te la newsletter-ul nostru

Alăturați-vă newsletter-ului pentru sfaturi tehnice, recenzii, cărți electronice gratuite și oferte exclusive!

Încă un pas…!

Vă rugăm să confirmați adresa de e-mail în e-mailul pe care tocmai vi l-am trimis.

.