Ce este PhotoDNA și cum funcționează?

Internetul a făcut multe lucruri mai ușoare, de la păstrarea legăturii cu prietenii și familia până la obținerea unui loc de muncă și chiar lucrarea de la distanță. Avantajele acestui sistem conectat de computere sunt imense, dar există și un dezavantaj.

Spre deosebire de statele naționale, internetul este o rețea globală pe care niciun guvern sau autoritate nu o poate controla. În consecință, materialele ilegale ajung online și este extrem de greu să împiedici copiii să sufere și să îi prinzi pe cei responsabili.

Cu toate acestea, o tehnologie co-dezvoltată de Microsoft numită PhotoDNA este un pas către crearea unui spațiu online mai sigur atât pentru copii, cât și pentru adulți.

Ce este PhotoDNA?

PhotoDNA este un instrument de identificare a imaginilor, dezvoltat pentru prima dată în 2009. Deși în primul rând un serviciu susținut de Microsoft, acesta a fost co-dezvoltat de profesorul Hany Farid de la Dartmouth College, un expert în analiza fotografiilor digitale. Scopul PhotoDNA este de a identifica imagini ilegale, inclusiv materiale pentru abuz sexual sexual asupra copiilor, cunoscute sub denumirea de CSAM.

Pe măsură ce smartphone-urile, camerele digitale și internetul de mare viteză au devenit tot mai obișnuite, la fel și cantitatea de CSAM găsită online. În încercarea de a identifica și elimina aceste imagini, alături de alte materiale ilegale, baza de date PhotoDNA conține milioane de intrări pentru imagini cunoscute de abuz.

Microsoft operează sistemul, iar baza de date este întreținută de Centrul Național pentru Copii Dispăruți și Exploatați (NCMEC) din SUA, o organizație dedicată prevenirii abuzului asupra copiilor. Imaginile se îndreaptă spre baza de date odată ce au fost raportate la NCMEC.

Deși nu este singurul serviciu care caută CSAM cunoscut, PhotoDNA este una dintre cele mai comune metode, inclusiv multe servicii digitale precum Reddit, Twitter și majoritatea produselor deținute de Google.

PhotoDNA a trebuit să fie configurat fizic la fața locului în primele zile, dar Microsoft operează acum serviciul cloud PhotoDNA Cloud. Acest lucru permite organizațiilor mai mici, fără o infrastructură vastă, să efectueze detectarea CSAM.

Cum funcționează PhotoDNA?

Când utilizatorii de internet sau agențiile de aplicare a legii întâlnesc imagini de abuz, acestea sunt raportate la NCMEC prin intermediul CyberTipline. Acestea sunt catalogate, iar informațiile sunt partajate cu oamenii legii, dacă nu ar fi fost deja. Imaginile sunt încărcate în PhotoDNA, care apoi se ocupă de crearea unui hash sau a unei semnături digitale pentru fiecare imagine individuală.

Pentru a ajunge la această valoare unică, fotografia este convertită în alb și negru, împărțită în pătrate, iar software-ul analizează umbrirea rezultată. Hash-ul unic este adăugat în baza de date PhotoDNA, partajat între instalațiile fizice și PhotoDNA Cloud.

Furnizorii de software, agențiile de aplicare a legii și alte organizații de încredere pot implementa scanarea PhotoDNA în produsele lor, în software-ul cloud sau în alte medii de stocare. Sistemul scanează fiecare imagine, o convertește într-o valoare hash și o compară cu hashurile bazei de date CSAM.

Dacă se găsește o potrivire, organizația responsabilă este alertată, iar detaliile sunt transmise organelor de drept pentru urmărire penală. Imaginile sunt eliminate din serviciu, iar contul utilizatorului este închis.

Important, nu sunt stocate informații despre fotografiile dvs., serviciul este complet automatizat, fără implicare umană și nu puteți recrea o imagine dintr-o valoare hash.

Din 2015, organizațiile au putut utiliza PhotoDNA și pentru a analiza videoclipuri.

În august 2021, Apple a rupt pasul cu majoritatea celorlalte firme Big Tech și a anunțat că vor folosi propria lor serviciu de scanare a iPhone-urilor utilizatorilor pentru CSAM.

Este de înțeles, aceste planuri au primit reacții considerabile pentru că păreau că încalcă poziția companiei de a respecta confidențialitatea, și mulți oameni se temeau că scanarea ar include treptat non-CSAM, ducând în cele din urmă la un backdoor pentru lege executare.

PhotoDNA folosește recunoașterea facială?

În aceste zile, suntem suficient de familiarizați cu algoritmii. Aceste instrucțiuni codate ne arată postări relevante și interesante pe fluxurile noastre de socializare, acceptă sistemele de recunoaștere facială și chiar decid dacă ni se oferă un interviu de angajare sau intrăm în facultate.

S-ar putea crede că algoritmii ar fi în centrul PhotoDNA, dar automatizarea detectării imaginii în acest mod ar fi extrem de problematică. De exemplu, ar fi incredibil de invaziv, ne-ar încălca confidențialitatea și asta fără a menționa că algoritmii nu sunt întotdeauna corecți.

Google, de exemplu, a avut probleme bine documentate cu software-ul său de recunoaștere facială. Când Google Photos a fost lansat pentru prima dată, acesta a clasificat greșit în mod ofensator persoanele de culoare ca gorile. În martie 2017, un comitet de supraveghere a Camerei a auzit că unii algoritmi de recunoaștere facială au greșit 15% din timp și au mai multe șanse să identifice greșit persoanele de culoare.

Aceste tipuri de algoritmi de învățare automată sunt din ce în ce mai banale, dar poate fi o provocare pentru a monitoriza în mod adecvat. Efectiv, software-ul ia propriile sale decizii și trebuie să faceți o inginerie inversă a modului în care a ajuns la un rezultat specific.

Înțeles, având în vedere tipul de conținut pe care îl caută PhotoDNA, efectul identificării greșite ar putea fi catastrofal. Din fericire, sistemul nu se bazează pe recunoașterea facială și poate găsi doar imagini preidentificate cu un hash cunoscut.

Facebook folosește PhotoDNA?

În calitate de proprietar și operator al celor mai mari și mai populare rețele sociale din lume, Facebook se ocupă în fiecare zi cu o mulțime de conținut generat de utilizatori. Deși este greu să găsești estimări fiabile, actuale, analiză în 2013 a sugerat ca aproximativ 350 de milioane de imagini să fie încărcate pe Facebook în fiecare zi.

Acest lucru va fi probabil mult mai mare acum, deoarece mai mulți oameni s-au alăturat serviciului, compania operând mai multe (inclusiv Instagram și WhatsApp) și avem acces mai ușor la camerele smartphone-urilor și de încredere Internet. Având în vedere rolul său în societate, Facebook trebuie să reducă și să elimine CSAM și alte materiale ilegale.

Din fericire, compania a abordat acest lucru devreme, optând pentru serviciul Microsoft PhotoDNA în 2011. De la anunțul de peste un deceniu în urmă, există puține date despre cât de eficient a fost acest lucru. In orice caz, 91 la sută din toate rapoartele CSAM din 2018 au fost de pe Facebook și Facebook Messenger.

PhotoDNA face internetul mai sigur?

Serviciul dezvoltat de Microsoft este, fără îndoială, un instrument esențial. PhotoDNA joacă un rol crucial în prevenirea răspândirii acestor imagini și poate chiar ajuta la copiii cu risc.

Cu toate acestea, principalul defect al sistemului este că poate căuta doar imagini preidentificate. Dacă PhotoDNA nu are un hash stocat, atunci nu poate identifica imagini abuzive.

Este mai ușor ca oricând să luați și să încărcați imagini de abuz de înaltă rezoluție online, iar agresorii sunt ducând din ce în ce mai mult la platforme mai sigure precum Dark Web și aplicații de mesagerie criptate pentru a partaja material ilegal. Dacă nu ați mai întâlnit Dark Web-ul, merită să citiți despre riscurile asociate cu partea ascunsă a internetului.

Web-ul întunecat este ilegal?

Activitățile criminale pot fi găsite prin intermediul darknets, dar este de fapt ilegal să mergeți pe dark web?

Citiți în continuare

Despre autor