Twitter dezvăluie că a abandonat tăierea AI din cauza rasei și a prejudecății de gen

Prima dată când am auzit ideea că algoritmul de decupare a imaginii Twitter ar putea avea unele prejudecăți a fost în septembrie 2020. Inginerul criptografic Tony Arcieri a încărcat două imagini cu liderul majorității Senatului, Mitch McConnell, și fostul președinte Barack Obama, iar AI a ajuns la fața lui McConnell de ambele ori.

Când controversa a ajuns în cele din urmă la cei de pe Twitter, compania a promis că își va analiza modelul. În cele din urmă, vom citi aceste descoperiri.

Twitter împărtășește rezultatele analizei sale de algoritmi

La începutul lunii mai, Twitter a lansat în cele din urmă previzualizări de dimensiuni complete pe cronologiile sale mobile. O postare pe blogul Twitter a dezvăluit că aplicația și-a axat algoritmul de decupare a imaginii după ce o analiză a arătat că are prejudecăți bazate pe rasă și sex.

Platforma a început să utilizeze un algoritm de sănătate în 2018 pentru a-și decupa imaginile. Twitter spune că modelele de sănătate sunt instruite pe date de urmărire a ochilor umani, care sunt apoi utilizate de către algoritm pentru a estima ce subiecte / elemente din imagine crede că este cel mai probabil să fie important pentru cei mai mulți oameni.

Algoritmul ar veni apoi cu un scor de sănătate pentru toate părțile imaginii înainte de a alege punctul cu cel mai mare scor pentru a fi centrul culturii.

După efectuarea unui test cantitativ pentru a verifica potențialele prejudecăți, echipa a constatat că algoritmul de sănătate părea să favorizeze femeile în fața bărbaților, iar persoanele albe în locul celor negri.

De asemenea, Twitter a testat algoritmul pentru „privirea masculină”, dar nu s-au găsit dovezi ale prejudecății de obiectivare.

Chiar dacă algoritmul de salubritate a fost ajustat pentru a reflecta egalitatea perfectă între subgrupuri de rasă și gen, noi [Twitter] suntem îngrijorați prin vătămarea reprezentativă a algoritmului automat atunci când oamenii nu au voie să se reprezinte așa cum doresc pe platformă. Saliency deține, de asemenea, alte daune potențiale dincolo de scopul acestei analize, inclusiv insensibilitățile la nuanțele culturale.

Luând în considerare compromisurile dintre viteza și consistența tăierii automate și riscurile acesteia, Twitter spune că echipa sa a realizat că modul de decupare a unei imagini este o decizie luată cel mai bine de oameni - nu algoritmi.

Legate de: Tendințe tehnologice care schimbă deja viitorul

Twitter scapă de decuparea automată a imaginilor

Twitter nu mai folosește algoritmul de salubritate și acum afișează fotografii standard cu aspectul complet atât pe iOS, cât și pe Android. Când creați un tweet, veți descoperi că noua actualizare include și o previzualizare reală a imaginilor încărcate, astfel încât să știți cum va arăta totul odată publicat.

Dacă sunteți interesat să citiți lucrarea academică a studiului, o puteți găsi pe arXiv.org. De asemenea, puteți găsi codul Twitter pentru analiză GitHub.

Cum să încărcați și să vizualizați imagini 4K pe Twitter

Aplicația Twitter vă permite acum să încărcați și să vizualizați imagini în 4K. Iată cum să vă modificați setările.

Citiți în continuare

Despre autor