Utilizatorii Twitter descoperă potențialul prejudecată rasială în algoritmul de recoltare automată

Twitter încearcă să stabilească de ce funcția sa de previzualizare a fotografiilor prezintă semne de prejudecată rasială. Mai mulți utilizatori au descoperit că fețele negre au mai multe șanse să fie scoase din previzualizările fotografiilor în comparație cu fețele albe.

Un defect în algoritmul Twitter

Când vedeți o imagine pe Twitter, este doar o previzualizare, trebuie să faceți clic pe ea pentru a vedea întreaga imagine. Twitter folosește un algoritm pentru a decupa fotografiile, dictând ceea ce veți vedea în previzualizările imaginilor.

În 2018, Twitter și-a anunțat funcția de decupare automată inteligentă într-o postare pe Blogul Twitter. Această caracteristică folosește „sensibilitate” pentru a îmbunătăți cele mai proeminente părți ale fotografiilor și apoi recoltează previzualizările fotografiilor în consecință.

Utilizatorii Twitter au descoperit că rețeaua neuronală a platformei poate avea o prejudecată rasială. Un utilizator a postat o imagine a senatorului american Mitch McConnell alături de fostul președinte Barack Obama.

Previzualizarea imaginii scoate în mod flagrant fața lui Obama, chiar și atunci când fața lui este plasată în partea de sus a fotografiei. Când același utilizator a încercat să inverseze culorile imaginii, fața lui Obama a apărut în cele din urmă în previzualizarea imaginii.

Alți utilizatori au început să-și desfășoare propriile experimente. De nenumărate ori, utilizatorii au descoperit că algoritmul părea să prefere în mod constant fețele albe decât fețele negre.

Liz Kelley, membru al echipei de comunicare Twitter, a trimis un Tweet ca răspuns la constatările utilizatorilor Twitter. Ea a menționat că, în timp ce echipa Twitter a testat deja algoritmul pentru depărtare, ar trebui să investigheze în continuare.

Toate aceste descoperiri au rezultat din Tweet-ul unui utilizator despre un Problemă de apel zoom. Zoom nu a reușit să detecteze în permanență fața prietenului său negru când a încercat să folosească un fundal virtual. Când utilizatorul a apelat la Twitter pentru a posta capturi de ecran ale problemei, Twitter și-a retras prietenul negru din previzualizarea imaginii.

Scoaterea prejudecății de pe Twitter

Deși toate aceste experimente sunt informale, ele par să evidențieze o problemă reală. Twitter va trebui cu siguranță să arunce o privire mai atentă asupra funcției sale de recoltare automată și să vadă dacă are o prejudecată rasială înrădăcinată.

Acestea fiind spuse, algoritmul de decupare automată a Twitter nu este singura funcție Twitter criticată. La urma urmei, mulți utilizatori nu sunt, de asemenea, fani ai algoritmului platformei care vă aranjează automat fluxul.

Cum (și de ce) să dezactivați fluxurile algoritmice pe Twitter, Instagram și Facebook

Feedurile algoritmice servesc doar rețelelor sociale. Iată cum să treceți la fluxuri cronologice pe Twitter, Instagram și Facebook.

Despre autor