Se pare că prea des vedem știri că o infracțiune gravă sau alta a fost comisă pe unul sau altul site-uri de socializare, inclusiv postări ilegale sau difuzarea în direct de conținut violent. Poate fi ușor să ne întrebăm cum, în această epocă avansată din punct de vedere tehnologic, astfel de lucruri pot scăpa printre crăpături.
Dar, adevărul este că este practic imposibil să moderați eficient site-urile de social media. De ce? Există câteva motive.
Unele site-uri de social media sunt încă la început sau sunt mai de nișă. Cu toate acestea, site-urile importante de rețele sociale au baze de utilizatori vaste. Cele mai mari site-uri au între sute de milioane până la miliarde de utilizatori. Desigur, orice platformă atât de mare este greu de monitorizat.
Majoritatea rețelelor sociale majore gestionează acest lucru printr-o combinație de raportare comunitară, algoritmi (imperfect) antrenați pentru a identifica conținut dăunător și câțiva moderatori umani. În timp ce un membru al comunității sau AI ar putea identifica și raporta informații dăunătoare, un om (sau un grup de oameni) este cel care are ultimul cuvânt. Și multe site-uri oferă un proces de contestație.
Site-urile de social media nu sunt doar uriașe în ceea ce privește baza lor de utilizatori. Diferite state și diferite țări au legi diferite referitoare la tipul de conținut care trebuie raportat și cum.
Așadar, companiile de social media active în diferite zone geografice trebuie adesea să aibă politici diferite pentru diferiți utilizatori. Aceasta include politici diferite de dezinformare și confidențialitate. De fapt, Twitter a trebuit să fie de acord cu termeni specifici pentru a nu fi interzis în Nigeria.
Mai mult decât atât, social media este un fenomen global, dar nu se întâmplă întotdeauna în limbile „globale”. Acest lucru poate lăsa companiile de social media să se chinuie să găsească moderatori de conținut care vorbesc limbi regionale pentru a furniza servicii la nivel global, fără a-i lăsa pe acești utilizatori vulnerabili în fața actorilor răi.
Un bun exemplu este cel al proprietarului Facebook Meta. Compania a fost recent dat în judecată de un fost moderator de conținut din Nairobi care susține că moderatorii de conținut din zonă sunt induși în eroare să preia rolul.
3. Moderatorii merg pe frânghie
Majoritatea utilizatorilor de rețele sociale își doresc două lucruri: vor să se simtă în siguranță și vor să se simtă liberi. Găsirea unui echilibru între aceste două dorințe este sarcina dificilă a moderatorului de conținut.
Îndepărtează-te prea mult într-o parte, iar utilizatorii se vor simți supravegheați. Îndepărtează-te prea departe de cealaltă parte și utilizatorii se vor simți abandonați. O modalitate prin care unele site-uri de socializare rezolvă acest lucru este prin intermediul moderatorilor comunității.
Moderatorii comunității ajută la exprimarea faptului că moderarea este ceva făcut din pasiune pentru promovare discurs constructiv fără a permite conținut dăunător, mai degrabă decât din orice dorință de a controla sau asupri utilizatorii. Acest model este provocator la scară, deși diferite platforme îl fac să funcționeze în moduri diferite.
Parler a revenit online după ajustarea politicii sale de moderare pentru a se conforma politicilor terților. Au un fel de sistem de juriu comunitar care mai mult sau mai puțin intră în joc doar după ce a fost deja raportată o postare potențial problematică. Prioritizarea rapoartelor utilizatorilor este o altă modalitate prin care Parler ajută la ușurarea sarcinii moderatorilor săi.
4. Moderatorii trebuie să urmeze o linie dinamică
Moderatorii de conținut își desfășoară activitatea și în ceea ce se poate simți ca o zonă gri morală. Chiar și platformele cu o viziune mai liberă a moderației au reguli împotriva conținutului potențial dăunător sau violent. Unele postări sunt în mod evident dăunătoare sau violente, în timp ce altele pot părea dăunătoare sau periculoase pentru unii utilizatori (sau moderatori), dar nu pentru alții.
Multe platforme au și reguli împotriva altor activități, cum ar fi vânzarea de produse sau servicii. Aceasta poate fi o zonă și mai dificil de navigat, în special având în vedere dimensiunea și domeniul de aplicare a unor site-uri.
Considera ce fac moderatorii comunității Reddit. Ori de câte ori utilizatorii se alătură unei noi comunități, li se trimit imediat regulile pentru acea comunitate. Aceste reguli sunt, de asemenea, postate pe partea laterală a fiecărei pagini de comunitate. Acest lucru permite fiecărei comunități să aibă un subset de reguli adaptate pentru ea, mai degrabă decât reguli generale pentru întregul site.
Ideea subreddit-urilor ajută, de asemenea, Reddit să folosească moderatorii comunității la scară. Moderatorii au sarcina de a-și modera subreddit-ul, mai degrabă decât de a încerca să patruleze întregul site.
În cele din urmă, rețelele sociale se mișcă foarte repede. Când auziți despre o postare problematică, s-ar putea să fie bine după ce afișul original a dat jos. În cazul în care postarea nu a fost raportată în timp ce a fost live, a răspunde la ea după fapt poate fi dificil.
Într-un caz din 2015, o postare pe site-ul de socializare YikYak a fost raportată poliției folosind o versiune modificată a postării originale, care fusese deja eliminată. Ceea ce ar fi putut fi rezolvat intern de moderatorii de conținut online a devenit o dramă juridică prelungită care a supărat o întreagă comunitate.
Multe site-uri de social media, inclusiv Facebook, au politici pentru păstrarea postărilor suspecte în cazul în care trebuie să fie referiți în situații în curs de dezvoltare, inclusiv de către organele de drept.
Dar funcții precum transmisia în direct înseamnă că conținutul crește pe măsură ce se întâmplă, algoritmi care îi pot pierde până nu este prea târziu.
Aruncă o monedă moderatorului tău
Dacă vezi ceva online care te îngrijorează, mergi prin canalele furnizate pentru a-l raporta. Încercați să evitați să vă supărați sau să vă suspectați, deoarece moderarea rețelelor sociale este dificilă. Același lucru este valabil dacă dvs. sau o postare sunt raportate. Este probabil o mișcare bine intenționată de a menține utilizatorii de rețele sociale în siguranță.