Când vine vorba de rețelele sociale, știm cu toții că, pe lângă numeroasele beneficii pe care le oferă în realizarea de conexiuni mai ușor, pot exista și anumite riscuri și pericole care vin odată cu interacțiunea online, în special pentru tineri. Din fericire, există aplicații care sunt proactive și încearcă să limiteze aceste daune care pot veni asupra tinerilor prin implementarea tehnologiilor adecvate de moderare.
Yubo, aplicația de descoperire socială live care este cea mai folosită de generația Z, a anunțat că moderarea audio în flux live tehnologia se extinde pe piețele sale cele mai mari, și anume Statele Unite, Regatul Unit, Australia și Canada.
Acest lucru vine după câteva luni de testare a funcției în unele zone din Statele Unite, deoarece compania a învățat cum să rezolve problemele care apar cu analiza audio în timp real.
Importanța moderării conținutului
Moderarea conținutului online este o muncă dificilă. Am văzut asta cu Facebook și Twitter și Instagram și așa mai departe. Între insulte, comentarii pline de ură sau chiar uneori violență sau autovătămare, moderarea este extrem de importantă pentru a menține aceste platforme în siguranță și utilizatorii lor protejați. Există ceva în a te putea ascunde în spatele presupusului anonimat oferit de internet care poate scoate la iveală ce este mai rău la unii oameni.
Ei bine, Yubo continuă să arate că face tot ce poate pentru a preveni acest lucru, mai ales că baza sa de utilizatori este mult mai tânără. Potrivit lui Yubo, 99% din baza lor de utilizatori este generația Z cu vârsta cuprinsă între 13 și 25 de ani. Deși hărțuirea online nu este drăguță de îndurat de nimeni, ea poate fi deosebit de dăunătoare pentru adolescenți.
Tehnologia de moderare a imaginilor și a videoclipurilor există de ceva vreme și a fost implementată cu diferite etape de succes. Moderare audio, cu toate acestea, a rămas o provocare majoră, în special cu streamurile live. Indiferent dacă este un stream live realizat în timp ce mergi pe stradă sau unul în care cineva joacă un joc video, nu contează cu adevărat.
Cum funcționează moderarea audio Yubo
Începând din mai 2022, Yubo a început o fază de probă pentru tehnologia sa de moderare audio în diferite zone din Statele Unite. Acum, următoarea fază include majoritatea regiunilor vorbitoare de limba engleză în care Yubo are o bază mare de utilizatori, pentru a permite companiei să adună o perspectivă mai bună asupra noului lor instrument de siguranță.
Deși încă nouă, aceasta este o tehnologie care ar putea ajunge să fie utilizată pe scară largă pentru a detecta violența sau autovătămarea în viitor.
Yubo nu face totul singur, ci mai degrabă în parteneriat cu Hive. Hive, dacă nu ați auzit de ele, este o companie care creează și oferă API-uri de moderare a conținutului pentru a procesa imagini și videoclipuri aproape în timp real.
Tehnologia pe care a implementat-o Yubo funcționează prin înregistrarea și transcrierea fragmentelor audio de 10 secunde în fluxuri live a 10 sau mai multe persoane. Textul este analizat imediat de inteligența artificială pentru a detecta orice cuvinte sau expresii care le încalcă pe cele ale aplicației Regulile comunității.
Stai, nu se oprește aici. În timp ce inteligența artificială poate fi excelentă în detectarea unor astfel de lucruri, este încă departe de punctul în care poate face diferența între utilizările problematice reale și semnalele false.
Steaguri false pot fi, de exemplu, melodii care se joacă în fundal sau limbaj jucăuș care nu este greșit.
Deci, aici intră în joc specialiștii în siguranță ai lui Yubo, deoarece sunt aduși să investigheze incidentele semnalate. Oamenii sunt cei care pot determina dacă o situație necesită escaladare sau nu dacă există acțiuni care ar trebui luate împotriva oamenilor care folosesc un limbaj rău, sau chiar dacă este necesar să se aducă forțele de ordine în.
Dacă fluxul live este perfect ok, nicio transcriere nu este revizuită sau păstrată peste limita de 24 de ore, așa că totul rămâne privat; sau la fel de privat precum poate fi un flux live cu peste 10 persoane.
Cu toate acestea, dacă algoritmii detectează amenințări violente, discurs instigator la ură sau autovătămare, de exemplu, transcrierile sunt stocate până la un an. Aceasta este, desigur, o măsură de siguranță pentru companie în cazul în care autoritățile de aplicare a legii necesită informații sau compania în sine are nevoie de detalii pentru investigații interne ulterioare.
Directorul de operațiuni Yubo, Marc-Antoine Durand, vede extinderea moderare audio tehnologia ca element cheie în evoluția siguranței online în întreaga industrie.
„Sunt încă multe progrese de făcut în domeniul detectării vocii, dar suntem mândri că ne-am făcut o cale pentru colegii noștri prin fiind primul care a lansat moderarea audio cu Hive și a ajutat să facă acest instrument mai fiabil și mai eficient prin această încercare”, Durand a spus.
În mod evident, platformele sociale nu doresc hărțuire, discurs la ură și comentarii care incită la violență, deoarece i-ar îndepărta pe alți utilizatori. Implementarea unei astfel de tehnologii de moderare este un instrument excelent pentru a menține utilizatorii în siguranță și, de asemenea, pentru a garanta creșterea și succesul Yubo pe termen lung.
