Mišljenje: Je li Metaov sustav regulacije sigurnosti pokvaren?

Gotovo svaki kreator sadržaja ili aktivni menadžer društvenih mreža nedavno se susreo s istim problemom prilikom objavljivanja na Facebooku ili Instagramu: objava ili račun su blokirani, vjerojatno iz pogrešnih razloga.

Ova iritantna situacija samo je dio slagalice kompleksnog problema s Meta-ovim sustavom regulacije sadržaja. Iako Meta čini se da ima mnogo kontrolnih mjera – ponekad apsurdnih – korijen problema ne čini se da je riješen.

Tijekom posljednjih nekoliko mjeseci, Meta je predstavila brojne ažuriranja svojih smjernica za sadržaj i uvela stroža pravila usmjerena na izgradnju zdravijeg online okruženja. Jedna od posljedica je bila da su mnoge tvrtke, izdavači i korisnički računi suspendirani, što je dovelo do stotina pritužbi na forumima, chat platformama i društvenim medijima. Različiti izdavači novosti i brendovi su uklonjeni s Metaovih platformi u određenim regijama ove godine, što je izazvalo zabrinutost među vlasnicima tvrtki, novinarima i stvaraocima sadržaja.

Unatoč nedavnim ažuriranjima Mete, koja ostavljaju dojam strože moderacije i pomnijeg pregleda sadržaja koji se dijeli na njenim platformama, objave povezane s drogama, samoubojstvima, seksualnim uznemiravanjem, zlostavljanjem, govorom mržnje, zloupotrebom i lažnim vijestima i dalje prolaze kroz algoritme, dosežući ranjive zajednice.

Ne mogu a da se ne zapitam: Što se događa s Meta sustavom sigurnosnih propisa?

Računi suspendirani iz pogrešnih razloga

Sve počinje sličnom porukom: “Vaš Meta račun ne prati naša pravila.” Mnogi Facebook i Instagram korisnici bili su suspendirani ili privremeno izbačeni iz svojih računa “zbog nepoštivanja” Meta pravila, čak i kad su vjerovali da jesu.

To je situacija koju smo iskusili na Wizcase. Metaov sustav je označio relevantne stavke kao neprimjerene i natjerao menadžera zajednice da prođe kroz proces žalbe i pruži identifikacijske dokumente izdane od strane vlade.

Stotine korisnika, menadžera zajednica i menadžera računa su se žalile na platformama poput Reddit i drugim forumima, chatovima, i kanalima društvenih medija o sličnim situacijama. U više nesretnih scenarija, korisnici gube svoje račune i ne mogu ništa poduzeti po tom pitanju, a ni ne dobiju objašnjenje.

“Podrška na Facebooku je užasna. Bez obzira koliko puta im sve ispričamo ili objasnimo, jednostavno ne shvaćaju”, rekla je jedna korisnica na Redditu u raspravi o blokiranim računima. “Jednu stvar mogu odmah reći, nećete povratiti svoj račun osim ako niste trošili stotine tisuća dnevno”, dodala je druga.

Ovaj problem, iako se može činiti da pogađa samo kreatore sadržaja, tek je mali dio većeg izazova.

Meta protiv tužbi

Godinama Meta ulaže u moderaciju sadržaja i nove strategije kako bi radila na sigurnijoj platformi za korisnike i zaštitila se od sve većeg broja tužbi – najnovija je od kenijskih moderatora sadržaja, koji trenutno traže 1,6 milijardi dolara odštete za masovna otpuštanja i za nadoknadu za uznemirujući materijal kojem su bili izloženi analizirajući sadržaj za Facebook.

Ova tehnološka tvrtka oslanja se na treće strane kako bi pomogla s regulacijom sadržaja i razvija alate za prepoznavanje kada sadržaj krši pravila platforme. Međutim, ove mjere nisu bile dovoljne i situacija je izmakla kontroli, posebno među maloljetnim korisnicima.

U 2021 Meta je predstavila nove zaštitne značajke, ali to nije spriječilo Senat da prošle godine Instagram i Facebook uvrsti među platforme štetne za djecu. Tehnološki gigant suočio se s zajedničkom tužbom podnesenom od strane 33 države u Sjedinjenim Državama zbog svojeg manipulativnog i štetnog algoritma.

Od siječnja, Meta je podijelila novosti o novim alatima za kontrolu sigurnosti. U lipnju, tvrtka je poboljšala svoj alat protiv zlostavljanja kako bi zaštitila tinejdžere na Instagramu s pretpostavljenom opcijom “Bliski prijatelji” s funkcijom “Ograničenja” tako da samo stvarni prijatelji i obitelj mogu interagirati s objavljenim sadržajem mlađih korisnika.

Prije samo nekoliko dana, tvrtka je najavila nove Teen račune kako bi zaštitila tinejdžere i „uvjerila roditelje da tinejdžeri imaju sigurna iskustva.” Hoće li to biti dovoljno za zaštitu djece? Što je s starijim korisnicima?

Nesigurni ekosustav

Facebook, Instagram i WhatsApp još uvijek su zagađeni štetnim sadržajem koji utječe na korisnike, svih dobnih skupina, profesija i socijalnih skupina, a teško da će se to riješiti u skorije vrijeme.

Studija provedena od strane Centra za borbu protiv digitalne mržnje (CCDH) analizirala je preko 500 milijuna komentara na Instagramu objavljenih na računima 10 ženskih političarki u Sjedinjenim Američkim Državama i otkrila da Meta nije poduzela akciju ili uklonila 93% tih komentara.

Mnogobrojne tužbe protiv Mete doslovno su dokazale da kompanija ima problema sa zaštitom korisnika od štetnog sadržaja, a također je naštetila kreatorima, izdavačima i brandovima nepravednim filtrima i loše implementiranim sigurnosnim alatima.

Naravno, ovo je složeno i duboko pitanje koje bi trebalo temeljito riješiti, ali možda je vrijeme da prihvatimo da Meta nije bila u stanju nositi se s ovom situacijom. Krpanje rupa neće riješiti sustav koji je u osnovi pokvaren. Sada je pravo pitanje: Koliko još korisnika treba biti nepravedno zabranjeno, zavarano ili manipulirano prije nego što se dogodi stvarna promjena?