Det hemmelige livet til moderatorer i sosiale medier

Det er mye innhold som anses som for voldelig, seksuelt, krenkende eller på annen måte for å bli vist på sosiale medier. TikTok, Instagram, Facebook, Twitter/X, alle modererer de innholdet sitt i varierende grad, men hvis du trodde det var en stor datamaskin som sto bak det hele, bør du kanskje tro om igjen.

Det er ekte mennesker som går gjennom innholdet som lastes opp på disse nettstedene, og sørger for at selv om vi kanskje aldri får se grusomme bilder, blir de eksponert for dem på en konstant, daglig basis. BBC har snakket med den Nairobi-baserte moderatoren Mojez om hvordan det kan påvirke livet til en moderator.

"Hvis du tar telefonen din og går til TikTok, vil du se mange aktiviteter, dans, du vet, glade ting," sa han. "Men i bakgrunnen modererte jeg personlig hundrevis av forferdelige og traumatiserende videoer. Jeg tok det på meg selv. Jeg lot min mentale helse ta støyten, slik at brukerne generelt kan fortsette med sine aktiviteter på plattformen."

Selv om det finnes moderatorer over hele verden, er en stor del av dem basert i Øst-Afrika, og mange moderatorer hevder at arbeidet har ødelagt deres mentale helse. Noen har forlatt bransjen helt, mens andre har gått sammen og dannet en fagforening.

AI-modeller er på trappene for å utføre denne modereringen, men de må læres opp av mennesker, som derfor fortsatt vil måtte se grusomt og krenkende innhold. Inntil et slikt verktøy kan moderere nettstedene perfekt, vil det være mennesker i frontlinjen.