Internettets skraldemænd arbejder i det skjulte

Det kan være psykisk hårdt at sørge for, at flertallet af brugerne på sociale medier ikke oplever halshugninger, porno eller hadefulde kommentarer.

En hær af arbejdere holder nettet rent - men de færreste brugere tænker over det i hverdagen. (Foto: Steven Depolo © Steven Depolo)

Daglige doser af vold, mishandling og had har store konsekvenser for nettets “rengøringsfolk” - indholds-moderatorer, der typisk arbejder for netmedier eller sociale netværk som Facebook, YouTube eller Twitter.

De sørger for at de fleste af os sjældent ufrivilligt bliver udsat for videoer eller billeder af halshugninger, voldsporno, dyremishandling og andet, der kan overskride almindelige grænser.

Visse kilder vurderer, at der sammenlagt er over 100.000 mennesker verden over, som arbejder med at se og evt. fjerne anstødeligt indhold på sociale medier, i mobilapps og andre nettjenester.

Psykiske konsekvenser

Det er på mange måder en god service at der er folk som vil tage det hårde arbejde, men det kan være hårdt for psyken at se den slags materiale hver dag.

Samtidig arbejder moderatorerne ofte mere eller mindre skjult, og deres behov for hjælp risikerer at blive glemt.

Det værste er, når de bliver immune og ligeglade...

Sarah t. roberts

Det mener i hvert fald lektor Sarah T. Roberts fra University of Western Ontario i Canada.

Hun har i flere år beskæftiget sig med det hun kalder ‘commercial content moderation’ (CCM), altså sortering, vurdering og eventuelt fjernelse af potentielt anstødeligt indhold på sites som Facebook, Google og Snapchat.

- Nogle arbejder hos firmaet selv, men oftest sidder de i eksterne bureauer, eller er ligefrem såkaldte ‘klik-arbejdere’, der bliver betalt småbeløb for hvert billede eller hver video, de fjerner, fortæller hun.

Det store, amerikanske firma “MegaTech”

Det er ikke en branche, der er præget af åbenhed. Men Sarah Roberts har haft held til at lave et forskningsprojekt fra 2011 og et par år frem, hvor hun fik adgang til at tale med de digitale indholds-tjekkere fra et stort, amerikansk firma.

Hun har dog ikke tilladelse til at fortælle hvilket firma, så derfor kalder hun det MegaTech.

MegaTech har udviklet sine egne værktøjer, som moderatorerne bruger for at gennemse og evt. fjerne det anstødelige indhold.

Når brugerne anmelder indhold som anstødeligt, ryger det ind i en fælles kø, så moderatorerne kan se det igennem og vurdere om det skal fjernes.

MegaTechs værktøj er lavet, så arbejderne fx kan slippe for at se hele videoer, men “nøjes med” at se still-billeder eller høre lydsiden. Begge dele kan dog være rigeligt slemt, siger de.

“Vi er professionelle, og vi kan klare det værste”

Sarah Roberts har talt med repræsentanter fra hele spektret, men understreger at det altså kun er enkeltpersoner.

Alligevel var der en række opfattelser og oplevelser, der gik igen hos de fleste, siger hun.

Blandt andet er mange faktisk ganske stolte over deres arbejde, og de betragter sig selv som en slags beskyttere af den brede offentlighed.

- De fortalte mig, at jeg skulle være glad for at de tog sig af opgaven, fordi de følte at de kunne håndtere det meget bedre end mig, siger Sarah Roberts.

Impotens, druk og depression

Gået lidt tættere på klingen indrømmede mange dog også overfor Sarah Roberts, at der er en bagside af medaljen.

Syndfloden af ondskab og vold har naturligt nok konsekvenser, også selvom arbejderne betragter sig selv som professionelle og forsøger at holde tingene på afstand.

Nogle fortalte, at de efter at have set og fjernet benhård porno hele dagen i ugevis ikke længere kunne have sex med deres partnere, og mange andre var begyndt at drikke eller trøstespise, eller udviklede depressioner og angst.

- Men næsten endnu værre var det, når de bare blev ligeglade og ikke længere blev påvirket af selv det værste materiale, siger Sarah Roberts.

De arbejder i det skjulte

Som om det ikke er slemt nok, så er der ikke engang rigtig nogen de kan tale med om det, fortæller Sarah.

Det er et gammelt problem, og der er ingen nemme løsninger.

Sarah t. roberts

Nogle gange fordi arbejderne simpelthen er kontraktligt forpligtet til at holde deres opgaver og oplevelser hemmelige, andre gange fordi de bare ikke har lyst til at dele alt det frygtelige med familie eller venner.

- De følte, at samtalen bare blev helt stille og pinlig, hvis de forsøgte at tale med andre om det, siger Sarah Roberts.

Ofte vil man ikke engang tale med kollegerne om problemerne, selvom de måske er de eneste der rigtig kan forstå dem - fordi man ikke har lyst til at vade i alle ubehagelighederne også efter fyraften - og så tager man sine oplevelser med sig hjem, helt alene.

Det kan med andre ord være en meget isoleret oplevelse - både for den enkelte og for hele branchen, fordi så få mennesker i hverdagen overhovedet tænker på, at der er folk der renser deres nyhedsfeed eller videotjenester for mord og mishandling og had.

Der er ingen nemme løsninger

Men hvad kan man så gøre ved det, kan man spørge?

For det ER en kompleks affære, indrømmer Sarah Roberts, der i første omgang håber at være med til at skabe opmærksomhed om indholdsmoderatorerne og deres oplevelser, siger hun.

- Det er de færreste der tænker over, at der foregår en filtrering af deres indhold i sociale medier, og det vil jeg gerne sætte fokus på.

Desværre er det næppe noget, der bliver bedre lige de næste par år.

Det er svært at forestille sig, at alt det grimme og alt det onde går væk imorgen - for slet ikke at tale om trangen til at dele det i apps og tjenester, der bliver stadig nemmere at bruge, og får stadigt større publikum.

- Sociologer og psykologer har i mange år forsøgt at finde ud af, hvorfor nogle mennesker har lyst til at lave og dele indhold med vold, mishandling, ydmygelser og had, men der er ingen nemme svar, slutter Sarah Roberts.

Nyhedsbrev TAG DR.DK VIDEN MED DIG

Få seneste nyt om tech og videnskabens verden hver fredag

Vis alle nyhedsbreve