Ny dansk teknologi kan fange sexisme på internettet: 'Kvinder afholder sig fra at deltage i debatter'

Et hold af forskere på IT-Universitetet har undersøgt sexisme på sociale medier og er kommet med en mulig løsning.

Det kan være et demokratisk problem, hvis grupper i samfundet afholder sig fra at deltage i debatten på grund af tonen, påpeger Institut for Menenskerettigheder. Foto: Colourbox – illustration: Morten Fogde Christensen DR Nyheder (© Copyright: Slava Rutkovski)

De seneste 10 måneder, har et hold af forskere på IT-Universitetet undersøgt en stor bunke af opslag på sociale medier. Det har de gjort for at kategorisere onlinemisogyni - altså kvindehad på nettet.

Faktisk har de undersøgt knap 28.000 danske kommentarer, hvoraf omkring 7.500 af disse karakteriseres som hadefulde.

Og resultatet er, at onlinekvindehad er markant, og at nogle kvinder afholder sig fra at deltage i debatter på nettet.

- De har ikke lyst til at deltage og se de her kommentarer. Og det er immervæk 50 procent af den danske befolkning, der potentielt ikke har lyst til at deltage i det her, siger Nanna Inie, post.doc i datalogi ved ITU, og en af forskerne bag projektet.

Det har ført til, at forskerne bag projektet har lavet en teknologi, der kan fange kommentarer og opslag, som kan være sexistiske.

Det kan være kommentarer under artikler, der deles på facebook, hvor brugere skriver 'Kan I pege på forskning, der viser, at barslen er grunden til at mødrene går glip af forfremmelser?'

Og opslag som: 'Hvis det er en ulempe for kvinder er det samfundets skyld. Hvis det er en ulempe for mænd, er det deres egen skyld. Sexisme trives godt på den feministiske fløj.'

Forskningsholdet bag undersøgelsen hos ITU er Philine Zeinert, Nanna Inie, og Leon Derczynski.

En advarsel til moderatoren

Teknologien er den første af sin slags på dansk, og ifølge ITU den tredje af sin slags på et andet sprog end engelsk.

Og det betyder, at sociale medier som Facebook og Twitter kan fange sexistiske kommentarer på dansk, der tidligere har kunne gå under radaren for moderatorerne.

Så hvis der i en kommentar til et opslag på Facebook bliver skrevet "det er kun taberkvinder, der gør sådan noget," ville det kunne foregå på denne måde, siger Nanna Inie:

- Så kunne facebookmoderatoren få en besked om, at det måske ikke er så super sagt. Og blive spurgt om det noget, der skal gøre noget ved. Uden at teknologien ville udløse et rødt flag eller blokere noget.

Så teknologien i sig selv blokerer ikke brugere og sletter heller ikke kommentarer.

- Det er ikke hensigten, at teknologien skal gå ind og erstatte mennesker. Der skal altid være et menneske in-the-loop, fordi sådan nogle modeller er uperfekte i sig selv. Så det er meningen som et eksisterende oplysningsapparat, siger Nanna Inie.

Hun påpeger, at det skal være en slags oplysningsordning til platformene. En teknologi, der kan gøre dem opmærksomme på, hvad der foregår, og hvor det foregår.

Selve teknologien er frit tilgængelig, og forskerholdet håber nu, at de store techgiganter som Facebook, Youtube og Twitter vil se potentiale i teknologien.

- Vi håber da, de er enormt ivrige efter at gøre det. Vi håber, at de store platforme også har tænkt sig at gøre noget ved det her. For det er et kæmpe problem for vores demokrati.

- Man kan sige, at Facebook ikke før har adresseret sexisme i deres rapporter omkring hatespeechs. Så vi ved ikke, om det er noget, de har lyst til at bruge, siger Nanna Inie.

'Det er vigtigt at finde en balance'

Hos Institut for Menneskerettigheder mener de, at det problematisk, hvis nogen afholder sig fra at deltage i debatten på grund af deres køn. Det siger Morten Emmerik Wøldike, sociolog og leder af Institut for Menneskerettigheders arbejde med kønsligestilling.

- Det, vi kan se, er, at personers køn generer mange hadefulde ytringer i debatten, og disse ytringer er i højere grad rettet mod kvinder end mænd.

Derfor kan en del af løsningen ifølge ham være, at sociale platforme har retningslinjer for god tone i debatter, og at kommentarspor bliver modereret for hadefulde beskeder.

Men hensynet til ytringsfriheden skal hele tiden være tilgodeset.

- Det er vigtigt at finde en balance mellem at moderere debatten for at inkludere alle i at kunne deltage i debatten og samtidig sikre ytringsfriheden, hvor der er plads til, at man kan have forskellige holdninger og være uenige om løsninger og retninger på eksempelvis ligestillingspolitiske spørgsmål, siger Morten Emmerik Wøldike.

Men det er ikke godt for demokratiet, hvis kvinders lyst til at deltage i debatten ødelægges ved, at de får sexistiske og nedladende kommentarer:

- Tonen kan være hård og sexistisk på sociale medier, og det betyder blandt andet, at kvinder trækker sig fra at deltage i debatter og afstår fra at benytte deres ytringsfrihed og deltage i den offentlige samtale, siger Morten Emmerik Wøldike og fortsætter:

- Det viser flere undersøgelser, og det er jo et demokratisk problem, at en stor del af befolkningen afholder sig fra at deltage i debatten.

DR har forsøgt at få en kommentar fra Facebook - og har været i kontakt med Martin Ruby, der er politisk chef for Facebook i Norden og Benelux-landene. Det har ikke været muligt at få en kommentar her til morgen.

Facebook
Twitter