Politikere vil have ny lovgivning, men drabsvideo vil alligevel kunne uploades igen og igen

Politikere vil have ny teknologi, men den er ekstremt nem at snyde, fortæller eksperter.

24-årige Louisa Vesterager Jespersen og hendes veninde, den 28-årige Maren Ueland, blev dræbt i Marokko 17. december. (Foto: Mads Claus Rasmussen © Ritzau Scanpix)

Siden 24-årige Louisa Vesterager Jespersen i 2018 blev dræbt af terrorister i Marokko, er hendes mor, Helle Vesterager Jespersen, blevet tvunget til at gennemleve en mors værste mareridt igen og igen.

Det fik Dansk Folkeparti, SF og landets erhvervsminister til at kræve, at Facebook ikke bare bliver bedre til at fjerne ulovligt indhold, når det bliver lagt op, men også udstyrer videoer som Louisa Vesterager Jespersens drabsvideo med et såkaldt vandmærke eller brændemærke, som forhindrer, at den bliver uploadet på Facebook igen.

En strategi, der kaldes 'notice and stay down'.

Konkret betyder det, at filer med ulovligt indhold får et digitalt vandmærke, som gør, at en robot automatisk sørger for, at indholdet slet ikke kommer på Facebook, frem for at en menneskelig moderator skal fjerne videoen, efter den er blevet delt på platformen.

Eksperter dumper teknologi

Men stort set alle kan omgå teknologien, hvis man ændrer en lille smule i den fil, man vil uploade, og den er altså ikke noget effektivt værn mod, at drabsvideoen bliver delt, lyder vurderingen fra to eksperter.

- Det er tragisk, og vi hører tit "der er nogle voldsomme videoer derude. Kan vi stoppe dem fra at blive delt?", og svaret er desværre "nej".

- Det er megasvært at lave det her på en måde, så det fungerer. Du kan for eksempel snyde de her systemer ved at ændre farven på et par enkelte pixels, dreje billedet et par grader eller zoome lidt ind eller ud, siger Claudio Orlandi, der er lektor hos krypterings- og sikkerhedsgruppen ved Aarhus Universitet.

De fire marokkanske mænd, som er dømt som hovedmænd i drabet på danske Louisa Vesterager Jespersen og norske Maren Ueland i Marokko, blev i 2019 dømt til døden. (Foto: STRINGER © Ritzau Scanpix)

Det forudsætter, at Facebook overhovedet tager et filter i brug, der kan genkende billeder.

- De lavpraktiske filtre er baseret på en matematisk sum, der er en udregning af alt indhold i en fil. Så snart der bliver ændret et lille 0- eller 1-tal i en fil, så vil de lavpraktiske filtre ikke kunne fange den, fortæller Anders Kusk, der er sikkerhedsrådgiver hos firmaet Improsec og tidligere har arbejdet som it-efterforsker hos politiet. Han ser ikke notice and stay down-strategien som en holdbar løsning.

- Notice and stay down er knopskydningen. Man kan tage dem ned, men der kan ændres i filerne, og så er de oppe igen dagen efter.

Erhvervsminister: Mærkeligt, at Facebook ikke kan udvikle magisk knap

Hos Facebooks politiske chef i Norden, Martin Ruby, undrer man sig også over udmeldingen fra politikerne.

- Det forslag er jeg stødt på før. Men jeg tror, at det måske bygger på en misforståelse omkring, hvad der er teknologisk muligt. For der findes jo ikke en magisk knap i dag, du kan trykke på, der kan fjerne alting, sagde han til DR Nyheder i går.

Erhvervsminister Simon Kollerup (S) lancerede i 2021 ny lovgivning, der kommer til at stille en række skærpede krav til sociale medier. Herunder krav om, hvor hurtigt ulovligt materiale skal fjernes. (Foto: Martin Sylvest © Ritzau Scanpix)

Det undrer dog erhvervsminister Simon Kollerup, at det fortsat er så nemt at snyde vandmærketeknologien.

- Jeg ved godt, at man her til morgen har sagt, at man ikke har nogen magisk knap, og jeg kan simpelthen ikke få ind i mit hoved, at Facebook ikke kan lave den knap, siger han.

Det lyder, som om at du ikke rigtig stoler på det, som Facebook siger?

- Jeg har jo ikke grundlag for at stole på andet. Jeg synes bare, det er underligt, hvis Facebook skal give fortabt over for nogle tvivlsomme terrorister i Marokko.

- Vi er nødt til at have så hårde regler, der beskytter så godt, og som har så stor tilskyndelse til at få fundet de "magiske knapper", som åbenbart ikke findes i dag, siger Simon Kollerup.

Til spørgsmålet om, hvorfor man ikke fra Facebooks side ikke har brugt flere ressourcer på at udvikle teknologien, der altså skal udgøre "den magiske knap", lyder det fra Claudio Orlandi:

- Det må du jo spørge dem om, men vi kan generelt se, at på områderne brugerrettigheder og privatliv, så skal de store tech-virksomheder skubbes udefra, siger han.

Facebook: Vi kan ikke trylle

Martin Ruby gentager i dag sin pointe om, at man ikke teknisk kan løfte opgaven.

- Udviklingen går fremad, og vi bliver bedre og bedre til det, men teknologien er der ikke endnu.

Men Facebook er en kæmpe, international virksomhed med rigtig mange ressourcer. Hvorfor har man ikke udviklet det her noget før?

- Vi har nok i omegnen af 15.000 ingeniører, og de har ikke været i stand til at gøre det endnu. Teknologien findes simpelthen ikke i dag, så selvom vi meget gerne vil, så kan ingen deværre i dag garantere, at det ikke kan ske igen, siger Martin Ruby.

Facebooks politiske chef i Norden, Martin Ruby, er ærgerlig over, at tech-giganten ikke har formået at fjerne flere opslag med drabsvideoen.

Har Facebook, der har så mange midler, så gjort sit arbejde godt nok?

- Facebook og de andre sociale medier er kæmpestore virksomheder, så det er ikke et spørgsmål om penge. Men vi kan ikke trylle teknologiske fremskridt frem. Det kan man heller ikke på sundhedsområdet eller i forskning. Der er mange ting, der skal falde på plads, siger Martin Ruby.

Han undrer sig over, at Simon Kollerup er klar til at lave hårde sanktioner og udskrive bøder, når teknologien ikke er på plads til at fjerne indholdet.

- Vi arbejder benhårdt for at bekæmpe det her, for det er gift for os at have liggende. Men det er mærkeligt at lave lovgivning, der kræver noget, der er teknisk umuligt i dag. Det svarer til at give bilfabrikanter sanktioner, fordi deres biler ikke kan køre helt uden drivmidler, siger han.

Retsordfører: 'Vi kan ikke bede om noget, der ikke er teknisk muligt'

Facebooks politikchef for terrorbekæmpelse, Dina Hussein, blev under en høring på Christiansborg 10. november 2021 spurgt, om det var muligt for Facebook at blokere videoer med terrorrelateret indhold.

Her var svaret ja, og det er det, man hos SF's retsordfører, Karina Lorentzen, har lagt sig opad, når man ønsker den såkaldte notice and stay down-strategi

- Vi havde fået at vide fra Facebook selv, at det havde de teknologien til, men det kan jeg så forstå, at de nu har trukket lidt i land igen, og det er klart, at vi ikke kan bede om noget, der ikke er teknisk muligt.

Man hører af og til, at jer folkevalgte ikke altid er helt skarpe på de tekniske emner, og at det nogle gange kan spænde ben for lovgivningen. Er det her et eksempel på det?

- Ej, det ved jeg ikke, om det er. Det er klart, at vi ikke har forudsætning for at vurdere, hvordan man teknisk gør det her, men hvis der står en på en konference og siger, at man har teknologien til det her, så tror vi på det.

Retsordfører i Dansk Folkeparti Peter Skaarup mener, som Simon Kollerup, at det er meget underligt, at Facebook ikke får udviklet teknologien.

- Mon ikke det er til for dem at få udviklet det. De tjener trods alt gode penge på deres virksomhed, siger han.

DR Nyheder kunne også afdække, at der var ti tilfælde, hvor der er sket anmeldelse af videoen eller billeder fra den, som Facebook ikke har fjernet. I ni af tilfældene er materialet sendt til Helle Vesterager Jespersen og hendes datter eller delt på deres facebookvæg.

FacebookTwitter