Google advarer mod at tvinge sociale medier til at fjerne ulovligt indhold

Tech-giganten kræver klare retningslinjer for at undgå ‘massesletning’ på YouTube

Vi skal spørge os selv, om vi hellere vil fjerne for meget end for lidt, siger Googles politiske chef i Danmark. (Foto: DADO RUVIC © Scanpix)

Google er lydhør over for lovgivning, der tvinger virksomheden til at fjerne ulovligt indhold inden for kort tid.

Men det kan presse tech-giganten til at fjerne mere indhold end nødvendigt for at være på den sikre side, mener Googles politiske chef i Danmark, Christine Sørensen.

- For os ville det være allernemmest at tage grønthøsteren frem. Men er det virkelig det, man gerne vil have, en platform skal være?

Flere partier på Christiansborg melder sig i dag klar til at regulere de sociale medier, efter at foreningen Digitalt Ansvar har præsenteret et konkret bud på en lov på området.

De foreslår, at de sociale medier skal tvinges til at fjerne de groveste ulovligheder inden for 24 timer, mens andet ulovligt indhold skal fjernes inden syv dage. Hvis ikke reglerne overholdes, risikerer tech-giganterne store bøder.

Tyskland indførte i 2018 en lov, som Digitalt Ansvars anbefalinger i grove træk svarer til. Her risikerer tech-giganterne bøder på op til 50 millioner euro - cirka 375 millioner kroner.

Christine Sørensen understreger, at det generelt giver god mening med en lov mod ulovligt indhold.

- YouTube har ingen som helst interesse i at have ulovligt indhold på platformen overhovedet. Så snart vi får at vide, at der er noget ulovligt på vores platform, fjerner vi det med det samme.

Men sagen er mere kompliceret, mener hun.

Skal YouTube vurdere, hvad der er ulovligt?

Én ting er børneporno eller drab, hvor både Facebook og Google de seneste år har sat massivt ind på at identificere og slette indholdet. Langt sværere bliver det, når en kunstig intelligens - eller en ægte, levende moderator - skal vurdere, om et opslag er racistisk eller udtryk for chikane

- Det er nemt nok, hvis det er brud på copyright-regler. Der har vi teknologi, der kan afgøre det. Men terror og hadsk tale - hvornår er det egentlig, det er ulovligt, spørger Christine Sørensen.

En lov på området kræver enormt præcise retningslinjer for, hvad der er ulovligt. Ellers overlader man det til tech-giganterne at bedømme, hvor grænsen går:

- I dag har man et politi og den dømmende magt, der afgør, hvad der er ulovligt. Hvornår giver man YouTube den magt? siger Christine Sørensen.

Tech-giganterne fjerner allerede det meste

YouTube, som Google ejer, har allerede mange filtre og kunstig intelligens, der kan sortere en del af ulovlighederne bort.

Også Facebook har de seneste år sat massivt ind mod problemet, forklarer Peter Münster, der er nordisk kommunikationschef i Facebook.

- Vi har investeret milliarder af dollar. Vi kommer op nærheden af 4 milliarder dollar i år på at få udviklet kunstig intelligens, der er i stand til at finde forskellige former for dårligt indhold.

Men både Google og Facebook er allerede i dag langt med at fjerne børne- og hævnporno, som priorititeres højt hos Digitalt Ansvar.

For eksempel finder Facebooks filtre allerede i dag 99,5 procent af det børneporno, der bliver uploadet til platformen, før det bliver rapporteret af brugere.

Langt mindre bliver til gengæld automatisk udpeget, når det gælder indberetninger om mobning og chikane, viser Facebooks tal. Her finder systemerne kun 16,1 procent, inden brugerne rapporterer indholdet.

Omvendte IS-flag

Netop den teknologiske filtrering får endnu større nødvendighed, hvis man skal leve op til forslaget fra Digitalt Ansvar.

Og det kan få uheldige følger, advarer Christine Sørensen.

- Vi bruger jo enormt mange filtre og enormt meget kunstig intelligens til at slå ned på folk, der misbruger andres rettigheder og terror. Men vi skal passe på, hvor mange krav vi stiller til de her filtre. Man kommer hurtigt ned i en meget kraftig grad af filtrering over menneskers ytringer.

Hun nævner, at man på YouTube har forsøgt at få en kunstig intelligens til at scanne videoer for de sorte IS-flag. Men det fik bare oprørsstyrkerne til at vende flaget på hovedet, og så fangede maskinen det ikke.

- Det nemmest overhovedet er at sætte et filter på, hvor man sletter alt, hvor folk siger et bestemt bandlyst ord. Det kan gøres utroligt effektivt. Men det kommer bare til at fjerne meget mere, end vi har lyst til et i demokratisk samfund, siger hun.

Facebook har netop præsenteret en teknologi, der kan genkende billeder og videoer, der er manipuleret med det formål at snyde automatiske filtrering - og har stillet teknologien til rådighed for andre.

(© facebook)

Både Twitter og SnapChat har over for DR Nyheder afvist at kommentere forslaget fra Digitalt Ansvar.