Voldeligt og ekstremistisk YouTube-indhold skal fjernes af 10.000 mand

Langt flere folk skal fremover holde øje med stødende indhold. Tiltaget sker efter flere store annoncører har trukket deres reklamer fra videotjenesten.

YouTube er kommet under voldsomt pres, efter flere markante annoncører har fjernet deres annoncer. Nu vil de prøve at løse det bagvedliggende problem. (Foto: DADO RUVIC © Scanpix)

YouTube opjusterer fra næste år indsatsen mod voldeligt og ekstremistisk indhold markant.

Ifølge videotjenestens direktør vil man ansætte en lang række nye folk, så der i 2018 vil være over 10.000 personer på tværs af Googles services, der arbejder med at fjerne indhold, som strider mod firmaets regler.

Nogle af de nye kræfter skal desuden bruges til at styrke den computer-algoritme, der allerede nu flager videoer og kommentarer, der potentielt er for grove.

Det oplyser YouTubes direktør, Susan Wojcicki, i en pressemeddelelse.

Pædofilt indhold får annoncørerne til at forsvinde

Det nye tiltag sker mindre end to uger efter, at flere af verdens største firmaer valgte at trække deres reklamekroner fra YouTube. Grunden var, at deres annoncer var blevet placeret i forbindelse med stærkt stødende indhold — heriblandt videoer med børn, hvor kommentarsporet var af seksuel og pædofil karakter.

Blandt de firmaer, der har valgt at fjerne deres reklamer fra YouTube, er Mars, Adidas og Lidl.

En kommentar fra den tyske supermarkedsgigant opridser meget tydeligt, hvorfor YouTube nu øger deres fokus på det problematiske materiale:

- Det er helt uacceptabelt, at dette indhold er tilgængeligt, og det står derfor klart, at de strenge tiltag, Google har forsikret os var på plads, og som skal håndtere det stødende indhold, er ineffektive. Vi har derfor suspenderet al vores YouTube-annoncering med øjeblikkelig virkning, lød det fra Lidl i slutningen af november.

Fokus rykkes fra brugere til annoncører

YouTube forsøgte ellers, et par dage inden flere af de markante annoncører trak sig, at afværge situationen da de offentliggjorde “fem måder vi forstærker vores tilgang til at beskytte familier på YouTube”.

Men tiltagene rettet mod brugerne var altså ikke nok til at holde annoncørernes vrede fra døren.

Annoncørerne er til gengæld meget direkte adresseret i den nye pressemeddelelse, der nu er udsendt af YouTube-direktøren Susan Wojcicki.

- Vi vil give annoncører ro i sindet, og sikre at deres reklamer kun kører side om side med indhold, der reflekterer deres brands’ værdier. Ligeså vil vi forsikre de indholdsproducerende, at de ikke mister indtægter som følge af denne problematik, skriver hun.

Kloge computere fanger 98 procent af det stødende indhold

Selvom der bliver bragt flere hænder og øjne ind, så er det en helt anden faktor, der bliver afgørende for YouTubes succes. Nemlig machine learning — en af de teknologier, der ofte bliver kaldt kunstig intelligens.

Computere er nemlig blevet fantastisk gode til at genkende bestemte typer indhold, heriblandt billeder og tekst. Jo mere indhold computerne ser (og jo flere gange de får at vide, om de har ret) jo bedre bliver de til at genkende, det de leder efter.

Ifølge YouTube-direktøren har man siden juni brugt teknologien — og det med stor succes.

- Siden vi i juni startede med at bruge machine learning til at flage voldeligt og ekstremistisk indhold, har teknologien gennemset og flaget indhold, som det ville have taget 180.000 mennesker 40 timers arbejde om ugen at vurdere, skriver hun.

ifølge Susan Wojcicki er hele 98 procent af de videoer og kommentarer, YouTube fjerner, blevet fundet af en computer, hvorefter et menneske vurderer, om maskinen har ret, inden indholdet slettes.