Facebook lover at slette deepfake-indhold ved det amerikanske valg

Facebook ændrer reglerne for videoer og billeder, der manipuleres og redigeres for at vildlede brugerne.

Ved at sætte dette grønne net over ansigtet på en skuespiller, kan man i et program skifte hendes ansigt ud med en andens og således lave en deepfake-video. (Foto: Reuters Tv © Scanpix)

Brugerne deler millioner af videoer og billeder med hinanden hver dag på Facebook. Men platformen skærper nu retningslinjerne for, hvad den tillader, at brugerne deler. For det er ikke alt, der bliver delt på de sociale medier, der er sandt - og det gælder også billeder og videoer.

Se for eksempel godt på dette tweet:

- Verden er et bedre sted uden disse personer ved magten, skriver Paul Gosar, medlem af Kongressen for Republikanerne.

På billedet ses USA´s tidligere præsident Barack Obama, der trykker hånd med Irans præsident, Hassan Rohani.

Det eneste problem er, at de to aldrig har mødt hinanden.

Billedet er forfalsket, et såkaldt 'deepfake'.

Lars Konzack, lektor ved informationsstudier, Københavns Universitet, forklarer:

- Deepfake er dybest set en falsk video eller et billede, hvor man ved hjælp af it-billedmanipulation får det til at fremstå som om, nogle personer er i gang med at gøre eller sige noget, som ikke passer. Vi har en konvention, der betyder, at video og fotografi er objektiv dokumentation. Det er derfor, at det er så let at blive snydt af de her videoer, siger han.

Facebook klar med nye regler

Det er sådan noget indhold, som Facebook ikke vil se på sin platform - og særligt ikke under valgkampen i USA, der for alvor starter om få uger. I en pressemeddelelse skriver Facebook, at man vil fjerne indhold, der bevidst er tilvirket eller manipuleret for at vildlede brugerne.

Facebook skriver, at man i samarbejde med en lang række eksperter, faktatjekkere og forbedret teknologi vil forsøge at fjerne indhold, som:

  • Er redigeret eller syntetiseret - ud over justeringer af skarphed og kvalitet - på måder, der ikke er åbenbare for en gennemsnitlig person og sandsynligvis vil vildlede nogen til at tro, at en person siger noget i en video, som de ikke faktisk har sagt.

  • Er et produkt af kunstig intelligens eller maskinlæring, der fusionerer, erstatter eller overlejrer indhold ind på en video, som fejlagtigt får den til at fremstå autentisk.

Facebook understreger, at de nye retningslinjer ikke gælder satire.

'Brug din sunde fornuft'

Storbritanniens premierminister, Boris Johnson, opfordrede forud for parlamentsvalget i december alle briter til at stemme på sin konkurrent. Se dokumentation her:

Denne video er naturligvis en deepfake. Den er fremstillet af tænketanken Future Advocacy.

Lars Konzack forklarer, at computerteknologi har gjort det muligt for menigmand at lave deepfake-videoer og billeder og dele dem med andre. Han mødte selv et særdeles vellignende deepfake-billede af Barack, der kysser Hillary Clinton i sit Facebook-feed forleden.

Og det er et problem for en platform som Facebook, hvor rigtig meget information bliver uploadet hele tiden. De har ikke mulighed for at have folk siddende, der skal tjekke alt.

- Facebook skal lave nogle algoritmer, der kan trække på en database af verificerede billeder og videoer, som kan opdage falsk indhold. Det er ikke umuligt, siger Lars Konzack.

Som helt almindelig Facebook-bruger er det vigtigt, at man bruger sin sunde fornuft og ikke er alt for godtroende.

- Hvis noget er for godt til at være sandt eller stemmer alt for godt overens med ens egen virkelighedsopfattelse, så kan det godt være, at man skal være ekstra kritisk. Flere forsøg har vist, at det er særligt falske videoer, hvis indhold man er enig med, som man er mest tilbøjelig til at tro på, afslutter Lars Konzack.