Instagram er igen kommet under hård kritik for ikke at fjerne billeder af skadeligt indhold hurtigt nok.

I sidste uge rasede debatten, da den danske blogger Fie Laursen lagde et selvmordsbrev på Instagram. Nu er det billederne af drabet på en 17-årig pige fra USA, der er omdrejningspunktet i en ny sag om Instagram og sociale mediers ansvar i forhold til det indhold, der postes.

14. juli blev amerikanske Bianca Devins myrdet; angiveligt af en 21-årig mandlig bekendt. Ifølge myndighederne delte manden efterfølgende et billede af den dræbte Devins på flere sociale medier - herunder Instagram. Det skriver blandt andet BBC, The Guardian og The New York Times.

Ifølge mediet Mashable er billedet af Devins' lig efterfølgende lagt op, taget ned og lagt op igen af hundredvis af anonyme Instagram-brugere - mens det har taget flere timer, før billedtjenesten selv har gjort noget ved det.

Det bliver kritiseret Troels Runge, der er ph.d. i digital kommunikation:

- Det er åbenlyst, at man er for langsomme og i for stor grad forlader sig på automatiseret genkendelse af voldeligt indhold, siger han.

Brugerne er vrede på Instagram

Efter billedet af Bianca Devins' lig havde ligget online i flere timer uden at være blevet fjernet af Instagram, valgte flere af billedtjenestens brugere dog at tage sagen i egen hånd.

Flere private Instagram-konti har bedt billedtjenestens brugere om at lægge positive billeder op under hashtags associeret med Bianca Devins - der var en såkaldt e-girl, der skrev om videospil og emo-kultur på sociale medier - simpelthen i et forsøg på at fjerne opmærksomheden fra de billeder, der ligger online af Devins' lig.

Indtil videre kan man blandt andet finde billeder af en lyserød Playstation-controller eller en bamse under hashtags som #escty og #ripbianca.

Devins' følgere har også skabt nye konti i Devins' ære. Én af de nye konti, kaldet bia.nnccaa, er blevet skabt af en teenager, fordi: 'Instagram ikke gør det godt nok selv', skriver Mashable.

- Jeg er vred over, at Instagram ikke har håndteret det her bedre, skriver brugeren bag bia.nnccaa-kontoen i en direkte besked til Mashable.

- Jeg ved godt, det er umuligt at fjerne hvert enkelt billede, men helt ærligt! En 13-årig pige burde ikke være den eneste, der forsøger at fjerne de billeder, syge mennesker lægger op.

Rolling Stone skriver, at flere brugere har indrapporteret billeder af Devins' lig til Instagram, blot for at få et svar retur om, at det indrapporterede billede ikke er i strid med platformens politikker.

Instagrams talsperson Stephanie Otway skriver til Mashable i en e-mail, at man blokerer hashtags associeret med billedet af Devins' lig og desuden bruger såkaldt 'image hashing' i sagen. Det vil sige, at man via teknologi forsøger at finde frem til og derefter slette billeder, der visuelt ligner billedet af Devins' lig.

Dr.dk har - uden held - forsøgt at få en udtalelse fra Instagram.

'Der er noget, der ikke virker'

Ph.d. i digital kommunikation Troels Runge mener, at Bianca Devins-sagen 'er udtryk for et større problem':

- Hos virksomheder som Instagram hersker der en naiv tro på, at kunstig intelligens evner at fange alt det, der ikke skal være på sociale medier.

- Men du kan aldrig underkende den menneskelige komponent i forhold til at sikre, at det skadelige indhold bliver begrænset. Det har måske været et konkret mandskabsproblem i dette her tilfælde; men det er også et udtryk for en forkert filosofi, hvor de sociale medier i al for høj grad forlader sig på kunstig intelligens.

I sidste uge fik Instagram også kritik her til lands, da brugerne på Instagram i hele to døgn kunne læse et selvmordsbrev på Fie Laursens Instagram-profil, inden det blev taget ned.

Efterfølgende er børne- og undervisningsminister Pernille Rosenkrantz Theil (S) gået ind i sagen, og både Livslinien og Børns Vilkår har rettet hård kritik af Instagram for at gøre for lidt for at fjerne skadeligt indhold.

'Der er huller i sikkerheden'

Troels Runges kritik af Instagram bliver bakket op af Jeppe Reiter Kjøgx, der er chef for sociale medier hos kommunikationsbureauet Geelmuyden Kiese.

- Sagen vidner om, at der er noget, der ikke virker - og slet ikke virker hurtigt nok. Det er et kæmpe problem for Instagram, når de ikke lykkes med at fange de her ting.

Kjøgx understreger dog, at Facebook, der ejer Instagram, tager problematikken ekstremt seriøst.

- De dedikerer enormt mange ressourcer til området. Men selv om de har i omegnen af 30.000 personer ansat til at håndtere sikkerhed på platformene, og 15.000 til at screene det indhold der bliver lagt op, for netop at undgå denne her slags sager, så sker det alligevel, siger han og uddyber:

- Der er stadig huller i sikkerheden og algoritmerne, og det er et forretningskritisk problem for Facebook, som lovgiverne i de forskellige lande er efter dem omkring.

'Mildest talt mærkeligt'

Troels Runge nævner i den forbindelse Australien, hvor der er blevet strammet op efter terrorangrebet i byen Christchurch i nabolandet New Zealand.

- I kølvandet på Christchurch-massakren er der kommet lovgivning i Australien, som er ekstremt hård for de her platforme, hvis de ikke gør noget for at begrænse skadeligt indhold. Så der bliver gjort noget, selv om det formentlig ikke er særlig effektivt, siger Rune og pointerer samtidig det paradoksale i, at Instagram er anderledes effektive, når det drejer sig om billeder af nøgenhed:

- Instagram er utroligt hurtige, når det drejer sig om nøgenhed og andet indhold, de finder anstødeligt. De er til gengæld meget langsomme i andre sager - som for eksempel sagen om Bianca Devins. Det er mildest talt mærkeligt, at de er så lang tid om at reagere.

Jeppe Reiter Kjøgx tror, en mulig løsning skal findes i, at man bliver ved med at 'allokere ressourcer til at udvikle sikkerheden' hos de store virksomheder, der driver sociale medier som Facebook og Instagram.

- De skal lave mere fintmaskede algoritmer og udvikle teknologien, men samtidig allokere flere menneskelige ressourcer. Der skal nogle menneskelige øjne på tidligere i processen, for teknologien lykkes ikke med at løse opgaven i dag.