Voksne ingen adgang: Børnemedie bruger kunstig intelligens til at spotte ubudne gæster

Danske platforme lader børn køre med støttehjul, før de rykker ind på andre sociale medier.

Moviestarplanet og Momio har børn som målgruppe og arbejder hårdt på skærme dem mod dårlige oplevelser online. (© DR Nyheder)

To sociale børnemedier filtrerer, analyserer og overvåger på livet løs for at beskytte digitale debutanter mod alt fra grov mobning til seksuelle tilnærmelser fra voksne.

Målet er at skabe trygge onlineverdener, hvor de unge brugere populært sagt kan køre med støttehjul, før de rykker ind på de voksnes platforme som Facebook, Instagram og Snapchat.

Det er en udfordrende opgave, hvor børnene selv forsøger at omgå børnemediernes sikkerhedstiltag, fortæller sikkerhedschefen for den danske platform Moviestarplanet, Vernon Jones.

- Børn er utroligt gode til at omgå vores filtre, så vi vurderer næsten på daglig basis, om sikkerheden er god nok, og vi er altid i gang med at opdatere filtrene, siger han.

Her ses Moviestarplanets system, hvor potentielt forbudte beskeder ender. Forsøg på at mødes i virkeligheden eller på sociale platforme med videochat er blandt det, der blokeres. (© DR Nyheder)

    En fantasiverden for børn

    Moviestarplanet er en blanding af socialt netværk og spil, hvor brugerne skaber deres egen figur, som kan optræde i animerede film. De kan også chatte og dele billeder med andre.

    Målgruppen er børn og unge i alderen otte til 15 år, og der er 360 millioner registrerede brugere i 15 lande. Herhjemme er der hver måned 140.000 aktive brugere.

    På Moviestarplanet bliver alle billeder tjekket af en moderator, før de bliver offentliggjort, og al tekst bliver filtreret for ord, der ikke er tilladt på platformen.

    Det kan være skældsord associeret med mobning. Det kan også være sætninger, der tyder på, at brugeren er en ældre teenager eller voksen, som forsøger at bearbejde og manipulere med barnet for at muliggøre et overgreb.

    Eksempler på sidstnævnte sender Moviestarplanet videre til politiet.

    Forsøg på at dele sit Snapchat-navn eller på at arrangere møder på andre digitale platforme, hvor der kan kommunikeres via video, ryger også i filtreret.

    - Vores erfaring er, at børn kan blive forsøgt lokket til steder, hvor voksne mennesker kan filme dem, siger Vernon Jones.

    Udbredte sociale medier blandt børn i Danmark:

    • I en spørgeskemaundersøgelse blandt børn i alderen syv til 12 år oplyser 58 procent, at de bruger YouTube mindst dagligt.

    • 36 procent bruger andre sociale medier end Youtube mindst dagligt.

    • Blandt de øvrige platforme er Snapchat mest populært – det bruger 33 procent af børnene mindst dagligt.

    • Derefter kommer Instagram, som bruges af 21 procent mindst dagligt.

    • Kilde: Tallene er fra 2017 og baseret på en spørgeskemaundersøgelse lavet af Epinion for DR Medieforskning blandt 729 børn i alderen syv til 12 år.

    Bruger kunstig intelligens

    Et andet dansk, socialt netværk, Momio, har børn mellem syv og 13 år som målgruppe. I første del af 2018 var der i gennemsnit 60.000 danske børn på platformen hver måned.

    For at skærme de unge brugere er Momio det seneste år begyndt at bruge kunstig intelligens i form af computersoftware, som screener og analyserer alle billeder og tekst for uønsket indhold, før det bliver offentliggjort.

    Det er med til at afsløre, når der sniger sig voksne ind på Momio.

    - Sagen er den, at vi kan se, hvordan brugerne kommunikerer. Og børn kommunikerer på en helt anden måde end voksne, siger direktør Mikael Jensen.

    Platformen har også udviklet et politirapporteringsværktøj.

    - Hvis vi ser noget på platformen, som vi mener ikke blot er upassende, men som også potentielt set kræver, at politiet kommer ind over, så kan vi sende en automatisk genereret rapport direkte til politiet, siger Mikael Jensen.

    "Del aldrig personlig info" er en af de beskeder, børnene får, når de logger ind på Moviestarplanet. (© DR Nyheder)

    Forældre på banen

    Begge de danske platforme har påtaget sig en opdragende effekt for at være med til at lære børnene, hvordan de skal begå sig online, hvad de må dele og hvad de skal passe på med.

    - Men det er klart, at vores platform ikke kan stå alene. Forældre, skoler og andre, der har med børnene at gøre, har også et ansvar for at sikre, at børnene får de kompetencer, de skal have, for at kunne agere på sociale medier, siger Mikael Jensen fra Momio.

    Hos Børns Vilkår er børnefaglig konsulent Sanne Lind enig i, at forældrene skal på banen.

    Derudover anbefaler hun, at forældre holder lidt igen med at lukke deres børn ind på platforme, der egentlig er for voksne.

    - I dag er verden blevet en lille landsby, hvor alting kan nås altid af alle, så børn er heller ikke særligt gamle, når de åbner for hele verden. Vi skal være opmærksomme på, at børn helt ned i indskolingen kan opleve ting på nettet, som forskrækker dem, overskrider deres grænser eller kun er for voksne, siger hun.

    Råd til voksne om børns onlineliv:

    • Hjælp dit barn med at gennemgå sine apps. Giver de for eksempel adgang til barnets placering eller kamera?

    • Søg informationer om de tjenester, dit barn bruger, og om formålet med tjenesterne. Er der for eksempel en chatfunktion?

    • Spørg dig selv: Tør dit barn sige det til dig, hvis de er blevet udsat for krænkelser på nettet eller kontaktet af fremmede?

    • Hjælp dit barn med at lave stærke, unikke kodeord. Og fortæl dem, at de ikke skal genanvende koder på tværs af tjenester eller dele dem med andre.

    • Vær opmærksom på, om barnet tilføjer 'venner', som de ikke kender. Få en snak med barnet om, hvad de vil opnå, og hvem de ’venner’ så er ? De er ikke altid dem, de giver sig ud for at være.

    • Tal med dit barn om de billeder, de gerne vil dele – og hvad de skal være forsigtige med, når de deler billeder.

    • Tal løbende med dit barn om deres onlineliv. Og stil de samme spørgsmål, som du ville gøre, hvis barnet ikke var online: Hvem er du venner med? Hvad laver I, når I er sammen?

    • Lær dine børn, at de skal behandle andre pænt – også online.

    • Kilder: Rigspolitiet, Børns Vilkår, Red Barnet, Sex og Samfund.