Kunstig intelligens skal beskytte computerspillere på nettet

Ved at aflytte brugernes samtaler vil man begrænse chikane på nettet.

Ny teknologi skal gøre det mere trygt at spille computerspil (Foto: MADS NISSEN © Scanpix)

Enhver, der har prøvet at begive sig ind i et online multiplayer spil på internettet, ved, at tonen kan være hård.

Særligt kvinder bliver ofre for den hårde tone.

Det amerikanske firma Spirit AI, der designer kunstig intelligens, arbejder derfor nu på en løsning, der kan gøre det langt mere sikkert at færdes i online. Det skriver MIT Technology Review.

En allieret avatar

Spirit AI vil udvikle tjenesten “Ally” (“allieret” på dansk), der med kunstig intelligens skal kunne overvåge og beskytte mod chikane i spillene.

Tjenesten skal registre brugeradfærd og “lytte” med, når brugerne skriver eller taler til hinanden i spillene. Registrerer systemet, at der er tale om indhold, der kan virke krænkende, kan det selv skride ind, uden et menneske behøver at reagere.

Det gør Ally ved at aktivere en Avatar, der kan kontakte den potentielt krænkede bruger og spørge nærmere ind til oplevelsen.

En (kunstigt) intelligent løsning

Det er ikke usædvanligt, at man kan lade systemer analysere fx. brug af ord eller sætninger, der kan være krænkende.

Men normalt skal være et menneske inde over, når der skal træffes beslutning om, at brugere skal blokeres, politianmeldes eller lignende.

Det er ikke alle ord eller sætninger, der er krænkende på alle tidspunkter. Det afhænger af ordenes kontekst. Blandt venner kan voldsomme ord og sætninger, der for udenforstående kan virke grænseoverskridende, bare være gruppens måde at kommunikere internt på.

Her er Ally mere nuanceret. I stedet for automatisk at blokere brugere, hvis de overskrider retningslinjerne, giver Ally brugeren mulighed for at forklare, om vedkommende opfattede den anden brugers kommentar eller opførsel som stødende. Kun ved anerkendelse af, at indholdet var stødende, reagerer systemet mod den krænkende.

Sikrere at færdes online

Et system, der på den måde kan adressere problematiske situationer af sig selv, vil gøre det langt mere trygt at færdes i online-spil.

Den kunstige intelligens vil hurtigt kunne reagere, hvis den opfanger adfærd, der er problematisk - og så understøtte menneskelige medarbejdere med at håndtere brugeradfærd.

Virksomheden har ikke oplyst, hvilke spil-firmaer de arbejder sammen med om udviklingen af Ally.