Google afslører pædofilimistænkt trods navneforbud

Algoritmen i Googles søgemaskinerobot er nu så intelligent, at den har fundet frem til navnet på den tiltalte i pædofilisag fra Aarhus på trods af navneforbud.

Med to ord kan brugere af den populære søgemaskine Google søge sig frem til den tiltaltes navn i en pædofilisag fra Aarhus.

Det burde ikke være muligt, da der er nedlagt navneforbud i sagen, hvilket skal sikre, at den tiltalte ikke kan identificeres.

Ifølge Henrik Bondtofte, direktør i søgeoptimerings virksomheden Bondtofte og co., er matchet mellem sagen og den tiltalte højst sandsynligt opstået ved hjælp af avancerede såkaldte algoritmer, der er designet af Google til at forbedre brugernes søgeoplevelse.

Seneste skud på den stamme hedder Rankbrain, en algoritme, der er opgraderet med maskinlæring og kunstig intelligens.

Med kendskab til simple detaljer om sagen fra medierne, er det på grund af algoritmen muligt let at søge sig frem til den tiltaltes navn.

Google-brugere bliver nemlig præsenteret for den tiltaltes navn i de såkaldte ’relaterede søgninger’, når de søger på simple detaljer i sagen.

Omvendt henviser Google også til flere artikler om pædofilisagen, hvis man søger specifikt på den tiltaltes navn. Det er på trods af, at ingen af artiklerne indeholder den tiltaltes navn.

En af artiklerne, der ikke indeholder den tiltaltes navn, men alligevel dukker op når man søger på den tiltaltes navn, er fra Aarhus Stiftstidende. Her er politikken, at man kun skriver navne på folk der er dømt med en straf på over ét års fængsel.

Henrik Bondtofte forklarer, at det ser ud til, at Googles algoritme har regnet ud, at der er et match, selvom sagen og den tiltalte ikke har nogen direkte forbindelse i søgeresultaterne.

Et sådan match er netop tanken bag Googles søgealgoritme:

- Google prøver i højere grad at forstå den egentlig hensigt med det vi søger på, og forsøger derfor at blive bedre til at sammenkæde ting, der egentlig ikke har en direkte forbindelse. På den måde kan Google give os tilbud på flyrejser, når vi søger på Mallorca, fordi søgealgoritmen har lært, at brugerne ofte er interesseret i flyrejser, når de søger på det.

Det kommer alligevel bag på Henrik Bondtofte, at algoritmen også kan lave matchet i en sag som denne.

- Det er et godt eksempel på, at algoritmer kan være svære at styre, siger han.

At det er Googles algoritme, der er skyld i, at det er så let at søge sig frem til den tiltaltes identitet bakkes op af Theis Hansen, der er specialist i søgeoptimering og som også har analyseret søgeresultatet fra Google.

- Det her, er et godt eksempel på hvornår algoritmer og kunstig intelligens ikke er så smart i praksis. Det giver de mest relevante søgeforespørgsler, men tager ikke højde for lovgivning, siger Theis Hansen.

Professor ved IT-Universitet Rasmus Pagh er også overrasket over, at Googles algoritme på den måde kobler sager og tiltalte, hvor der ikke er en direkte forbindelse.

- Google har et ansvar, for den viden de formidler, og det her er et hul i Googles algoritme, som de bør arbejde på, siger Rasmus Pagh.

Algoritmer kommer aldrig til at være helt fejlfrie, erkender Rasmus Pagh, der selv arbejder med søgealgoritmer. Vi kan dog heller ikke bare slå dem fra:

- Problemet er, at det er den samme algoritme, der i andre tilfælde finder frem til brugbare og relevante resultater. Det er en afvejning, siger Rasmus Pagh.

Thomas Ploug, der er professor ved Aalborg Universitet og blandt andet forsker i IT-etik, kalder det for et ægte dilemma. Han mener dog ligesom Rasmus Pagh, at Google bør se på deres algoritme igen.

Ellers forudser han at lignende sager kan opstå i fremtiden:

- Google kan i princippet komme til at bryde navneforbuddet uden at have gjort noget. Man kan for eksempel forestille sig, at advokater og nævninge, der er involveret i sager med navneforbud, kan udløse en sammenkædning i Googles systemer med deres søgninger.

Først og fremmest påpeger Thomas Ploug, at det er problematisk at der er stor manglen på gennemsigtighed i hvordan algoritmerne virker. Han erkender dog, at det kan være svært at kræve åbenhed af en privat virksomhed.

Den erkendelse når Rasmus Pagh også til. Han foreslår dog alligevel en form for tilsyn, der bag lukkede døre kan holde opsyn med algoritmer og mindske risikoen for, at lignende matches kan opstå i fremtiden.

Det er uheldigt, at Google præsenterer brugere for den tiltaltes navn i denne sag, men det er ikke ulovligt. Det vurderer it- og mediejurist Peter Lind Nielsen fra advokatfirmaet Bird&Bird.

- Navneforbud skal overholdes, også af søgemaskiner, men Google har ikke designet deres algoritme til at bryde navneforbuddet, så selvom det er problematisk, at det sker, kan Google formentlig ikke straffes for det, siger Peter Lind Nielsen.

Google er blevet forelagt søgeresultaterne, men de ikke ønsker at stille op til interview. De har dog sendt følgende kommentar i en email: "Hundredvis af faktorer bidrager til, hvilke søgeresultater der bliver vist for en given forespørgsel, men i visse tilfælde kan vi manuelt gribe ind for at adressere problemer, der bliver rapporteret til os af juridiske eller andre grunde."

Facebook
Twitter