IT-blogger frygter misbrug af ansigtsgenkendelse

Computere, der forsøger at identificere homoseksuelle, kriminelle og demonstranter, bekymrer it-blogger Dorte Toft.

Her ses et billede fra et forskningsprojekt, der forsøger at identificere, om en person er homoseksuel.

Kunstig intelligens. Vi hører ordene igen og igen, og de kloge computer-algoritmer deler vandene.

Nogle ser enorme udviklingsmuligheder, der kan gøre samfundet markant bedre - fx i form af førerløse biler. Andre er bekymret for, hvordan teknologien kan misbruges.

Til den sidste gruppe hører it-blogger Dorte Toft, der måske er mest er kendt for at være den, der trak tæppet væk under IT Factory-svindleren Stein Bagger.

Forsøg på identifikation af homoseksuelle bekymrer

I tv-programmet So ein Ding, lufter hun sin bekymring særligt omkring ansigtsgenkendelse.

Det sker i forlængelse af, at forskerne Michal Kosinski og Yilun Wang fra Stanford University har udviklet en algoritme, der til en vis grad kan identificere homoseksuelle alene baseret på personens ansigtstræk.

Det, mener Dorte Toft, er et perfekt eksempel på, hvordan teknologien kan misbruges:

- Det indgår i en tendens. Vi ser kunstig intelligens blive brugt mere og mere i en retning, som politistater vil være ovenud lykkelige for. Overvågning af folk, identifikation af folk, udrensning af uønskede.

- Vi skal lige huske på, at der stadig er seks lande, hvor man kan blive henrettet for at være homoseksuel, siger Dorte Toft.

Kina vil identificere kommende kriminelle

I ovennævnte forsøg havde computeren en succesrate på ca. 75-80 procent. Men på trods af at ansigtsgenkendelse åbenlyst ikke er noget sandhedsvidne, bliver teknologien - ifølge it-bloggeren - brugt i mere radikale forsøg på at rubricere folk.

- I Kina er de i gang med at identificere potentielt kriminelle ud fra deres ansigtstræk. Dvs. du bliver udvalgt til at være terrorist eller kommende morder, fordi du tilfældigvis har nogle ansigtstræk, der får dem (myndighederne, red) til at identificere dig, som potentiel farlig, siger Dorte Toft i interviewet med Nikolaj Sonne.

Hun nævner også, at det kan lade sig gøre at identificere folk, der er maskerede, hvilket potentielt kan gøre det umuligt at demonstrere - fx i lande, hvor folk ikke kan markere deres utilfredshed frit uden risiko for repressalier.

Dorte Toft skyder også på de mennesker, der udvikler de ovennævnte teknologier.

- Der er forskere, der laver det ene og det andet, der burde være politistaters våde drøm, konstaterer hun.

Vi skal have mere information om potentiel misbrug

Dorte Toft mener, det er vigtigt, der bliver informeret mere om de måder, hvorpå kunstig intelligens kan misbruges “så vi ikke lader partier slippe afsted med at sige, at vi skal samle alles fingeraftryk og alles DNA”, siger hun.

Men vi bor jo i et godt og demokratisk samfund, hvor der er styr på sagerne. Det der kommer aldrig til at ske, konstaterer Nikolaj Sonne retorisk, med henvisning til de eksempler Dorte Toft har bragt på banen. Dorte Tofts respons er: “Tror du på det?”

Se hele interviewet med Dorte Toft i videoen øverst i artiklen, eller se hele So ein Ding-udsendelsen på DR TV.

Mere fra dr.dk

Facebook
Twitter