På bare tre dage har to verdens største teknologi-virksomheder undsagt sig en kontroversiel del af deres forretning.
Tirsdag var det it-giganten IBM, der besluttede at skrotte udviklingen og salget af deres ansigtsgenkendelsesprogram 'til generelt brug', og torsdag fulgte e-handelsvirksomheden Amazon trop, da firmaet indførte en et-årig pause, hvor det amerikanske politi ikke må gøre brug af firmaets ansigtsgenkendelsesprogrammer.
Men hvorfor er teknologien for ansigtsgenkendelse pludselig blevet så varm en kartoffel? Lad os komme med et eksempel på det, der er kernen i kritikken af den udskældte teknologi:
For to år siden udførte foreningen for frihedsrettigheder i USA, ACLU, et eksperiment, som sammenlignede ansigterne af alle 535 medlemmer af den amerikanske kongres med såkaldte 'mugshots', altså forbryderbilleder.
Sammenligningen blev kørt igennem Amazons ansigtsgenkendelsesprogram 'Rekognition'. 28 kongresmedlemmer blev matchet med forbryderbilleder, hvoraf den overvejende del af de fejlmatchede kongresmedlemmer var sorte.
Undersøgelsen er blot en af flere, der de seneste år har påvist, hvordan de førende programmer på markedet for ansigtsgenkendelse har en slagside, når det kommer til hudfarve og køn.
DR's teknologi-korrespondent Henrik Moltke fortæller, at programmernes racemæssige bias stammer fra den data, som bliver benyttet, når programmerne er i udviklingsfasen.
- Den data, de bruger til at 'træne' deres kunstige intelligens, som ansigtsgenkendelsesteknologien bygger på, har typisk overrepræsenteret hvide mennesker og underrepræsenteret kvinder. Og så er det, at man får en højere fejlprocent på sorte mennesker og kvinder.
- Det er et problem, man har været opmærksom på i nogle år og prøvet at rette op på, men det er jo et problem, hvis politiet i en tilspidset situation kommer til at fejlidentificere en person i marken og tror, at en uskyldig er en forbryder, siger Henrik Moltke.
'Et forfærdeligt redskab'
I kølvandet på de demonstrationer og protester mod politivold, der har fundet sted i flere amerikanske byer efter den 46-årige sorte mand George Floyds død, er teknologien igen kommet i fokus. Det amerikanske politi gør nemlig brug – i et uvist omfang – af ansigtsgenkendelsesprogrammer.
Borgerrettighedsorganisationer har vedholdende kritiseret myndighedernes brug af teknologien, og onsdag stemte kongresmedlemmet Alexandria Ocasio-Cortez i på Twitter med en hård kritik.
- Ansigtsgenkendelse er et forfærdeligt og upræcist redskab, der skaber raceprofilering og masseovervågning, skrev det 30-årige demokratiske kongresmedlem.
Særligt Amazon har været udskældt, og tidlig torsdag dansk tid besluttede firmaet så at fratage politiet mulighed for at bruge teknologien i et år, 'indtil myndighederne får skabt klarere love på området', som det lød i firmaets meddelelse på sin egen blog.
Beslutning er en eklatant kovending i forhold til firmaets hidtidige måde at håndtere kritikken af dets ansigtsgenkendelsesteknologi.
Ikke et pr-stunt
En af forskerne bag det tidligere nævnte studie af programmet Rekognition, der fejlagtigt dømte kongresmedlemmer som forbrydere, udtalte i 2019:
- Amazons håndtering af vores beviser mod dem har indtil videre været benægtelse og undvigelse. Vi kan ikke stole på, at Amazon vil regulere sig selv, sagde forskeren Joy Buolamwini til medium.com.
Så meget desto mere overraskende er det, at Amazon nu har besluttet at lytte til kritikken, lyder det fra Henrik Moltke. Han tror ikke, at Amazon forsøger at redde, hvad reddes kan i pr-mæssig forstand:
- Amazon er så store og rige, at de kan tage meget pres. Jeg vurderer, at deres beslutning bunder i, at de mener, at der er et reelt problem, som de vil adressere, siger DR's teknologi-korrespondent og fortsætter:
- Store tech-firmaer gør sjældent noget, som kan begrænse deres markedsværdi for at vinde pr, simpelthen fordi det på markedet vil blive tolket som svaghed. Derfor ser vi ikke så tit, at så store firmaer agerer sådan her, og derfor er det ret interessant, at vi på få dage ser meget store spillere på markedet for kunstig intelligens og cloud-tjeneste pludselig gøre noget, som var ret utænkeligt for få uger siden.
Amazons egne aktionærer nedstemte sidste år et forslag fra bestyrelsen, der skulle forbyde salg af firmaets ansigtsgenkendelsesprogrammer til regeringer.