Teknologiens to sider: Styrker politi og skaber social ulighed

Masseovervågning og dataindsamling er effektive redskaber i kampen mod kriminalitet. Men med nye overvågningsværktøjer følger også mere marginalisering og mistro, viser ny forskning.

Overvågningskameraer spiller en afgørende rolle i det amerikanske politivæsens arbejde. (Foto: ERIC THAYER © Scanpix)

Forskere fra The University of Texas i Austin har undersøgt, hvordan adgangen til mere data om borgerne påvirker politiets arbejde.

Undersøgelsens resultatet, der er bragt i tidsskriftet American Sociological Review, viser to overordnede tendenser: De data, der stammer fra overvågning (såkaldt big data), kan både forny den måde politiet arbejder på og forstærke de problemer, der allerede er.

Det skyldes at overvågningsteknologierne fungerer godt rent teknisk, men at forudindtagethed fra teknologiernes skabere påvirker systemerne og derigennem i sidste ende også politiet selv.

Undersøgelsen har observeret 75 politibetjente fra Los Angeles politi, der i høj grad benytter analyse af data, som de selv indsamler eller køber fra private virksomheder.

Kan føre til større ulighed

Forskningen er ledet af sociolog Sarah Brayne, der mener, at overvågningsteknologier kan hjælpe politiet. Men der er også faldgruber:

- Jeg tror, at det (big data, red.) på den ene side har potentialet til at reducere problematiske uligheder i politiarbejdet - for eksempel mistænkeliggørelse af raceminoriteter. Men den måde, det på nuværende tidspunkt er implementeret på, kan have nogle negative konsekvenser i forhold til lighed og kan også føre til meget mere marginalisering og mistro, siger hun.

Det amerikanske politi har siden terrorangrebet d. 11 september 2001 fået langt flere penge til overvågning og dataindsamling end tidligere. Det skyldes, at angrebets succes blev set som et resultat af fejlslagen deling af information.

Mange typer overvågning gør forskellen

Pengene er blandt andet brugt på teknologi, som kan masseovervåge borgere ved at scanne nummerplader på biler forskellige steder i byen og gemme bilens rute. Denne type overvågning gør politiet i stand til at overvåge rigtig mange personer samtidig, hvilket tidligere var alt for dyrt for politiet.

Udover nummerpladescanning og andre fysiske overvågningstiltag, kan politiet købe sig til data på borgerne. Dem kan de købe af private virksomheder, som selv erhverver den personlige information hos internettjenester, som borgeren har haft kontakt til.

- Det er vigtigt at fremhæve, at det ikke er en enkelt overvågningsteknologi, der ændrer billedet. Det er kombinationen af forskellige teknologier, der gør politiet i stand til at overvåge borgere i en grad, der tidligere ville have krævet en dommerkendelse, siger Sarah Brayne.

A man walks past a display of hexadecimal code on the Telekom exhibition stand at the CeBIT trade fair, the world's biggest computer and software fair, in Hannover March 13, 2016. REUTERS/Nigel Treblin (Foto: NIGEL TREBLIN © Scanpix)

Faren ved koden

Den øgede mulighed for overvågning bliver ekstra problematisk, fordi den kode, der får teknologien til at fungere, ikke præsenterer en objektiv sandhed. Den er baseret på en lang række antagelser, der tilsammen udgør programmets logik, og det skal man tage højde for.

Den problematik beskriver matematikeren Cathy O'Neil som Weapons of Math Destruction (matematiske masseødelæggelsesvåben) i sin bog af samme navn.

- Jeg tror ikke, at matematiske modeller i sig selv er onde. Det er den måde, de bliver brugt på, der er ond, udtaler hun til den amerikanske podcast 99% Invisible.

Hendes pointe er, at de algoritmer (altså de opskrifter der fortæller programmet, hvordan det skal nå frem til et resultat) er en forlængelse af de antagelser dem, der har skrevet programmet, har haft.

På videoklippet forklarer Cathy O'Neil blandt andet, hvordan algoritmer ikke er objektive (på engelsk).

Det betyder, at personlige fordomme om for eksempel race eller demografi bliver overført til programmet, men det kan man ikke gennemskue, hvis man kun kigger på det resultat, programmet kommer til.

Et selvforstærkende system

En anden problemstilling kan være de systemer, der vurderer, hvor sandsynligt det er, at en borger har kriminelle hensigter.

For eksempel findes der et pointsystem, hvor en borger gives point, alt efter hvor mange gange personen har begået voldelig kriminalitet, er blevet arresteret eller stoppet af politiet. Personer med mange point dukker tydeligere op i politiets overvågning og har derfor større sandsynlighed for at blive stoppet igen, hvilket tilføjer endnu flere point. Så stiger sandsynligheden for, at personen stoppes igen på et senere tidspunkt, uanset om han eller hun har gjort noget kriminelt.

Systemet bliver på den måde selvforstærkende - det kaldes et positivt feedback loop (positivt, fordi det forstærker fordomme, uanset om de bunder i noget reelt eller ej).

- Politiet anholder ikke mennesker baseret på programmernes forudsigelser om ting, de endnu ikke har gjort. Men big data hjælper til med at opbygge information om individer, og jeg mener, at det tilgodeser dem, der rangerer højt på den sociale rangstige, og skader dem, der i forvejen rangerer lavt, konkluderer Sarah Brayne.