Vestager vil tøjle kunstig intelligens: 'I vores samfund er der ikke plads til masseovervågning'

Europa-Kommissionen lægger op til at forbyde kunstig intelligens, der kan bruges til at udnytte børn.

EU-kommissær Margrethe Vestager (R) er ansvarlig for det digitale hamskifte, som er en af EU's store politiske prioriteter i de her år. (Foto: OLIVIER HOSLET / POOL © Scanpix)

Der er masser af gode gevinster at høste, hvis man bruger kunstig intelligens på den helt rigtige måde.

Tag bare lægerne, der ofte får hjælp af softwaresystemer til at spotte alvorlige sygdomme hos deres patienter, eller landmændene, som kan bruge robotteknologi til at gøre deres arbejde på markerne mere klimavenligt.

Men der er også en masse etiske faldgruber ved teknologien, som kan skabe store problemer for både mennesker og hele samfund. Det ser man ikke mindst i Kina, hvor et utal af overvågningskameraer holder øje med borgerne, uden at de kan gøre noget ved det.

Derfor lægger Europa-Kommissionen nu op til at stramme tøjlerne for, hvordan man fremover kan bruge kunstig intelligens i Europa – og til hvad. Og i særligt slemme tilfælde kan det blive nødvendigt med både forbud og millionstore bøder til folkene bag, lyder det i et nyt udspil.

- Jo større risiko, der er ved en bestemt form for kunstig intelligens, des skrappere skal reglerne være, lyder det fra ledende næstformand Margrethe Vestager (R), der har ansvaret for EU’s digitale omstilling.

I Kina bliver borgerne løbende holdt øje med, når de bevæger sig ud på gaden. (Foto: TINGSHU WANG © Scanpix)

Manipulation og kontrol

Kunstig intelligens er kort fortalt kunsten at få software til at gøre det, vi mennesker har gjort igennem årtusinder, nemlig at analysere og afkode verdenen omkring os.

Spørger man den danske EU-kommissær, bør tommelfingerreglen fremover være, at det altid skal være til gavn for almindelige mennesker, hvis virksomheder eller myndigheder benytter sig af teknologien.

Og der skal skabes mere gennemsigtighed, så folk kan have tillid til teknologien, der i de senere år har vendt op og ned på stort set alle afkroge af vores tilværelse.

Derfor bør medlemslandene også sætte hårdt mod hårdt over for de mere dystopiske former, som eksempelvis bliver brugt til at manipulere folk, begrænse deres ytringsfrihed eller forskelsbehandle dem.

- Europa skal være verdensmester, når det kommer til at udvikle sikker og troværdig kunstig intelligens, der er centreret omkring os som mennesker, siger Margrethe Vestager.

Helt konkret lægger Europa-Kommissionen nu op til at inddele kunstig intelligens i fire forskellige risikokategorier.

I det ene hjørne finder man de harmløse systemer, såsom spamfiltrene i vores inbox, der udgør langt størstedelen af den kunstige intelligens i dag. De vil ikke blive ramt af nye restriktioner.

I det modsatte hjørne finder man de helt ekstreme systemer, der eksempelvis kan bruges til at udnytte børn eller lave sociale pointsystemer for borgerne, som man har set det i Kina.

Det strider ifølge udspillet med EU's grundlæggende værdier og bør derfor helt forbydes.

Kan risikere stor bøde

Udspillets hovedfokus er dog på de kunstige intelligenssystemer, som ifølge Europa-Kommissionen blander sig i vigtige dele af vores liv, og hvor der høj risiko for, at de kan komme til at krænke vores grundlæggende rettigheder eller sikkerhed.

Det kunne være systemer, som automatisk scanner jobansøgeres cv’er for særlige kvalifikationer, eller som skal vurdere, om folk kan optage et lån i banken eller ej. Her er der nemlig en risiko for, at der kan snige sig fejl ind, som ikke bliver opdaget, eller at folk bliver diskrimineret på baggrund af nogle særlige faktorer – eksempelvis køn, alder eller etnicitet.

Derfor lægger Europa-Kommissionen blandt andet op til, at der skal være skrappe krav om gennemsigtighed og datasikkerhed.

Og udbyder skal samtidig sikre, at der er et sæt menneskeøjne, som holder øje med systemerne.

Samtidig skal der være ekstra skrappe regler for de systemer, der benytter sig af ansigtsgenkendelse i offentlige rum.

Det skal kun være muligt at bruge dem i helt særlige tilfælde, eksempelvis hvis et barn er forsvundet.

- I vores samfund er der ikke plads til masseovervågning, lyder det fra Margrethe Vestager.

Og hvis ikke virksomhederne overholder EU-reglerne, kan de ifølge udspillet risikere at ende med en bøde på op til 30 millioner euro – eller seks procent af deres globale omsætning.

Tror på europæisk tilgang

Udspillet har været flere år undervejs og er det første af sin art i verden. Og det er samtidig det seneste forsøg fra EU's side på at positionere sig som verdens frontløber, når det kommer til at regulere techvirksomheder.

Ifølge Mikkel Flyverbom, der er professor i digitale forandringer ved Copenhagen Business School, er det ”et vigtigt tiltag”, Europa-Kommissionen nu har taget med sit udspil, der skal forhandles på plads mellem medlemslandene og Europa-Parlamentet.

- Internettet og den digitale sektor har hidtil haft en form for særstatus. Et slags ’vilde vesten’, som vi ikke troede kunne reguleres, og som ville blive ødelagt med regler og regulering. Men nu har man fra politisk side ændret kurs og sagt, at man bliver nødt til at normalisere industrien på samme måde, som man har normaliseret andre industrier igennem tiden, siger han.

I dag taler man om henholdsvis en kinesisk og en amerikansk tilgang til den kunstige intelligens.

Hvor den kinesiske er præget af overvågning og kontrol, er den amerikanske tilgang omvendt præget af frie, kommercielle interesse uden nogen regler fra myndighedernes side.

Mikkel Flyverbom mener sagtens, at det er muligt for EU at lave en ny ’europæisk tilgang’, der også kan sprede sig til andre dele af verden.

For hvis forslaget bliver vedtaget, vil det også komme til at ramme udenlandske firmaer, herunder amerikanske som Google, Facebook og Amazon, der opererer i Europa.

- Ser man på den europæiske GDPR-lovgivning (der omhandler databehandling og digitale rettigheder, red.), er det noget, som amerikanerne også er begyndt at tage til sig. Internettet er nemlig opbygget på en måde, hvor det er ret svært at adskille internettet på tværs af landegrænser, og derfor kunne man godt forestille sig, at det breder sig til andre steder, siger han.

Kunstig intelligens er i de senere år blevet mere og mere udbredt på verdensplan. Og udviklingen ser kun ud til at fortsætte. (Foto: ALY SONG © Scanpix)

Glæde blandt ingeniørerne

Udover ny regulering lægger Europa-Kommissionen også op til, at der skal bruges flere penge på at støtte udvikling og innovation inden for kunstig intelligens, da det er et kæmpe vækstmarked, der kun bliver ved med at vokse.

I ingeniørforeningen IDA er chefkonsulent Grit Munk godt tilfreds med et større fokus på både muligheder og farer ved en tiltagende brug af kunstig intelligens.

- Vi har at gøre med en helt ny teknologi, der udvikler sig rigtig, rigtig hurtigt og i alle mulige retninger. Derfor er det meget vigtigt, at vi har en demokratisk funderet debat om, hvad vi gerne vil med den – og hvad vi ikke vil med den, siger hun.

Hun peger på, at især en mere ensartet adgang til store mængder data kan komme vores mindre virksomheder til gavn og give noget innovation, som de ikke har mulighed for i dag.

- Det er vigtigt, at vi som borgere på en tryg og sikker måde kan stille vores egne data til rådighed til eksempelvis sundhedsforskere eller små virksomheder på en måde, hvor der er respekt for, at det er personfølsomme data, siger Grit Munk.

Hos Dansk Industri Digital er branchedirektør Rikke Zeberg også glad for EU-initiativet.

Kunstig intelligens er noget af det, der kan løse nogle af vores helt store udfordringer, eksempelvis i klimakampen og på sundhedsområdet, siger hun.

Men samtidig opfordrer hun til, at man begynder med at regulere et område, der ikke er alt for bredt.

- Man skal starte med højrisikogrupperne og så få noget erfaring fra det, siger hun.

Mange danske virksomheder er nemlig afhængige af at kunne arbejde med kunstig intelligens, og der gemmer sig et stort vækstpotentiale for dem, der arbejder indenfor det digitale område, forklarer Rikke Zeberg.

- Det er vigtigt, at man ikke pålægger virksomhederne alt for store administrative byrder, der risikerer at hæmme innovationen.

Facebook
Twitter

Mere fra dr.dk