Organisation advarer FN mod dræberrobotter: ’De bør forbydes på lige fod med kemiske våben’

Men budskabet er unødvendig bekymring, siger dansk forsker.

En international kampagne gør opmærksom på autonome dræberrobotter. Det vil sige robotter, som for eksempel droner, der selv tager beslutninger ved hjælp af kunstig intelligens. (© dr)

Maskiner skal styres af mennesker og ikke omvendt.

Sådan lyder det fra den internationale organisation Campaign To Stop Killer Robots. I flere år har de kæmpet for, at verdens lande stopper udviklingen af autonome dræberrobotter. Det vil sige robotter, der selv tager beslutninger ved hjælp af kunstig intelligens.

På en pressekonference i New York City i denne uge opfordrede organisationen endnu engang FN til at lave en traktat, der forbyder denne type robotter på lige fod med kemiske våben.

- Vi ser allerede nu, at man udvikler de her robotter. Det er ekstremt bekymrende, siger Noel Sharkey, der er professor i kunstig intelligens og robotkunst ved University of Sheffield, og som også er med i Campaign To Stop Killer Robots.

- Vi taler ikke om robotter ligesom i terminator-film. Det er almindelige maskiner som for eksempel ubåde, kampvogne og droner, men som bliver styret af kunstig intelligens og selv finder frem til deres mål. Både USA og Rusland har investeret i at udvikle den her type våben, fortsætter Noel Sharkey.

Organisationen forsøger nu at overtale verdens lande til at bakke op om kampagnen.

- Indtil videre har vi fået 28 lande til at vise deres støtte. Kina er med, men det er Danmark for eksempel ikke, siger Noel Sharkey.

Unødvendig bekymring

Ifølge organisationen er der flere grunde til, at vi mennesker bør være bekymrede for autonome dræberrobotter. Blandt andet kan de blive hacket eller ryge ud af kontrol, så de dræber de forkerte mennesker i krig.

Men ifølge Kasper Støy, der forsker i robotteknologi på IT-Universitetet i København, er kampagnen en unødvendig bekymring:

De advarer jo om en fremtidsdystopi. Men som robotforsker kan jeg sige, at vi er meget langt fra at lave nogle autonome systemer, som vil kunne gøre sig gældene på en slagmark, siger han.

Som en del af pressekonferencen i denne uge har den internationale organisation Campaign To Stop Killer Robot medbragt en fredsmaskot. Det er robotten David Wreckham, der tidligere har været med til OL for robotter. Nu har den fået et nyt formål. Til højre ses Noel Sharkey, der er professor i kunstig intelligens og robotkunst ved University of Sheffield. (Foto: Ari Beser Init)

I dag findes der allerede semi-autonome droner i den forstand, at dronen selv kan flyve fra a til b. Men det er stadig mennesker, der tager beslutninger om for eksempel målet.

- Men den her organisation taler om et scenarie, hvor droner, med sensorer og kameraer, selv kan afgøre, om noget er et mål eller ej, og derefter trykke på aftrækkeren, siger Kasper Støy og fortsætter:

- Og det er jo taget ud af science-fiction. For når man har arbejdet med at bygge robotter, så finder man ud af, hvor svært det egentlig er at lave sådan et system. Der er en lang liste af udfordringer, som i den sidste ende gør systemerne skrøbelige og nemme at snyde. Et eksempel er batterier og energi. Det er begrænset, hvor lang tid robotter kan køre uden at blive ladet op

Kasper Støy forklarer også, at at det kan være meget svært for den kunstige intelligens at skelne venner fra fjender. Og den kan nemt snydes ved at bruge simple forklædninger.

Noel Sharkey fra University of Sheffield er dog meget uenig i, at der er tale om en unødvendig bekymring.

- Det kan godt være, at teknologien ikke er særlig avanceret endnu. Men det betyder ikke, at den ikke kan blive brugt. Man behøver sådan set bare noget med sensorer på, og så kan det skyde mennesker, siger han.

Et forkert syn på robotter

Kasper Støy ser forslaget om en traktat mod dræberrobotter som spild af tid:

- Man kunne have brugt tiden på noget vigtigere. Og hvis først man laver en traktat, så risikerer vi, at folk tror, der er noget om snakken. Det kan skabe et negativt billede af robotter, som ikke er korrekt.

- For som det er i dag, så leverer robotter jo langt mere positivt til vores samfund. Siden den industrielle revolution har vi fået traktorer, mejetærskere og meget mere, der bidrager til velfærdssamfundet, og robotterne er jo bare et skridt videre i den udvikling, fortsætter Kasper Støy.

Den sidste uge i november skal en ekspertgruppe i Genève diskutere FN's konvention om særlige konventionelle våben. Her skal de blandt andet diskutere, hvorvidt man skal regulere de autonome dræberrobotter.