Dovenskab eller dumhed: Hvad skal robotten bestemme for dig?

Det er svært at være menneske. Vi er irrationelle. Vi er drevet af følelser og hormoner, selvom vi tror, at vi er styret af logik.

Dovenskab eller dumhed: Hvad skal robotten bestemme for dig?

Det er svært at være menneske. Vi er irrationelle. Vi er drevet af følelser og hormoner, selvom vi tror, at vi er styret af logik.

Scroll for at læse

Virkeligheden er kompliceret. Hver dag kæmper vi og vores hjerner - bevidst og ubevidst - med at tage tusinder af beslutninger.

Og mange gange ender vi med at tage beslutninger, som er mod bedre vidende.

Men teknologien kan hjælpe os på vej. Udviklingen gør, at vi kan lade intelligente computere overtage flere og flere opgaver - og faktisk også tage mange af de svære beslutninger for os.

Robot skyder med Amors pil

Har du tænkt over, hvilken musik du har lyst til at høre i dag? Hvilken film du vil se? Og hvilken bog du skal købe næste gang? Ved at være medlem af forskellige apps og tjenester kan du gøre den slags beslutninger meget nemmere. Du kan endda få anbefalet en hel liste af partnere af en app.

Virksomheder som Spotify, Netflix og Tinder bruger store datacentre til at forsøge at skabe de rette matches. Enten mellem brugere, eller mellem brugere og indhold. Jo mere de ved om dig, jo mere præcist kan algoritmerne guide os.

Computernes fordel er, at de kan overskue at vurdere alle potentielle matches, og derfor vælge den allerbedste.
computere overtage flere og flere opgaver - og faktisk også tage mange af de svære beslutninger for os.

Normalt bruger vi vores sociale cirkler til at finde ud af, hvilke bøger og musik, der passer til os. Det handler om, at uanset hvor speciel smag man har, så findes der mennesker, der ligner en, når man samler nok mennesker sammen. Og mennesker, der er ens, kan typisk lide de samme ting, siger Thomas Bolander, lektor ved DTU Compute og ekspert i kunstig intelligens.

Hvis man skal give en god anbefaling, skal man kende personen virkelig godt. Så derfor har de her tjenester brug for meget personlig data og meget data om hvilke mennesker, der kan lide hvilke partnere.

Anbefalingsrobotten kan nemlig ikke selv vurdere musikken eller de potentielle partnere. Den har brug for vores menneskelige bedømmelse før den kan kende forskel på heavy metal og fusionsjazz. Og det lærer den kun, hvis vi er rebelske og går imod anbefalingerne en gang imellem.

- Hvis vi kun følger anbefalingerne, så bryder det hele sammen. Så kommer der ikke ny information til. Vi er ikke helt fortabt, det er stadig mennesker, der gør fodarbejdet i de systemer, siger Thomas Bolander.

Din helt egen robotchauffør

I dag kan man nogle få steder i verden få en tur i
en helt selvkørende bil, hvor du i ro og mag kan læne dig tilbage og lukke øjnene, mens du bliver kørt hen, hvor du vil. Eller du kan arbejde og bruge tiden til at være effektiv.

Det er løftet, som teknologioptimister håber på, de selvkørende biler kan indfri. At de mange timer, vi i dag bruger på passivt at styre en bil, kan bruges på arbejde eller hvile - det er det man kan opleve i forsøgsbilerne, der kører i Californien og i Arizona.

Men det er ikke sådan lige til at få en bil til at makke ret. Vi træffer nemlig en masse svære beslutninger hver eneste gang, vi sætter os bag rattet.

- Det kræver en menneskelig forståelse at køre bil. Normalt tænker vi færdselsregler som et rigidt system, og den slags er computere gode til. Men tænk på hvor mange situationer vi løser ved at se hinanden i øjnene. Det kan en computer ikke lige klare endnu, siger Thomas Bolander.

Bilen forstår sig ikke på børn

Med moderne radarteknikker kan biler sagtens udstyres med sensorer, der gør, at de ikke kører ind i ting. Det er relativt simpelt at lave den slags systemer. Og navigationssystemer, der kan finde vej er også simpelt nok.

Straks værre bliver det, når man sætter andre bilister på vejen. Og med vejskilte, der dikterer, hvad man må og ikke må, bliver det straks mere kompliceret. Og så har vi ikke engang talt om cyklister og fodgængere endnu.

- Systemet kan sagtens genkende f.eks et barn, der leger med en bold på fortovet. Men der er langt fra at genkende det, til at forstå at det er en potentielt farlig situation. Det kan vi mennesker, fordi vi forstår den bredere sammenhæng og fordi vi har en historik i trafikken, vi kan trække på, siger Thomas Bolander.

Pengerobotterne indtager børser og banker

I finansverdenen har robotterne fået penge mellem hænderne. På mange af verdens børser sidder robotterne i førersædet for store
investeringsvirksomheders pengetanke.

De kan overskue mere information og tage beslutninger hurtigere end noget menneske kan komme til. Men kan have uforudsete konsekvenser.

I 2010 tog de amerikanske børser et pludseligt styrtdyk, der fjernede flere milliarder dollars i værdi i en kort periode.

Hændelsen var et mysterie, og var et eksempel på, at robotternes indtog på børserne gør det svært for mennesker at følge med og forklare alvorlige hændelser.

Og allerede om få år kan det være, at du skal tale med en lignende robot, når du skal låne penge til en bolig. Banker og finansinsitutioner eksperimenterer i højere og højere grad med at bruge kunstig intelligens og algoritmer til at effektivisere.

I dag er der helt klare regler og formler for, hvordan og hvornår man må få f.eks et lån. Og computere er netop gode til formler og regler, forklarer Thomas Bolander. Men det betyder også, at vi er nødt til at handle anderledes. Vi skal tale et sprog, computere forstår:

- Computere er gode til forudsigelige standardsituationer, så her giver det mening at automatisere. Men det føder også en ny trussel - mere automatisering gør, at vi er nødt til at standardisere en større del af samtalen, for at computere forstår os, siger han.

Og i sidste ende skal vi tænke os om, inden vi lader computeren træffe beslutninger. Man kan nemlig ikke diskutere resultatet med en computer.

- Graden af dramatik bliver skruet op, når computeren tager beslutninger. Mange af de algoritmer vi har succes med i dag, kan vi ikke få til at forklare, hvorfor de tager de beslutninger, de gør. Det kan være en risiko, hvis computeren nægter en et lån, uden at kunne forklare hvorfor, siger Thomas Bolander.

Din nye læge bor i skyen

Allerede i disse år får danske læger nye kolleger, der kun lever i 'skyen'. IT-virksomheden IBM har for længst sluppet den kunstigt intelligente Dr. Watson løs over hele verden. Watson er et system, som kan holde sig opdateret inden for al tilgængelig forskning og stille den viden til rådighed for lægen.

Det er kort sagt et komplet opslagsværk, som lægen kan spørge til råds om den aktuelle patient. Algoritmer er nemlig gode til at se sammenhænge og mønstre på en meget større skala end vi mennesker kan.

- Man kan fodre maskinen med alle journaler nogensinde, og så håber man, at den kan finde nogle uopdagede medicinske sammenhænge. Så de er gode til at finde sjældne sygdomme, siger Thomas Bolander.

Algoritmer er også gode til at genkende visuelle mønstre. Blandt andet bruger danske læger algoritmer til at undersøge detaljerede billeder af øjets struktur og lede efter bestemte mønstre, der tyder på sygdom.

Øjet afslører nemlig meget om vores sundhed, men faktisk så meget, at menneskelige læger ikke kan sortere i det. Derfor tager de computeren ind som hjælper.

Men algoritmer er ikke orakler. De kan tage fejl, og det skal vi være klar over, når vi bruger dem som læger. Og vi skal finde ud af, hvordan vi håndterer de fejl.

- Lad os sige at algoritmen overordnet hjælper lægerne med at behandle bedre - men den har stadig en fejlrate på 20 procent. Måske vil lægen så nægte at bruge systemet, men det svarer på en måde til at nægte at bruge al medicinsk teknologi der er udviklet siden år 1900, siger Thomas Bolander.

Algoritmer er ikke objektive

Men får vi overordnet en god vejledning når vi bruger algoritmer? Hjælper de os til at tage bedre, mindre irrationelle valg? En markant kritiker af vores udbredte brug af algoritmer er den amerikanske matematiker Cathy O'Neil.

Hun mener grundlæggende, at vi har en uheldig tendens til at se kunstig intelligens som magiske orakler, der giver os objektive sigtelinjer, som vi kan handle efter. Men de råd algoritmer giver os er ikke objektive. Det siger Thomas Bolander også:

- I en vis forstand er de magiske, men i en vis forstand er de objektive. En lommeregner er objektiv, og algoritmerne er baseret på udregninger. Men man kan fordreje objektiviteten med de data, man fodrer ind i maskinen, siger han.

Et eksempel på, hvordan algoritmer nemt misforstår verden kan ses med det amerikanske retssystems brug af. COMPAS-algoritmen.
Den skulle efter sigende vurdere, hvor stor sandsynlighed der er for at en sigtet begår kriminalitet igen.

Den er gentagne gange blevet kritiseret for at være forudindtaget overfor sorte, da den i Florida vurderede sorte menneskers risiko for igen at begå kriminalitet til at være dobbelt så høj som hvide, selvom det viste sig, at de ikke begik kriminalitet.

Spekulationen lød på, at algoritmen i virkeligheden videreførte en forudindtagethed, der lå i de data, den arbejdede ud fra.

- Hvis man fodrer en algoritme med data, der viser mystiske sammenfald, så tolker den det som sammenhænge. Hvis f.eks der er et sammenfald mellem en hvis hårfarve og dårlig betalingsevne i forhold til lån, så tolker computeren det som en sammenhæng. Der ville et menneske stille sig skeptisk, siger Thomas Bolander.

Credit