Det løb nok koldt ned ad ryggen på mange forældre, da DR Nyheder tidligere på ugen kunne afsløre, at Snapchats nye chatbot, 'MY AI', kan give børn detaljerede råd om, hvordan de kan gøre skade på sig selv.

Per Frederiksen, der er psykolog hos Red Barnet, fastslog, at ”vores værste frygt i forhold til AI (kunstig intelligens, red.) nu er blevet virkelighed”. Og kulturminister Jakob Engel-Schmidt (M) fik med egne ord "helt ond i maven" og krævede handling mod disse chatbots, der baserer sig på kunstig intelligens.

Nu vækker sagen også opsigt i Bruxelles, hvor politikerne er i gang med at forhandle en ny EU-lov, den såkaldte 'AI Act', som skal forsøge at tøjle kunstig intelligens.

Ifølge rumænske Dragos Tudorache, som er en af Europa-Parlamentets to hovedforhandlere på loven – og derved en af de mest magtfulde politikere, når det kommer til at regulere teknologien – viser sagen med al tydelighed, hvorfor der er brug for lovgivning på området.

- Jeg ønsker ikke at male fanden på væggen, for kunstig intelligens har eksisteret i lang tid, og teknologien gør meget godt inden for mange forskellige områder, heriblandt sundhed og klima. Men den vækker på samme tid også bekymring, siger han.

- Der er brug for, at vi klart og tydeligt fortæller udviklerne af kunstig intelligens, at de bliver nødt til at indføre sikkerhedsforanstaltninger mod indhold, der strider med loven. Såsom i dette tilfælde, hvor man giver børn råd om selvskade, siger han til DR Nyheder.

Nervøs på sine børns vegne

Dragos Tudorache, der har siddet i Europa-Parlamentet for det liberale rumænske parti Plus siden 2019, bruger lige nu størstedelen af sin arbejdstid på teknologien, som er under en særdeles heftig udvikling i disse år.

Der er i den grad kommet fokus på hans arbejde, efter at chatbotter som ’MY AI’ ’ChatGPT’, Microsofts ’Bing’ og andre former for såkaldt generativ kunstig intelligens i de seneste måneder er blevet allemandseje og har fået millioner af brugere.

De har vist, hvordan man på få sekunder kan få detaljerede og velskrevne svar om alt fra Napoleonskrigenes konsekvenser for Danmark til de bedste landsby-getaways i Sydfrankrig. Men de har også vist deres mere dunkle sider.

I Belgien valgte en mand tidligere på året at tage sit eget liv, efter at en chatbot havde opfordret ham til det. Og Dragos Tudorache er selv bekymret over den udvikling, han har været vidne til på det seneste.

- Jeg er nervøs på mine egne børns vegne, som bruger TikTok og mange af de andre onlineredskaber, der findes. Vi forældre har selvfølgelig et ansvar for at holde øje med, hvad vores børn laver online, og jeg forsøger at forhindre mine i at bruge nogle af de applikationer, som ikke giver mig nogen garantier i forhold til, hvordan deres data bliver brugt eller hvilke parametre, de bruger, siger han og tilføjer, at "det ikke er nok".

- De mennesker, der udvikler disse redskaber, har også et ansvar, når det kommer til indholdet, understreger Dragos Tudorache.

Regulerer ikke teknologien

Udspillet til den nye ’AI Act’ blev præsenteret for to år siden. Målet med loven, der bliver den første af sin art i verden, er på den ene side at sikre, at medlemslandene får gavn af alle de positive ting, teknologien bringer med sig.

Det kunne være læger, der bruger kunstig intelligens til lynhurtigt at spotte alvorlige sygdomme hos deres patienter, eller landmænd, som benytter sig af softwaresystemer til at gøre deres produktion mere klimavenlig.

På den anden side handler det om at sætte foden ned over for de typer af kunstig intelligens, der er problematiske eller direkte skadelig for os mennesker. Det kunne være systemer, der manipulerer folk til at gøre skade på sig selv eller andre, eller som kategoriserer folk på baggrund af diskriminerende faktorer som deres hudfarve, køn eller økonomi.

De strider ifølge udspillet så meget med EU’s grundlæggende værdier, interesser og rettigheder, at de helt bør forbydes.

Derfor vil medlemslandene nu have et sæt regler for, hvordan man fremover kan benytte kunstig intelligens – og til hvad.

Står det til Europa-Parlamentet må man eksempelvis ikke bruge kunstig intelligens til at holde øje med folk i det offentlige rum eller til at forudse, hvordan folk vil reagere i en given situation. Og der skal blandt andet være meget mere gennemsigtighed med, hvilket indhold den kunstige intelligens helt konkret bygger på.

- Det er ikke teknologien, vi regulerer. Den ændrer sig hele tiden, så det ville være svært. Men vi vil regulere det ansvar, man har som udvikler af kunstig intelligens, for det forbliver uændret, siger Dragos Tudorache.

En lov er en lov

Dragos Tudorache understreger, at han som liberal hverken har noget imod, at virksomheder bruger teknologien eller tjener penge på den. Og han ønsker heller ikke at skræmme udviklere væk fra Europa.

Derfor skal reglerne også være ”nødvendige og forholdsmæssige”, som han formulerer det, så de ikke giver udviklerne alt for store byrder.

- Det handler om at finde den rette balance mellem at beskytte os selv og støtte teknologien, siger han.

Tidligere på ugen var grundlæggeren af ChatGPT, OpenAI-direktøren Sam Altman, ellers ude at true med at trække sig fra EU, hvis medlemslandene beslutter sig for at "overregulere" kunstig intelligens, som han udtrykte det. Efterfølgende trak han dog i land og understregede, at han ikke har planer om at forlade Europa.

Men Dragos Tudorache forstår sådan set godt, at et firma som OpenAI, der har været vant til at agere uden nogen regler, føler sig presset for tiden.

- Altmans firma, som var pioner inden for et område, ville nok helt foretrække, at de kunne blive ved med strejfe frit rundt omkring, som mange virksomheder inden for den digitale sektor har været vant til at gøre. Men en lov er en lov, og hvis ikke man vil følge den, bliver man også nødt til at trække sig fra markedet, siger han.