Forestil dig at stå i en retssal, anklaget for en forbrydelse, du nægter at have begået. Din advokat holder en glimrende forsvarstale, og du føler, at dommeren lytter opmærksomt. Men under dommerens computerskærm kører et stykke software, der analyserer din profil, din historik og dine socioøkonomiske data. Inden dommeren overhovedet har åbnet lovbogen, har systemet spyttet en procentsats ud: 82 procent risiko for recidiv (genkriminalitet). Dommen falder i den tunge ende af strafferammen. Ikke på grund af sagens konkrete beviser, men fordi en matematisk model har vurderet din fremtid.

Det lyder som et dystopisk amerikansk retsholdsdrama, men virkeligheden er, at det danske justitsvæsen og politi i al stilhed er i gang med at integrere "prædiktive" og assisterende AI-værktøjer. Målet er prisværdigt: At nedbringe de enorme sagsbunker, optimere ressourcerne og skabe en mere ensartet retspraksis. Men i skyggen af effektiviseringen lurer et fundamentalt opgør med det klassiske retsprincip om, at man er uskyldig, indtil det modsatte er bevist – og at enhver har ret til en individuel, menneskelig vurdering.

Forbrydelse før den sker

I dansk politi har man længe eksperimenteret med datadrevet politiarbejde, inspireret af de amerikanske predictive policing-systemer. Ved at fodre algoritmer med historiske data om indbrud, vold og gadeuorden kan systemet udpege specifikke geografiske zoner eller persongrupper, hvor risikoen for kriminalitet er størst på et givent tidspunkt.

Men kilder inden for politiet, som denne redaktion har talt med, udtrykker stigende bekymring. "Hvis du sender flere patruljer til et bestemt boligområde, fordi algoritmen siger, at der er høj risiko, så vil de betjente naturligvis også opdage flere lovovertrædelser der," forklarer en erfaren efterforsker. "Dataene bekræfter sig selv. Algoritmen skaber en feedback-sløjfe, hvor visse minoritetsgrupper eller fattige kvarterer bliver over-policerede, mens kriminalitet i andre dele af samfundet – som økonomisk svindel i Whiskeybæltet – forbliver under radareren."

Når disse skæve politidata senere lander i domstolenes systemer for at hjælpe med at vurdere straffeudmåling eller varetægtsfængsling, bliver den oprindelige skævhed ophøjet til en objektiv sandhed.

Retfærdighed kan ikke reduceres til statistik

En computer kender ikke til nåde, kontekst eller de subtile nuancer, der gør et menneskeliv komplekst. Den opererer udelukkende med kolde korrelationer. Hvis et AI-system ser, at 90 procent af personer med en bestemt baggrund eller ustabil tilknytning til arbejdsmarkedet begår ny kriminalitet, vil det pr. definition dømme det næste menneske med samme profil hårdere.

Men retssikkerhed handler netop om det modsatte af statistik. Det handler om det specifikke tilfælde. Hvad var motivet? Var der tale om et desperat øjeblik? Er vedkommende i gang med at vende sit liv? En dommer af kød og blod kan kigge den anklagede i øjnene og vurdere den menneskelige faktor. En algoritme ser kun et datapunkt, der skal passes ind i en kurve.

Forretningshemmeligheder vs. Retssikkerhed

Det måske mest uhyggelige aspekt ved denne udvikling er manglen på indsigt. Mange af de systemer, der i dag vinder indpas i de europæiske retssystemer, er udviklet af private tech-firmaer. Når forsvarsadvokater kræver at se den kildekode, der har vurderet deres klients risiko, bliver de mødt med et afslag. Firmaerne beskytter deres immaterielle rettigheder og forretningshemmeligheder.

Det betyder i praksis, at en borger kan blive frihedsberøvet eller få en hårdere straf på baggrund af en matematisk formel, som hverken borgeren, forsvareren eller offentligheden må få indsigt i. Det er et klokkeklart brud på princippet om våbenhvile i retsplejen, hvor anklagede skal have fuld adgang til alle elementer, der danner grundlag for en sigtelse.

Mennesket som det sidste filter

Vi må ikke lade os forblænde af løfter om en "fejlfri, objektiv maskine". AI er skabt af mennesker, trænet på menneskelige data, og bærer derfor på alle vores historiske fordomme. Hvis vi overlader juraen til koderne, risikerer vi at ende med et mekanisk samfund, hvor barmhjertighed og individuel retfærdighed er effektiviseret væk.

Retssystemet er samfundets moralske kompas. Det kan assisteres af teknologi til at sortere i dokumenter og finde gamle domsafsigelser frem, ja. Men den endelige afgørelse – vægtningen af skyld, straf og genoprejsning – skal forblive en opgave for levende mennesker, der kan stå til ansvar over for andre mennesker. Alt andet er en dom over selve retssikkerheden.

Af: Lasse Graver