Det begyndte som en hvisken på de sociale medier en torsdag aften. En video af statsministeren, optaget i et tilsyneladende ubevogtet øjeblik i et baglokale under en politisk forhandling. Stemmen var intens, og ordene var ødelæggende: En indrømmelse af, at regeringen bevidst havde manipuleret med økonomiske nøgletal for at skjule et gigantisk hul i statskassen midt under en valgkamp.
Inden for to timer var videoen delt titusindvis af gange. Politiske kommentatorer gik i breaking-mode, og oppositionen krævede øjeblikkelige undersøgelser. Problemet? Videoen var hundrede procent falsk. Den var genereret af en avanceret AI-model på under ti minutter for en pris af under tyve kroner.
Dette scenarie er ikke længere science fiction eller et fjernt mareridt fra den amerikanske præsidentvalgkamp. Det er den nye virkelighed, som det danske demokrati står overfor. Vi har bevæget os ind i den syntetiske tidsalder, hvor billeder, video og lyd ikke længere kan bruges som bevis for, at noget rent faktisk har fundet sted.
Våbengiggørelse af stemmer
Hvor det tidligere krævede Hollywood-budgetter og måneders arbejde at lave overbevisende visuelle effekter, kan enhver med en internetforbindelse og en basal computer i dag klone en kendt politikers stemme. Det kræver under et minuts rent lydmateriale – som kan hentes fra ethvert interview i Folketingets sal – at skabe en perfekt digital kopi.
Under overfladen på Christiansborg vokser nervøsiteten. Efterretningstjenesterne har længe advaret om, at fremmede magter, herunder russiske og kinesiske troldehære, ser det digitale og tillidsbaserede danske samfund som et oplagt testlaboratorium. Fordi danskerne generelt har stor tillid til institutionerne og medierne, er vi paradoksalt nok mere sårbare, når den tillid bliver hacket.
"Det farligste er ikke nødvendigvis den store, spektakulære løgn," forklarer en anonym kilde fra Forsvarets Efterretningstjeneste (FE). "Det er det konstante, mikroskopiske slid på sandheden. Hvis vælgerne bombarderes med tyve forskellige lydklip af politikere, der siger modstridende eller rabiate ting, så stopper folk til sidst med at tro på noget som helst. Når intet er sandt, mister demokratiet sin funktion."
"The Liar's Dividend" – Løgnerens udbytte
Men deepfakes har en endnu mere lumsk skyggeside, som eksperter kalder The Liar's Dividend (Løgnerens udbytte). I en verden, hvor alt kan være manipuleret, kan en politiker, der rent faktisk bliver fanget i at gøre eller sige noget korrupt, blot affeje det med et skuldertræk og sige: "Det er en AI-genereret deepfake."
Teknologien giver således de magtfulde et universelt frikort. Sandheden bliver flydende, og vælgerne lades tilbage i et kynisk tomrum, hvor politisk journalistik mister sit skarpeste værktøj: dokumentationen. Hvis vi ikke kan stole på videooptagelser, hvad kan vi så stole på?
Mediernes sisyfoskamp
De traditionelle danske medier forsøger at opruste. Der investeres i verifikationsenheder og software, der skal spotte digitale manipulationer i filernes metadata. Men det er en asymmetrisk krig. De AI-modeller, der skaber de falske medier, udvikler sig eksponentielt hurtigere end de systemer, der skal afsløre dem. Det er som at medbringe en kniv til en laser-krig.
Samtidig er de sociale medieplatforme – hvor 90 procent af disse deepfakes spredes – decideret modvillige over for at gribe ind. For platformene er kontroversielt og emotionelt indhold lig med engagement, og engagement er lig med annoncekroner. En falsk video af en minister i knæ genererer mere trafik end en tør berigtigelse.
Forsvaret for det levende ord
Hvordan beskytter vi et demokrati mod syntetisk forrådnelse? Svaret findes måske ikke i mere teknologi, men i en genopdagelse af det fysiske møde og den klassiske kildekritik. Vi er nødt til at genopbygge respekten for de medier, der rent faktisk har haft et levende menneske ude i marken for at trykke på optageknappen.
Det kommende folketingsvalg bliver det første i danmarkshistorien, hvor kunstig intelligens for alvor vil spille en usynlig hovedrolle. Hvis vi ikke som samfund – og som vælgere – lærer at navigere med en ekstrem sund skepsis over for det, vi ser på vores skærme, risikerer vi, at det ikke er folkeviljen, der vinder valget, men derimod den bedste algoritme.