Hey chat, hvor skal jeg sende mit missil hen?

Palantir har siden 2008 været en del af det amerikanske militær med deres software Gotham. Gotham bruges af efterretningstjenester og militære enheder over hele verden – inklusive Danmark. Softwaren fungerer som støtte i beslutningsprocesser, og ved brug af data kan den hjælpe med at opspore mønstre og identificere mulige trusler. Danmark købte systemet i 2018, hvor det har fået navnet POL-INTEL. Systemet kan analysere data på tværs af registre, for eksempel CPR-registeret, Kriminalregistret og så videre.

I Marts 2025 underskrev NATO en aftale med Palantir om softwaren Maven Smart Systems. Det betyder, at Danmark også har adgang til denne software i forbindelse med NATO-operationer.

Project Maven opstod tilbage i 2017 i et samarbejde mellem USA’s Forsvarsministerium og Google. Tidligere viceforsvarsminister, Robert Work, ville vise at fremtidens kampplads var automatiseret forklarer Jeppe Teglskov Jacobsen der er rådgiver ved Nationalt Forsvarsteknologisk Center. De udviklede en software der, ved hjælp af billedegenkendelse, kunne løse problemerne med at man fik store mængder data fra overvågningsdroner i Irak og Afghanistan.

Da Googles medarbejdere hørte om projektet blev de så utilfredse, at Google ikke forlængede deres kontrakt med ministeriet, og Project Maven blev overtaget af Palantir.

Palantir har døbt softwaren Maven Smart System. Ved hjælp af kunstig intelligens kan softwaren analysere tonsvis af data og dronebilleder meget hurtigere end mennesket.

Når krig skal gå stærkt

Muligheden for at ramme mange mål på kort tid, for eksempel 1000 på 24 timer, er et produkt af, den såkaldte ”kill-chain” er blevet forkortet væsentligt af AI-teknologierne. Ifølge admiral Brad Cooper chef for US Central Command, kan kill-chainen der normalt tager timer og nogle gange dage forkortes til få sekunder.

En kill-chain er den proces der foregår, fra man identificerer et mål og til slut får en be- eller afkræftelse på neutralisering. Altså om målet stadigvæk er en trussel eller ej.

Normalt skal der masser af ressourcer til at gennemføre en kill-chain forklarer, Jacobsen. Der er altså en masse information der skal behandles før man angriber. For eksempel soldaters placering – både fjendens og dine egne – hvad for nogle våben har de? Hvem er tættest på? Har de materialerne til at angribe?

Den korte beslutningsproces er i høj grad også en af grundene til, at teknologien er blevet så udbredt.

- Den teori man har om, hvordan man vinder på kamppladsen, det er, at man tager hurtigere beslutninger end sin fjende. Det kan AI være med til, fordi du har ekstrem meget data, siger Jacobsen.

Den korte beslutningsproces er dog også, noget af det eksperter kritiserer Maven for. Man har ikke lang tid til at beslutte, om et mål skal neutraliseres. Mennesker bliver pludselig en meget lille del af beslutningskæden, og når de faktisk er en del af den, er det under meget pressede omstændigheder. Jacobsen beskriver det som en pseudo ansvars-pådragelse.

- Når det er dig der er soldaten, og du sidder og skal tage en beslutning om et missil skal affyres, hvor du kun har en 15, 20 sekunder til at beslutte det, så er det ikke en reel beslutning. Så er det bare et gummistempel, siger Jacobsen

Anna Nadibaidze PhD og forsker ved Syddansk Universitet (SDU) er enig i Jacobsens udtalelser, og peger netop også på de få sekunder man har til at tage en beslutning.

Samtidig forklarer hun, at vi allerede ser hvordan at AI kan have kæmpe indflydelse i militær regi. For eksempel benytter Israel en AI-software de kalder ’Lavender’ til at hjælpe med at udpege mål.

Rapporter har vist, at militæret ikke har nok tid til at vurdere om deres mål i Gaza faktisk er lovlige og strategiske i orden. På grund af den pressede situation ender soldaterne blot med at godkende et mål udpeget af systemet. Nogle har endda udtalt, at de skulle behandle Lavenders anbefalinger som direkte ordre, på trods af at man ved, at 10 procent af Lavenders anbefalinger er upræcise.

Anna Nadibaidze peger også på, at menneskers tillid til teknologi risikerer at udfordre den kritiske vurdering, man burde lave, inden man godkender en anbefaling fra systemerne.

- Det handler om, hvordan mennesker interagerer med systemerne. Der er et dokumenteret fænomen, der hedder automatiseringsbias, man kan tænke på det som overtillid. Mennesker har en tendens, til at stole blindt på hvad en maskine siger til en, ikke kun AI, selvom vi godt ved, at det måske er forkert information. Så det handler om menneskets psykologi, siger Nadibaidze.

Som en del af et større projekt under EU omhandlende AI-teknologier i krigsførelse har Center for krigsstudier, der hører til under SDU, udgivet en rapport med en række anbefalinger. Anna Nadibaidze en af medforfatterne på rapporten, der udkom tidligere i år.

De lægger især vægt på uddannelse. Personer involveret på alle stadier i livscyklussen af en AI, alt fra udviklere til brugere og politikere, bør være uddannet i hvordan en AI fungerer, begrænsningerne og menneske-maskine interaktionen.

- Det kan selvfølgelig være teknisk, i forhold til hvordan systemerne fungerer, men også om menneskelig kontrol, og hvad det vil betyde for at bruge systemerne i krig. Stater og militæret kan også implementere risikovurderinger, så der bliver tænkt over mulighederne allerede inden udviklingen, og så man ved hvad de potentielle risicier er, siger Nadibaidze.

Forstår vi overhovedet teknologien?

Det er begrænset hvor meget man egentligt ved om teknologierne. Firmaerne kan demonstrere hvordan de virker. Der ligger videoer af dette online, og det er også et produkt de skal sælge.

Men hvad der præcis ligger bag, ved vi ikke meget om. Man ved ikke, hvilke data systemerne er trænede på, eller hvordan de for eksempel beslutter hvad der er et gyldigt mål, forklarer Anna Nadibaidze.

På trods af det handler om forsvar, og man derfor må forvente en vis grad af hemmeligholdelse, så hun gerne at der var noget mere transparens.

- Det kan være problematisk fra et juridisk og etisk perspektiv, for eksempel hvis man skal stille folk til ansvar ved krigsforbrydelser, siger hun.

Andreas Graae, adjunkt hos Forsvarsakademiet peger på, at det er et generelt problem, at vi ikke ved meget om AI-teknologier. Teknologien bag bliver så komplekst, at selv udviklerne har svært ved at forstå dem. Der er altså en slags ’black box’, bag de outputs man får af systemerne. Det er især problematisk, når det skal gå stærkt.

- Beslutningshastigheden bliver meget højere, så man hele tiden kan være lidt foran modstanderen. Men når man får så lidt tid, til at faktisk kunne gå den efter i sømmene, så kan det være det her black box opstår, siger Graae.

Derfor peger Jeppe Teglskov Jacobsen også på, at det skal være dem, der har implementeret systemet, der skal stå på mål for beslutningerne.

- Du har ikke nogen forudsætninger for grundlæggende at stå på mål for den beslutning, for det er bare et system, der er kommet med en anbefaling, siger Jacobsen.

Ifølge SDU’s rapport bør man sætte grænser helt fra udviklingsfasen. Der skal være tydelige krav, til hvad AI’en må bruges til, samt hvad den ikke må. Dette skal også være med til at sikre kontrol senere i processen. Der bliver pointeret, at hvis man ikke sætter grænser for AI’en tidligt i udviklingen, risikerer man at miste kontrollen senere.

Rapporten anbefaler også, at man sikrer muligheden for menneskelig intervention i systemerne. For eksempel at man kan bremse beslutningsprocesserne og deaktivere systemerne.

Ifølge Altinget viser aktindsigter i fakturerer, at der har været eller er et kundeforhold mellem Forsvaret og Palantir indenfor de sidste seks år. Ingeniøren rapporterede i starten af Marts, at i efteråret sidste år var der tæt kontakt mellem Palantirs danske salgsagent og Forsvarsministeriet.

Det er således tydeligt, at AI spiller en stor rolle i krig rundt omkring i verden. En rolle der formentligt kun bliver større. Men når beslutninger skal træffes på få sekunder, og teknologien kan være svær at gennemskue, får man lyst til at sætte spørgsmålstegn ved, om det stadigvæk er mennesker der trykker på knappen, når missilerne skal sendes ud.

Palantir er blevet forhold kritikken, men er ikke vendt tilbage på henvendelsen.