Kunstig intelligens, autonome systemer og militærteknologisk acceleration – muligheder og udfordringer i et dansk perspektiv
Den hastige teknologiske udvikling inden for områder som kunstig intelligens, autonomi og robotteknologi får i disse år stigende indflydelse på et voksende antal aspekter af det enkelte menneskes liv og på samfundet som hele. Systemer med begrænset kunstig intelligens indgår allerede i en lang række af de teknologier, vi bruger i hverdagen. Alt fra sociale medier og diverse apps på din smartphone til minedrift og flytrafik benytter sig, på den ene eller den måde, af begrænset kunstig intelligens til at løse forskellige afgrænsede opgaver. Den udvikling vil i de kommende år i stigende grad også gøre sit indtog på forsvars- og sikkerhedsområdet. Dette skaber både nye udfordringer og nye muligheder for Danmark. Skal disse imødegås og udnyttes kræver det et øget fokus – både militært, politisk og forskningsmæssigt.
Et nyt våbenkapløb om kunstig intelligens - en mulig udfordring for Danmark
Det potentielt vigtigste (våben)kapløb, der foregår i disse år, omhandler ikke atomvåben, men udviklingen og anvendelsen af kunstig intelligens. Kapløbet foregår især mellem USA og Kina men også aktører som Rusland, Israel, Frankrig og Iran investerer i disse år alle massivt i kunstig intelligens, autonome systemer og robotter. USA formulerede i 2012 (og offentliggjorde i 2014) den såkaldte ”third offset strategy”, der skulle sikre amerikanerne overhånden i forhold til de nye (militær)teknologier. Men en massiv økonomisk og politisk opprioritering i lande som Kina og Rusland betyder, at den amerikanske overhånd ikke længere kan tages for givet. Udviklingen accelereres yderligere af, at forskellen på de politiske systemer og følgende deraf juridiske og bureaukratiske retningslinjer og krav medfører, at Kina ikke på samme måde som USA og europæiske lande er underlagt juridisk-bureaukratiske procedurer, hvor transparente og demokratiske, men til gengæld ofte træge, processer betyder et lavere tempo i forhold til igangsættelse af nye initiativer. Dette betyder at en opprioritering i de nævnte lande langt hurtigere kan omsættes til praksis. En yderligere forklaring på at det amerikanske forspring skrumper, er ifølge en række eksperter, yderligere, at Trump-administrationen og den amerikanske forsvarsminister James Mattis ikke prioriterer området lige så højt, som man gjorde under tidligere præsident Barack Obama. Den amerikanske viceforsvarsminister for forskning og ingeniørvirksomhed Dr. Michael Griffin udtalte i april 2018 ved en konference, at: “There might be an artificial intelligence arms race, but we’re not yet in it […] Our adversaries understand very well the possible future utility of machine learning,” […] “I think it’s time we did as well”. Hvorved han henviser til, at processen og udviklingen i USA går trægt i forhold til den udvikling, der ses lige nu hos især Kina. Dette betyder at den primære danske sikkerhedsgarant, NATO, i fremtiden, ikke nødvendigvis vil være lande som Kina og Rusland overlegne i hvert fald på alle områder ift. de nye militære teknologier. På den ene side kan Danmark i sagens natur som lille land med et relativt minimalt forsvarsbudget ikke deltage i kapløbet på lige fod med de store spillere som Rusland, Kina og USA. På den anden side kan Danmark heller ikke blot sidde med hænderne i skødet, da en lang række faktorer peger på, at disse teknologier vil få en stadig stigende betydning for sikkerhed og forsvar fremadrettet. Dette medfører en række muligheder, men også udfordringer samt deciderede trusler for Danmark.
Potentielle trusler mod Danmark fra kunstig intelligens og autonome systemer
Ruslands opprioritering og landets relativt hastige landvindinger inden for især bevæbnede og ubevæbnede autonome systemer, men også indenfor en række andre områder som eksempelvis brugen af kunstig intelligens til opgaver inden for grænsebevogtning bør, i det nuværende sikkerhedspolitiske klima, mane til eftertanke. Udsendelsen af danske soldater til Baltikum, øget aktivitet i Østersøen og i Arktis betyder, at det er meget sandsynligt, at Danmark endog på kort sigt, på den ene eller anden måde skal forholde sig til russiske autonome systemer og andre anvendelser af kunstig intelligens. Dette er en udfordring, der i høj grad bør tages alvorligt. En anden udfordring ligger i, at tilgængeligheden til de nye teknologier øges i takt med, at udviklingen muliggør, at nogle former for kunstig intelligens og autonome systemer kan produceres og anskaffes langt billigere end tidligere. Dette medfører at ikke-statslige aktører i stigende grad får adgang til forskellige nye teknologier, der kan anvendes militært. I Syrien og Irak har man set, hvordan Islamisk Stat (IS) i stigende grad benytter sig af droner. De fleste droner, IS anvender er stadig relativt rudimentære, og har heller ikke meget med kunstig intelligens at gøre, men de bliver hele tiden mere komplekse og bruges til en lang række opgaver fra kamikazeflyvninger til overvågning. Danmark deltager i dag og skal også i fremtiden kunne deltage i diverse stabiliseringsmissioner, der kan betyde, at man skal stå overfor ikke-statslige modstandere med adgang til sådanne teknologier. Samtidig peger Forsvarets Efterretningstjeneste (FE) på, at (delvist) autonome systemer som droner kan blive anvendt til terror på dansk jord. En analyse der deles af Jon Kjellund videnskabelig assistent på Center for Militære Studier på Københavns Universitet. Senior fellow ved Foundation of Defence of Democracies Daveed Gartenstein-Ross forudser, at terrororganisationers brug af forskellige former for kunstig intelligens vil stige i takt med, at tilgængeligheden øges. Han trækker her parraller til sociale medier og droner:
These uses of social media, encryption, and drones illustrate a key pattern: As a consumer technology becomes widely available, terrorists will look for ways to adapt it. Artificial intelligence will almost certainly end up fitting into this pattern. Like drones, AI will likely become much more widely available in commercial markets at reduced costs, and individuals will be able to modify and repurpose it.
Hvad Danmark kan og ikke kan gøre i forhold til kunstig intelligens og autonome våbensystemer
Først og fremmest er det vigtigt, at mulighederne og udfordringerne ved kunstig intelligens, autonome våbensystemer og robotteknologi tages alvorligt og ikke affærdiges som et science-fiction-scenarium i en fjern fremtid. Udfordringerne og mulighederne skal på dagsordenen nu og ikke først når disse teknologier for alvor begynder at gøre deres indtog. Dette gælder den militære og politiske dagsorden, men også i den bredere offentlighed. En af de vigtigste opgaver i denne forbindelse bliver at arbejde på at nuancere debatten, skabe begrebsklarhed og bevæge sig væk fra den kontraproduktive diskurs, der lige nu er fremherskende på området. Her omtales og diskuteres autonome systemer over en kam som såkaldte ”dræberrobotter”. Det samme gør sig gældende i forhold til kunstig intelligens, hvor der (nok grundet en rig dosis indflydelse fra science fiction-film og lignende) hersker en forestilling om, at kunstig intelligens kun er én ting eller teknologi. Dette er en problematisk ide, hvilket beskrives i en rapport fra The Hague Centre of Strategic Studies fra 2017:
For those unfamiliar with the field, or too familiar with popular culture, it may sometimes appear as if the development of Artificial Intelligence, insofar as it seeks to reproduce human intelligence (singular), is about a single technology – a unified search to develop that kernel of sentience in machines, which humans already possess. Yet nothing could be further from the truth: in practice, far from involving just one single technology or unified discipline, AI is a collection of distinct fields working on different technologies that, working together in the appropriate environments, allow for intelligent behavior to emerge.
Autonome systemer og kunstig intelligens er en lang række forskellige teknologier og discipliner, der ofte (men ikke altid) overlapper hinanden. Derfor er der også langt fra enighed om, hvad forskellige centrale begreber som ”autonomi”, ”intelligens” eller blot ”system” betyder. Derfor er det vigtigt at vores politiske og militære beslutningstagere rustes med en bedre forståelse for de nye teknologier og de implikationer de medfører. Forsvaret bør derfor overveje kraftigt at styrke forskning og undervisning inden for området. Kunstig intelligens og autonome systemer har ikke kun en effekt for den militære ledelse og de politikere, der skal træffe ”de store strategiske” beslutninger. Det er i høj grad de danske soldater, befalingsmænd og officerer, der vil komme til at mærke fremtidens ”teknoficerede” og ”intelligeficerede” kampplads og militære virkelighed på egen krop. Det bør derfor være en prioritet, at undervisning og forskning på området kommer alle niveauer af Forsvaret til gode.
Som nævnt er Danmark, grundet sin størrelse, ikke i stand til at deltage i kapløbet omkring kunstig intelligens og autonome systemer eller andre nye militærteknologier for den sags skyld. Dette skaber nogle potentielle udfordringer i forhold til, at kunne blive ved med at have den teknologiske kapacitet, der muliggør at vi kan samarbejde med forskellige mere ”højteknologiske” alliancepartnere. I en nyligt udgivet rapport fra Center for Militære Studier (CMS) ved Københavns Universitet fastslås det, at den hastige teknologiudvikling medfører, at omkostningerne ved anskaffelser af nye (militær)teknologier stiger, hvilket besværliggør og indskrænker mulighederne for, at (små)stater som Danmark overhovedet kan erhverve den teknologi, som er påkrævet såfremt man skal kunne fungere operativt med vores primære sikkerhedsgarant(er), NATO og USA. I en militær virkelighed, der i højere grad vil blive formet af forskellige hybride såkaldte C4ISR-netværk (Command, Control, Communications, Computer, Intelligence, Surveillance, Reconnaissance), der er forbundet på tværs af værn, alliancepartnere og for så vidt også mennesker og maskiner, er det en nødvendighed at systemerne kan tale sammen. Det lægger naturligvis nogle bånd på de kapacitetsanskaffelser Danmark kan gøre sig. Det er dog ikke ensbetydende med, at Danmark intet kan foretage sig, tværtimod. Den føromtalte hollandske rapport omhandler, hvordan små og mellemstore stater skal forholde sig til kunstig intelligens, heri konkluderes følgende:
We posit that smaller, nimble, forward-looking DSOs [Defence and Security Organizations] have a unique opportunity to start redefining who they are, what they do, and how they do it. AI may very well prove to be one of the key enablers of this (disruptive) transformation. Its algorithmic and (nondefense-specific) essence means that it is easier (though by no means easy) to ‘jump in’ than is the case for many industrial-kinetic technologies. Der konkluderes dermed at der for små (og mellemstore) stater er en lang række muligheder i forhold til kunstig intelligens, der kan være en katalysator for måden hvorpå, der tænkes forsvar på. Der lægges yderligere vægt på, at små (og mellemstore stater) i sagens natur ikke kan gå foran i udviklingen af store industrielle kinetiske kapaciteter, men at en lang række andre anvendelsesområder for kunstig intelligens i høj grad vil kunne udnyttes af småstater inden for områder som forebyggelse, forudsigelse og deeskalation inden en potentiel konflikt overhovedet udvikler sig:
Building a sixth-generation jet fighter is not in the cards for a small- to medium-sized force provider. Applying existing, open-source, deep-learning AI algorithms to the early detection of various defense and/ or security pathologies, or to find out which types of purposive actions might lead to the sustainable de-escalation of an explosive intra- or inter-state altercation, or to discover effective anti-inflammatory capabilities that can be deployed by the international community whenever a political entrepreneur in any country tries to whip up his (or her) group or society in a sectarian frenzy – very much is.
[…] Arabic- and English-language YouTube channels that pull together preexisting videos Jigsaw believes can effectively undo ISIS's brainwashing—clips like testimonials from former extremists, imams denouncing ISIS's corruption of Islam, and surreptitiously filmed clips inside the group's dysfunctional caliphate in Northern Syria and Iraq.
De hidtidige resultater ved brugen af Redirect Program viser interessant nok, at målgruppen (altså potentielle radikaliserede og radikaliserede personer) klikkede oftere på linkene og brugte længere tid på at se de film som Redirect Program havde foreslået, end typiske reklamekampagner. Projekter som Google Jigsaw og Redirect Program kræver dog et øget fokus på det civile/militære/offentligt/private samarbejde. Danmark har i sagens natur ikke adgang til Google, Facebooks e.l. digitale infrastruktur og man er derfor nødt til i langt højere grad at involvere private aktører. Projekter som Google Jigsaw, hvor fokus er på forebyggelse og forudsigelse tilbyder nogle potentialer, der er ganske interessante for småstater som Danmark. For at kunne drage nytte af disse kræves der dog netop en mere holistisk tilgang, hvor sikkerhed og forsvar forstås langt bredere end bare det militære aspekt. Der er dog også en lange række muligheder for at anvende kunstig intelligens på måder, der er langt mindre omkostningstunge eller kræver en større våbenindustri for at kunne føre ud i livet.
Den beskrevne holistiske tilgang til forsvar og sikkerhed kræver en redefinition af, hvem der kan gælde som aktører og hvordan. Eksempelvis betyder det forhold, at disse teknologier i høj grad udvikles i den private sektor og, at selve teknologierne ikke i sig selv er militære, at private aktører i langt højere grad må inddrages. Dette skaber en række (praktiske, juridiske og etiske) udfordringer i forhold til forskelle mellem de offentlige aktører og de private aktører, der skal inddrages. Disse må imødegås, hvis man ønsker at udnytte de potentielle muligheder, der ligger i den holistiske tilgang, men også mere grundlæggende, hvis man skal gøre sig nogen forhåbning om at kunne imødegå den teknologiske acceleration vi er vidne til i disse år.
Bureaukratisk træghed og teknologisk acceleration – en politisk og militær udfordring og en mulig løsning
Udviklingen af teknologier som kunstig intelligens og autonome systemer foregår primært privat, kommercielt, decentralt og i et stigende tempo. Dette står i direkte modstrid til, den ”bureaukratiske træghed”, som er kendetegnende både for det militære og politiske embedsværk. Som antropolog og ph.d. ved Forsvarsakademiet Katrine Nørgaard udtrykker det:
The legal-rational, rule governed and sometimes cumbersome bureaucratic procedures are an essential part of democratic control and prudent political decision making processes. But, in an age of exponential technological acceleration, governmental and military bureaucracies, often operating with 20-or 30-year timelines in the development and acquisition of new weapon systems, are left at an inherent disadvantage in keeping pace with rapidly advancing technologies.
[…] overvinde modstillingen mellem bureaukratisk træghed og teknologisk acceleration: De civile virksomheder stiller deres forskning, fleksibilitet og innovative potentiale til rådighed for et tungt militært bureaukrati og får til gengæld del i statslige ressourcer, testfaciliteter og organisatorisk robusthed på et omskifteligt marked. Man høster så at sige fordelene ved begge organisationstyper – marked/bureaukrati, privat/offentlig – og får en tempogevinst på begge sider.
Som hun yderligere peger på indeholder disse partnerskaber i sig selv dog en række politiske, etiske og juridiske udfordringer og spørgsmål, der også må på dagsordenen i forbindelse med diskussionen om ny teknologi. Der bør i takt med, at viden på området styrkes derfor arbejdes for at skabe danske overvejelser og konkret policy om, hvordan man i en dansk sikkerheds- og forsvarskontekst skal forholde sig til nye teknologier som kunstig intelligens og autonome systemer, herunder overvejelser om anvendelse, udvikling og anskaffelse samt om de potentielle trusler de kan udgøre. Dette er absolut nødvendigt, hvilket kan ses i den opmærksomhed spørgsmålet har fået i FN. I regi af Konventionen om visse konventionelle våbentyper, er der senest i april i år, blev afholdt konferencer om disse fremstormende teknologier og deres betydning for sikkerhed og krigsførelse, i forbindelse med potentiel international lovgivning på området. Der hersker dog stor uenighed medlemmerne imellem, og blot det at blive enige om en definition af autonome våbensystemer er ikke lykkedes. Kunstig intelligens og autonome systemer medfører dermed en lang række spørgsmål og problemstillinger, der bør forskes i og skabes klarhed omkring, hvis der skal udvikles meningsfuld international lovgivning og policy på området. Dette kan grundlæggende ses som en dansk mulighed, hvor man med en relativt lille (økonomisk) indsats potentielt ville kunne gøre sig gældende og være med i front. Det bør derfor ikke kun være forskningen i rent militære eller tekniske aspekter, der prioriteres, men også spørgsmål og problemstillinger af etisk, juridisk og ligefrem filosofisk karakter, bør der bruges tid og ressourcer på. At skabe viden på disse områder giver en bedre forståelse for de potentielle transformationer som kunstig intelligens og autonome systemer kan medføre, hvilket kan vise sig at være en afgørende fordel. Der bør derfor arbejdes for en helhedsorienteret tilgang, der inddrager industri samt militære og civile forskningsinstitutioner og med forskning inden for natur-, samfunds- og humanvidenskaberne. Indtil videre har denne artikel opridset en række danske muligheder og udfordringer i forhold til kunstig intelligens og autonome systemer. Afslutningsvis synes det derfor meningsfuldt at kigge på nogle af de initiativer, der allerede eksisterer.
En kort status over hvilke danske initiativer på det militærteknologiske område, der potentielt ville kunne styrke forskning i kunstig intelligens og autonomi
Der foregår allerede en række danske initiativer, der måske ikke er kendte i den bredere danske offentlighed. I det nye forsvarsforlig nævnes forskning i ny militærteknologi eksplicit og der øremærkes 50 millioner kroner til området. I forliget fokuseres der på cyber, men også en række andre teknologier. Der afsættes yderligere i forliget 15 millioner kroner til Center for Militære Studier ved Københavns Universitet til forskning i forbindelse med, at der ønskes et: ”[…] øget fokus på de folkeretlige udfordringer forbundet med […], cyber, droner og højteknologiske og elektroniske kampmidler.” Om end kunstig intelligens og autonome systemer ikke nævnes eksplicit i forsvarsforliget, er der indikationer på, at der eksisterer et øget fokus på den militærteknologiske udvikling. I forbindelse med den ovennævnte udfordring omkring bureaukratisk træghed og teknologisk acceleration er det værd at nævne, at der i forliget lægges stor vægt på samarbejde mellem offentlige aktører og industrien. Forsvarets Materiel og Indkøbsstyrelse (FMI) har allerede en række initiativer, der skal styrke samarbejdet mellem ”det offentlige” og ”det private”. FMI uddeler midler (i 2017 20 millioner kr.) til såkaldte ”medfinansieringsprojekter”, der netop skal facilitere samarbejde mellem Forsvaret og private aktører. Af ordningen fremgår det, at to af kravene for at få (med)finansiering er at: ”Projektet skal have relevans for forsvaret[sic.]” og at: ”Projektet skal generere ny viden, der kan anvendes af dansk industri.”. Samtidig tilbyder FMI en rådgivningskapacitet, der netop har til formål at øge viden på området, for militære og civile beslutningstagere, for at ruste dem til at kunne træffe kvalificerede valg om (militær)teknologi. En anden ny samarbejdsplatform er DTUs Center for Security, der blev oprettet i 2017. Centeret har til formål at understøtte forskning og samarbejde inden for forskellige former for sikkerhedsrelaterede emner. Samtidig faciliterer centeret DTUs samarbejde med både Forsvaret og forsvarsindustrien herunder TERMA og Lockheed Martin. Et sidste initiativ, der skal fremhæves er Forsvarsakademiets nyligt oprettede Militærteknologisk Center under ledelse af Major Thomas Galasz Nielsen, der har til formål netop at undersøge, hvilken betydning militærteknologier vil få for krig og krigsførelse i fremtiden både i et dansk og internationalt perspektiv. Samtidig udgør centeret en potentiel platform for samarbejdsinitiativer med både landets universiteter, industrien og andre relevante aktører både i ind- og udland. Der foregår dermed i Forsvaret og i andre relevante institutioner allerede en lang række initiativer, der skal sikre, at Danmark ikke bliver hægtet af den militærteknologiske udvikling. Dette er naturligvis positivt og den udvikling skal gerne forsættes og intensiveres, gerne med et yderligere fokus på kunstig intelligens og autonome systemer. Der bør dog stræbes efter koordinering de forskellige instanser i mellem så de forskellige initiativer understøtter og ikke overlapper hinanden.
Konklusion
Ny militærteknologi som kunstig intelligens og autonome systemer (både bevæbnede og ubevæbnede) vil med al sandsynlighed i de kommende år få en større og større betydning. Ikke blot for krig og det militære virke, men for forsvar og sikkerhed i en bredere forstand. Stormagter som USA, Kina og Rusland samt en lang række andre stater investerer i disse år massivt i kunstig intelligens, autonome systemer (bevæbnede såvel som ubevæbnede) og dertilhørende teknologier. Samtidig betyder spredningen og udviklingen af ny militærteknologi, at ikke-statslige terror- og oprørsgrupper i de kommende år også vil få lettere adgang til både cyber- og konventionelle kapaciteter, der anvender kunstig intelligens. Den hastige militærteknologiske udvikling vil også påvirke Danmark, der som småstat har nogle klare begrænsninger i forhold til, hvad der kan anskaffes og udvikles. Dette betyder dog på ingen måde, at Danmark blot skal sidde med hænderne i skødet.
Ved at tillægge sig et mere holistisk syn på forsvar og sikkerhed i forbindelse med kunstig intelligens og autonomi, vil der være en lang række muligheder for Danmark. Der bør investeres mere i forskning og udvikling på området for at skabe større forståelse for betydningen af disse nye teknologier, hos militære og politiske beslutningstagere samt i den bredere offentlighed. Danmark er dog, ligesom andre lande, præget af asymmetrien mellem den bureaukratiske træghed på den ene side og den accelererende militærteknologiske udvikling på den anden. Dette kræver, at private aktører i højere grad inddrages. Det kan afslutningsvis tilføjes at der allerede er igangsat en række initiativer både gennem forsvarsforliget og andetsteds, som giver Danmark et godt udgangspunkt for at omfavne udfordringerne og mulighederne ved kunstig intelligens og autonome systemer.
Fodnoter
[1] TRADOC G-2 The Operational Environment And The Changing Character of Future Warfare, U.S. Army’s Training and Doctrine Command, 2017. Scharre, Paul “The Opportunity and Challenge of Autonomous Systems”, Autonomous Systems. Issues for Defence Policymakers, Willams, A.P., Scharre, P.D [ed.], HQ SACT, Norfolk, 2015, s. 3f.
[1] Work, Bob Remarks by Deputy Secretary Work on Third Offset Strategy, Bruxelles, Belgien, April 28, 2016, tilgået den 23.03.2018 på: https://www.defense.gov/News/Speeches/Speech-View/Article/753482/remarks-by-deputy-secretary-work-on-third-offset-strategy/.
[1] Kania, Elsa B., “China Is On a Whole-of-Nation Push for AI. The US Must Match It”, The Race for AI, s. 13-16., March 2018 ebook, Defence one, 2018. Bendett, Samuel, “Russia Is Poised to Surprise the US in Battlefield Robotic”, The Race for AI, s. 8-12, March 2018 ebook, Defense One. Bendett, Samuel, “Russia Is Poised to Surprise the US in Battlefield Robotic”, The Race for AI, s. 8-12, March 2018 ebook, Defence One.
[1] Macães, Bruno, Europes AI delusion, Politico, 19. marts, 2018. Tilgået den 05.05.2018 på: https://www.politico.eu/article/opinion-europes-ai-delusion/. Kania, Elsa B. “China Is On a Whole-of-Nation Push for AI. The US Must Match It”, The Race for AI, s. 13-16, March 2018 ebook, Defence One. Tucker, Patrick, What the CIA’s Tech director Wants from AI, s. 24-26, March 2018 ebook, Defence One. Kania, Elsa B., China’s AI Agenda Advances, The Diplomat, 14. Februar, 2018. Tilgået den 07.05.2018 på: https://thediplomat.com/2018/02/chinas-ai-agenda-advances/. Cebul, Daniel, How is China developing AI technology so much faster than the US?, C4ISRNET, 15. Marts, 2018. Tilgået den 07.05.2018 på https://www.c4isrnet.com/home/2018/03/15/how-is-china-developing-ai-technology-so-much-faster-than-the-us/. Knapp, Brandon, DoD official: US not part of AI arms race, C4ISRNET, 10. April , 2018, Tilgået den 12.04.2018 på: https://www.c4isrnet.com/it-networks/2018/04/10/dod-official-us-not-part-of-ai-arms-race
[1] McLeary, Paul, The Pentagon’s Third Offset May Be Dead, But No One Knows What Comes Next, Foreign Policy, December 18, 2017, tilgået den 23.03.2018 på: http://foreignpolicy.com/2017/12/18/the-pentagons-third-offset-may-be-dead-but-no-one-knows-what-comes-next/
[1] Knapp, Brandon, DoD official: US not part of AI arms race, C4ISRNET, 10. April , 2018, Tilgået den 12.04.2018 på: https://www.c4isrnet.com/it-networks/2018/04/10/dod-official-us-not-part-of-ai-arms-race/
[1] Ibid.
[1] Bendett, Samuel, Get Ready NATO: Russia’s New Killer Robots are Nearly Ready for War, The National Interest, 17. Marts, 2017. Tilgået den 29.03.2018 på: http://nationalinterest.org/blog/the-buzz/russias-new-killer-robots-are-nearly-ready-war-19698. Sputnik News, Robots on Patrol: Russian Border to be Guarded by Artificial Intelligence, 30. Juni, 2016, s. 14ff. Tilgået den 02.04.2018 på: https://sputniknews.com/military/201606301042223143-russian-borders-guarded-robots/.
[1] TRADOC G-2 The Operational Environment And The Changing Character of Future Warfare, U.S. Army’s Training and Doctrine Command, 2017, s.10.
[1] Watson, Ben, The Drones of ISIS, Defense One, 12. Januar, 2017. Tilgået den 31.03.2018 på: http://www.defenseone.com/technology/2017/01/drones-isis/134542/.
[1] Ibid.
[1] Forsvarets Efterretningstjeneste, Efterretningsmæssig Risikovurdering 2017 En aktuel vurdering af forhold i udlandet af betydning for Danmarks sikkerhed, 2017, s. 26. Downloaded den 10.04.2018 på: https://fe-ddis.dk/SiteCollectionDocuments/FE/EfterretningsmaessigeRisikovurderinger/Risikovurdering2017.pdf
[1] Kjellund, Jon, Analyse: Hvad stiller vi op med truslen fra droner?, Politiken, 20. Januar, 2018, Tilgået den 11.04.2018 på: https://politiken.dk/debat/art6299695/Hvad-stiller-vi-op-med-truslen-fra-droner
[1]Gartenstein-Ross, Daveed, Terrorists Are Going to Use Artificial Intelligence, Defense One, 3.maj, 2018, Tilgået den 05.03.2018 på: https://www.defenseone.com/ideas/2018/05/terrorists-are-going-use-artificial-intelligence/147944/?oref=d-river
[1] Ibid.
[1] Se. f.eks. Lang, Johannes, Schott, Robin May, Van Munster, Rens. Dræberrobotterne Kommer, Jyllandsposten, 28.marts, 2018. Tilgået den 04.04.2018 på: https://jyllands-posten.dk/debat/international/ECE10425583/draeberrobotterne-kommer/.
Ibid., Danmark bør tage ”Dræberrobotterne alvorligt”, DIIS, 19.marts, 2018: Tilgået den 04.04.2018 på: https://www.diis.dk/publikationer/draeberrobotterne-kommer.
Hebsgaard, Thomas. Dræberrobotterne er lige om hjørnet. Her er, hvorfor du skal være bekymret, Zetland, 5. december 2017. Tilgået den 04.04.2018 på: https://www.zetland.dk/historie/sO3EX99L-ae6XddK5-0eccf.
Valeur, Jeppe, Selvstyrende dræberrobotter udløser global bekymring, protester og boykot, Politiken, 9.april, 2018. Tilgået den 9.april 2018 på: https://politiken.dk/viden/Tech/art6429461/Selvstyrende-dr%C3%A6berrobotter-udl%C3%B8ser-global-bekymring-protester-og-boykot.
[1] De Spiegeleire, Stephan. Maas, Matthijs. Sweijs, Tim Artificial Intelligence and the Future of Defense Strategic Implications for Small and Medium-Sized Force Providers, The Hague Centre for Strategic Studies, 2017, s. 39.
[1] De Spiegeleire et.al., 2017. Willams, Andrew, “Defining Autonomy in Systems”, Autonomous Systems. Issues for Defence Policymakers, Willams, A.P., Scharre, P.D [ed.], HQ SACT, Norfolk, 2015, s. 33.
[1] Breitenbauch, Henrik. Kristensen, Kristian Søby, Rørte vande Europæisk sikkerhed og dansk forsvar i en opbrudstid, Center for Militære Studier, Københavns Universitet, 2017. Downloaded den 02.04.2018 på: http://cms.polsci.ku.dk/publikationer/roerte-vande/CMS_Rapport_2017_R_rte_Vande.pdf.
[1] Ibid.
[1] Spiegeleire, Stephan. Maas, Matthijs. Sweijs, Tim Artificial Intelligence and the Future of Defense Strategic Implications for Small and Medium-Sized Force Providers, The Hague Centre for Strategic Studies, 2017, s. 106.
[1] Ibid.
[1] Ibid., 68. I teksten næves Holland, der er udgangspunkt for rapporten, men tilgangen kan tillige appliceres på andre stater.
[1] Spiegeleire, Stephan. Maas, Matthijs. Sweijs, Tim Artificial Intelligence and the Future of Defense Strategic Implications for Small and Medium-Sized Force Providers, The Hague Centre for Strategic Studies, 2017
[1] Greenberg, Andy, Google Clever Plan To Stop Aspiring ISIS Recruits, Wired, Tilgået den 30.03.2018 på: https://www.wired.com/2016/09/googles-clever-plan-stop-aspiring-isis-recruits/
[1] Ibid., Spiegeleire, Stephan. Maas, Matthijs. Sweijs, Tim Artificial Intelligence and the Future of Defense Strategic Implications for Small and Medium-Sized Force Providers, The Hague Centre for Strategic Studies, 2017, s.96ff.
[1] Se f.eks. Spiegeleire, Stephan. Maas, Matthijs. Sweijs, Tim Artificial Intelligence and the Future of Defense Strategic Implications for Small and Medium-Sized Force Providers, The Hague Centre for Strategic Studies.
[1] Nørgaard, Katrine A Study of Military Techno Politics: The Controversy of Autonomous Weapon System, Research Paper, Copenhagen, Royal Danish Defence College, 2017, s. 12f.
[1] Kirchgässner, Martin, McGhie, Steffen, Tidslinje: Danmarks nye kampfly, Ingeniøren, 13. juni, 2016. Tilgået den 05.04.2018 på: https://ing.dk/infografik/tidslinje-danmarks-nye-kampfly-161034. McGhie, Steffen, Danmarkshistoriens største våbenkøb, Ingeniøren, uden årstal, Tilgået den 05.04.2018 på: https://ing.dk/fokus/kampfly-milliarder.
[1] Nørgaard, Katrine ”Nye teknologier på en ny kampplads – mennesker og maskiner i krig”, Militær teknopolitik som Teori og Metode, draft, [uudgivet], 2018.
[1] Ibid.
[1] The Economist, Autonomous weapons are a gamechanger, Special Report, 25 januar, 2018. Set den 25.04.2018 på: https://www.economist.com/news/special-report/21735472-ai-empowered-robots-pose-entirely-new-dangers-possibly-existential-kind-autonomous. Lang, Johannes, Schott, Robin May, Van Munster, Rens, Danmark bør tage dræberrobotterne alvorligt, 2018. Nakamitsu, Izumi, ”Foreword”, Perspectives on Lethal Autonomous Weapon Systems, pp. v-vi, UNODA Occasional Papers, No 30, November, 2017.
[1] Forsvarsministeriet, Aftale På Forsvarsområdet 2018-2023, 28. januar, 2018, s. 12. Downloaded den 02.04.2018 på: http://www.fmn.dk/temaer/forsvarsforlig/Documents/Forsvarsforlig-2018-2023.pdf.
[1] Ibid.
[1] Ibid.
[1] Ibid.
[1] Forsvarets Materiel og Indkøbstjeneste, Medfinansieringsordningen, september, 2017. Tilgået den 05.04.2018 på: http://www.fmi.dk/forskning/forskningssamarbejde/Documents/hvad-er-medfinansieringsordningen.pdf.
[1] Ibid., s. 1.
[1] Nørgaard 2018.
[1] Center for Security DTU, Mission, [uden årstal], tilgået den 10.04.2018 på: http://www.security.dtu.dk/mission.
[1] Center for Security DTU, Collaboration, [uden årstal], tilgået den 10.04.2018 på: http://www.security.dtu.dk/collaboration.
