Autonomi i militære operasjoner av Cooper og Henriksen (red.): utdrag

Autonomi i militære operasjoner

CAMILLA GULDAHL COOPER • DAG HENRIKSEN (red.)

Camilla Guldahl Cooper og Dag Henriksen (red.)

Autonomi i militære operasjoner

© CAPPELEN DAMM AS, Oslo, 2023

ISBN 978-82-02-79144-5

Materialet i denne publikasjonen er omfattet av åndsverklovens bestemmelser. Uten særskilt avtale med Cappelen Damm AS er enhver eksemplarfremstilling og tilgjengeliggjøring bare tillatt i den utstrekning det er hjemlet i lov eller tillatt gjennom avtale med Kopinor, interesseorgan for rettighetshavere til åndsverk.

Omslagsdesign: Kristin Berg Johnsen

Sats: Bøk Oslo AS

Trykk og innbinding: Livonia Print SIA, Lativa

Kilder: Bilde s. 22 og 46: FFI- Forsvarets forskningsinstitutt; s. 68: foto ved Torbjørn Kjosvold/ Forsvaret/Forsvarets mediebank; s. 71: screen-shot fra video av Marius Thoresen/FFI- Forsvarets forskningsinstitutt; s. 90: Sjøforsvaret; s. 112: Forsvaret; s. 138: foto ved Anette Ask/Forsvaret; s. 162: Estonian Armed Forces; s. 171: foto ved Espen Hofoss/FFI- Forsvarets forskningsinstitutt; s. 182: Sopra Steria; s. 195: Da Vinci-systemet/Intuitive/ intosurg.com; s. 196: foto ved Karl Øyri, Intervensjonssenteret, OUS/Oslo Universitetssykehus; s. 200: Bear System; s. 201: Milrem; s. 204: foto ved Karl Øyri, Intervensjonssenteret, OUS/Oslo Universitetssykehus; s. 210: Wikimedia Commons; s. 230: nytegning av BØK AS etter et underlag fra Center of Ethics and the Rule of Law/University of Pennsylvania; s. 252: Milrem; s. 276: FN.

www.cda.no

akademisk@cappelendamm.no

1. utgave, 1. opplag 2023

Figurer nytegnet av Bøk.

Innledning

Camilla G. Cooper

Bokens hensikt

Hvordan ser en moderne, høyteknologisk krig ut? Hvilken teknologi og hvilke systemer vil operere i fremtidens krig, og i hvilken grad vil mennesker bemanne eller styre denne teknologien? Autonomi i militære operasjoner har vært gjenstand for stor interesse og mye diskusjon i flere år, både blant fagfolk og i befolkningen generelt. Søkelyset er gjerne hovedsakelig rettet mot maktbruk, og diskursen er tidvis preget av frykt og følelser. Slik frykt for ny utvikling er ofte forårsaket av manglende kunnskap, men på noen områder roper også folk med mye kunnskap varsku om at utviklingen ikke må gå for fort eller for langt.1 Samtidig er det også mange myter og urealistiske perspektiver i både den allmenne og den faglige diskusjonen knyttet til bruk av autonom teknologi. Dette gjelder særlig innenfor den militære konteksten, hvor det ikke kreves kunnskap bare om teknologi, men også om hvordan militære operasjoner planlegges og gjennomføres.

Hensikten med denne boken er å skape forståelse for bruken av autonome systemer i militære operasjoner. Det er behov for å avklare hva status er i dag, hva som er sannsynlig utvikling på kort og mellomlang sikt, og hva den militære nytteverdien er og kan forventes å være. I tillegg til å få frem teknologiens muligheter og begrensninger søker boken å få frem noen av forutsetningene for at autonomi kan ha ønsket nytteverdi i militære operasjoner. Det er ikke gitt at Forsvaret evner å utnytte hele potensialet i ny teknologi bare ved å få tilgang til den; det kreves også blant annet organisatoriske og doktrinelle endringer.

Forskning på og publikasjoner om autonomi har en tendens til å rette søkelyset mot maktbruk. Selv om Forsvaret og militærmakt i stor grad assosieres med våpen og våpenbruk, består militære operasjoner av mye mer, for eksempel logistikk, informasjonsinnhenting, cyberoperasjoner, styrkebeskyttelse og sanitet. Uten alle disse funksjonene og aktivitetene vil ikke Forsvaret være i stand til å hevde norsk suverenitet på en god og

1 Future of Life Institute, «Pause Giant AI Experiments: An Open Letter», Future of Life Institute, 22.03.2023, https://futureoflife.org/open-letter/pause-giant-ai-experiments/ (på tidspunktet for nedlasting 11.april 2023 var brevet signert av 20 507 personer, inkludert Elon Musk).

effektiv måte. For å få frem både teknologiens nytteverdi mer generelt og at det også innenfor andre områder er utfordringer som må håndteres, har vi derfor lagt stor vekt på å utvide diskusjonen ut over autonome våpen.

Dette brede perspektivet reflekteres både i valg av tema og innad i de ulike kapitlene. Mens noen kapitler bidrar til den pågående diskusjonen om autonome våpen, er oppmerksomheten i andre kapitler rettet mot autonomi i Forsvarets operative virksomhet mer generelt, og mot de diskusjonene og den utviklingen innen autonomi som skjer der. Det pågår for eksempel en stor diskusjon i Luftforsvaret knyttet til større autonomi for F-35-flåten, og autonomi er et sentralt tema innen Sjøforsvarets fremtidsplaner. I Hæren har utfordringer knyttet til bruk av autonome kjøretøy blant sivile utgjort en stadig større del av diskusjonen de siste årene. Også innen andre og mindre belyste områder vil autonomi spille en viktig rolle i fremtiden, for eksempel innen cyberoperasjoner og sanitet. Håpet er at boken kan bidra til en mer nyansert og bredere forståelse for autonomi i militære operasjoner, og at diskusjonen kan blir mer kunnskapsbasert og helhetlig.

Bokens tilnærming til autonomi

Det er mange måter å forstå autonomi på. I denne boken har vi tatt som utgangspunkt at autonomi er beskrivelsen av en funksjonalitet ved et system. Et system er autonomt når det er i stand til å agere eller handle på en ønsket måte eller oppnå forhåndsdefinerte mål uten å trenge ytterligere informasjon eller instrukser fra andre. Autonome systemer er i stand til å tilpasse utførelsen av en oppgave de har fått, til det de «ser». Det betyr at de kan utføre oppgaven på nye steder, gjerne i ulike værforhold og også når de må forholde seg til andre dynamiske objekter. Et system som har disse egenskapene, vil være autonomt selv om det er mulighet for menneskelig overstyring dersom behovet skulle oppstå. Et autonomt system vil likevel alltid ha visse begrensninger av blant annet teknisk og rettslig art, både når det gjelder hva slags oppgaver det kan utføre autonomt, og med tanke hva slags omgivelser det vil fungere i.

I tillegg til autonome systemer som kan «se», «beslutte» og «utføre», er det stadig vanligere med systemer som bruker slik funksjonalitet som del av en større prosess, gjerne til beslutningstøtte. For eksempel kan tolkning og fusjonering av sensorinformasjon brukes til situasjonsforståelse

for mennesker, eller systemer kan benyttes til ruteplanlegging eller andre beregninger av «optimale» måter å gjøre noe på.

Autonome våpensystemer er våpensystemer som benytter autonom teknologi i ett eller flere av leddene i beslutningsprosessen som styrer bruken av våpenet. Eller sagt på en annen måte; det er autonome systemer som har bruk av våpen som en del av handlingsrommet. Normalt vil det innebære at systemet finner og engasjerer et mål, uten at et menneske verifiserer at det målet systemet har funnet, er det tiltenkte målet.

Autonomi i det norske Forsvaret

Utgangspunktet for boken er at Forsvarets kjerneoppgave – «å hevde norsk suverenitet og sikre nasjonale interesser»2 – vil kunne innebære deltakelse i væpnet konflikt eller krig. Væpnede konflikter innebærer stor risiko for både stridende og sivile, og militærteknologisk utvikling har blant annet til hensikt å redusere denne risikoen. Andre hensyn inkluderer å gjøre militære styrker og deres operasjoner mer effektive, rimeligere og mer miljøvennlige. Diskusjonene knyttet til autonomi er tett knyttet til utviklingen av ubemannede fartøyer, som droner. Autonomi benyttes på mange områder, men innen det militære domenet er søkelyset hovedsakelig rettet mot bruken av autonome systemer til bedre å utnytte potensialet til ubemannede plattformer, slik at de kan benyttes til flere oppgaver, innenfor flere områder og over lengre perioder.

Det er gjerne sagt at teknologien skal prioritere områder som er vanskelige og farlige for mennesker. Som forklart av U.S. Air Force-offiser Brian Tice allerede i 1990:

When used, UAVs [unmanned aerial vehicles] should generally perform missions characterized by the three Ds: dull, dirty, and dangerous. Dull means long-endurance missions which, in the future, could continue for several days. Dirty means jobs such as detecting chemical agents and their intensity; certainly a good manned mission to avoid if possible. Dangerous missions for unmanned vehicles are numerous and growing. Two that come to mind,

2 Regjeringen, Hurdalsplattformen 2021–2025, Rapport (Oslo: Regjeringen 2021), https://www.regjeringen.no/contentassets/cb0adb6c6fee428caa81bd5b339501b0/no/pdfs/hurdalsplattformen.pdf

however, are reconnaissance deep behind enemy lines and suppression of enemy air defenses.3

Henvisningen til de tre D-ene er nå blitt gjengs også innenfor autonomidiskusjonen, og den vil bli gjenfunnet i flere av bokens kapitler. Som boken viser, er det ikke bare soldater som vil kunne dra nytte godt av utviklingen. Autonomi kan effektivisere operasjonene og gjøre militære styrker bedre i stand til å utøve sine oppgaver og plikter, inkludert dem som er tiltenkt å beskytte sivilbefolkningen. Forbedret situasjonsforståelse og økt presisjon vil være til alles fordel.

For det norske forsvaret har utviklingen innen autonomi først og fremst vært knyttet til det maritime domenet. Norge er blitt beskrevet som «en stormakt på autonome sjøfarkoster, men en lilleputt på fly».4 Norge har enorme havområder som skal kontrolleres, og ubemannede fartøyer utgjør en viktig styrkemultiplikator (force multiplier). Norge har et begrenset antall bemannede fartøyer, og når de ubemannede fartøyene i tillegg er autonome, krever de færre operatører.

Men også på andre områder blir det utviklet ubemannede fartøyer som i økende grad styres ved hjelp av autonom teknologi, både i luften og på bakken. I tillegg jobbes det med autonomi på områder som sanitet og cyberoperasjoner, og også her er vurderingen at den teknologiske utviklingen byr på betydelige muligheter for Forsvaret.5 Som bokens del 2 viser, har autonomi stort potensial på de fleste områder av Forsvarets aktiviteter. Sentralt i utviklingen er hvilke oppgaver autonome systemer er egnet til å løse, og hvor teknologien er robust og trygg nok til at Forsvaret kan bruke den.6

Det kanskje mest kontroversielle innen autonomidiskusjonene er utvikling og bruk av autonome våpensystemer. Våpensystemer med høy grad av autonomi er ikke noe Forsvaret benytter i dag, og mange stater har utrykt

3 Brian Tice, «Unmanned Aerial Vehicles: The Force Multiplier of the 1990s», Airpower Journal V, nr. 1 (1991), 41, https://web.archive.org/web/20090724015052/http:/www.airpower.maxwell.af.mil:80/ airchronicles/apj/apj91/spr91/4spr91.htm.

4 Per Erlien Dalløkken, «Norge er en stormakt på autonome sjøfarkoster, men en lilleputt på fly», Teknisk Ukeblad, 12.11.2013, https://www.tu.no/artikler/norge-er-en-stormakt-pa-autonome-sjofarkostermen-en-lilleputt-pa-fly/233919

5 Se f.eks. intervju med sjefen for Cyberforsvaret, generalmajor Inge Kampenes, i Erik Hattrem, «Kunstig intelligens har et stort potensial for Forsvaret», Klikk.no, 22.04.2021, https://www.klikk.no/ teknologi/kunstig-intelligens-har-et-stort-potensiale-for-forsvaret-7014438

6 Intervju med André Pettersen fra FFI, i Erik Hofoss, «Autonomi vil gjøre Forsvaret bedre», Forskning.no, 18.09.2019, https://forskning.no/forsvarets-forskningsinstitutt-partner-roboter/autonomivil-gjore-forsvaret-bedre/1564270

bekymring for en utvikling av våpensystemer uten tilstrekkelig menneskelig kontroll og involvering. Det er åpenbart at slike våpensystemer reiser nye problemstillinger som må diskuteres, både nasjonalt og internasjonalt, men det er også viktig at en slik diskusjon blir foretatt på grunnlag av kunnskap og fakta, ikke antakelser og frykt. Eksempelvis vil det være fånyttes å diskutere folkerettslig regulering av autonome våpen uten først å forstå hvordan reglene som eksisterer i dag kommer til anvendelse, og i spørsmålet om hvorvidt slike systemer er uetiske, må man ta inn over seg at det ikke finnes noe klart svar på hva som er etisk og uetisk. Spørsmålet om hvorvidt krigen endres totalt dersom stater i økende grad bruker autonome våpen, fortjener også grundigere analyse.

Bokens oppbygning

For å gi bedre forståelse for Forsvarets bruk av autonom teknologi og mulighetene denne byr på, bygger boken på tre hoveddeler. Del 1 har til hensikt å avklare ytterligere hva autonomi er, og hva som er mulighetene og begrensningene i denne teknologien, sett i lys av militære operasjoner. I del 2 rettes søkelyset mot den militære nytteverdien av autonom teknologi i de fire domenene hær, sjø, luft og cyber samt støttefunksjonene logistikk og sanitet, og i tillegg mot hvilke begrensninger forfatterne ser finnes innenfor sine respektive områder. Ettersom noe av bokens hensikt er å ta diskusjonen knyttet til autonomi i militære operasjoner et hakk videre, er den etter hvert velkjente diskusjonen rundt «droner» i form av ubemannede luftfartøyer ikke tatt inn som eget kapittel.7 I stedet ser kapitlet om autonomi i et luftperspektiv på kampflyet F35 og mulighetene teknologien i dette flyet byr på. De generelle kapitlene i del 1 og 3 vil likevel være relevante også for denne typen autonome fartøyer. Del 2 avsluttes med et kapittel som forklarer hvordan ny teknologi tradisjonelt blir tatt imot, som en ytterligere ramme for å forstå debatten knyttet til autonomi.

En diskusjon knyttet til autonomi vil ikke stå seg uten en vurdering av de rettslige og etiske sidene ved bruken av autonom teknologi i militære operasjoner, og en slik vurdering kommer i del 3. De rettslige spørsmålene

7 For en grundig oversikt over tidligere diskusjon knyttet til bruken av droner og autonomi, se f. eks.

Tor Arne Schjander Berntsen, Gjert Lage Dyndal og Sigrid Redse Johansen, Når dronene våkner: autonome våpensystemer og robotisering av krig (Oslo: Cappelen Damm, 2016).

er fordelt på to kapitler: Ett om krigens folkerett og hvordan denne regulerer autonome våpen og annen bruk av autonomi i væpnet konflikt, og ett som ser på lovligheten av autonomi i et bredere perspektiv. Til sist stilles spørsmålet: Bør vi forby eller regulere autonome våpen?

Kapitteloversikt

Del 1: Det teknologiske utgangspunktet

Kapittel 1, «Autonome, intelligente maskiner som lærer», forklarer hva autonomi, kunstig intelligens og maskinlæring er, og gir en introduksjon til hvordan autonome systemer virker. Søkelyset er på autonomi i ubemannede farkoster, og kapitlet tar også for seg autonome våpen og knytter bekymringene rundt slike våpen til teknologien det er snakk om.

Kapittel 2, «Teknologiske muligheter, begrensninger og forutsetninger for autonome farkoster», belyser hvilke muligheter som åpner seg etter hvert som ubemannede farkoster får mer autonomifunksjonalitet. Kapitlet gjennomgår hva slags begrensninger systemene typisk vil ha, og teknologiske forutsetninger for at vi skal kunne stole på og bruke systemene effektivt i militære operasjoner.

Del 2: Den militære nytteverdien

Kapittel 3, «Nytteverdien av autonomi i Hæren», ser på de autonome systemene Hæren allerede bruker. De fleste systemene er enkle, men de bidrar stadig mer til stridsevnen vår. For å kunne ta et kritisk blikk på hva autonomi betyr, nå og i nær fremtid, er det nødvendig å se på teknologien fra to perspektiver. Det ene perspektivet er nytteverdi for militære systemer. Det andre perspektivet er teknologisk modenhet. Disse to perspektivene kan hjelpe oss med å redusere risiko ved innovasjon.

Kapittel 4, «Maritim autonomi i Sjøforsvaret», ser på hvilke muligheter som eksisterer for autonom teknologi i sjøoperasjoner. Hvorfor bør Sjøforsvaret utvikle autonome systemer, og hvordan kan disse anvendes på best mulig måte? Norges geostrategiske plassering gjør det viktig at Sjøforsvaret kan bidra til å opprettholde åpne sjøveier, og den økte spenningen i nordområdene forsterker dette behovet. For å identifisere nytteverdien av autonomi innenfor det maritime domenet vil dette kapitlet derfor hovedsakelig rette oppmerksomheten mot Sjøforsvarets nye

mineryddingsprosjekt. I kapitlet argumenteres det for at autonomi har potensial til å styrke og effektivisere Sjøforsvaret på flere områder.

Kapittel 5, «Autonomi og F-35-operasjoner», setter søkelyset på hvordan autonomi kan forstås som del av et operasjonskonsept for våre nye F-35-kampfly. Gir innføringen av et nytt kampfly i Forsvaret økt mulighetsrom for delegering av myndighet til det utøvende leddet i organisasjonen? I så fall: Hvorfor er slik delegering aktuelt, og hva er det som kan påvirke evne og vilje til større grad av autonomi innen operasjoner med F-35? Kapitlet trekker frem sentrale momenter innenfor ledelse av kampflyoperasjoner, teknologi og organisatoriske utfordringer som bidrar til økt forståelse for temaet.

Kapittel 6, «Autonomi i cyberoperasjonar», gir et bilde av autonome cyberoperasjoner i dag og i nær fremtid. Hva vil det si at en cyberoperasjon er autonom? Hvordan er autonomi relatert til automatikk og kunstig intelligens?

Og hva er muligheter og utfordringer med autonomi i cyberoperasjoner?

Kapitlet presenterer en forståelse av hva autonomi vil si i cyberoperasjoner, og gir eksempler på autonomi i offensive og defensive cyberoperasjoner. Videre drøfter kapitlet i hvilken grad fremskritt innen kunstig intelligens vil påvirke og fremme autonomi i cyberoperasjoner.

Kapittel 7, «Autonomi og logistikk», tar for seg muligheter og utfordringer ved å implementere autonome løsninger i Forsvarets logistikk. Hva er hensikten med å «autonomisere» logistikken, og hvordan skal man få autonome løsninger til å fungere? Det legges vekt på at logistikk og forsyningskjeder er grenseoverskridende og derfor må koordineres og integreres med andre systemer. Selv om nye teknologiske løsninger, både inkrementelle og disruptive, har potensial til å effektivisere logistikken og bidra til økt operativ evne, må teknologien passe inn med både doktriner, kompetanse og organisasjon for at man skal få full effekt av investeringene.

Kapittel 8, «Autonomi i saniteten», viser hvordan autonome løsninger blir stadig viktigere innenfor medisin og innen alle sanitetens ansvarsområder. Hvilken betydning vil autonom analyse av store datamengder ha for soldatutvelgelse, evakuering og medisinsk behandling av skadede og syke soldater? Data fra sensorer på soldatene kan bidra til viktige beslutninger om evakuering og behandling. Autonome systemer vil spille en viktig rolle

i søk og redning, medisinsk styrkebeskyttelse og medisinsk helselogistikk. I kapitlet diskuteres også noen av de juridiske og etiske utfordringene med autonomi i saniteten.

Kapittel 9, «Krigens endrede natur», tar for seg hvordan autonomi påvirker krigens egenart. Det er en akseptert sannhet at selv om krigens karakter stadig er i endring, forblir dens natur det samme. Forskjellige kriger i historien kan være svært ulike, men likevel har de nok til felles til at vi oppfatter dem som ulike uttrykk for det samme fenomenet. I dette kapitlet stilles det spørsmål om hvorvidt autonomi og den teknologiske utviklingen mer generelt nå har kommet så langt at ikke bare krigens karakter og den konkrete krigens spesielle særtrekk har endret seg, men også krigens natur.

Del 3: Etiske og juridiske perspektiver Kapittel 10, «Autonome våpen – etiske utfordringer», benytter ulike etiske modeller til å analysere etiske argumenter for og imot autonome våpen. Disse argumentene drøftes så opp mot den klassiske etiske tradisjonen som kalles «rettferdig krig». Denne tradisjonen er et hensiktsmessig rammeverk for en etisk vurdering av autonome våpen, og den viser at autonome våpen ikke kan defineres som uetiske i seg selv. Kapitlet konkluderer med at utvikling av slike våpen imidlertid må underlegges en vurdering og regulering ut fra de samme etiske kriteriene som gjelder for militære maktmidler for øvrig.

Kapittel 11, «Autonomi i krig – muligheter og begrensninger i krigens folkerett», ser på bruken av autonomi og autonome våpensystemer i lys av krigens folkerett. Kan slike våpen brukes på en måte som etterlever kravene til distinksjon og proporsjonalitet? Og hva sier krigens folkerett om behovet for menneskelig kontroll? Kapitlet tar opp flere sentrale spørsmål knyttet til lovligheten av bruk av autonomi i militære operasjoner i væpnet konflikt, og det argumenterer for at med god forståelse av teknologien og operasjonskonteksten kan autonome systemer opereres i tråd med krigens folkerett på flere områder.

Kapittel 12, «Folkerett og autonome våpen: forbud, regulering eller fritt frem?», tar for seg de viktigste folkerettslige regimene som gjelder for autonome våpen, og ser på hvilke særlige utfordringer som oppstår i møte med autonomi. Kapitlet presenterer også pågående diplomatiske prosesser

knyttet til autonomi, og skisserer mulige veier folkerettslig regulering av autonome våpen kan ta fremover.

Litteratur

Berntsen, Tor Arne Schjander; Gjert Lage Dyndal og Sigrid Redse Johansen. Når dronene våkner: autonome våpensystemer og robotisering av krig. Oslo: Cappelen Damm, 2016. Dalløkken, Per Erlien (2013). «Norge er en stormakt på autonome sjøfarkoster, men en lilleputt på fly». Teknisk Ukeblad. 12.11.2013. https://www.tu.no/artikler/norge-er-en-stormakt-paautonome-sjofarkoster-men-en-lilleputt-pa-fly/233919

Future of Life Institute. «Pause Giant AI Experiments: An Open Letter». Future of Life Institute. 22.03.2023. https://futureoflife.org/open-letter/pause-giant-ai-experiments/ Hattrem, Erik. «Kunstig intelligens har et stort potensial for Forsvaret». Klikk.no. 22.04.2021. https://www.klikk.no/teknologi/kunstig-intelligens-har-et-stort-potensiale-forforsvaret-7014438

Hofoss, Erik. «Autonomi vil gjøre Forsvaret bedre». Forskning.no. 18.09.2019. https:// forskning.no/forsvarets-forskningsinstitutt-partner-roboter/autonomi-vil-gjore-forsvaretbedre/1564270

Regjeringen. Hurdalsplattformen 2021–2025. Rapport. Oslo: Regjeringen, 2021, https:// www.regjeringen.no/contentassets/cb0adb6c6fee428caa81bd5b339501b0/no/pdfs/ hurdalsplattformen.pdf

Tice, Brian P. «Unmanned Aerial Vehicles: The Force Multiplier of the 1990s». Airpower Journal V, nr. 1 (2019): 41. https://web.archive.org/web/20090724015052/http:/www.airpower. maxwell.af.mil:80/airchronicles/apj/apj91/spr91/4spr91.htm

Det teknologiske utgangspunktet

FFIs ubemannede båt Frigg med en autonom undervannsbåt av typen Hugin. Disse autonome undervannsbåtene blir brukt i forskning som understøtter Forsvarets framtidige minemottiltakskonsept. For å unngå å sende bemannede farkoster inn i potensielt minelagte områder, vil Forsvaret i stor grad utnytte ubemannede systemer med autonomifunksjonalitet.

Kapittel 1

Autonome, intelligente maskiner som lærer

Rikke Amilde Seehuus

Innledning

«Autonome, intelligente maskiner som lærer» kan høres skummelt ut, men hva betyr det egentlig? Bruk av ord som «autonomi» og «intelligens» gjør det lett å tilskrive maskiner menneskelige egenskaper de faktisk ikke har. Når disse ordene brukes om maskiner, er de ment som analogier, ikke som direkte sammenlikninger med de mye mer komplekse menneskelige egenskapene. Maskiner fungerer fundamentalt forskjellig fra mennesker, på godt og vondt, og i motsetning til hvordan det er med mennesker, er det faktisk mulig å forstå full ut hvordan maskiner fungerer. Dette kapitlet vil forklare hva autonome maskiner, kunstig intelligens og maskinlæring er, og vil gi en introduksjon til hvordan autonome systemer virker. Det er lagt mest vekt på autonomi for robotsystemer, gjerne omtalt som autonome farkoster, men mange av autonomifunksjonene er like relevant for beslutningsstøtteverktøyer og planleggingsverktøyer. Rene cybersystemer er ikke omtalt her, men introduksjonen til autonomi og kunstig intelligens gjelder generelt. Autonomi i cybersystemer er tema i kapittel 6. Målet med dette kapitlet er å gjøre leserne i stand til å reflektere rundt bruk av autonomi og kunstig intelligens i militære systemer.

Hva er autonomi?

Autonomi1 betyr selvstyre. Når vi snakker om autonomi som en menneskelig egenskap, handler det om fri vilje og menneskers mulighet til å ta egne

valg og bestemme over seg selv. 2 Det handler om å kunne tro på og mene hva man vil. Samtidig har vi lover som hindrer enkelte handlinger, men oppmerksomheten er ofte rettet mot å begrense autonomien minst mulig.

Maskiner har ingen ønsker, behov, meninger eller noe forståelse av om seg selv. Det gir ikke mening å snakke om maskiner med fri vilje. Et autonomt system vil alltid ha fått en oppgave av et menneske, og systemet prøver å utføre denne oppgaven best mulig, basert på hva systemet vet og observerer underveis.

En utfordring som ofte skaper forvirring, er at begrepet autonomi brukes om minst to ulike konsepter. Noen ganger snakker vi om autonomi i betydningen hvor selvstendig et system opererer, andre ganger snakker vi om autonomi i betydningen hvor komplekse funksjoner et system har. Dette er to ulike perspektiver som ofte blandes sammen, men som ikke nødvendigvis korresponderer.

At et system er helt autonomt, i den forstand at det kan operere helt selvstendig, uten tilsyn, sier ikke i seg selv noe om hvor komplekse autonomifunksjoner systemet har. Støvsugerroboter har for eksempel operert helt selvstendig i over tjue år, men dagens støvsugerroboter har mye mer autonomifunksjonalitet enn de første som kom på markedet. Tilsvarende har en Tesla mye mer avansert autonomifunksjonalitet enn en støvsugerrobot, til tross for at en Tesla konstant trenger menneskelig tilsyn under kjøring. For spesifikke applikasjoner, for eksempel selvkjørende biler,3 kan det gi mening å koble selvstendighet med kompleksitet i autonomifunksjoner, men denne sammenhengen gjelder ikke generelt.

Autonom i betydningen «selvstendig»

Begrepet autonom brukes ofte for å referere til et system som opererer helt selvstendig. I bestemmelser for militær luftfart, som blant annet regulerer militær droneflygning, bruker man begrepet autonom om en drone man har mistet kommunikasjonslink til.4 For at en drone skal bli kalt autonom,

2 Anne Kari Tolo Heggestad, «Den tradisjonelle forståelsen av autonomi er for snever», Sykepleien 109, 83901 (2019), https://sykepleien.no/forskning/2021/03/den-tradisjonelle-forstaelsen-av-autonomi-er-snever

3 Kelechava, «SAE Levels of Driving Automation», American National Standards Institute, 19.07.2021, https://blog.ansi.org/sae-levels-driving-automation-j-3016-2021/#gref

4 «Med autonome operasjoner menes flyginger som foregår uten link kontakt mellom farkosten og bakkekontrollstasjonen, og hvor man under hele eller deler av flygingen ikke har mulighet til å påvirke farkostens flyprofil i sann tid eller nær sann tid, og/eller holde kontroll på farkostens posisjon og status», jf. Sjef luftforsvaret, Bestemmelser for Militær Luftfart (Rygge: Luftforsvaret, 2017).

spiller det i denne konteksten ingen rolle hva dronen gjør, eller hva den kan utføre på egen hånd, kun at den «er på egen hånd». Tilsvarende vil den ifølge dette regelverket ikke være autonom så lenge det er en kommunikasjonslink til den, og så lenge det er mulig å overstyre det den gjør, uansett hvor komplekse oppgaver den i praksis utfører uten menneskelig inngripen.5

Hvor selvstendig et system opererer kan beskrives på flere måter. For en ubemannet farkost gir det mening å skille mellom fjernstyrt, fjernoperert, fjernovervåket og helt selvstendig.6 Fjernstyring betyr å detaljstyre farkosten, mens et fjernoperert system utfører deloppgaver på egen hånd, som å peke kameraet dit operatøren vil se, eller å forflytte seg fra A til B. Både fjernovervåkede og helt selvstendige systemer gjør den tildelte oppgaven selv, men på et fjernovervåket system har man hele tiden kommunikasjonslink og kan endre oppgave, avbryte eller potensielt overta styringen. At et system kan operere helt selvstendig, uten at noen følger med, betyr ikke nødvendigvis at det kan takle alt som kan skje, men at eventuelle konsekvenser, hvis noe går galt, er akseptable. Merk at den tekniske kompleksiteten godt kan være høyere i et fjernstyrt system enn i et helt selvstendig system; det kommer an på hva systemet faktisk skal gjøre. Systemer på alle nivåer kan potensielt utnytte de samme autonomifunksjonene, enten de brukes for beslutningsstøtte for operatøren eller for å styre farkosten direkte.

I militær kontekst er vi ofte interessert i grad av menneskelig kontroll. Istedenfor å være opptatt av hvor selvstendig systemet kan utføre en oppgave, er da oppmerksomheten rettet mot når og hvor mennesker bør involveres. Det er vanlig å snakke om mennesker «i loopen», «på loopen» eller «utenfor loopen». «I loopen» betyr at maskinen må vente på klarsignal fra et menneske før det kan gjøre noe. For eksempel har Kongsberg Defence & Aerospace sin fjernstyrte våpenstasjon Protector funksjonalitet for å detektere og følge droner, men den skyter ikke uten at et menneske trykker på knappen. «På loopen» betyr at maskinen opererer selvstendig, men mennesker monitorer systemet i sanntid og har mulighet for å overstyre eller avbryte systemet. Eksempler er selvforsvarssystemer som luftvern og aktive beskyttelsessystemer på stridsvogner. «Utenfor loopen» betyr at maskinen opererer uten mulighet for inngripen. Typisk vil man

5 Dagens lovverk for droneflygning baserer seg på antakelsen om at en drone fjernstyres av en operatør eller et operatørteam. Det har ikke tatt hensyn til muligheter med autonomi eller bruk av flere farkoster på en gang, for eksempel styring av en dronesverm.

6 Solveig Bruvoll mfl., Den autonome framtid, FFI-rapport 19/00906 (Kjeller: Forsvarets forskningsinstitutt 2019).