Januar 2020
Kjære Ola Mestad og medlemmer av Etikkutvalget for Statens Pensjonsfond Utland
Vi står nå overfor en dramatisk skifte, hvor teknologiutvikling kan muliggjøre dødelige autonome våpen, som har autonomi i kritiske funksjoner og kan velge ut og angripe mål uten meningsfull menneskelig kontroll. Utviklingen har blitt kalt den tredje revolusjonen i krigføring, etter krutt og atombomben, og både ekspertene og FNs generalsekretær ber verdens stater om å forby slike våpen før de kommer i bruk.
The Campaign to Stop Killer Robots ble dannet i oktober 2012, og er en koalisjon av ikke-statlige organisasjoner (NGOer) som jobber for å forby autonome våpen og derved beholde meningsfull menneskelig kontroll over bruken av makt. I Norge blir kampanjen koordinert av Norges Fredslag, Amnesty International Norge, og Norsk Folkehjelp, og på vegne av disse organisasjonene ønsker vi å spille inn det følgende til Etikkutvalgets arbeid.
Hva er problemet med dødelige autonome våpensystemer?
Dødelige autonome våpensystemer, ofte kalt drapsroboter, er våpensystemer som selv kan velge ut og angripe mål uten meningsfull menneskelig kontroll. Vi mener bestemt at det er dypt uetisk å delegere beslutningen om liv og død til en maskin.
Dødelige autonome våpensystemer vil gjennom deres normale bruk bryte med etiske og juridiske. Fordi det er usannsynlig at de i stor nok grad vil være i stand til å skille mellom sivile og militære mål, er det svært tvilsomt om de kan benyttes i tråd med internasjonal lov, herunder humanitærretten (IHL). Dersom maskiner selv får bestemme hvem som får leve og dø, skaper det også uklarhet om hvor det juridisk ansvaret ligger, dersom en ulovlig handling blir begått.
Tusenvis av eksperter på kunstig intelligens har advart om at disse våpnene vil bryte lovlige og etiske normer og har bedt om et internasjonalt forbud. Det samme har blant annet FNs generalsekretær, Den Internasjonal Røde Kors-komiteen, og Europaparlamentet. Disse bekymringene har også blitt reist av Etikkrådet selv, blant annet i årsrapporten for Etikkrådet 2015. Vi ser med forventning fram til en styrking av de etiske retningslinjene.
I tillegg er det sannsynlig at autonome våpen senker terskelen for å gå til angrep, og at en spiral av angrep og motangrep kan skje svært fort, dersom mennesker ikke lenger er involverte i beslutningene rundt væpnet konflikt. Slik uforutsigbarhet vil ikke være i Norges eller Pensjonsfondets interesse.
Våre anbefalinger
Hvordan Statens Pensjonsfond Utland forvalter sine midler, og hvor grensene blir dratt for akseptable våpen, vil kunne ha stor betydning. Vi anbefaler at Etikkrådet tar en tosidig tilnærming til autonome våpen. For det første anbefaler vi å legge til dødelige autonome våpen i den produktbaserte eksklusjonslisten, og for det andre anbefaler vi å legge til prinsippet om meningsfull menneskelig kontroll i eksklusjonskriteriene for våpensystemer. Det avgjørende er å sikre at alle våpensystemer til enhver tid er under meningsfull menneskelig kontroll, og under alle omstendigheter kan overholde prinsippene i humanitærretten.
Vedlegg: den norske partiundersøkelsen
For mer detaljer viser vi til PAX sitt skriftlige innspill til Etikkutvalgets arbeid, med vedlegg.
På vegne av
Norsk Folkehjelp Amnesty International Norge Norges Fredslag
Henriette Westhrin John Peder Egenæs Irene Elise Hamborg
Generalsekretær Generalsekretær Styreleder
Norges-Fredslag_Partipolitisk-undersøkelse_Autonome-våpen-2018-1.pdf