Skip to main content

Vad händer när robotar tar över dödandet?

Pressmeddelande   •   Maj 19, 2014 09:34 CEST

KTH-forskaren Linda Johansson har studerat robotar och etik och har nyligen lagt fram sin avhandling. Av den kan vi utläsa att det är hög tid att diskutera etiska frågor runt robotar, som att det kan vara nödvändigt att se över krigets lagar och även att börja undersöka huruvida avancerade robotar skulle kunna hållas ansvariga för sina handlingar. Vidare är det dags att inse att robotarna inom en inte allt för avlägsen framtid kommer att ta över fler jobb än vad vi kanske har föreställt oss.

Du reagerar förmodligen när du läser rubriken. Den är en av många filosofiska frågeställningar som KTH-doktoranden Linda Johansson funderat över när hon studerat olika filosofiska aspekter på robotar och autonoma system.

Hon har bland annat forskat runt etiken och militära autonoma robotar, framför allt så kallade drönare eller UAV:er (unmanned aerial vehicles). Anledningen är enkel: användandet av drönare ökar och allt mer pengar läggs ner på att utveckla dem. 

Antalet civila offer som drönarna skördar är omfattande. Enligt en FN-undersökning har 33 drönarattacker runt om i världen resulterat i  civila offer. I Pakistan har 2200 – 3300 personer dödats av drönare sedan 2004 varav 400 varit civila. Enligt de senaste siffrorna från det  pakistanska försvarsdepartementet har 67 civila dödats i drönarattacker i landet sedan 2008.

– Soldater får ju döda andra soldater i krig – skulle det då vara tillåtet att på andra sidan jorden attackera de operatörer som styr drönarna, frågar Linda Johansson.

Helt klart är att ny teknik ändrat förutsättningarna för krig och att det finns massor av nya frågeställningar som dessa krigsrobotar skapar.  Linda Johansson är inte främmande inför att det är nödvändigt att se över krigets lagar.

– Vem trodde för 30 år sedan att vi idag, 2014, skulle springa runt med internet på fickan?! Med tanke på hur snabbt utvecklingen går är det hög tid att ta tag i dessa etiska frågeställningar runt robotar. Ja, det är en av slutsatserna i min forskning. Det är inte för tidigt att  börja diskutera sådana här frågeställningar. Det är viktigt att diskutera etiska aspekter redan idag, säger Linda Johansson.

Hon fortsätter med att understryka att utvecklingen av autonoma system och robotar går mycket snabbt. Än så länge är förvisso till exempel drönare bara delautonoma, det krävs fortfarande en operatör som fattar beslutet att beskjuta ett mål. Samtidigt läggs stora summor pengar på att utveckla ökad autonomi hos drönarna. Det finns en stark lockelse i att ersätta soldater med robotar.

Vägen dit är dock också den kantad av etiska frågeställningar och problem.

– Snart kan vi stå inför en situation där en operatör styr två drönare istället för en, detta på grund av kostnadsskäl. Lägg sedan till att  människan har en tendens att förlita sig på tekniken. Lägg sedan till en situation där väldigt snabba beslut måste tas. Då är det lätt att kliva ur beslutsloopen och lämna över kontrollen till roboten eller datorn. Människan blir den svagaste länken. Ta till exempel Iran Air Flight 655. Där gick allt väldigt snabbt, man litade på tekniken som felade och ett civilt flygplan antogs vara militärt och sköts ner, säger Linda  Johansson.

Hon tillägger att vi ska föreställa oss en operatör som styr två drönare samtidigt med att vi spelar två tv-spel på en och samma gång. Det blir snabbt oöverskådligt.

Just referensen till tv-spel är för övrigt relevant av flera orsaker.

– Det är inte ovanligt att man jämför krig där drönare ingår som en form av datorspelskrig. Det finns dock en ganska stor etisk skillnad. Det är inte ovanligt att drönaroperatörer följer en person, ett mål, i flera dagar eller en hel vecka. Detta till skillnad från en vanlig soldat som inte gör det utan möter sin motståndare direkt, öga mot öga. De posttraumatiska stressyndromen som drabbar en operatör kan i vissa fall vara lika illa som en vanlig soldats dito, säger Linda Johansson.

Hon tillägger att det inte bara är militära autonoma robotar som är av intresse rent etiskt. 

– Det är fler arbetstillfällen än vad man först kan tro som kan ersättas av robotar. Det är inte bara enkla fabriksjobb som i framtiden tas över av autonoma system. Journalistik skulle delvis kunna göras av robotar. Det finns redan idag tester som visar att folk har svårigheter att skilja på en robots och en människas sportreferat, säger Linda Johansson.

Hon återgår till att beskriva de etiska aspekterna av militära autonoma robotar.

– I krig förlorar de stridande parterna rätten att inte bli attackerade men erhåller rätten till självförsvar. Om robotar i större utsträckning snarare ersätter än assisterar människan torde detta påverka den moraliska egaliteten. Robotarna riskerar ju inte sina liv. Betyder det att de har förlorat rätten att döda mänskliga soldater, säger Linda Johansson frågande.

Hon tillägger att frågan saknar ett entydligt svar. Kanske är det så att rättfärdigandet att döda elimineras eller åtminstone urholkas om ena parten till stor del använder robotar. Robotar, särskilt drönare, kan också förenkla genomförandet av ”hemliga krig” med låg transparens och få inblandade. Exempel på detta är underrättelseorganisationer som använder robotar vid sidan av militären och dödar bakom kulisserna.

Linda Johanssons forskning har resulterat i en sammanläggningsavhandling om sju artiklar. Förutom autonoma system i krig så har hon studerat andra aspekter på robotar. En av artiklarna handlar om vårdrobotar och etiken runt dem, och två artiklar handlar om så kallat agentskap. Om och i så fall hur avancerade robotar kan hållas ansvariga för sina handlingar.

Lindas forskning har finansierats av Myndigheten för samhällsskydd och beredskap (MSB) och delvis i samarbete med FOI.

För mer information, kontakta Linda Johansson på 070 - 339 27 25 eller linda.johansson@abe.kth.se.