Nyhet -
Språkmodeller kan vara ett stöd vid militär taktisk planering
En språkmodell, specialanpassad för en militär kontext, går att använda som ett stödverktyg vid taktisk planering. Dock har AI-tekniken begränsningar som gör att stödet inte riktigt når upp till dess fulla potential. Det är ett par slutsatser från FOI-forskare som har genomfört tillämpade studier tillsammans med officerare.
På uppdrag av Försvarsmakten har en grupp FOI-forskare skapat en specialanpassad språkmodell (ett AI-verktyg) för en militär kontext, instruerad att arbeta utifrån Planering Under Tidspress-metodiken (PUT). Du kan läsa mer om vad språkmodeller och PUT är i faktarutor nedan.
Forskarna har genomfört två studier där officerare har fått tillgång till det specialanpassade AI-verktyget. Den första studien genomfördes på specialistofficersutbildningen i Halmstad med tio officerare och den andra under Taktisk kurs Armé på Markstridsskolan i Skövde med 61 officerare. Data samlades in genom fokusgruppintervjuer, enkäter och observationer.
Både hög förväntan och missnöje
Flera av officerarna hade höga förväntningar på vad AI-verktyget skulle kunna hjälpa dem med och dessa förväntningar slog delvis in.
– En styrka hos AI-verktyget var att det snabbt sammanfattade och sållade i stora textmängder samt presenterade resultatet överskådligt. Vissa upplevde också att AI-verktyget var ett bollplank de kunde pröva olika idéer på, säger Zackarias Alenljung, forskningsingenjör på FOI.
Det fanns också missnöje med AI-verktyget. Till exempel att det var svårt att formulera bra promptar och att det gick åt för mycket tid att faktagranska det AI-verktyget tog fram. En prompt är en instruktion eller meddelande som skickas tillspråkmodellen. Hur prompten är formulerad, påverkar modellens svar.
– Flera ansåg att AI-verktyget var undermåligt som stöd vid arbete med kartor, vilket självklart begränsar förmågan att genomföra analyser kopplade till geografisk information. Framtida AI-verktyg behöver därför vara integrerade i ett digitaliserat ledningsstödsystem med tillgång till dataströmmar från sensorer på slagfältet, säger Zackarias Alenljung.
Forskarnas slutsats är att det redan nu går att använda AI-verktyg vid taktisk planering, förutsatt att användaren tar hänsyn till teknikens begränsningar. Ytterligare studier behöver genomföras för att bättre förstå effekterna av att tillämpa stora språkmodeller på taktisk planering och hur AI-verktyg bör utformas för att ge bästa möjliga stöd.
Tolv aspekter i form av erfarenheter, lärdomar eller perspektiv
AI-verktyg är lämpliga att använda på ledningsnivå från bataljon och uppåt
Därför att tidshorisonten är tillräckligt lång, och att mängden information som bearbetas är så pass stor att det finns en vinning av att använda AI-stöd. Om detta rådde stor enighet mellan officerarna.
Bra på att söka i och sammanfatta stora mängder information
Den mest uppskattade egenskapen hos AI-verktyget. Genom att ladda upp ordrar, handböcker, reglementen och dokument till AI-verktyget har användarna haft möjlighet att exempelvis ställa frågor kring en detalj i en order och relatera det till exempelvis handböcker, något som genomgående varit uppskattat.
Ej bra nog på att generera handlingsalternativ
Ett optimalt fungerande AI-verktyg skulle kunna ta fram olika inriktningar och jämföra dem mot varandra samt föreslå fiendens troliga handlingsalternativ och ringa in kritiska beslutstillfällen. Där är vi inte i dag och vidareutveckling krävs. I nuläget sätter tekniken för många begränsningar.
Kritiska funktioner saknas
AI-verktyget har flera brister när det kommer till att analysera kartor och tolka bilder. Även här krävs vidareutveckling.
Ge varje funktion sin egen GPT
Flera officerare önskade att varje individ i en stab borde få tillgång till en egen personlig GPT (generative pre-trained transformer). Till skillnad från AI-verktyget i denna studie skulle funktions-GPT:erna vara mer funktionsspecifika, och kräva en snävare kontext, kunskapsbas samt anpassade svarsmallar.
Träna på att skriva promptar
Det är svårt att skriva bra promptar, en åsikt som flera av officerarna uttryckte. De upplevde att de fick lägga mycket tid på att formulera promptar som sedan gav svar av lågt värde. En av orsakerna till detta var att officerarna visste för lite om AI-verktygets kapacitet. Här är det viktigt med mera utbildning.
Träning och utbildning är en förutsättning för framgång
Utbildning, träning och övning utgör centrala verksamheter inom Försvarsmaktens organisation. Ingen skillnad bör göras mot exempelvis användandet av AI-verktyg.
Ha förståelse för att AI-verktyget påverkar hastigheten i processer
Forskarna noterade att AI-verktyget hade en varierande effekt på tempot i planeringsprocessen. Vid vissa uppgifter, som att sammanfatta och söka i stora mängder text, hade AI-verktyget en positiv effekt på planeringen och tidseffektiviteten. Men när det gällde att generera handlingsalternativ gjorde kravet på att lära AI-verktyget vad det skulle göra och sedan granska de många gånger felaktiga svaren att tempot sjönk.
Varierande tillförlitlighet
Flera officerare var missnöjda över att de var tvungna att lägga mycket tid på att faktagranska svaren vilket gjorde att de klassade AI-verktygets tillförlitlighet som lågt. Dock kunde forskarna se att även de som inte riktigt litade på AI-verktyget uppskattade dess förmåga att sammanfatta stora mängder text, hämta ut särskild information från text samt besvara frågor utifrån tillhandahållen litteratur.
Användande påverkar förtroendet
Officerarnas attityd till att använda AI-verktyget vid taktisk planering varierade mellan positiv till neutral. Flera var skeptiska till en början men blev mera positivt inställda efter att ha använt verktyget. Forskarna rekommenderar därför Försvarsmakten att ge fler officerare möjligheten att bekanta sig med AI-verktyg.
Tappa aldrig bort människan i systemet
Flera officerare ansåg att AI-verktyget minskade den mänskliga kontakten inom staben och lyfte den etiska aspekten av att använda ett AI-verktyg i militära sammanhang. Det fanns också en oro för att andra officerskollegor skulle bli lata och lita för mycket på AI-verktyget. Forskarna vill understryka att den mänskliga kommunikationen inom en stab är viktig och att ansvaret aldrig får ligga hos ett AI-verktyg istället för en människa.
Tänk på säkerheten och sekretessen
I denna studie skapade forskarna ett AI-verktyg utifrån kommersiellt tillgängliga språkmodeller. Det innebär risker utifrån datasäkerhet och sekretess.
Faktaruta om stora språkmodeller
Stora språkmodeller är en form av generativ AI som kan analysera, generera och efterlikna mänskligt producerad text. Dessa modeller har tränats på stora mängder data för att identifiera mönster och strukturer. En fördel med många av dagens stora språkmodeller är att de kan anpassas till tillämpningen. En användare kan instruera en språkmodell med specifika förhållningssätt, önskemål och information om en domän som gör svaren mer anpassade till användarens behov.
Faktaruta om Planering Under Tidspress-metodiken (PUT).
PUT är en metod för militär planering på taktisk nivå (pluton – bataljon). Beslutsmetoden är en anpassning av flera traditionella planeringsmetoder och beskriver ett tillvägagångssätt för att lösa ett generellt militärt planeringsproblem. Taktiskt tänkande ska uppmuntras till att vara fritt och kreativt. Planeringen bygger på chefens och stabens kunskap om och färdighet i taktik och strid samt innefattar flera tids- och rumsperspektiv samtidigt. Metoden består av tre steg som syftar till att besvara frågorna:
- Vad måste uppnås för att lösa uppdraget?
- Hur kan uppdraget lösas?
- Hur ska detta uppdrag lösas?
