AI-agenter #4 Vad företag behöver veta

Del 4: Så syns våra egna principer i agenterna vi byggt

Bloggartikel av Ann-Sofie Gustafsson, SamCert AB

I de tre tidigare artiklarna gick vi igenom steg enligt ISO 42001, de vanligaste säkerhetsriskerna enligt OWASP, och den handbok vi själva använder för att godkänna nya AI-verktyg. Den här artikeln handlar om vad som händer när de principerna faktiskt ska omsättas i en riktig agent, inte bara i ett dokument: vi byggde nyligen tre små interna hjälpagenter för vårt eget administrativa arbete, och varje enskilt designval i dem går att spåra tillbaka till en princip från de tidigare artiklarna.

Agent 1: leverantörsutvärderaren

Den första agenten gör research på en ny AI-leverantör och fyller i ett utkast till vår egen godkännandeblankett – i praktiken samma researcharbete vi tidigare gjort för hand. Två val i den agenten är inte slumpmässiga.

Den får aldrig fatta det faktiska beslutet. Den föreslår "godkänns", "godkänns med villkor" eller "avslås", men är uttryckligen instruerad att det bara är ett förslag – beslutet ligger alltid kvar hos en människa. Det är samma princip vi landade i redan i handboken: en checklista ska inte ge ett automatiskt ja eller nej.

Den får bara skriva till en enda, avgränsad mapp. Inte hela filsystemet, inte andra dokument – bara dit utvärderingar hör hemma. Det är samma resonemang som avsnitt F i handboken bygger på: en agent ska ha sin egen, avgränsade behörighet, aldrig bred åtkomst "för säkerhets skull".

Den är också uttryckligen instruerad att aldrig gissa fakta, utan markera allt den inte kan bekräfta som just obekräftat. Det kravet kommer direkt från en läxa vi själva fick när vi skrev artikel två: ett av de exempel vi först använde för att illustrera en säkerhetsrisk visade sig vara felaktigt återgivet när vi kontrollerade det närmare. Att bygga in samma försiktighet i agenten, inte bara i vårt eget skrivande, kändes som en självklar konsekvens.

Agent 2: mötesanteckningar

Den andra agenten sammanfattar mötestranskriptioner. Den har medvetet det minsta möjliga verktygsset som går att klara uppgiften med: bara läsa och skriva, ingenting annat – ingen möjlighet att köra kommandon eller nå internet, eftersom uppgiften aldrig kräver det. Det är ett direkt konkret exempel på ett råd som annars kan låta abstrakt: en agent som bara kan nå det den faktiskt behöver begränsar skadan om något ändå går fel.

Varje sammanfattning märks dessutom alltid med "UTKAST – ej kvalitetsgranskat" innan den sparas. Anledningen är den risk vi beskrev i artikel två om att människor kan luras att lita för mycket på en agent bara för att den låter säker och välformulerad – så agenten är instruerad att aldrig framstå som mer färdig eller auktoritativ än den faktiskt är.

Agent 3: dokumentgranskaren

Den tredje agenten stämmer av en kunds dokumentation mot en ISO-checklista inför en revision. Den har bara läsbehörighet – ingen skrivrätt alls, trots att det hade varit tekniskt enkelt att låta den spara sina fynd direkt. Anledningen är att uppgiften i grunden är analys, inte handling, och då finns det inget skäl att ge den mer behörighet än så – ett konkret exempel på att matcha behörighet mot faktiskt behov, snarare än mot vad som vore bekvämt.

Den är också uttryckligen förbjuden att skriva att något "uppfyller kraven" eller "godkänns". Det är en gräns som inte bara handlar om AI-säkerhet i stort, utan om vårt eget yrkesansvar: en revisors bedömning är något en AI inte kan ta över, oavsett hur bra underlaget den tar fram är.

Poängen med hela övningen

– Det är lätt att skriva principer i ett dokument och sedan bygga agenter som inte riktigt lever upp till dem, för att det är bekvämare i stunden. Det som var nyttigt med den här övningen var att gå tillbaka till våra egna tidigare artiklar varje gång vi skulle fatta ett litet designbeslut, och faktiskt fråga oss om vi följde det vi själva skrivit. Ibland gjorde vi inte det på första försöket, säger Ann-Sofie Gustafsson, vd och certifieringschef på SamCert AB.

Skillnaden mellan en policy och en vana är att en policy kan man glömma bort, medan en vana sitter kvar i det man faktiskt bygger – och det är först när principerna sitter i konfigurationen, inte bara i ett dokument, som de faktiskt spelar någon roll i vardagen.

Om SamCert AB

SamCert AB hjälper små och medelstora företag att bli certifierade och att göra sina ledningssystem till ett verkligt verktyg i verksamheten. Genom ett tydligt och praktiskt arbetssätt förenklar SamCert vägen till certifiering inom kvalitet, miljö, arbetsmiljö, informationssäkerhet och AI. Företaget finns i Göteborg, Stockholm, Malmö och Oslo.

För mer information, kontakta: Ann-Sofie Gustafsson Vd och certifieringschef, SamCert AB E-post: ann-sofie@samcert.se