Var fjärde företag testar AI-agenter – men säkerhet och etik bromsar utvecklingen

I en nyligen publicerad rapport från Capgemini Research Institutes framgår det att allt fler företag implementerar AI-agenter – autonoma program som kan fatta beslut, agera självständigt och utföra komplexa uppgifter för att uppnå specifika mål, ofta med minimal mänsklig inblandning.

14% av organisationerna som tillfrågats uppger att de redan implementerat AI-agenter. Ytterligare 23% är i gång med att testa användningsfall i praktiken, medan 30% har börjat utforska möjligheter. Närmare en tredjedel överväger att experimentera med eller implementera AI-agenter inom de närmaste sex till tolv månaderna.

De ekonomiska vinsterna från AI-agenter förväntas bli betydande. Rapporten projicerar att AI-agenter kan generera cirka 450 miljarder dollar i totalt ekonomiskt värde i de undersökta länderna fram till 2028. Detta inkluderar både intäktsökningar och kostnadsbesparingar. När det gäller specifika affärsfunktioner förväntar sig en majoritet att AI-agenter kommer att hantera minst en process eller delprocess dagligen inom de närmaste tre åren.

Men trots potentialen står organisationer inför stora utmaningar. En av de mest framträdande är att förtroendet för AI-agenter minskar. Endast 27% av organisationerna uttrycker förtroende för helt autonoma AI-agenter, en klar minskning från 43% för 12 månader sedan.

Rapporten identifierar dessutom flera kritiska problemområden, däribland:

• Säkerhet och integritet: Hälften av organisationerna oroar sig för integritetsfrågor och för säkerhetsrisker. Endast en liten andel vidtar aktiva åtgärder för att mildra dessa risker.
• Etiska överväganden: Närmare hälften oroar sig för oönskad bias, och endast en fjärdedel vidtar åtgärder. Bristande transparens är också en stor oro.
• Kompetensbrist: Drygt hälften av organisationerna anser att de har otillräcklig kunskap och förståelse för AI-agenters kapacitet. Endast en tredjedel förstår tydligt var AI-agenter bäst tillämpas.

En majoritet av organisationerna anser att mänsklig översyn minskar riskerna. Enligt Caroline Segerstéen Runervik, Nordenchef på Capgemini, är det viktigt att just inkludera medarbetarna, och vara tydlig med syftet i god tid innan implementering.

– AI-agenter har en betydande potential att transformera företag och vi ser redan idag konketa implementeringar inom offentliga och privata aktörer. Jag ser framför allt att vi är flera egna spännande användarfall inom våra olika stödfunktioner. Men för att lyckas krävs en ansvarsfull strategi. Det handlar om att säkerställa transparens, tydlighet och robust säkerhet, samt att investera i labbmiljöer liksom utbildning. Endast då kan vi hantera risker, bygga förtroende och säkerställa att tekniken implementeras på ett sätt som gynnar både företag och medarbetare, säger Caroline Segerstéen Runervik.

Metodologi: Rapporten Rise of agentic AI: How trust is the key to human-AI collaboration bygger på en global undersökning av 1 500 ledande befattningshavare. Dessa organisationer har en årlig omsättning på över 1 miljard dollar och är verksamma i 14 länder och 13 sektorer. Undersökningen genomfördes i april 2025.

Materialet är fritt för publicering.