AI-modeller tog sig ur sina testmiljöer

I interna säkerhetstester har flera AI-modeller lyckats ta sig ur avgränsade testmiljöer och nå produktionssystem i skarp drift. I ett fall utnyttjade en modell självständigt en tidigare okänd sårbarhet och tog sig hela vägen till Hugging Faces produktionsmiljö. Det visar en ny kartläggning från Check Point Research.

Under juli och augusti 2026 inträffade flera uppmärksammade händelser hos OpenAI, Anthropic och Meta. Mest anmärkningsvärt var ett test hos OpenAI, där en AI-modell placerats i en isolerad miljö med endast tillgång till en intern tjänst för mjukvarupaket. Modellen identifierade själv en tidigare okänd sårbarhet i tjänsten och använde den för att ta sig ut ur testmiljön. I efterhand har forskare återskapat händelseförloppet, som omfattade omkring 17 600 självständiga steg.

Liknande incidenter inträffade i tester kopplade till Anthropic och Meta. I Anthropics fall var testmiljön felaktigt åtkomlig från internet, vilket gjorde att modeller kunde komma över inloggningsuppgifter och läsa information från en produktionsdatabas. Händelserna visar hur AI-modeller som får möjlighet att planera och agera självständigt kan skapa nya säkerhetsrisker även när de används under kontrollerade tester.

Samtidigt närmar sig cyberkriminella samma utveckling. En aktör kopplad till ransomwaretjänsten The Gentlemen använde Claude Code i attacker mot minst sex organisationer. I ett annat fall genomförde en AI-modell med namnet JADEPUFFER hela utpressningsattacken på egen hand efter att en människa hade satt igång den.

AI-system har dessutom blivit måltavlor i sig. Angripare manipulerar kodverktyg och AI-assistenter genom information som systemen automatiskt läser och litar på. Samtidigt växer marknaden för stulna AI-konton och API-nycklar. I en kartlagd kampanj samlades närmare 3 000 giltiga nycklar och inloggningsuppgifter in från över 1 700 enheter.

Även företagens vardagliga användning av generativ AI innebär risker. I juli innehöll cirka 2,8 procent av alla prompts – ungefär var 36:e – information med hög risk för dataläckage. Minst ett sådant fall registrerades hos 88 procent av organisationerna.

– Vi ser att gränsen mellan AI-experiment i kontrollerade miljöer och AI som påverkar verkliga system blir allt viktigare att förstå och hantera, säger Oskar Rödin, säkerhetsexpert på Check Point Software. När en modell själv kan hitta en okänd sårbarhet och använda den för att nå ett produktionssystem förändras riskbilden. För svenska verksamheter blir det därför avgörande att kontrollera både vilken information AI får tillgång till och vilka åtgärder systemen tillåts utföra.

Läs mer på Check Points blogg: https://blog.checkpoint.com/artificial-intelligence/ai-models-broke-their-own-containment-key-findings-from-the-july-august-2026-ai-threat-landscape/