Ny rapport avslöjar ökningen av AI-driven cyberbrottslighet – 1 av 13 promptar innehåller känslig information

IT-säkerhetsföretaget Check Point Software har lanserat sin första utgåva av AI Security Report. Rapporten innehåller en djupgående analys av hur cyberkriminella använder AI för att utföra cyberattacker och även insikter om hur verksamheter bäst står emot dessa hot.

I takt med att AI fortsätter att omforma branscher och blir en alltmer integrerad del av verksamheter, suddas gränserna ut mellan vad som är sant och falskt i den digitala världen. Rapporten visar att en majoritet (51 %) av företagen använder AI i sin dagliga verksamhet. Cyberkriminella utnyttjar generativ AI och stora språkmodeller för att underminera förtroendet för digital identitet. Det du ser, hör eller läser kan inte längre tas för givet som sant i dagens cyberlandskap. AI-drivna imitationer har förmågan att kringgå även de mest sofistikerade verifieringssystemen – vilket gör oss alla till potentiella mål.

- Cyberkriminella har lärt sig snabbt hur man använder AI och det håller redan på att förändra hotbilden, säger Mats Ekdahl, säkerhetsexpert på Check Point Software. Idag måste säkerhetsteam anta samma takt som cyberkriminella, genom att integrera AI i deras säkerhetssystem. Denna rapport belyser inte bara risker, men även bästa praxis för att säkra AI-miljöer.

Viktiga insikter från rapporten:

• AI-förstärkta imitationer och manipulation
  Cyberkriminella använder AI för att skapa realistiska, digitala identiteter, nätfiske-mejl i realtid samt suddar ut gränser mellan vad som är äkta eller inte.
• AI-genererad skadlig programvara
  Cyberkriminella använder AI för att skapa och optimera skadlig programvara, automatisera DDOS-kampanjer och förfina stulna inloggningsuppgifter.
• AI-användning och risk för läckor
  Enligt en analys från insamlade data från Check Points GenAI Protect, visar att 1 av 80 promptar löper hög risk för att läcka känslig information. Analyser visar att 7,5 procent av alla promptar, (ca 1 av 13) innehåller känslig information, vilket medför utmaningar kopplade till säkerhet och dataintegritet. Att förstå dessa risker är viktigare än någonsin när användning av AI blir allt vanligare.
• Upptäck hot genom AI
  Utnyttja AI för att upptäcka AI-genererade hot – bland annat nätfiske och deepfakes.
• Förbättrad identitetsverifiering
  Gå bortom traditionella metoder för verifiering och implementera identitetskontroller av flera nivåer som tar hänsyn till AI-drivna imitationer av text, röst och video.

Ladda ner den fullständiga rapporten här.
Lär mer på Check Points blogg: https://blog.checkpoint.com/research/ai-security-report-2025-understanding-threats-and-building-smarter-defenses/