Ny trendrapport: AI-drivna attacker förväntas öka stort under 2024

Trend Micro uppmanar till branschregleringar och innovativa försvarsstrategier

Trend Micro varnar idag för den transformativa roll som generativ AI (GenAI) tagit inom cybersäkerhetslandskapet. De förutspår en översvallande våg av sofistikerade attacker inom social manipulering och identitetsstöld – driven av just GenAI-verktyg.

- Stora avancerade språkmodeller (LLMs) som behärskar vilket språk som helst utgör stora risker då de undviker traditionella tecken på nätfiske, såsom märklig formatering och grammatiska fel, säger Jean Diarbakerli säkerhetsrådgivare på Trend Micro. Detta gör att de är än svårare att upptäcka. Företag måste därför utbildas bortom traditionellt nätfiske och prioritera moderna säkerhetskontroller. Mer avancerade försvarsstrategier har kapaciteten att upptäcka attacker bortom den mänskliga förmågan och kan också säkerställa ökad motståndskraft.

Den utbredda tillgängligheten och förbättrade kvalitén hos generativ AI, tillsammans med användningen av Generative Adversarial Networks (GANs), kommer skaka om nätfiskelandskapet i grunden under 2024. Denna utveckling kommer att göra det möjligt för cyberkriminella att, på kostnadseffektiva sätt, skapa hyperrealistiskt ljud och videomaterial. Något som kommer driva en våg av epostintrång (BEC), virtuella kidnappningar och andra utpressningsattacker, förutspår Trend.

Givet de lukrativa möjligheter* som cyberkriminella ges via denna utveckling kommer de få ytterligare incitament att också själva utveckla AI-verktyg för utökade attacker eller använda existerande AI-tjänster, via VPN eller stulna inloggningsuppgifter.

AI-modeller i sig kan också hamna i skottgluggen under kommande år. Medan GenAI och stora språkmodeller i sig är svåra för aktörer att påverka – så är specialiserade molndrivna maskininlärningsmodeller en alltmer attraktiv måltavla. Ju mer fokuserade datamängder de är upplärda på desto mer kan de användas för dataförgiftningsattacker med olika resultat i åtanke – från att nå känsliga data till att störa bedrägerifilter och till och med anslutna fordon. Sådana attacker kostar redan mindre än 100 dollar att genomföra.

Denna snabba utveckling kan i sig leda till ökade påtryckningar från cybersäkersektorn om utförlig regulatorisk granskning.

- Under kommande år kommer cybersäkerhetsbranschen gå om myndigheter när det gäller att utveckla cybersäkerhetsspecifika AI-regleringar och AI-policys, fortsätter Jean Diarbakerli. Branschen rör sig för snabbt för att kunna självregleras på frivilligt styrd basis.

Trends förutsägelser inför 2024 pekade också på:

· En ökning av molnbaserade maskattacker, inriktade på sårbarheter och felkonfigurationer. Samt en hög grad av automatisering för att påverka flera silos, konton och tjänster med minimal ansträngning.

· Molnsäkerhet kommer att vara avgörande för att kunna ta itu med säkerhetsluckor i företags molnmiljöer. Något som belyser sårbarheten hos molnbaserade applikationer för automatiserade attacker. Proaktiva åtgärder, inklusive robusta försvarsmekanismer och noggranna säkerhetsrevisioner, är a och o för att minska riskerna.

· Fler attacker i leveranskedjan kommer inte bara att inriktas på mjukvarukomponenter med öppen källkod utan också verktyg för lageridentitetshantering, såsom telekom SIM-kort, som är avgörande för flott- och lagersystem. Cyberkriminella kommer sannolikt också att utnyttja leverantörers mjukvaruförsörjningskedjor genom CI/CD-system, med särskilt fokus på tredjepartskomponenter.

· Attacker mot privata blockkedjor kommer att öka till följd av sårbarheter i implementeringen av ett antal privata blockkedjor. Cyberkriminella kan använda dessa rättigheter för att ändra, åsidosätta eller radera transaktioner och sedan kräva en lösensumma. Alternativt kan de försöka kryptera hela blockkedjan om de har möjlighet att ta kontroll över tillräckligt många noder.

För att läsa rapporten Critical Scalability Trend Micro Security Predictions for 2024 i sin helhet, vänligen besök: https://www.trendmicro.com/vinfo/us/security/research-and-analysis/predictions/critical-scalability-trend-micro-security-predictions-for-2024

* BEC kostade offer över 2,7 miljarder dollar under 2022, enligt FBI.