Nyhet —
E-postkonton med AI-funktioner kan bli det största insiderhotet
Ett kontrollerat angrepp genomfört av Barracudas säkerhetsexperter visar hur en angripare kan använda en AI-assistent för att snabbt hitta känslig information, kartlägga organisationen och skapa trovärdiga meddelanden. I testet användes ett kapat medarbetarkonto som utgångspunkt för att ta över vd:ns konto och försöka styra om en betalning på närmare 250 000 dollar.
När ett användarkonto med tillgång till en AI-assistent kapas kan angriparen utnyttja samma funktioner och information som den legitima användaren har tillgång till. AI-assistenten kan då användas för att snabbt hitta känslig information, identifiera intressanta måltavlor och föra angreppet vidare.
I ett nytt kontrollerat så kallat proof-of-concept-angrepp visar Barracudas red team hur ett enda kapat medarbetarkonto kan användas för att eskalera ett angrepp till ett kapat vd-konto och ett bedrägeriförsök kopplat till en banköverföring. I testet användes Microsoft Copilot, men enligt Barracuda går metoden att tillämpa även på andra allmänt tillgängliga AI-assistenter.
AI hjälper angriparen att kartlägga organisationen
I det kontrollerade angreppet använder angriparna först AI-assistenten för att skapa regler i inkorgen som döljer inloggningsvarningar och andra misstänkta aviseringar för användaren. På så sätt kan angriparna behålla sin åtkomst utan att lika lätt bli upptäckta.
Därefter används AI-assistenten för att kartlägga organisationens struktur, identifiera värdefulla måltavlor och hitta relevanta konversationer bland flera månaders e-post, bilagor och kalenderaktivitet.
Med den informationen som grund får AI-assistenten skapa ett trovärdigt nätfiskemeddelande till företagets vd, formulerat i den kapade medarbetarens naturliga skrivstil. Eftersom e-postmeddelandet skickas från ett legitimt internt konto och bygger på verkliga affärssammanhang ökar sannolikheten för att angreppet lyckas.
När vd:ns konto därefter kapas genom stöld av en sessionstoken upprepas processen. AI-assistenten används för att behålla åtkomsten och söka fram den mest värdefulla ekonomiska informationen i vd:ns inkorg.
Hittade en betalning på 247 500 dollar
Testet visar hur en AI-assistent kan göra innehållet i en inkorg snabbt sökbart för en angripare. En enkel fråga om den senaste tidens ekonomiska aktiviteter gav information om bland annat aktuella fakturor, banköverföringar och rutiner för godkännande av betalningar.
Bland informationen fanns en väntande betalning på 247 500 dollar. Angriparna använde därefter vd:ns konto och AI-assistenten för att formulera en trovärdig begäran till ekonomipersonalen om att ändra mottagande bankkonto innan överföringen godkändes.
Eftersom begäran kommer från vd:ns riktiga e-postkonto, hänvisar till en verklig transaktion och efterliknar vd:ns sätt att kommunicera har traditionella säkerhetslösningar för e-post få skäl att betrakta meddelandet som misstänkt.
Angriparna skapar också regler för vidarebefordran för att fånga upp bekräftelsemeddelanden och använder AI-assistenten för att snabbt hitta och radera spår av bedrägeriet.
”Kan förbättra både kvaliteten och hastigheten i ett angrepp”
– En användares e-posthistorik är full av känslig information och sammanhang som kan utnyttjas av angripare. Det gäller bland annat skickade och mottagna e-postmeddelanden, delade dokument, bilagor och kalenderinbjudningar. Företagets struktur kan kartläggas genom relationer som framgår av meddelanden eller direkt via organisationsscheman, säger Daniel Avulov, Senior Cybersecurity Researcher på Barracudas red team.
– Det kontrollerade angreppet visar hur AI-assistenter ofrivilligt kan fungera som illvilliga insiders och förbättra både kvaliteten och hastigheten i ett angrepp. Det mest effektiva försvaret är att inse att angreppsmönstren är desamma, dra nytta av den telemetri som redan finns och se till att tiden till upptäckt är så kort som möjligt, fortsätter Daniel Avulov.
I takt med att AI-assistenter blir en allt mer integrerad del av företagens kommunikation och arbetsflöden behöver organisationer betrakta konton med AI-funktioner som värdefulla tillgångar. Att skydda identiteter, övervaka tecken på kapade konton och säkra AI-assisterad åtkomst till företagsinformation blir en allt viktigare del av säkerhetsarbetet kring e-post och identiteter.
