Dold attack via ChatGPT kunde läcka data från Gmail

Forskare på Check Point Research har upptäckt en säkerhetsbrist i ChatGPT som gjorde det möjligt för angripare att obemärkt skicka instruktioner mellan separata användarkonton. I en simulation kunde forskarna visa hur sårbarheten kunde utnyttjas för att hämta information från en användares anslutna Gmail-konto och föra den vidare till angriparen, utan att användaren märkte vad som skedde.

Säkerhetsbristen fanns i en intern tjänst som ChatGPT använder för att installera programvara när olika uppgifter ska utföras. Tjänsten kunde nås från separata användarkonton, trots att deras respektive miljöer skulle vara isolerade från varandra. Check Point Research upptäckte att information som skickades till tjänsten från ett konto kunde läsas från ett annat. Det skapade i praktiken en dold kommunikationskanal mellan användarkonton som skulle hållas helt åtskilda.

En angripare kunde utnyttja kanalen för att skicka dolda instruktioner till en annan användares ChatGPT-session. Det kunde räcka med att användaren kom i kontakt med en manipulerad instruktion, öppnade en delad ChatGPT-konversation eller använde en anpassad GPT. När användaren sedan ställde en vanlig fråga kunde ChatGPT samtidigt utföra angriparens instruktion i bakgrunden, utan att det framgick av konversationen.

Vilken information angriparen kunde komma åt berodde på vilka tjänster användaren hade gett ChatGPT tillgång till. Det kunde handla om konversationshistorik och filer, men också om information i anslutna tjänster som Gmail, Google Drive, Microsoft Teams och GitHub.

– I takt med att AI-assistenter får tillgång till mejl, filer och interna system ökar också mängden känslig information som de kan hantera, säger Oskar Rödin, säkerhetsexpert på Check Point Software. Den här forskningen visar att företag inte bara behöver kontrollera vad AI-tjänster svarar, utan också vad de har behörighet att göra och vilken information de kan komma åt. Det blir därför allt viktigare att ha kontroll över vilka AI-tjänster som används i organisationen och vilka system de har tillgång till.

Check Point Research rapporterade säkerhetsbristen till OpenAI, som har bekräftat att sårbarheten har åtgärdats och att den berörda interna tjänsten har tagits ur drift. Enligt forskarna visar upptäckten samtidigt på en bredare säkerhetsutmaning i takt med att AI-assistenter får tillgång till allt fler av företagens system och tjänster.

Läs mer på Check Points blogg: https://blog.checkpoint.com/research/chatgpt-let-attackers-read-victims-gmail-through-a-hidden-channel-between-accounts/