Ny utbildning skall öka skyddet mot AI-manipulation

Cyberkriminella har länge använt sig av metoden phishing för bedrägerier. Numera använder de AI för att skapa mer trovärdiga bedrägerier, kartlägga och studera sina offer, samt förstärka sina tillvägagångssätt med Deepfakes – som AI-genererade videos- och röstsamtal. En ny kurs från Junglemap och Walma AI skall hjälpa företag och anställda att bli mer medvetna och bättre på att skydda sig mot så kallad AI-manipulation.

Oavsett om vi själva använder AI eller inte, möter vi dagligen olika typer av AI-tjänster och AI-genererat innehåll - ibland utan att vi ens vet om det. Oftast i positiva sammanhang – men det kan vara en risk när AI hamnar i händerna på cyberkriminella.
- Många rapporter pekar på att AI används allt oftare i bedrägerier och cyberattacker, säger Niklas Rosén, Director of Content på Junglemap och ansvarig för den nya kursen. AI:s snabba utvecklingstakt gör bedrägerier och digitala hot både svårare att avslöja och att skydda sig mot. Vår sårbarhet ökar i takt med att det blir allt svårare att skilja på vad som är äkta eller skapat av AI.

Sedan tidigare har Junglemap och Walma AI tagit fram en introduktionsutbildning i säker användning av generativa AI-tjänster, som ChatGPT och Copilot. Den utbildningen syftar till att ge medarbetare en ökad förståelse för hur de kan använda sig av generativ AI ansvarsfullt, säkert och etiskt. Den nya utbildningen fokuserar på situationer där vi är i kontakt med AI utan att själv ha valt det, och tar bland annat upp AI-förstärkt phishing, deepfakes, framtidens AI-system och AI-drivna cyberhot genom exempel och scenarier.

För att möta den snabba utvecklingstakten och de nya digitala hoten följer utbildningen metoden NanoLearning, där deltagarna får korta 2-3-minuters lektioner distribuerade över hela året.

– Syftet med kursen är att göra deltagarna mer medvetna och ”alltid ha AI i åtanke”. Att få hela organisationen att stanna upp, tänka efter, fråga och agera. När något känns lite konstigt, lite för bra eller skrämmande - då det kan handla om AI-manipulation, säger William Friman, COO och medgrundare av Walma AI. Precis som med informationssäkerhet i stort behöver vi kontinuerligt påminnas om riskerna med AI-manipulation regelbundet för att bygga en stark digital motståndskraft.