Ny rapport visar att AI används för kriminell verksamhet

Europol, UNICRI och Trend Micro avslöjar nuvarande och framtida hot kopplade till AI – och det rör sig inte bara om deepfakes

Idag presenteras en rapport där Trend Micro tillsammans med Europol och FN:s institut för interregional forskning i kriminologi (UNICRI) undersökt hur cyberkriminella använder sig av artificiell intelligens (AI) för att begå brott, samt hur situationen kan tänkas utveckla sig. Rapporten presenterar information om befintliga och potentiella attacker utförda med AI, samt rekommendationer för hur riskerna att drabbas kan minskas.

‒ AI-tekniken har många fördelar då den bidrar till ökad effektivitet, automation och självkontroll, men vi måste också vara transparenta om hoten, säger Edvardas Šileris, Head of Europols Cybercrime Centre. I en tid där allmänheten blir alltmer orolig över eventuellt missbruk av AI, kan den här rapporten bidra till att hjälpa oss förebygga skadligt användande av AI och även proaktivt mildra dessa hot.

Rapporten visar att cyberkriminella använder AI både som attackvektor och som attackyta. Deepfakes är för tillfället det mest kända sättet att använda AI som attackvektor. Rapporten varnar dock för att ny screeningteknik kommer att behövas i framtiden för att minska risken för desinformationskampanjer och utpressning, samt hot som riktar sig till datamängder för AI.

AI kan exempelvis användas av cyberkriminella till:

• Övertygande och storskaliga attacker via social manipulering
• Skadlig kod för dataskrapning som gör attacker med effektiva
• Att ta sig runt bildigenkänning och röstbiometrik
• Attacker med utpressningsvirus, genom intelligent utvalda måltavlor
• Informationsförorening (data pollution), genom att identifiera blinda fläckar i detektionsregler

‒ Allt eftersom AI får allt större utbredning i vårt ”verkliga” samhälle, blir det tydligt att det är en teknik som är grundläggande för vår framtid, säger Irakli Beridze, Head of the Centre for AI and Robotics på UNICRI. Men samtidigt som AI för med sig väldiga fördelar för samhället, så kan det även missbrukas. Vi är glada över att tillsammans med Europol och Trend Micro kunna belysa också den mörka sidan av AI och bidra till vidare diskussion av detta viktiga ämne.

Rapporten varnar också för att AI-system utvecklas för att förbättra effektiviteten av skadlig programvara och för att störa säkerhetslösningar som antivirus och ansiktsigenkänningssystem.

‒ Cyberkriminella har alltid varit tidiga med att anamma den senaste tekniken och AI är inget undantag, säger Johnny Krogsboll, Technichal Director Nordics på Trend Micro. Som denna rapport avslöjar används det redan för att gissa lösenord, knäcka captcha-test och klona röster, och fler skadliga uppfinningar är på gång. Vi är stolta över att samarbeta med Europol och UNICRI för att öka kunskapen om dessa hot och på så vis skapa en tryggare digital framtid för oss alla.

Avslutningsvis presenterar rapporten en rad rekommendationer för företag, organisationer och myndigheter:

• Utnyttja potentialen i AI-teknik som ett brottsbekämpande verktyg för att framtidssäkra cybersäkerhetsindustrin och polisen
• Fortsätt forskningen för att stimulera utvecklingen av defensiv cybersäkerhetsteknik
• Främja och utveckla säkra ramar för AI-design
• Trappa ner den politiskt laddade retoriken om användandet av AI för cybersäkerhetssyften
• Dra nytta av offentlig-privat samverkan och etablera tvärvetenskapliga expertgrupper

För att läsa rapporten i sin helhet, se här. Du kan även ladda ner den som pdf nedan.