Gå direkt till innehåll
Professor Vicenç Torra är en en av världens ledande forskare inom datasekretess. Foto: Simon Jönsson
Professor Vicenç Torra är en en av världens ledande forskare inom datasekretess. Foto: Simon Jönsson

Pressmeddelande -

Avancerade AI-lösningar ska hindra angripare att komma åt och läcka dina data

Privat och offentlig sektor använder och delar data. Men vad händer om systemen hackas och personliga uppgifter eller känslig information läcker ut? Vid Umeå universitet utvecklas nu ett helt nytt säkerhetstänk inom datadrivet beslutsfattande.

– Vi kommer att göra det riktigt svårt för angripare att identifiera personer, byggnader eller områden för ytterligare spridning, säger professor Vicenç Torra, Institutionen för datavetenskap, om det pågående forskningsprojektet.

Offentlig sektor samlar in stora mängder av information. Det kan handla om alltifrån var vattenledningar finns till barnomsorgsbehov, inkomstskillnader, kriminalitet, klimatförändringar eller bidrag – viktig information, för samhället. EU beräknar att värdet på öppna data ligger mellan 194 och 334 miljarder euro 2025.

Inom den privata sektorn används data och AI för att analysera köpbeteenden, eller ta informerade beslut och erbjuda personanpassade lösningar. Inom offentlig verksamhet är öppna data en förutsättning för att kunna ta fram lösningar som kan underlätta i vården, eller hjälpa dig med information om vattenkvaliteten i din kommuns badsjöar. Den offentliga sektorn ska också dela och nyttja varandras data för att skapa nya värden, kunskap och innovation.

– Men vi kan se att det fortfarande inte finns tillräckliga säkerhetsskydd och därmed en stor risk för att känslig eller personlig information kan röjas, säger Vicenç Torra, professor i datasekretess vid Umeå universitet.

Nya säkerhetsmöjligheter

Han är världsledande forskare inom området och verksam som WASP-professor i AI-säkerhet vid institutionen för datavetenskap, Umeå universitet. WASP, Wallenberg AI, Autonomous Distributed and Software Program, är Sveriges största forskningsprogram inom området, där Umeå är ett av fem partneruniversitet. Med generös finansiering även från Vetenskapsrådet, Sveriges största statliga forskningsfinansiär, håller han nu på att utveckla AI-lösningar som ger helt nya säkerhetsmöjligheter.

– Istället för att åtgärda och stoppa potentiellt mycket stora läckor utvecklar vi nu avancerade skyddsmekanismer som integreras i de datadrivna modellerna redan på prototypstadiet. Det gör det möjligt att träna direkt på enskilda modeller, vilket i slutändan försvårar attacker, säger Vicenç Torra.

Inte tillräckliga lösningar

Att uppgifter läcks kan ställa till med enorm skada och ofta innebära stora kostnader. Detta har inte minst setts under de senaste åren. Och trots att många myndigheter och företag arbetar hårt för hög säkerhet menar Torra att de lösningar som finns idag inte är tillräckliga. Konkret handlar det om problem med att skydda data som har komplicerade eller otydliga samband mellan olika objekt och information som är temporär, samt dynamiska grafer och mätdata, som helt saknar skyddsmekanismer idag.

– Det är till exempel svårare att skydda integriteten när det finns data som berör flera personer på samma adress eller data om behandlingar och hur de har påverkat en patientens hälsa över tid, till exempel om en patient har journaler från flera sjukhus. Det kan också handla om mätdata från ett kraftnät, där det går att identifiera vilka som använder sig av det, Vicenç Torra.

Direkt skadligt

Att uppgifter sprids kan leda till omfattande problem. En inkräktare kan använda informationen för att dra slutsatser om dig som individ, och sedan sprida, förvanska eller sälja den informationen.

– Det skadar inte bara kundernas förtroende och forskares trovärdighet, det kan också bli direkt skadligt för enskilda personer eller grupp. Till exempel genom att avslöja vilka personer som lider av en sjukdom i ett område, utpressning liksom hot och fara, säger professor Vicenç Torra.

Världsledande forskning

Detta är inte det enda projektet inom datasekretess som Vicenç Torra arbetar med. Han leder också forskargruppen Nausica, där doktorander och post-doktorer arbetar för att bygga transparenta och integritetsmedvetna AI-system, med fokus på dataintegritet för databehandling och integritetsmedveten maskininlärning, i syfte att bygga modeller och dataanalys samt beslutsmodeller för att fatta beslut.

– De nya och innovativa lösningarna kommer förhoppningsvis att minimera skador, inte minst när det gäller den ökade risken för hackerattacker. Vi kommer att göra det riktigt svårt att spåra och identifiera användare när en sådan attack inträffar, säger Vicenç Torra.

Fakta om projektet

Professor Vicenç Torra är forskare inom AI, datasekretess, approximate reasoning och beslutsfattande. Han leder forskargruppen Nausica: Privacy-Aware Transparent Decisions Group vid Institutionen för datavetenskap, Umeå universitet. Forskningsprojektet Datasekretess för komplexa data pågår fram till och med sommaren 2025 och finansieras av Vetenskapsrådet.

För mer information, kontakta gärna:

Vicenç Torra, Institutionen för datavetenskap, Umeå universitet

Telefon: 090-786 59 48

E-post: vicenc.torra@umu.se

Ämnen

Kategorier

Regioner


Umeå universitet
Umeå universitet
är ett av Sveriges största lärosäten med omkring 37 900 studenter och drygt 4 560 medarbetare. Här finns en mångfald av utbildningar av hög kvalitet och världsledande forskning inom flera vetenskapsområden. Umeå universitet är också platsen för den banbrytande upptäckten av gensaxen CRISPR-Cas9 – en revolution inom gentekniken som tilldelats Nobelpriset i kemi.

Vid Umeå universitet är allt nära. Våra sammanhållna campus gör det lätt att mötas, samarbeta och utbyta kunskap, något som gynnar en dynamisk och öppen kultur där vi gläds åt varandras framgångar.

Kontakter

Sara-Lena Brännström

Sara-Lena Brännström

Kommunikatör, Umeå universitet
Media Content Panel
Torra_Vicenc_1618_200908_MPN.JPG
Torra_Vicenc_1618_200908_MPN.JPG
Licens:
Medieanvändning
Filformat:
.jpg
Storlek:
6720 x 4480, 18,7 MB
Ladda ner

Umeå universitet

Umeå universitet är ett bredduniversitet och ett av Sveriges största lärosäten med över 41 500 studenter och omkring 4 600 medarbetare. Här finns en mångfald av utbildningar av hög kvalitet och forskning inom alla vetenskapsområden samt det konstnärliga området. Umeå universitet är också platsen för den banbrytande upptäckten av gensaxen CRISPR-Cas9 – en revolution inom gentekniken som tilldelats Nobelpriset i kemi.

Universitetet kännetecknas av en internationell atmosfär och en verksamhet som vilar på akademiska kärnvärden. Våra sammanhållna campus gör det lätt att mötas, samarbeta och utbyta kunskap, något som gynnar en dynamisk och öppen kultur där vi gläds åt varandras framgångar. Umeå universitet sätter en stolthet i att erbjuda en undervisnings- och forskningsmiljö av världsklass och bidrar till ny kunskap av global betydelse där hållbarhetsmålen i Agenda 2030 utgör drivkraft och inspiration. Här finns kreativa och nytänkande forskningsmiljöer som ger goda förutsättningar att ta sig an samhällets framtidsutmaningar. Genom långsiktiga samarbeten med organisationer, näringsliv och andra lärosäten bidrar universitetet till att utveckla norra Sverige som kunskapsregion. Den samhällsomvandling och de stora investeringar som pågår i norra Sverige skapar komplexa utmaningar men också möjligheter. För Umeå universitet handlar det om att bedriva forskning om och mitt i ett samhälle i omvandling samt att fortsätta erbjuda utbildningar för regioner som behöver expandera hållbart.

Campus Umeå och Konstnärligt campus ligger nära Umeås centrum och intill ett av Sveriges största och mest välrenommerade universitetssjukhus. Utbildning bedrivs även på en rad andra orter som Skellefteå, Örnsköldsvik, Lycksele och Kiruna. Vid Umeå universitet finns den högt rankade Designhögskolan, den miljöcertifierade Handelshögskolan och landets enda arkitekthögskola med konstnärlig inriktning. Här finns också Bildmuseet och Umeås science center, Curiosum. Umeå universitet är ett av Sveriges fem riksidrottsuniversitet, har ett internationellt ledande arktiskt centrum och ett centrum för samisk forskning, Várdduo, som är Sveriges enda etablerade forskningsenhet för samisk forskning och urfolksforskning.