12 miljoner till två AI-projekt vid Umeå universitet

Två forskningsprojekt vid Umeå universitet får tillsammans 12 miljoner från det nationella forskningsprogrammet WASP-HS. Projekten leds av Johanna Björklund och Simon Lindgren, och handlar om hur olika former av digital kommunikation och politiska botar påverkar individer, samhälle och demokrati.

Digitalisering, automation och artificiell intelligens kommer att innebära stora möjligheter och medföra förändringar både för samhället i stort och för enskilda individer. Marianne och Marcus Wallenbergs Stiftelse och Stiftelsen Marcus och Amalia Wallenbergs Minnesfond initierade därför år 2019 det nationella forskningsprogrammet WASP-HS, som ska undersöka möjligheter och utmaningar som kommer som följd av teknikskiftet. Tolv projekt har beviljats medel i år, varav två vid Umeå universitet.

Projekt vid Umeå universitet som får anslag:

Johanna Björklund, datavetenskapliga institutionen, får 6 miljoner för ett treårigt projekt med titeln “AI-baserad kontextuell kommunikation: Konsekvenser för individ och samhälle”.

Om projektet:
Projektet belyser konsekvenserna för individ och samhälle när artificiell intelligens (AI) används allt mer för att placera budskap i digitala medier. Frågan har aktualiserats av annonsindustrins handel med personliga data, där ett välkänt exempel är den brittiska byrån Cambridge Analytica som analyserade miljontals människors inlägg på Facebook i syfte att automatisera politisk annonsering.

Så kallad kontextuell kommunikation kan lösa många av problemen, samtidigt som den kan medföra nya och potentiellt allvarligare problem då AI-systemen får en djupare förståelse för människors mediekonsumtion.

I det här projekt studeras användarens attityder och beteende för att förstå hur AI-baserad kontextuell kommunikation påverkar individer, och i förlängningen, samhället i stort. Forskarna genomför bland annat studier och datainsamlingar på digitala nyhetsplattformar med aktiv annonsering, och undersöker hur individer beter sig och reagerar på detta. Arbetet mynnar ut i en teori om AI-driven kontextuell kommunikation som gör det möjligt att använda den nya tekniken på ett effektivt och ansvarsfullt vis.

Simon Lindgren, Sociologiska institutionen och DIGSUM, får 6 miljoner för ett femårigt projekt med titeln ”Cyborgpolitik: En studie av artificiella agenter i demokratiska processer online”.

Om projektet:
Artificiella agenter i form av sociala botar spelar en allt viktigare roll för kommunikationen på internet. Botar används alltmer av politiska kampanjer, regeringar, lobbyister och aktivister för att försöka påverka den politiska debatten och manipulera opinionen. Politiserade sociala botar – politiska botar – används till exempel för att dränka det offentliga samtalet med spam under politiska kriser, konflikter och val för att störa andra aktörers arbete, eller för att blåsa upp antalet följare och graden av positiv respons för att skapa en illusion av att vissa idéer är mer populära än vad de egentligen är. Politiska botar används också för att sprida sofistikerad datordriven propaganda och för att iscensätta falska gräsrotsrörelser.

I det här projektet undersöks politiska botars påverkan på samhälle och politik: Vad säger politiska botar? I vilka relationer i sociala nätverk uppträder politiska botar? Hur svarar samhället på förekomsten av politiska botar? Vilka hållbara sätt kan identifieras för att i samhället hantera de utmaningar för demokratin som väcks av den ökade användningen av politiska botar?

Kontakta gärna:

Johanna Björklund
Datavetenskapliga institutionen, Umeå universitet
090-786 79 27
johanna.bjorklund@umu.se

Simon Lindgren
Sociologiska institutionen och DIGSUM, Umeå universitet
090-786 95 19
simon.lindgren@umu.se

Pressbilder

Mer om WASP-HS