Generativ AI har sju tydliga roller i arbetet mot desinformation

Generativ AI, som till exempel kan skapa och analysera text, bilder och annat innehåll utifrån instruktioner, kan användas för att motverka desinformation. Men den kan också förstärka problemet genom övertygande och svårupptäckt manipulation, som snabbt kan kopieras och spridas i stor skala. Forskare har i en ny studie tagit fram sju tydliga roller som AI kan spela när det gäller information, och analyserar för varje roll dess styrkor, svagheter, möjligheter och risker.

– En viktig poäng är att generativ AI har inte bara en utan flera uppgifter i arbetet mot desinformation. Tekniken kan vara allt från informationsstöd och utbildningsresurs till en kraftfull påverkansaktör. Därför behöver vi identifiera och diskutera vilka möjligheter, risker och ansvar som AI har och vi måste skapa mer träffsäkra policys, säger Thomas Nygren, professor vid Uppsala universitet som genomförde studien tillsammans med kollegor vid University of Cambridge, Storbritannien, och University of Western Australia, Australien.

Från faktastöd till påverkan – samma kapacitet ger tveeggade effekter

Studien är en översikt där forskare från olika vetenskapliga discipliner gått igenom den senaste forskningen om hur generativ AI kan användas i olika delar av informationsmiljön. Dels för att ge information och stödja faktagranskning, dels att påverka opinion och designa utbildningsinsatser – och vilka styrkor, svagheter, möjligheter och risker som följer av varje användning.

Forskarna valde att arbeta med ett rollramverk, Swot, eftersom det ger ett mer praktiskt beslutsunderlag än generella påståenden om att ‘AI är bra’ eller ‘AI är farlig’. Ett system kan vara hjälpsamt i en roll (till exempel som faktastöd) men skadligt i en annan (till exempel som påverkansaktör). Genom att analysera varje roll med Swot kan beslutsfattare, skolor och plattformar diskutera rätt åtgärder för rätt risk.

AI kan fylla flera funktioner

- Rollerna växte fram i ett analysarbete där vi utgick från att generativ AI inte är en enhetlig ‘lösning’, utan en teknik som kan fylla flera funktioner samtidigt. Vi identifierade återkommande mönster i hur AI används för att informera, upptäcka och hantera problem, påverka människor, stödja samarbete och lärande, samt designa interaktiva träningsmiljöer. Dessa funktioner sammanfattades i sju roller, säger Thomas Nygren.

De sju rollerna (se faktaruta) som forskarna har identifierat är informatören, väktaren, övertalaren, integratören, samarbetspartnern, läraren och spelskaparen. Poängen med rollerna är att de fungerar som en katalog för styrning: de hjälper oss att se när AI främst informerar, när den övervakar, och när den faktiskt påverkar – vilket kräver olika typer av transparens, kontroll och ansvar. Varje roll kan bidra till att stärka samhällets motståndskraft mot desinformation, men varje roll medför också specifika sårbarheter. Därför analyserade forskarna varje roll med en SWOT-ansats: vilka styrkor och möjligheter som finns, men också vilka svagheter och hot som behöver hanteras

”AI måste implementeras ansvarsfullt”

- Vi visar hur generativ AI kan generera tvivelaktigt innehåll och samtidigt upptäcka och motverka desinformation i stor skala. Men risker som hallucinationer, det vill säga att AI:n drar till med fakta som inte stämmer, förstärkning av fördomar och missförstånd och avsiktlig manipulation gör att tekniken måste implementeras ansvarsfullt. Därför behövs det tydliga policys för hur AI ska kunna användas.

Forskarna lyfter särskilt behovet av:

• Reglering och tydliga ramar för hur AI får användas i känsliga informationsmiljöer,
• Transparens kring AI-genererat innehåll och systemens begränsningar,
• Mänsklig översyn där AI används för beslut, moderation eller råd,
• AI-litteracitet som stärker användares förmåga att värdera och ifrågasätta AI-svar.

- Analysen visar att generativ AI kan vara värdefullt för att främja viktiga kunskaper i skolan som behövs för att värna demokratin och skydda oss från desinformation, men samtidigt finns en risk att en överdriven användning kan vara dåligt för kunskapsutvecklingen och göra oss lata och okunniga och därigenom mer lättlurade. Rollerna AI som ”lärare” och ”samarbetspartner” är således, liksom övriga fem roller, viktiga att kritiskt och konstruktivt granska hela tiden i den snabba utvecklingen, säger Thomas Nygren.

Artikel: Nygren, T., Spearing, E. R., Fay, N., Vega, D., Hardwick, I. I., Roozenbeek, J., & Ecker, U. K. H. (2026). The seven roles of generative AI: Potential & pitfalls in combatting misinformation. Behavioral Science & Policy, 0(0). DOI: 10.1177/23794607261417815

För mer information:

Thomas Nygren, professor i didaktik vid institutionen för pedagogik, didaktik och utbildningssociologi vid Uppsala universitet, thomas.nygren@edu.uu.se, 073-646 86 49

FAKTA

De sju rollerna för generativ AI – möjligheter och problem (Nygren et al. 2026)

1) Informatören (Informer)

• Styrkor/möjligheter: Kan göra komplex information mer begriplig, översätta och anpassa språk, kan ge snabb överblick vid stora informationsmängder.
• Problem/risker: Kan ge felaktiga svar (“hallucinationer”), förenkla bort viktiga nyanser och återge bias från träningsdata utan tydlig källredovisning.

2) Väktaren (Guardian)

• Styrkor/möjligheter: Kan upptäcka och flagga misstänkt innehåll i stor skala, identifiera koordinerade kampanjer och bidra till snabbare respons vid desinformationsvågor.
• Problem/risker: Risk för falska positiva/negativa (ironi, kontext, legitima kontroverser), snedvridningar i moderering och otydlighet kring ansvar och rättssäkerhet.

3) Övertalaren (Persuader)

• Styrkor/möjligheter: Kan stödja korrigering av missuppfattningar genom samtal, refutation och individanpassade förklaringar; kan användas i pro-sociala kampanjer och i pedagogiska interventioner.
• Problem/risker: Samma kapacitet kan användas för manipulation, mikroinriktad påverkan och storskalig produktion av övertygande vilseledning – ofta snabbt och billigt.

4) Integratören (Integrator)

• Styrkor/möjligheter: Kan strukturera diskussioner, sammanfatta argument, tydliggöra skiljelinjer och stödja deliberation och gemensam problemlösning.
• Problem/risker: Kan skapa falsk balans, normalisera felaktigheter genom “neutral syntes”, eller indirekt styra problemformulering och tolkning.

5) Samarbetspartnern (Collaborator)

• Styrkor/möjligheter: Kan avlasta vid analys, skrivande, informationsbearbetning och idéutveckling; kan stötta kritisk granskning genom att generera alternativ, motargument och frågor.
• Problem/risker: Risk för överförtroende och kognitiv “outsourcing”; användare kan missa att svaret bygger på osäkra antaganden och att systemet saknar verklig förståelse.

6) Läraren (Teacher)

• Styrkor/möjligheter: Kan ge snabb, individualiserad återkoppling och skapa träningsuppgifter i skala; kan stödja progression i källkritik och digital kompetens.
• Problem/risker: Felaktiga eller partiska svar kan spridas som “läromedel”; risk att undervisning blir mindre undersökande om elever/lärare okritiskt accepterar AI-genererat innehåll.

7) Spelskaparen (Playmaker)

• Styrkor/möjligheter: Kan stödja design av interaktiva, spelifierade lärmiljöer och simuleringar som tränar motståndskraft mot manipulation och desinformation.
• Problem/risker: Risk för förenklande stereotyper, etiska och upphovsrättsliga problem, samt att spelmekanik kan belöna fel beteenden om designen inte är genomtänkt.