Analys av toxiskt språk i digitala miljöer

Forskarna har undersökt omfattningen av toxiskt språk i svenskspråkiga sociala medier under en ettårsperiod. Toxiskt språk används som ett paraplybegrepp för kommunikationshandlingar som till exempel hets mot folkgrupp, förtal eller förgripelse mot tjänsteman, men kan även inbegripa fall av nedsättande tilltal, integritetskränkning eller respektlöshet.

– För att få en uppfattning om kvinnors utsatthet för toxiskt språk i digitala miljöer valde vi först att mäta omfattningen av toxiskt språk och vad det toxiska språket riktas mot, säger Lisa Kaati, forskningsledare och projektledare för regeringsuppdraget.

Forskarna analyserade cirka sju miljoner kommentarer på ett urval av de största svenskspråkiga sociala medierna med hjälp av en maskininlärningsmodell. Resultaten av analyserna presenteras i två studier: Toxiskt språk i svenska digitala miljöer och Könsskillnader i utsatthet för toxiskt språk online.

– Vår undersökning visar att ungefär fem procent av kommentarerna på svenska sociala medier innehåller toxiskt språk. Det är framför allt enskilda individer som blir måltavlor för toxiskt språk men samtal om politiker, politiska system och samhällsinstitutioner tycks också ha en tendens att bli toxisk, säger Lisa Kaati.

Undersökningarna visar att kvinnor och män utsätts för i stort sett lika stor andel toxiska kommentarer. Däremot skiljer sig innehållet i de analyserade kommentarerna beroende på om det är en kvinna eller en man som utsätts. Män utsätts i större utsträckning för kommentarer som innehåller hot samt vålds- och bestraffningsidéer. Kvinnor utsätts mer för toxiska kommentarer relaterade till utseende, psykisk hälsa och moral.

– Resultatet från våra undersökningar stämmer väl överens med tidigare forskning om könsskillnader i digitala miljöer. Det bör dock betonas att de siffror och procentsatser som anges bör tolkas som ungefärliga uppskattningar. De är inte exakta beräkningar eftersom resultaten påverkas av flera faktorer, exempelvis vilka ämnen som diskuteras och vilken omfattning det förekommer moderering, säger Lisa Kaati.

All data är inhämtad från källor som är öppna och tillgängliga för alla, det vill säga plattformar som vem som helst kan läsa på, utan inloggning eller medlemskap. Ingen data har inhämtats från lösenordskyddade sidor, slutna Facebook-sidor, eller andra typer av webbsidor eller sociala medier där användaren vidtagit åtgärder för att hålla upplagt material inom en sluten krets. Undersökningarna baseras på ett års data från några av de största svenskspråkiga sociala medierna.