Gå direkt till innehåll
Foto: Unsplash

Nyhet —

Nej, AI kommer inte att utplåna mänskligheten: här är varför

Mer än varannan svensk tror att AI är ett hot mot mänskligheten. I september publicerades dessutom den största enkäten hittills bland AI-forskare, där medianforskaren ger tio procents sannolikhet för att AI utplånar eller permanent förslavar oss. AI-entreprenören och författaren Jorge Castro har gått igenom underlaget bakom domedagsprofetiorna och landar i en annan slutsats: ingen har mätt risken, man har frågat folk vad de tror. Och de som tränats i att förutsäga framtiden landar under en procent.

Enligt SOM-institutets senaste mätning anser 54 procent av svenskarna att påståendet "AI är ett hot mot mänskligheten" är helt eller delvis riktigt, och 62 procent ser AI som en större risk än möjlighet för samhället. Skepsisen har vuxit varje år sedan 2023, samtidigt som användningen exploderat: 58 procent har använt en AI-chattbot det senaste året.

Bränsle till oron kom i september, när forskningsgruppen AI Impacts publicerade sin fjärde stora enkät bland forskare som publicerat vid de ledande AI-konferenserna. 1 580 forskare svarade. Medianforskaren sätter tio procent på att framtida AI orsakar mänsklighetens utplåning eller ett lika permanent maktövertagande, och genomsnittet ligger på 18 procent.

- Läs vad de faktiskt frågade om. Frågan handlar om utplåning eller "liknande permanent och allvarlig maktförlust", och forskarna skriver själva i rapporten att de därför inte vet hur många som tror på utplåning. Tolv procent av forskarna svarade noll. Hälften av svaren ligger mellan en och 25 procent. Det är inte en mätning av en risk, det är en åsiktsmätning bland människor som gissar, säger Jorge Castro.

    Rapportförfattarna konstaterar också själva att expertis är en dålig indikator på träffsäkerhet i prognoser, och att experter ofta slås av enkla statistiska modeller. Bara fyra procent av forskarna tror på argumentet att AI som sköter sin egen forskning skulle ge en explosionsartad utveckling inom fem år, ner från tolv procent 2016.

    2022 samlade Forecasting Research Institute 169 personer i en prognosturnering om mänsklighetens stora risker: 80 ämnesexperter och 89 så kallade superprognosmakare, personer med dokumenterad träffsäkerhet i tidigare prognoser. Grupperna fick månader på sig att övertyga varandra. AI-experterna satte tre procent på att AI utplånar mänskligheten till år 2100. Superprognosmakarna satte 0,38 procent. Utplåning definierades som färre än 5 000 människor kvar på jorden. Efter miljontals ord i debatt hade nästan ingen ändrat sig.

    - Jag säger inte att prognosmakarna har rätt. Ingen av grupperna lyckades förutse hur snabbt modellerna skulle bli bättre på bara två år. Det är just poängen. När inte ens proffsen kan förutse 2024 ska man vara mycket skeptisk mot den som säger sig veta vad som händer 2100, säger Jorge Castro.

      Den amerikanska tankesmedjan RAND gjorde 2025 det få domedagsprofeter gör: de undersökte i detalj hur en AI rent praktiskt skulle kunna utplåna mänskligheten, via kärnvapen, smittämnen och geoengineering. Slutsatsen: oerhört svårt i alla tre fallen, det skulle ta lång tid och ge människor tid att reagera, och det är inte ett rimligt utfall om inte någon aktivt försöker åstadkomma det. En AI skulle enligt RAND behöva fyra saker samtidigt: kontroll över fysiska system, förmåga att överleva utan människor som underhåller den, ett mål att utplåna mänskligheten och förmåga att lura oss så att ingen märker något.

      - Det är där hela resonemanget faller. Dagens modeller har inga mål och ingen kropp. De är statistik som förutsäger nästa ord. Jag arbetar med dem varje dag och ser hur de blandar ihop bolag, hittar på källor och svarar självsäkert fel. Det är inte en art som är på väg att ta över, säger Jorge Castro.

        Domedagen har dessutom en tendens att flyttas. Redan 1970 lovade AI-pionjären Marvin Minsky en maskin med en genomsnittlig människas intelligens inom tre till åtta år. När scenariot AI 2027 publicerades våren 2025 beskrev det en superintelligens som utplånar mänskligheten före decenniets slut. I december samma år flyttade författarna fram sina prognoser: självständigt kodande AI först i början av 2030-talet och superintelligens omkring 2034.

        I samma forskarenkät fick deltagarna rangordna elva risker. Överst hamnade inte robotar utan desinformation: 83 procent anser att AI som gör det enkelt att sprida falsk information, som deepfakes, förtjänar stor eller extrem oro de kommande trettio åren. Därefter manipulation av opinionen, farliga grupper som får hjälp att bygga vapen, auktoritära regimer som övervakar sin befolkning och ökade klyftor. Svenskarna verkar redan ha förstått det: 88 procent är oroade för att AI-genererad falsk information ska påverka demokratiska val, enligt SOM-institutet.

        - Det är de hoten vi ska lägga energin på, och de finns här nu. Undergångsdebatten stjäl syret från det som faktiskt går att göra något åt, säger Jorge Castro.

          Ämnen

          Kontakter

          • glen-carrie-SCwbIVG4vhA-unsplash.jpg
            Licens:
            Medieanvändning
            Filformat:
            .jpg
            Storlek:
            5472 x 3648, 2,08 MB
            Ladda ner