Skip to content
Anna Felländer, grundare och vd för anch.AI svarar på frågor kring ansvarsfull AI.
Anna Felländer, grundare och vd för anch.AI svarar på frågor kring ansvarsfull AI.

Blog post -

Vi behöver prata om ansvarsfull AI. Zimply träffar Anna Felländer.

Med den dramatiska händelseutvecklingen inom OpenAI och varningar om hot mot mänskligheten har riskerna med artificiell generell intelligens (AGI) hamnat högt på samhällsagendan. Samtidigt är det en förutsättning för företag att omfamna AI för att behålla och stärka konkurrenskraft. Hur skyndar man långsamt, säkert och etiskt? Zimply träffade Anna Felländer, grundare och vd för anch.AI, för att få hennes syn på ansvarsfull AI.

AGI kan i teorin bli kraftfullare och intelligentare än människan, komma runt sina egna restriktioner och skapa egna agendor. Det kan oavsiktligt eller avsiktligt skada oss genom digitala system som styr samhället, med exempelvis drönare, robotar, cyberattacker och virus.

- Vi är inne i ett historiskt skede där OpenAIs produkt ChatGPT har blivit en symbolbärare och konkretisering av kraften i den nya teknologin där både de enorma vinsterna, men också riskerna, har kommit upp mer till ytan, säger Anna.

Mitt i ett experiment

Redan 2016 identifierade Anna och hennes forskarteam på KTH de potentiella farorna med den snabbt växande och oreglerade utvecklingen av AI. Oavsiktlig diskriminering, integritetskränkningar, desinformation och manipulering är några exempel. De beror bland annat på avsaknad av översikt och kontroll av riskerna från ett integrerat tekniskt, legalt och affärsmässigt perspektiv enligt Anna.

- Språkmodellen GPT-4 har nu tagit AI till nästa nivå där vi som använder ChatGPT tar del av ett experiment utfört av en privat aktör utan tydliga riktlinjer och transparens kring tillkortakommanden. Både värdet och riskerna har ökat ännu mer av den snabba utvecklingen det senaste året, menar Anna.

Bild på användare som chattar med GPT.

Viktigt att påskynda riktlinjer

Det är nu enligt Anna viktigt att flytta fokus till vad vi kan göra här och nu för att styra utvecklingen i rätt riktning där riktlinjerna behöver komma ifatt utvecklingen.

- Fråga exempelvis ChatGPT om framgångsrika egenskaper hos en vd till en arbetsansökan och svaren genereras utifrån de normer som historiskt varit framgångsrika för ledande positioner; det vill säga högutbildad vit man", säger Anna.

AI Act runt hörnet

År 2024 förväntas EU klubba en ny AI-reglering; AI Act. Det innebär att AI-lösningar delas in i riskkategorier som går från låga till oacceptabla risker med sanktioner på upp till 6 procent av omsättningen. I högrisk-kategorin krävs bland annat att organisationer analyserar risken utifrån ett integrerat tekniskt, legalt och affärsmässigt perspektiv.
Anna, som välkomnar den nya lagen, menar att det kommer att leda till att människor kommer att kunna lita på nya innovationer och skapa långsiktiga affärsmodeller för företag där kundens tillit ställs i fokus.

Bild på domarklubba och EU-flagga

- AI Act blir den första AI-regleringen i världen och nu har även USA och Storbritannien öppnat upp för reglering. Det säkerställer att vår demokrati, våra mänskliga rättigheter och vår integritet bevaras, säger Anna.

Metodik för kontroll på AI-risker

Att säkerställa ansvarsfull AI och att uppfylla AI Act kräver dock utbildning, tvärfunktionell styrning med tydligt ansvar och rapportering av organisationer.

- Med anch.AIs metodik och plattform får organisationer insikt och kontroll på sina AI-risker utifrån ett integrerat tekniskt, legalt och affärsmässigt perspektiv, säger Anna.

Börja med att omfamna AI med låg risk

Hur bör man då förhålla sig till AI, och var börjar man? Anna förespråkar att först titta på de lågt hängande frukterna. Det vill säga de områden där det finns en låg risk för etiska och legala övertramp och som inte nödvändigtvis kräver den mest avancerade AI-tekniken. Fokus bör vara att tänka affärsdrivet och att använda AI som ett verktyg för att frigöra tid och energi till kritiskt tänkande och analys. Till exempel för att utföra repetitiva och tidskrävande arbetsuppgifter som att samla in data och sammanställa rapporter.

AI något vackert med rätt styrning

- Det är en spännande tid vi lever i där AI kan bli något väldigt värdefullt och vackert om vi styr det i rätt riktning. Då kan vi skapa nya upptäckter för både människans och jordens överlevnad, med människovärdet i behåll. Dessutom kan vi människor slippa repetitiva tidskrävande uppgifter och träna upp våra mänskliga förmågor som intuition, kritiskt tänkande och empati , säger Anna.

Människa och teknik i harmoni

anch.AI och Zimply i partnerskap

För Zimply är Anna Felländers och anch.AI:s unika metodik och plattform ett värdefullt verktyg där ett partnerskap hjälper Zimply att integrera AI på ett ansvarsfullt sätt i både företagsstrategi och AI-assistenter. Det innebär bland annat att integrera det tekniska, legala och affärsmässiga perspektivet för att säkerställa att AI-assistenterna uppfyller etiska och legala krav.

- Det är med andra ord inte bara en teknisk fråga utan handlar också om att kunna räkna hem vinsterna och hur AI-assistenterna designas och byggs ansvarsfullt. På Zimply tror vi starkt på att samarbeta med framåtlutade företag som anch.AI för att bygga en framtid där teknologi är ett verktyg för positiv förändring, säger Fred Alpsten, vd på Zimply.

Related links

Topics

Categories

Regions

Contacts

Related content

  • Daniel Baldwin, CTO på Zimply går i täten för en grönare AI-framtid i Sverige.

    Zimply leder vägen mot en hållbar och trygg AI-användning i Sverige

    Zimply leder vägen mot en hållbar och trygg AI-användning i Sverige genom att erbjuda drift på koldioxidfria servrar i Sandviken, Gävle och Staffanstorp. Företaget prioriterar även dataskydd genom att hantera all data inom Sveriges gränser enligt GDPR-regelverken. Samarbete med Microsoft Azure säkerställer grön energi och högsta juridiska standarder.

  • Anna Felländer, vd, anch.AI besökte Zimply 8 december för att berätta mer om metodik och plattform med anledning av partnerskapet..

    Zimply förstärker ansvarsfull utveckling inom AI genom partnerskap med anch.AI

    Zimply ingår partnerskap med anch.AI för att stärka ansvarsfull, etisk och laglig utveckling inom AI, intelligent automation och företagets AI-assistenter. anch.AIs unika metodik kommer integreras i alla faser av Zimplys AI-projekt. Målet är att säkerställa att AI-assistenterna arbetar ansvarsfullt, lagligt och skapar värde och förtroende hos kunder och användare.

  • Vad är AI as a Service? En guide till AI som tjänst

    Vad är AI as a Service? En guide till AI som tjänst

    AI as a Service (AIaaS) är en modell där AI-teknik tillhandahålls som en tjänst via molnet eller lokalt. Det är kostnadseffektivt, skalbart och ger tillgång till expertis. AI kan användas inom olika sektorer som ekonomi, försäljning, HR, kundtjänst, dataanalys, marknadsföring och säkerhet.