Vad vill vi att AI lär sig, egentligen?

Inom IT-branschen finns det sen länge tillbaka den beprövade insikten att matar man in fel eller ofullständig information i ett system, får man inte ut någonting vettigt heller. Detta fenomen brukar kallas ”garbage in – garbage out”. Mycket förargligt för dem som måste leva med det, och säkerligen en stor taktisk nackdel för ett företag. Men för den skull går inte världen under. Nu, när vi skapar nya möjligheter genom att använda artificiell intelligens i olika sammanhang, kommer samma fråga upp igen – dock med långt större makt och effekt än tidigare. Därför behöver den frågan också stå i första rummet när vi ger oss in i AI-möjligheternas värld.

Vi hoppar in i framtiden: Det är år 2030, du är ledare för ett medelstort handelsföretag. Varje dag frågar du din AI-styrda bot hur det är ställt med allt från marknadsläge, stämningen bland aktieägarna till lämpliga investeringar. Tillsammans med dina kollegor i ledningsgruppen tar du sen dagligen beslut om verksamheten. Din AI verkställer sedan också besluten, som direkt påverkar dina medarbetare, kunder, miljön, finansmarknaden. Din speciella artificiella intelligens har fått som meta-uppgift ”gör bolaget finansiellt och socialt framgångsrikt” och tränas hela tiden på zillioner datapunkter, både från den egna verksamheten och från andra framgångsrika företag i liknande bransch. Din AI-leverantör har funnits på marknaden redan i 15 år och har specialiserat sig just på AI för företagsledare. Den första generationens AI lärdes upp genom att man matade in främst asiatisk företagsdata, den andra generationen byggde på denna kunskap med selektiv internationell metadata om företagsstyrning, den tredje nuvarande generationen AI processar både historik, framtidssimulationer och realtidsskeenden på en och samma gång, samt ingår i ett globalt AI-kunskapssamfund, där människor sysslar med de stora världsfrågorna resurser, miljö och hälsa…

Låter imponerande, men det tar inte lång tid förrän tanken smyger sig på en: Vad EXAKT har vi lärt och lär vi maskinerna egentligen? Varför ger mig AI:n just denna handlingsrekommendation? Eller, om det handlar om autonoma AI-system, varför agerar AI:n såhär? Det kommer bli svårt intill vanmakt att ifrågasätta automatiserade beslut och handlingar, om det inte finns någon transparens hur dessa kommer till stånd. Idag kan vi fortfarande ganska lätt ifrågasätta ett beslut genom att ställa beslutsfattaren till svars – den möjligheten måste kvarstå.

Idealisten säger: ”Vi bör uppfostra maskinerna till att skapa bättre beslutsunderlag och fatta bättre beslut än de som vi människor gör. Då har människorna för första gången möjligheten att styra världen till det bättre, och att fatta bättre beslut - på riktigt.”

Pessimisten frågar: ”Hur undviker vi att maskinerna matas med data som bygger på mänskliga brister, fördomar och meningar? Är det överhuvudtaget möjligt?”

Tillkommer dessutom tidsperspektivet och definitionshögheten. I exemplet ovan har AI:n fått order om att göra företaget finansiellt och socialt framgångsrikt. För vilken period då, och inom vilken tidshorisont? Och hur är framgången definerad?

Vilka styrningsåtgärder man som företagsledare vidtar är i hög grad beroende av både tidsaxeln och definerad strategi. Du kanske väljer bort högre vinstmarginaler i 10 års tid för att gagna miljön i det långa loppet, tex genom att skaffa dyrare, men miljövänligare emballage.

Kontentan är: Utvecklingen av AI - och maskininlärning som den bygger på – får inte ske i ett humanistiskt och etiskt vakuum på grund av dess otroligt exponentiella karaktär, både i tid och rum. Huvuddelen av AI-diskussionen kretsar fortfarande kring teknologiska möjligheter och alla obestridda fördelar och vinster vi kommer att få med den i olika sammanhang. I skuggan står fortfarande det akuta behovet av ett ramverk, som innehåller allt från källtransparens till kontrollmöjligheter för AI.

Ett första modest steg som SAP nu går: vi är just i färd med att ta fram en digital etik-kod för den egna AI- och ML-affärsmjukvaran.

Chris Berry, försäljningschef SAP Svenska AB

Mer information:

”A Step by Step approach to digital ethics” – Guido Wagner, SAP

https://experience.sap.com/skillup/a-step-by-step-approach-to-digital-ethics/

”European Prosperity Through Human-Centric Artificial Intelligence” – White Paper, SAP

https://www.sap.com/documents/2018/01/3e67a134-ee7c-0010-82c7-eda71af511fa.html