Andreas jobbar gratis och gnäller inte över övertid [Krönika]

Vem behöver semester, ja inte Andreas i alla fall? Vi har en ny kollega som kan jobba nästan gratis, han är grym på analys av data. Kollegan tar data vi samlar in från IoT-enheter och analyserar den för att komma med insikter och förslag på förbättringar. Den nya kollegan kan kontrollera vilka andra faktorer som påverkar mätdata, väder, vind, elpriser, råmaterialkostnader. Han kan till och med planera våra rutter på firman, prioritera jobb, tala om vad vi skall ta med oss för material på morgonen, och på väg ut till olika uppdrag så läser kollegan upp viktig information i bilen så vi kommer fram förberedda på allt vi behöver veta för att kunna lyckas så bra som möjligt.

Om jag för fem år sedan hade sagt att kollegan ovan kunde jobba på utan ersättning, jobba dygnet runt och dessutom snabbare än alla andra, då hade du trott jag hade tappat det. Idag ifrågasätter ingen Andreas Ivarssons insatser (agentnamnet för min AI).

Från min värld där vi samlar in data och låter människor analysera det ser jag att AI kan göra underverk, snabba, smidiga och enkla analyser av nuläge och en längre analys av trender och omvärld. Här är AI ett steg som gör data mer demokratiserat, mer lättillgängligt, mer förståeligt.

Men låt oss vrida fram klockan, spola fram bandet. Åren tickar på, guld och gröna skogar, AI tar hand om allt mer och vi, ja vi har liksom trasslat in oss i navel-luddet medan vi ser på?

Så vad är då oväderssidan av AI, låt oss beröra ”the dark side”, så du är medveten om riskerna. I modellen ovan har vi ett lager som utgörs av enheter som samlar in data, och ett lager av AI. Vi börjar med enheterna, här finns många osäkra enheter på marknaden. Enheter för datainsamling som saknar tillräckligt robusta säkerhetsfunktioner och möjlighet till uppdatering efter installation, vilket gör dem mottagliga för hackning och obehörig åtkomst.

Kombinationen AI och data medför oro för hur data behandlas och för användarnas integritet. Det varnas också för angripare som kan försöka manipulera AI:s träningsdata eller algoritmer, vilket påverkar AI:s beslutsprocess. Du behöver alltså ha full kontroll på din AI så den inte går att lura eller delar med sig av känslig information.

Med manipulerad indata eller felskruvade modeller för analys kan vi i värsta fall se felaktiga beslut. I mitt scenario ovan kan det innebära att vi skickar ventilationsteknikerna till dem som har stopp i avloppet, frustrerande i sig, men knappast något världen går under av. Det viktiga är att vi har med detta i vårt tänk framöver, AI och IoT är en grym kombination, men med data i fel händer kan det gå galet.

Krönikan publicerades i Critical Communication Swedens tidning CCS News nummer 2 · 2024