Bruk av KI er et spørsmål om etikk og tillit

Kunstig intelligens (KI) har allerede begynt å endre måten bedrifter jobber på, og brukes i dag til å automatisere og effektivisere oppgaver i en rekke bransjer. Men for å ta neste steg mot bredere adopsjon av teknologien, må vi adressere flere utfordringer og forstå hvordan vi kan bygge pålitelig KI. Her tar vi tak i noen av disse utfordringene og forklarer nærmere hvordan TCS ser på temaet.

En av de største utfordringene er at vi mennesker ennå ikke er helt komfortable med å stole på systemer som tar beslutninger der vi ikke kan se de underliggende logiske resonnementene. Pålitelig KI må kunne forklares og gjenskapes, samt være objektiv, transparent og bærekraftig.

Er beslutningstakende KI-modeller pålitelige?

Flere og flere tyr i økende grad til KI-systemer når viktige beslutninger skal tas. Mange av disse beslutningene påvirker ikke bare bedrifter, men også enkeltpersoner. Utviklingen innen dyp læring har resultert i en betydelig økning i nøyaktigheten til disse beslutningene.

Selv om KI-systemer i økende grad brukes til å ta viktige beslutninger, er det fremdeles bekymringer knyttet til rettferdighet og skjevhet i modellene. Dette skyldes ofte de datagrunnlaget som modellene bygges på eller selve utviklingen av modellen. Mangelen på innsikt i beslutningsprosessen og tvilen knyttet til hvor rettferdige og upartiske beslutningene er, er noen av de største hindringene når det gjelder å akseptere KI i større skala.

Evne til å forklare

Forklaringsevnen til KI-systemer har vært sentral i debatten mellom forskningsmiljøer, forretningsfora og tilsynsorganer. Gjennomgående i diskusjonene er forventningen om at forklaringene skal gi mulighet for tolkning, transparens og kunne bestrides.

For å forklare hva KI resulterer i, er det vanlig å kartlegge viktigheten av funksjoner og egenskaper. Det finnes ulike teknikker for å kartlegge effekten og relevansen av funksjoner for en spesifikk beslutning eller for modellens generelle oppførsel.

Fordommer og rettferdighet

Skjevheter kan forekomme på ulike stadier i utviklingen av en KI-modell. For eksempel kan treningsdataen som brukes kan ha iboende skjevheter på grunn av historiske årsaker. Skjevheter kan også forekomme hvis dataen ikke her uniform på tvers av klasser eller ikke representerer forskjellige grupper på en rettferdig måte.

Reproduserbart

Evnen til å gjenskape hele utviklingssyklusen til KI-modellen gir tillit til den generelle KI-løsningen og oppmuntrer til bruk av KI. Ved å dokumentere trinn som databehandling, modellopplæring og -tilpasning og modelltesting og -validering kan vi gjenskape utviklingen av modellen. Dette hjelper til å redusere risiko og spore feil.

Transparens

Faktorer som publisering av detaljer rundt modellens beslutningssystem, informasjon om hvordan modeller samhandler for å komme til en konklusjon, samt innsikt i modellens prestasjon under ulike forhold og modellens forventede virkemåte, er avgjørende. Slik åpenhet skaper troverdighet og tillit når KI tas i bruk.

Bærekraft

Utvikling av KI-løsninger kan ha stor effekt på miljøet som et resultat av behandling av store datamengder og energien som trengs for å kjøle ned datasentrene. Det er derfor viktig å overvåke ressursforbruk og sikre at ressurser brukes optimalt, samt optimalisere KI-løsninger for å redusere miljøpåvirkningen og maksimere bærekraften.

Mangel på forståelse og måter å bygge bro over gapet

De fleste forklaringene på resultatene fra KI-modellene presenteres som numeriske verdier, grafer, tabeller eller heat maps. Disse forklaringene forstås ofte bare av dataforskere og sjeldent av sluttbrukeren. Dette resulterer i mangel på forståelse og manglende evne, eller til og med uvillighet, til å agere ut ifra anbefalinger generert gjennom KI.

Formidling av forklaringene

Det er viktig å forklare resultatene til sluttbrukere, interessenter og tilsynsmyndigheter på en enkel måte. Gode forklaringer kan ha en viktig rolle i å bidra til at KI tas mer i bruk.

For mer informasjon, inkludert eksempler på hvordan dette kan brukes, finner du på TCS sin nettside.

Ved hjelp av KI har vi utviklet bildet som illustrerer denne teksten. Her spurte vi KI om å generere et bilde av en etisk og god KI i et datasenter.