Behovet for ikke-diskriminerende, etiske og pålitelige AI-drevne systemer er viktig for en AI-basert fremtid, og det haster.

Capgemini sin rapport viser at 70% av kunder forventer at organisasjoner skal tilrettelegge for rettferdige og transparente interaksjoner innen kunstig intelligens.

Oslo, 11. november 2020 – kunstig intelligens (AI) har muligheten til å transformere samfunnet og miljøet positivt. For å utnytte det fulle potensiale til kunstig intelligens, må organisasjoner rette fokus på hvordan de skal håndtere de etiske utfordringene som oppstår. Dette kommer fram i den nye rapporten fra Capgemini Research Institute, “AI and the ethical conundrum: How organizations can build ethically robust AI systems and gain trust,”. Rapporten viser blant annet at forbrukere som tror at organisasjoner er fullstendig transparente omkring hvordan de bruker deres personlige data, har falt fra 76% i 2019 til 62% i dag. Rapporten viser også at kun 53% av organisasjoner har en leder som har ansvar for etikk og AI.

Rapporten viser at samtidig som organisasjoner i økende grad viser bevissthet rundt etikk og kunstig intelligens, har implementeringen vært inkonsekvent. I 2019 rapporterte for eksempel 66% ledere at de hadde tatt aktive steg mot å utvikle mål rundt «rettferdighet» i AI systemene, sammenlignet med 65% i 2020. Transparens har også sunket fra 73% til 59%, på tross av at 58% av bedrifter oppgir at de jobber aktivt med å skape bevissthet rundt utfordringer knyttet til bruk av AI blant ansatte.

“Vi ser at våre kunder har en økende bevissthet rundt den rollen AI baserte beslutninger begynner å få i samfunnet, og deres eget ansvar i dette. Kundene krever klarhet og en tydelig innsikt i hva som foregår “bak skjermene”, i tillegg til et skjerpet lovverk og regler. Tiden hvor man kan sitte på gjerdet “og se det litt an” er definitiv forbi.” sier Robert Engels, CTO I&D Europe, Capgemini.

Diskriminerende praksis innen AI-systemer og negative kundeopplevelser koster organisasjoner dyrt

Samtidig som offentlige og private organisasjoner i økende grad tar i bruk AI-teknologier, er det kritisk at de opprettholder tillitten til forbrukerne. Rapporter viser imidlertid at det oppstår kulturell og sosial skjevhet ved innsamling av data.

Capgeminis undersøkelse viser at 65% av ledere sier at de er klar over problematikken knyttet til diskriminerende praksis i AI-systemer. Videre har nærmere 60% av organisasjonene gjennomgått juridiske undersøkelser, og 22% har opplevd et tilbakeslag fra forbrukere de siste to-til tre årene på grunn av beslutninger som er tatt gjennom AI-systemer. Faktisk rapporterer 45% av forbrukere at de kommer til å formidle negative erfaringer tilknyttet AI med familie og venner, og at de vil oppfordre dem til å ikke interagere med en slik organisasjon.

«Forbrukere liker ikke å være i spagaten hvor de deler sine data uten å ha innsikt i hvordan det blir brukt, og samtidig blitt tvunget til å dele slik data. Bedriftene som klarer å skape tillitt rundt at man fortsatt har kontroll over egne data og at man forstår hvordan disse er brukt på en ærlig måte vil være vinnere i morgendagens marked» sier Caroline Wilhelmsen, leder for Insights & Data i Capgemini Norge.

Etikk har blitt en forutsetning

Behovet for at organisasjoner implementerer etiske retningslinjer er også drevet frem av økt regelverk. For eksempel har EU-kommisjonen opprettet sentrale etiske retningslinjer som skal brukes for å designe AI-applikasjoner. Samtidig, utstendte den amerikanske Federal Trade Commission (FTC) i starten av 2020 et krav om transparens innen AI, som sier at når et AI-aktivert system tar en negativ beslutning, bør organisasjonen vise de berørte forbrukerne de viktigste faktorene som ble brukt for å komme frem til avgjørelsen og gi dem mulighet til å endre feil informasjon. Imidlertid viser undersøkelsen at der 73% av organisasjonene globalt informerte brukerne om hvordan AI-beslutninger kan påvirke dem i 2019, ligger tallet i dag på 59%.

Ifølge rapporten er dette en indikasjon på dagens omstendigheter forårsaket av COVID-19, samt samfunnsmessige og miljømessige behov, økende kompleksitet av AI-modeller og en endring i forbrukeratferd, som alle har påvirket funksjonaliteten til de eksisterende AI-modellene. Nye faktorer, inkludert preferanser innen sikkerhet og mangel på opplæringsdata for lignende situasjoner fra fortiden, har betydd at organisasjoner redesigner systemene sine som er tilpasset den nye normalen; dette har imidlertid ført til mindre åpenhet.

Rapporten fremhever syv hovedpunkter for å bygge etiske og robuste AI-systemer. Hvert av punktene støttes av et sterkt fundament rundt ledelse, styring og intern praksis:

• Tydelig skissere tiltenkt formål med AI-systemer og vurdere deres samlede potensielle innvirkning
• Proaktivt bruke AI for å gagne samfunnet og miljøet
• Inkludere mangfold og inkluderingsprinsipper proaktivt gjennom hele livssyklusen til AI-systemer
• Forbedre transparens ved hjelp av teknologiske verktøy
• Sørg for menneskelig tilsyn av AI-systemer
• Sikre teknologisk robuste AI-systemer
• Beskytte individers privatliv ved å ansvarliggjøre dem i interaksjonen med AI

“Kunstig intelligens gjentar det den ser og vil ha vanskeligheter med å være upartisk og rettferdig dersom den ikke får innspill på hvordan det kan gjøres. I dette ligger det et ansvar for hele organisasjonen å sørge for at vi gjør det vi kan for å være oppmerksomme på skjevheter og la brukere inspisere og forstå de beslutningene som tas» sier Robert Engels, CTO I&D Europe, Capgemini.

Les rapporten og anbefalingene her.

Metode

Datagrunnlaget for rapporten ble gjennomført av Capgemini gjennom en global forbruker-og lederundersøkelse i løpet av april-mai 2020. Forbrukerundersøkelsen spurte 2900 forbrukere i seks land, mens undersøkelsen for ledere spurte 884 toppledere (funksjoner innen: informasjonsteknologi, kunstig intelligens, datavitenskap, salg, markedsføring og kundeservice) fra ti land. Resultatene ble ytterligere sammenlignet med 2019-undersøkelsen gjennomført i april 2019 og juni 2019, som involverte 5000 forbrukere og 722 ledere innen kunstig intelligens, datavitenskap, salg-og markedsføring. Capgemini gjennomførte også dybdeintervju med en rekke bransjeledere, akademikere og fageksperter innen etikk og AI i løpet av august-september 2020.

Om Capgemini Research Institute

Capgemini Research Institute er Capgeminis interne tenketank. Instituttet publiserer forskning om effekten av digital teknologi ved store tradisjonelle virksomheter. Teamet trekker på det verdensomspennende nettverket av Capgemini-eksperter og jobber tett med akademiske og teknologiske partnere. Instituttet har dedikerte forskningssentre i India, Singapore, Storbritannia og USA. Instituttet ble nylig rangert som nummer 1 i verden på kvalitet ved forskning av uavhengige analytikere.

Besøk oss på: https://www.capgemini.com/researchinstitute/