Om artificiell intelligens och digital etik

Vilket spännande frukostmöte Automation Region hade idag! Temat var artificiell intelligens och digital etik. Patrik Löwendahl, teknik- och innovationschef Avanade berättade generellt om AI och vilka problem det medför. Kristoffer Arfvidsson, Solutions Architect på Basalt AB, lyfte EU:s nya dataskyddslag General Data Protection Regulation, GDPR.

Med artificiell intelligens (AI) försöker vi skapa en teknisk intelligens. Det är inte en app. Det är inte ett program. Det är något som finns med oss hela tiden, överallt. Siri och Cortana i våra smartphones och datorer är exempel på AI. Ger vi dem tillåtelse ser de och analyserar de allt vi gör. De kan planera våra liv och förutse vad vi kommer att göra.

AI är stort. Google satsar miljarder på att utveckla AI, bland annat i sin översättningstjänst. Flera av oss har kanske suckat och skrattat åt taffliga översättningar, men med hjälp av AI blir tjänsten självlärande och kan utveckla en förståelse av syntax och semantik, vilket gör översättningarna bättre och bättre. Googles AI har löst uppgiften med översättningarna genom att utveckla ett eget språk som gör att den förstår hur meningsuppbyggnaderna ska vara. Det var en lösning som forskarna själva inte hade tänkt på. Rätt coolt, eller hur?!

Det problematiska är att utvecklingen av detta sker så mycket snabbare än vi hinner med! Vi utvecklar tekniken och tillverkar sjukt coola saker. Men vad är baksidorna? Vilka bör vara våra farhågor? Jo, det är särskilt en grej. AI har ingen som helst moral eller etik. Det betyder att vi måste vara försiktiga med vad vi gör med våra robotar. Det är lätt att de börjar diskriminera eller använda våld beroende på vilken information de samlar in och vilket uppdrag de har. Ett exempel som lyfter frågan är HAL9000 från Kubricks film Ett rymdäventyr. Hal är skeppsdatorn på ett rymdskepp där besättningen har ett uppdrag att utföra. Hal vet allt om passagerarna och finns överallt. När besättningen på skeppet börjar bli ett problem för uppdraget blir Hals lösning att kasta ut folk i rymden. Han är lojal till uppdraget, inget annat.

Så, vad händer om robotar styr våra liv? Vad skulle de göra med icke-produktiva människor? Med våra politiska val? Det är lätt att det går himla fel här. Vi delar ju med oss av information om oss själva hela tiden. Våra sökmönster. Var vi befinner oss. Vilken IP-adress vi har. Vad kommer informationen att användas till i framtiden?

Här tog Kristoffer vid och pratade om EU:s nya dataskyddslag GDPR. Detta är en lag som vi verkligen behöver ha koll på! Den är skapad just för att skapa mer säkerhet kring dessa frågor. Den nya lagen ska hjälpa oss att begränsa informationen som lagras. Den träder i kraft 25 maj 2018 och brott mot den är förenad med kraftiga böter. Vad sägs om 20 miljoner euro eller 4% av din omsättning? Tanken är att ingen ska komma undan.

Men vad är det den nya lagen reglerar? Jo, bland annat ska dina uppgifter kunna raderas från ett företags alla system. Du ska kunna ta del av all insamlad data som finns om dig. Du ska kunna korrigera dina uppgifter om de är felaktiga. Du ska kunna få skadestånd om dina uppgifter inte behandlas rätt. Högsta nivån av säkerhet ska vara inkopplad per default, exempelvis i chattprogram. Det ska finnas ett otvetydigt samtycke, vilket innebär att du ska tacka ja innan ett företag får lagra dina uppgifter och du ska få veta precis vilka uppgifter som sparas. Företag ska ha en utsedd dataskyddsansvarig. Det ska finnas regelbundna möten om riskanalys och uppföljningar. Det finns ett rapporteringskrav som säger att företagen ska rapportera läckta uppgifter inom 72 timmar, både till användaren och datainspektionen.

Inga känsliga data får sparas. Namn, personnummer och adress hör så klart hit, men också IP-adresser och positioneringsdata. Kan information läggas ihop så att den identifierar en person, räknas det som känslig information. Viss information måste sparas enligt lag, exempelvis bokföringslagen, men då är det bara just den informationen vi får spara. Inget annat.

Några tips från Kristoffer är att tänka igenom ordentligt vad som verkligen behöver sparas. Spara bara det som är ytterst nödvändigt. Se över vem som har tillgång till informationen. Ha koll på var informationen sparas. Logga data på ett smart sätt. Kryptera informationen. Begränsa API. Och sätt igång med arbetet nu. Tiden går fort. Maj är snart här.

Den nya lagen känns bra. Särskild med alla farhågor kring AI i åtanke, även om AI också är väldigt spännande. Många frågor har väckts denna morgon. Frågor som ännu inte har något givet svar. Den viktigaste kanske är ifall vi kommer att kunna lösa frågan om AI och etik. Så att vi slipper vara oroliga för att bli utkastade i rymden och liknande grejer.

Ytterligare tre frågor fastnade lite extra:

• Hur kommer ett framtida samhälle att fungera när en AI kan utföra vilket jobb som helst? Denna gång är det inte människors mekaniska arbetsuppgifter som ersätts med tekniska lösningar. Det är de kognitiva arbetsuppgifterna som ersätts. Det pågår mycket diskussioner om detta. Regeringen genomför utredningar, och olika förslag diskuteras. Hur ska vi ta hand om de som blir av med jobben? Ska vi ha medborgarlön?
• Kommer framtidens AI att ha rättigheter? Kommer vi att se dem som medborgare och kommer de att ha rösträtt? Om inte, hur ska vi “äga” en varelse som är så många gånger smartare än oss själva?
• Har människan en själ? Om ja, kan en AI ha en själ?

Vilka är dina tankar kring dessa frågor?

Nästa event från Automation Region är Automation Summit den 12 oktober. Temat då är utvecklingen av det digitala samhället.