Hoe leiden we de opmars van Kunstmatige Intelligentie ethisch in goede banen?

Door Göran Karlsson, Futurist, Executive Partner en Business Developer bij TCS

Het potentieel van Kunstmatige Intelligentie (KI) is iets wat mij fascineert. Misschien merkt u er niet zoveel van, maar bij talloze dagelijkse routineklusjes speelt KI op de achtergrond een rol.

De kracht van KI zit hem in het verzamelen en verwerken van informatie wanneer we online iets kopen, ‘on demand’ naar een tv-serie kijken of een vakantie uitzoeken. In een bedrijfsomgeving helpt KI bij het doorgronden van de behoeften van de klant, of bij het automatiseren van het productieproces in een fabriek.

Waarom KI zo’n grote rol speelt in dit soort zaken? Omdat het in essentie een optimaliseringstool is om elk proces waar dan ook te verbeteren en ervaringen relevanter te maken.

Toch is voor het gros van de consumenten niet transparant welke rol KI nu precies speelt en welke data wordt verzameld en gebruikt. Vandaar dat wordt opgeroepen ervoor te zorgen dat KI ethisch en verantwoord wordt ingezet. De Europese Unie heeft aan die oproep gehoor gegeven en is begonnen met het opstellen van regelgeving.

Als TCS zijn we ook bezig met een ethisch raamwerk voor KI. We hebben tijdens Think Digital in november 2018 met onze stakeholders gesproken en zullen ons standpunt begin 2019 publiceren. Dit ‘Point of View’ document zal de basis vormen voor verdere besprekingen met onze klanten in Europa en opgaan in het grotere Europese raamwerk.

Niet passief worden

In de EU richtlijnen wordt gesproken over de toekomst van het werk, billijkheid, veiligheid, beveiliging, maatschappelijke inclusie en zg. ‘algoritmische transparantie’.

Hoewel regelgeving zonder meer belangrijk is, moeten we oppassen dat we niet vervallen in passiviteit. Mensen denken snel dat KI gevaarlijk is omdat het nieuw is. Bedrijven zijn geneigd de kat uit de boom te kijken, zeker als ze de discussies tussen bedrijfsleven en politiek horen over de governance van KI.

Dit zou ertoe kunnen leiden dat we te voorzichtig worden en de potentie niet ten volle benutten. In Europa lopen we sowieso al achter – in de top 50 technologiebedrijven van de wereld staat geen enkel bedrijf uit de EU. Onderzoek dat Tata Consultancy Services (TCS) enkele jaren geleden heeft verricht naar KI toont echter aan dat de EU eigenlijk niet achterloopt qua innovatie op dit terrein.

We moeten zorgen dat het politieke landschap toeziet op een versnelde opmars van KI en niet alleen maar volgend is.

Data vormt de brandstof

Op het gebied van data is het in ieder geval al duidelijk dat er heldere richtlijnen nodig zijn voor een ethische aanpak. De Algemene Verordening Gegevensbescherming (AVG) is alvast een stap in de goede richting. De kwaliteit van KI hangt echter één op één samen met de kwaliteit van de data die beschikbaar is.

Simpel gezegd kun je KI in drie stadia onderscheiden: data verzamelen; optimaliseren en leren; en als laatste vertalen naar acties. KI analyseert en kraakt enorme datasets om patronen te ontdekken die tot optimalisatie leiden.

Veel bedrijven hebben meer dan genoeg data, maar die zit verborgen in silo’s. Als deze silostructuur verdwijnt en KI met de data aan de slag kan, worden bedrijven vele malen efficiënter in hun besluitvormingsprocessen dan ze nu kunnen zijn op basis van aannames.

In elk KI project vormt data de basis, de brandstof, voor de optimalisatie- en leerfase. En dit is waar ethische kwesties – en juridische voortvloeisels – om de hoek komen.

Het verzamelen van data, het classificeren en verifiëren ervan moet veilig en betrouwbaar plaatsvinden. Beleid ten aanzien van de kwaliteit, veiligheid en betrouwbaarheid van de data is derhalve cruciaal.

Binnen deze cyclus van optimalisatie, leren en heroptimalisatie moeten er dus parameters of regels komen die vastleggen wat het gewenste resultaat is. Tegelijkertijd moet KI wel een bepaalde mate van nauwkeurigheid kunnen aanhouden wil het effectief zijn.

De toekomst van het werk

Een andere ethische kwestie is het voorbereiden van het personeel op de toekomstige golf van verandering.

De financiële dienstverlening is bij uitstek een sector waar KI al op allerlei terreinen ingeburgerd is. In Londen, bijvoorbeeld, wordt transactiebemiddeling en speculatieve handel inmiddels veelal door machines en niet meer door mensen gedaan. Het menselijk brein is beperkt in zijn kunnen, maar KI kan bijvoorbeeld mogelijke fraude ontdekken door vanuit meerdere invalshoeken talloze verschillen tegen het licht te houden.

Dergelijke veranderingen leiden tot de gerechtvaardigde angst dat meer banen zullen verdwijnen met ontslagen tot gevolg. Maar net zoals andere technologieën in het verleden groei hebben gecreëerd, gaat de komst van KI gepaard met een beweging richting zinvollere banen – en zullen er nieuwe beroepen ontstaan die vroeger niet bestonden.

KI kent geen emotionele intelligentie en empathie – beide unieke menselijke eigenschappen die niet reproduceerbaar zijn. Maar om het potentieel van KI maximaal uit te nutten voor een hogere winstgevendheid, hebben we de plicht om ons personeel om te scholen en bij te scholen.

Als TCS investeren we op grote schaal in het opleiden van onze 420.000 collega’s met gebruikmaking van de allernieuwste middelen. Het Villani Rapport dat de Franse overheid in 2018 uitbracht, richt zich op vier belangrijke terreinen waar vaardigheden verbeterd moeten worden: het denken in dwarsverbanden (transversale cognitieve vaardigheden), zoals probleemoplossend vermogen en taal- en cijfermatig inzicht; creatieve vaardigheden; sociale en situationele vaardigheden, zoals teamwork en zelfstandigheid; en precisiewerk dat een bepaalde kunde en handvaardigheid vereist, iets wat zeker niet over het hoofd mag worden gezien.

Een ethische aanpak houdt dus in dat mensen omgeschoold en voldoende bijgeschoold worden. De EU heeft als belangrijke taak om mensen aan te sporen zich adequaat te verdiepen in bèta-/techniek-gerelateerde vakken.

Kortgezegd, we hebben regelgeving nodig, maar ook meer incentives en onderwijs. En – als we niet passief willen worden – zullen we ook een zeker risico moeten durven nemen.