Algoritmer, rekommendationer och etiska hänsyn

I en ny avhandling har forskaren Dimitris Paraschakis undersökt hur företag på nätet kan ge personliga och träffsäkra rekommendationer som samtidigt lever upp till etiska krav.

Dimitris Paraschakis beskriver ett informationsöverskott och ett överflöd av valmöjligheter som måste hanteras. Företag inom t ex e-handeln behöver förfina sina rekommendationssystem för att nå fram med rätt information eller produkt till rätt kund och på så vis öka sina vinster. Och användaren måste kunna lite på den information och rekommendationer som ges, utifrån våra klick och köp. Det kan handla om allt från banklån och böcker, till resor och förslag på dejtingpartner som styrs av maskininlärningsalgoritmer. I en ny avhandling, som han lägger fram vid Malmö universitet, har Dimitris Paraschakis tagit fram modeller för hur detta kan låta sig göras.

–Fältet har gått över till en mer realistisk modellering av användardata som bygger på olika sessioner och sekvenser i användarens beteende: vi tittar på en produkt på nätet, lägger den i varukorgen, vi klickar på ”köp”, säger Dimitris Paraschakis.

Går att göra mer exakt
Dessa mer pragmatiska modeller som använder sekvenser, sessioner och strömningar, ger enligt Dimitris Paraschakis möjligheten att bygga mer exakta, rättvisande och personliga rekommendationssystem. Samtidigt finns det, menar han, behov av mer enhetliga algoritmiska lösningar. I avhandlingen föreslår han två nya rekommendationssystem för strömning av sessionsdata. Han har också tagit fram ett nytt verktyg för benchmarking där han jämfört sina modeller med existerande.

–Vi testade våra föreslagna algoritmer när det gällde såväl tips om resor, shoppingpreferenser och vilka nyheter du är intresserad av att läsa. I samtliga fall blev träffarna mer exakta, säger Dimitris Paraschakis.

Algoritmisk rättvisa
Avhandlingen diskuterar också de etiska aspekterna av rekommendationssystem. Något som han menar inte stått i fokus för utvecklingen av rekommendationssystem.

–När systemet börjar användas är det inte bara hur träffsäkert det är som spelar roll. Det måste också kunna leva upp till normer och lagar om antidiskriminering, integritetskrav, GDPR och liknande. Det finns risk att det bidrar till saker som partiskhet, filterbubblor och desinformation säger Dimitris Paraschakis.

Dimitris Paraschakis menar att utvecklare måste ha en helhetssyn på potentiella etiska problem och förespråkar tillhandhållandet av etiska filter som användaren kan ställa in. I en delstudie har han fördjupat sig i ”algoritmisk rättvisa”. För att illustrera hur det kan fungera presenterar han en modell för rättvis matchmaking vid speed dating.

Träffsäkra system gynnar båda parter
Dimitris Paraschakis berättar om ett fall där människor upprördes över att dejtingtjänsten de använt konsekvent matchade dem mot personer med samma etnicitet, trots att de specifikt angett att det var ovidkommande.

– Det visar att rekommendationssystem alltså kan bortse från användarens önskemål. I vår algoritm kan man göra urvalet mer rättvisande och man slipper bli pådyvlad preferenser man inte har. Det kan vara känsligt, men det är också din rättighet att ha olika preferenser på olika områden, säger Dimitris Paraschakis.

Är systemet träffsäkert vinner båda sidor på det, menar han. Så även när man matchar någon mot en ledig tjänst: både företaget och den sökande ska veta att rekommendationen stämmer överens med jobbprofilen.

- Det handlar även om att göra ett rättvist urval av kandidater. De tävlar om exponering och måste därför också behandlas rättvist, säger Dimitris Paraschakis.

Kontakta Dimitris Paraschakis: 070 589 01 10 - dimitris.paraschakis@mau.se