Samenvatting

“Data is het nieuwe olie!” “Algoritmes zijn overal!” Er wordt veel geschreven over de vele mogelijkheden en succesvolle toepassingen van data en algoritmes. Maar naast dit veelbelovende nieuws verschijnen er ook regelmatig verontruste berichten met voorbeelden van algoritmes die discrimineren. Dit gaat om toepassingen waarbij de uitkomsten van algoritmes onterecht afhangen van iemands opleidingsniveau, inkomen, leeftijd, gender, geloof of ras, zoals bijvoorbeeld gezichtsherkenningssoftware die beter werkt bij gezichten met een witte huidskleur, politie die algoritmes inzet om misdaad te voorspellen of verzekeraars die algoritmes gebruiken om automatisch te bepalen of een claim mag worden uitbetaald. Zijn deze zorgen terecht en werkt het gebruik van algoritmes inderdaad discriminatie in de hand? Is daar iets aan te doen?