Samenvatting

De versmelting van mens en machine zal door ontwikkelingen als AR, VR, Robotica en AI steeds groter worden. Daarnaast zien we dat het risico dat vooroordelen (veelal onbewust) in onze systemen terecht komen groter wordt met de komst van meer datagedreven systemen. Deze twee ontwikkelingen maken dat we als samenleving bewuster en actiever bezig moet gaan met het tegengaan van bias in algoritmes. In deze whitepaper wordt uitgelegd hoe vooroordelen algoritmes binnendringen en wat hiervan de risico’s zijn. Vervolgens wordt deze ontwikkeling van een andere kant beschouwd: algoritmes zelf zijn juist neutraal, zij hebben geen last van onderbuik-gevoelens en kunnen daarom juist helpen om een rechtvaardigere samenleving te krijgen. Dit kan bewerkstelligd worden door niet alleen te acteren op het niveau van technologie, maar ook te kijken naar het proces en de mensen rondom de totstandkoming en gebruiken van algoritmes. Een belangrijk aspect hierbij is transparantie. Het gaat dan om transparantie naar de burger, maar ook over uitlegbaarheid van het algoritme. Hoe dit in zijn werk zou kan gaan wordt geïllustreerd aan de hand van een onderzoekscasus die is uitgevoerd door studenten van de opleiding HBO-ICT, uitgevoerd bij Dienst Toeslagen.