Het grote probleem nu is dat deze algoritmes totaal onzichtbaar zijn voor de gemiddelde burger. De enige manier om er achter te komen wat er in die ‘zwarte doos’ gebeurt, is via deductie, oftewel, je kijkt wat voor uitkomsten je krijgt als je verschillende ‘input’ geeft.
FRAUDESCOREKAART
Het algoritme dat de Autoriteit Persoonsgegevens hanteert heet de ‘fraudescorekaart’. Dat is een voorbeeld van zo’n algoritme. De bedoeling ervan is om het risico op fraude in te schatten voor verschillende groepen mensen met een bijstands uitkering. Mensen met bepaalde kenmerken, zoals beroep, woonwijk en opleidingsniveau worden op basis van deze kenmerken gegroepeerd.
Nu heeft de FNV ontdekt, dat terwijl de Vereniging Nederlandse Gemeenten (VNG) gevraagd heeft om de fraudescorekaart niet meer te gebruiken, deze toch in gebruik is gebleven bij vijf gemeenten. Dit ondanks een rechtszaak over Syri, dat het gebruik van zo’n systeem in strijd is met de privacywet AVG.
Pas nadat in verschillende media kritische berichten verschenen over dit misbruik stopten de gemeenten met de fraudescorekaart-algoritme.
DISCRIMINATIE
Monique Verdier, vicevoorzitter AP: “Veel zaken lopen uitsluitend via de overheid. Daarin heb je als burger geen keuzevrijheid. Je bent daardoor gedwongen gegevensverwerkingen van de overheid te ondergaan. Juist daarom moet je er blind op kunnen vertrouwen dat dit netjes gebeurt. Dat de overheid niet onnodig informatie over jou opslaat en verwerkt. En dat discriminatie geen rol speelt in jouw contact met de overheid.”
Nu wil de AP antwoord van de gemeente krijgen over het voortzetten van deze manier van werken. De gemeenten moeten in de rapportage het advies opnemen van hun onafhankelijke interne privacy toezichthouder, de functionaris gegevens bescherming (FG). Daarbij moeten zij aangeven wat zij destijds met dit advies hebben gedaan. Ook moeten zij aangeven of burgers financiële schade hebben geleden en zo ja, hoeveel. En wat de gemeenten aan eventuele schade gaan doen. Nadat de gemeenten aan de AP gerapporteerd hebben, besluit de AP of vervolgacties nodig zijn en zo ja, welke.
MEER OPENHEID OVER OVERHEIDS ALGORITMES
Bij de toeslagenaffaire bracht onderzoek van de AP een discriminerend algoritme van de Belastingdienst aan het licht. Het kabinet heeft toen een staatscommissie ingesteld tegen discriminatie en racisme. De AP kreeg de taak een impuls te geven aan het toezicht op algoritmes. En hierbij de onderlinge samenwerking van de verschillende toezichthouders op algoritmes te versterken. Het doel hiervan is het gebruik van algoritmes scherper te controleren, discriminatie en willekeur tegen te gaan en transparantie te bevorderen.
