Нидерландское налоговое управление получило разрешение на использование персональных данных для выявления дискриминации в алгоритмах

De Autoriteit Persoonsgegevens (AP) vindt dat de Belastingdienst in uitzonderlijke gevallen bijzondere persoonsgegevens mag gebruiken om te controleren op discriminatie. Dat blijkt uit een brief van de AP aan het ministerie van Financiën. De privacywaakhond acht het evenredig dat de fiscus bijzondere persoonsgegevens waarover ze reeds rechtmatig beschikt, ook verwerkt voor bias- en fairness-toetsing van de geautomatiseerde selectie-instrumenten. Het doel van deze toetsing is om bias op te sporen en de oorzaken te analyseren. Dit kan bijvoorbeeld bij het onderzoeken van de vraag of algoritmische systemen aangiften van bepaalde groepen belastingplichtigen onevenredig vaak selecteren in vergelijking met anderen. Maar alleen voor zover dit strikt noodzakelijk is om discriminerende verwerkingen te voorkomen door de opsporing en correctie van bias. Bovendien moeten de grondrechten van burgers en ondernemers extra goed worden beschermd. De AP benadrukt dat dit een tijdelijke oplossing is, benodigd voor de uitvoering van het Plan van Aanpak voor de toetsing van de geautomatiseerde selectie-instrumenten. Het is de bedoeling dat de Belastingdienst in de tussentijd op zoek gaat naar een structurele oplossing voor verwerking van (bijzondere) persoonsgegevens bij bias- en fairness-toetsing. Daarbij kan in overleg met de wetgever onderzocht worden of experimenteerwetgeving een uitkomst kan bieden Deze brief en een bijlage met uitleg gaan alleen over deze specifieke situatie bij de Belastingdienst. Het schrijven legt niet uit hoe de Belastingdienst gevonden discriminatie moet oplossen of aanpassen. Wel wordt opgemerkt dat bias-correctie de werking van het algoritmisch systeem minder accuraat kan maken en mag niet leiden tot willekeur. Ook mag de Belastingdienst geconstateerde bias niet mitigeren door eenvoudigweg een discriminatiekenmerk toe te voegen en mee te laten wegen in het selectie-instrument. Ook geeft de AP geen algemeen oordeel over de vraag of dit soort onderzoeken volgens de privacywet (AVG) in de toekomst altijd en overal zomaar mag. Dat verschilt namelijk per situatie en de techniek verandert snel.