Er zijn belangrijke lessen te trekken uit de toeslagenaffaire die afgelopen jaar plaatsvond in Nederland. Het toeslagenschandaal maakt pijnlijk duidelijk dat algoritmes etnisch profileren in de hand werken. De Europese Commissie moet lidstaten beter controleren of ze er alles aan doen om discriminatie te bestrijden.
Dat is de uitkomst van een debat in het Europees Parlement, zo bericht de NOS (1). Het debat vond woensdagavond plaats.
In beginsel zijn algoritmes niets meer dan een reeks instructies die een computer uitvoert. Ze helpen ons om besluitvorming sneller en doelmatiger te laten plaatsvinden. Algoritmes zijn tevens in staat om patronen van frauduleus gedrag te herkennen. Het kan een effectief instrument zijn bij fraudepreventie. Algoritmes kennen echter ook een keerzijde. Als ze instructies te letterlijk nemen, werkt het discriminatie en etnisch profileren in de hand. Als het dan misgaat, dan gaat het ook goed mis.
Dat laatste heeft de toeslagenaffaire aangetoond. De afdeling Toeslagen van de Belastingdienst bewaarde jarenlang gegevens over (dubbele) nationaliteit in haar systemen. Deze data werden in een risicomodel verwerkt. Op deze manier trachtte de fiscus belastingfraude te bestrijden. Wat er in praktijk gebeurde was dat minderheden en mensen met een dubbele nationaliteit die toeslagen aanvroegen eerder het stempel van mogelijke fraudeur opgeplakt kregen.
De Autoriteit Persoonsgegevens onderzocht de kwestie en concludeerde dat de verwerking van nationaliteit ‘onrechtmatig, discriminerend en onbehoorlijk’ was. “Het hele systeem was op een discriminerende manier ingericht en werd ook als zodanig gebruikt. Welke concrete gevolgen dit heeft gehad voor individuele aanvragers, dat kunnen we in dit onderzoek niet zien. Wel was er permanent en structureel onnodige negatieve aandacht voor de nationaliteit en dubbele nationaliteit van de aanvragers”, aldus de toezichthouder. De privacywaakhond legde een boete van 2,75 miljoen euro op aan de Belastingdienst.
Amnesty International was eveneens uiterst kritisch over de toeslagenaffaire. “De aanname dat bepaalde bevolkingsgroepen eerder geneigd zijn om fraude te plegen, wijst op bestaande vooroordelen en ongelijke behandeling door de Belastingdienst”, zo zei de burgerrechtenbeweging over de kwestie. Om herhaling in de toekomst te voorkomen, stelde de organisatie voor om een algoritmeregister in het leven te roepen.
De toeslagenaffaire was woensdagavond het onderwerp van gesprek in het Europees Parlement. Diverse Europarlementariërs spraken hun afschuw uit over de gebeurtenissen. “Dit gebeurde niet in China, maar in Nederland”, zo zei Saskia Bricmont, de Belgische Europarlementariër voor de Groenen.
Dat de kwestie in Straatsburg werd besproken, is niet voor niets. De leden van het Europees Parlement en andere politici beschouwen de toeslagenaffaire als een belangrijk leermoment. Europarlementariër Samira Rafaela (D66) is één van hen. “Als lid van de EU heb je niet alleen maar de lusten. Je hebt ook een zorgplicht voor je inwoners”, zei ze tijdens het debat.
De Zweedse Europarlementariër Evin Encir sluit zich daarbij aan. “Elke hoek van de EU moet veilig zijn voor burgers, ongeacht de kleur van haar of zijn huid”, aldus de Sociaal Democraat. Agnes Jongerius (PvdA) was van mening dat dubbele nationaliteit niet langer meegenomen mag worden in risicomodellen.
Eurocommissaris voor Gelijkheid Helena Dalli erkende dat het toeslagenschandaal het risico van etnisch profileren heeft blootgelegd en dat Nederland de fout in is gegaan. Tegelijkertijd erkende ze dat de Nederlandse overheid druk bezig is om haar fout te herstellen. Dalli beloofde dat de Europese Commissie de afhandeling van de toeslagenaffaire op de voet zal volgen. Compensatie van gedupeerden is een van de kwestie waar het dagelijks bestuur van de EU nauwlettend op zal toezien.
