
'Overheid moet stoppen met algoritmes die leiden tot discriminatie'
De overheid moet stoppen met het gebruiken van algoritmes om fraude en criminaliteit op te sporen. Steeds meer overheidsinstanties maken gebruik van zogenoemde datagedreven profilering, maar dit leidt in de praktijk vaak tot discriminatie, stelt de Staatscommissie tegen Discriminatie en Racisme vast. De commissie komt volgende maand met een rapport hierover.
De commissie noemt de toeslagenaffaire als voorbeeld, maar ook DUO. Tussen 2012 en 2023 werden zo'n 10.000 studenten op basis van een discriminerend algoritme gecontroleerd op fraude met studiefinanciering. De overheidsinstantie hanteerde een selectieprocedure voor fraude waarbij uitwonende studenten met een migratieachtergron...