Fraude-algoritme studiebeurs discrimineerde studenten

Studenten met Turkse of Marokkaanse ouders zijn indirect gediscrimineerd bij fraudecontroles op hun studiebeurs. Algoritmes van DUO, Dienst Uitvoering Onderwijs, benoemde studenten met een niet-westerse achtergrond twee keer vaker dan anderen als een ‘hoge risicogroep’ voor het plegen van fraude.

Dat blijkt uit onderzoek van Algorithm Audit, in opdracht van DUO uitgevoerd. Studenten met een niet-westerse achtergrond kregen bijvoorbeeld veel vaker huisbezoek, om te controleren of zij rechtmatig gebruik maakten van de studiebeurs voor uitwonenden. Dit gebeurde drie keer zo vaak dan bij studenten zonder migratieachtergrond.

Om fraude op te sporen, plaatste DUO studenten in een risicogroep, op basis van leeftijd, het soort onderwijs (mbo of hbo) en de afstand tot het adres van de ouders (hoe dichter bij de ouders, hoe groter de kans op fraude). Het waren factoren waarvan DUO dacht dat ze neutraal waren. Zij waren echter onvoldoende onderbouwd, zeker ten aanzien van mogelijke vooringenomenheid. Van bewuste discriminatie was geen sprake, maar ook niet van interne controlemechanismen die mogelijke discriminatie zouden kunnen voorkomen, constateren de onderzoekers.

Het heikele punt is, dat veel mbo’ers een niet-westerse achtergrond hebben én gemiddeld dichter bij hun ouders wonen. Zodoende zijn studenten met Turks-Nederlandse of Marokkaans-Nederlandse ouders veel vaker in het risicoprofiel geplaatst. Het zijn betreurenswaardige constateringen, schrijft minister Dijkgraaf aan de Tweede Kamer. Hij vindt dat de fraudecontroles anders moeten worden ingericht.

DUO is in juni 2023 gestopt met het algoritme toen uit onderzoek van het Hoger Onderwijs Persbureau, NOS-op-3 en Investico bleek dat studenten met een migratieachtergrond veel vaker worden beschuldigd van fraude. Zowel DUO als de minister hebben eerder al hun excuses aangeboden.