Reclassering stopt gebruik van foutief algoritme voor recidiverisico’s

Dit meldt het NRC. OxRec wordt sinds 2018 zo’n 43.500 keer per jaar ingezet om rechters en officieren van justitie te adviseren over de kans op recidive. Het algoritme is ontwikkeld door de Universiteit van Oxford en is getraind met data van Zweedse gevangenen van twintig jaar geleden. Het model berekent aan de hand van dertien persoonskenmerken zoals leeftijd, veroordelingen en drugsgebruik de kans op algemene en gewelddadige recidive. Op basis daarvan wordt een persoon ingedeeld in een risicocategorie: laag, gemiddeld of hoog.

Fouten in het algoritme

Uit het inspectierapport Risicovol algoritmegebruik komt naar voren dat OxRec bij de invoering in Nederland in 2018 verkeerd is geconfigureerd. Zo werden de rekenformules voor gedetineerden en niet-gedetineerden omgewisseld, waardoor de kans op recidive bij niet-gedetineerden hoger werd ingeschat en bij gedetineerden juist lager. Daarnaast was een rekenfactor voor drugsproblematiek onjuist ingevoerd, wat leidde tot structureel te lage risico-inschattingen.

Bovendien ontbraken in de Nederlandse versie van OxRec twee persoonskenmerken uit het oorspronkelijke model, waaronder ‘ernstige psychische problematiek’. Doordat deze gegevens niet waren opgenomen in de Nederlandse dataset, hield het algoritme geen rekening met psychische aandoeningen zoals psychoses. Dit is opmerkelijk, aangezien psychische problematiek een belangrijke voorspeller is van recidive. Door dit te negeren werd het risico voor mensen met ernstige psychische problemen structureel onderschat.

Een ander probleem is dat het algoritme variabelen als ‘buurtscore’ en ‘inkomen’ gebruikt, wat volgens de Inspectie kan leiden tot discriminatie van personen met een migratieachtergrond. Het College voor de Rechten van de Mens stelt dat het gebruik van dergelijke variabelen alleen is toegestaan als aanvullende antidiscriminatiemaatregelen worden getroffen. Deze ontbraken echter.

In verkeerde risicocategorie ingedeeld

Uit het onderzoek blijkt dat het gebruik van het foutieve algoritme in 14,4 procent van de gevallen leidde tot indeling in een te lage risicocategorie en in 6,7 procent tot een te hoge. Bij de inschatting van gewelddadige recidive belandde 4,2 procent in een te lage risicocategorie.

De Inspectie stelt vast dat de reclassering zelf eerder op de problemen had kunnen stuiten. Al in 2018 waren er signalen over de beperkte voorspellende waarde van het algoritme, en in 2020 wees hoogleraar Gijs van Dijk in het Nederlands Juristenblad op mogelijk discriminerend gebruik. Dit leidde toen tot Kamervragen, maar de reclassering ontkende destijds dat er sprake was van problemen.

Sinds de Inspectie afgelopen zomer haar eerste bevindingen deelde, heeft de reclassering herstelmaatregelen ingezet, zoals het alsnog uitvoeren van wettelijk verplichte privacytoetsen en het aanpassen van de software. Vanwege de ernst van de bevindingen beveelt de Inspectie aan de gebreken in OxRec zo snel mogelijk te verhelpen en het gebruik mogelijk tijdelijk stil te leggen.

Reactie reclassering

Reclassering Nederland, Verslavingsreclassering GGZ en Leger des Heils Reclassering hebben laten weten dat het gebruik van OxRec per direct is stopgezet. De organisaties erkennen dat ze zich beter moeten verhouden tot nieuwe kennis, beleid en regelgeving rond algoritmes. Volgens hen is OxRec slechts een hulpmiddel bij het professionele oordeel van medewerkers en bestaat een reclasseringsadvies uit meer dan alleen een risico-inschatting.

De reclassering geeft aan dat de verwisseling van formules voor gedetineerden en niet-gedetineerden afgelopen najaar al is hersteld. Uit een interne simulatie zou zijn gebleken dat deze fout beperkte invloed had op de berekende kans op recidive. Op de kritiek dat OxRec mogelijk discrimineert, wijst de reclassering naar eerder eigen onderzoek waarin volgens haar geen bewijs werd gevonden dat variabelen als buurtscore een indirecte afspiegeling vormen van etniciteit. De organisaties zeggen de conclusies van de Inspectie ter harte te nemen en het gebruik van het algoritme opnieuw te willen beoordelen.