Politie stopt met algoritme dat voorspelt wie gewelddadig wordt

De politie stopt met het gebruiken van een algoritme dat moet voorspellen wie in de toekomst geweld zou kunnen gebruiken. Dit gebeurt na berichtgeving van de nieuwswebsite Follow the Money over het zogeheten Risicotaxatie Instrument Geweld (RTI-G).

"Er zijn twijfels of het nut heeft, en het is niet duidelijk of agenten er überhaupt nog gebruik van maakten", vertelt een politiewoordvoerder.

De Amsterdamse agent Joeri Sterringa kan meepraten over geweld tegen de mensen in het blauw. Eind mei 2019 wordt hij na onenigheid met een boze klant in een winkel in de Leidsestraat knock-out geslagen:

2:16

Weer meer geweld tegen agenten: 'Hoe kan het dat mensen dit doen?'

Etnisch profileren

Het algoritme dat sinds 2014 in gebruik is, keek naar iemands geslacht, leeftijd en strafblad om te beoordelen wie gewelddadig zou kunnen worden. Follow The Money meldde eerder deze week dat ook etnische achtergronden een rol speelden: mensen met een Marokkaanse, Antilliaanse of Somalische achtergrond werden als een groter risico gezien dan anderen.

Mensen die uit het programma naar voren kwamen, kregen te horen dat ze een 'veiligheidsrisicosubject' waren. Ze zouden vaker gecontroleerd worden en waren verplicht om daaraan mee te werken.

De politie zegt dat het algoritme nooit alleen werd gebruikt. "Het was een ondersteuning, in combinatie met andere systemen, om te kijken of de kans groot is dat iemand geweld gaat toepassen. Als dat zo is, konden we dat gebruiken voor een persoonlijke aanpak, bijvoorbeeld met de ggz en de gemeenten." Het is niet duidelijk of de uitkomsten van het algoritme nog in de dossiers van mensen staan, en of die worden aangepast.

Eerder moest de overheid al stoppen met het gebruik van een algoritme om bijstandsfraude op te sporen. Dat Systeem Risico Indicatie (SyRI) is in strijd met Europese regels die het privéleven van mensen beschermen, bepaalde de rechtbank in 2020.

Hart van Nederland/ANP