De politie in Nederland heeft onlangs aangekondigd dat zij het gebruik van een algoritme voor voorspelling van gewelddadig gedrag zal staken. Het algoritme, dat door de politie werd gebruikt om te voorspellen welke personen het meest waarschijnlijk gewelddadig zouden worden, is onderwerp geweest van kritiek vanwege de manier waarop het werd toegepast.

Het algoritme werd ontwikkeld door een bedrijf genaamd Palantir en was bedoeld om de politie te helpen bij het identificeren van personen die mogelijk gewelddadig zouden worden. Het algoritme maakte gebruik van gegevens over mensen die eerder met de politie in aanraking waren gekomen, zoals hun verleden met criminaliteit en hun contact met politieagenten.

De kritiek op het algoritme was dat het niet accuraat was en dat het mensen kon stigmatiseren die geen gewelddadig gedrag vertoonden. Er werd ook beweerd dat het algoritme discriminerend was omdat het meer mensen uit etnische minderheden selecteerde dan mensen uit de meerderheid.

Na de kritiek heeft de politie besloten om het algoritme niet langer te gebruiken. In plaats daarvan zullen zij hun inspanningen richten op het verbeteren van hun bestaande methoden voor het voorspellen van gewelddadig gedrag.

Hoewel het staken van het algoritme een positieve stap is, is er nog veel werk te doen om ervoor te zorgen dat de politie hun methoden voor voorspelling van gewelddadig gedrag verbeteren. Het is belangrijk dat de politie zich blijft richten op het verminderen van discriminatie en het verbeteren van hun systemen voor voorspelling van gewelddadig gedrag.