Forscher warnen: Predictive Policing könnte Diskriminierung verstärken

Forscher haben davor gewarnt, dass Predictive Policing Diskriminierung verstärken könnte, wenn Systeme Aufzeichnungen darüber, wo Beamte nachgesehen haben, als zuverlässige Karte der Orte behandeln, an denen Straftaten geschehen. Die Warnung findet sich in einer BBC-Bearbeitung eines preisgekrönten Essays, ergänzt um neue Stellungnahmen von Forschern. Die zentralen Studien zur Polizeiarbeit wurden 2017 und 2019 veröffentlicht. Sie benennen Risiken, messen aber keinen Anstieg der Diskriminierung, der durch ein derzeit eingesetztes KI-System der Polizei verursacht würde.

Die Sorge gilt einem Rückkopplungseffekt. Schickt eine Prognose Beamte in ein Gebiet, das bereits stark bestreift wird, können sie dort teilweise deshalb mehr Vorfälle registrieren, weil sie vor Ort sind und diese wahrnehmen. Diese Aufzeichnungen können dann die nächste Prognose beeinflussen. Von der Öffentlichkeit gemeldete Straftaten und bei Streifen entdeckte Straftaten müssen nicht dasselbe Muster widerspiegeln.

In einer Fallstudie von 2017 zum Los Angeles Police Department dokumentierte die Soziologin Sarah Brayne ein personenbezogenes Bewertungssystem, bei dem Polizeikontakt den Risikowert einer Person erhöhte, während ein höherer Wert weitere Aufmerksamkeit der Polizei auf sich ziehen konnte. Sie beschrieb außerdem, wie selektive Aufzeichnungen Prognosen zu Tatorten beeinflussen könnten. Ihre Forschung maß nicht, ob diese Ortsprognosen die Diskriminierung verstärkten; sie bezeichnete die Auswirkungen datengestützter Überwachung auf Ungleichheit als offene empirische Frage.

Eine separate Studie aus dem Jahr 2019 von Rashida Richardson, Jason Schultz und Kate Crawford untersuchte 13 US-amerikanische Zuständigkeitsbereiche. Sie waren ausgewählt worden, weil sich dort Predictive Policing mit dokumentierten Ermittlungen oder Aufsichtsverfahren zu rechtswidrigen oder voreingenommenen Polizeipraktiken überschnitt. In neun Bereichen standen Aufzeichnungen aus den betreffenden Zeiträumen zur Verfügung, um prädiktive Systeme zu trainieren oder mit Informationen zu versorgen; für die übrigen vier konnten die Forschenden keine Schlussfolgerung ziehen. Neun von 13 ist daher keine Quote für Polizeibehörden im Allgemeinen und auch kein Beleg dafür, dass jedes System diese Aufzeichnungen nutzte. Die Autoren fanden stärkere Belege für deren Verwendung in Chicago.

Der BBC-Artikel zieht außerdem eine Parallele zu einer Gesundheitsstudie von 2019. Dort vergab ein System, das künftige Behandlungskosten vorhersagte, schwarzen Patienten dieselben Risikowerte wie weißen Patienten, die im Durchschnitt weniger krank waren. Die Forscher berechneten, dass der Anteil schwarzer Patienten, die automatisch für zusätzliche Unterstützung ausgewählt würden, unter einer simulierten Auswahl ohne diese Gesundheitslücke von 17,7 % auf 46,5 % steigen würde. Das war keine beobachtete Veränderung in der Versorgung; außerdem befasste sich die Studie nicht mit Polizeiarbeit. Im ursprünglichen Essay wurden die Zahlen fälschlich als Prozentsätze schwarzer und weißer Patienten dargestellt, die Hilfe erhielten. Die BBC-Bearbeitung beschreibt sie als Anteile in unterschiedlichen Auswahlszenarien.