Investigadores advierten de que la policía predictiva podría reforzar la discriminación

Los investigadores han advertido de que la policía predictiva podría reforzar la discriminación si los sistemas tratan los registros de los lugares donde han patrullado los agentes como un mapa fiable de dónde se producen delitos. La advertencia aparece en una adaptación de la BBC de un ensayo galardonado, que incorpora nuevos comentarios de investigadores. Los principales estudios sobre la actividad policial citados se publicaron en 2017 y 2019; señalan riesgos, pero no miden un aumento de la discriminación causado por un sistema actual de inteligencia artificial policial.

La preocupación es que se genere un ciclo de retroalimentación. Si una predicción envía a los agentes a una zona ya muy vigilada, es posible que registren más incidentes allí, en parte porque están presentes para detectarlos. Esos registros pueden influir después en la siguiente predicción. Los delitos denunciados por la ciudadanía y los detectados durante las patrullas no tienen por qué reflejar el mismo patrón.

En un estudio de caso de 2017 sobre el Departamento de Policía de Los Ángeles, la socióloga Sarah Brayne documentó un sistema de puntuación basado en las personas en el que el contacto con la policía elevaba la puntuación de riesgo de alguien, mientras que una puntuación más alta podía atraer más atención policial. También describió cómo el registro selectivo podía influir en las predicciones sobre la ubicación de los delitos. Su investigación no midió si esas predicciones geográficas aumentaban la discriminación; calificó de cuestión empírica aún abierta el efecto de la vigilancia basada en datos sobre la desigualdad.

Un estudio independiente de 2019 de Rashida Richardson, Jason Schultz y Kate Crawford examinó 13 jurisdicciones de Estados Unidos seleccionadas porque la policía predictiva coincidía con investigaciones documentadas o con labores de supervisión de prácticas policiales ilegales o sesgadas. En nueve de ellas, había registros de los periodos en cuestión disponibles para entrenar o informar sistemas predictivos; los investigadores no pudieron llegar a una conclusión sobre las otras cuatro. Por tanto, nueve de 13 no es una tasa aplicable a los cuerpos policiales en general ni demuestra que todos los sistemas utilizaran esos registros. Los autores encontraron pruebas más sólidas de su uso en Chicago.

El artículo de la BBC también traza una analogía con un estudio sanitario de 2019. En él, un sistema que predecía los costes futuros de la atención asignaba a los pacientes negros las mismas puntuaciones de riesgo que a los pacientes blancos, que estaban, por término medio, menos enfermos. Los investigadores calcularon que, en una selección simulada sin esa brecha de salud, la proporción de pacientes negros identificados automáticamente para recibir apoyo adicional aumentaría del 17,7 % al 46,5 %. No fue un cambio observado en la atención, y el estudio no trataba sobre la policía. El ensayo original describía erróneamente las cifras como porcentajes de pacientes negros y blancos que recibían ayuda; la adaptación de la BBC las presenta como proporciones en distintos escenarios de selección.