Pesquisadores alertam que policiamento preditivo pode reforçar a discriminação

Pesquisadores alertaram que o policiamento preditivo pode reforçar a discriminação se os sistemas tratarem os registros dos locais onde os policiais concentraram sua atenção como um mapa confiável de onde ocorrem crimes. O alerta aparece em uma adaptação da BBC de um ensaio premiado, com novos comentários de pesquisadores. Os principais estudos sobre policiamento citados foram publicados em 2017 e 2019; eles identificam riscos, em vez de medir um aumento da discriminação causado por um sistema policial de IA em uso atualmente.

A preocupação é com um ciclo de retroalimentação. Se uma previsão enviar policiais para uma área já muito patrulhada, eles poderão registrar mais ocorrências ali, em parte porque estão presentes para vê-las. Esses registros podem então influenciar a previsão seguinte. Crimes denunciados pelo público e crimes detectados por meio de patrulhamento não precisam refletir o mesmo padrão.

Em um estudo de caso de 2017 sobre o Departamento de Polícia de Los Angeles, a socióloga Sarah Brayne documentou um sistema de pontuação baseado em pessoas, no qual o contato com a polícia elevava a pontuação de risco de alguém, enquanto uma pontuação mais alta poderia atrair ainda mais atenção policial. Ela também descreveu como o registro seletivo poderia afetar as previsões dos locais onde ocorreriam crimes. Sua pesquisa não mediu se essas previsões de localização aumentaram a discriminação; ela chamou o efeito da vigilância baseada em dados sobre a desigualdade de uma questão empírica ainda em aberto.

Um estudo separado de 2019, realizado por Rashida Richardson, Jason Schultz e Kate Crawford, examinou 13 jurisdições dos EUA selecionadas porque o policiamento preditivo se sobrepunha a investigações documentadas ou à supervisão de práticas policiais ilegais ou enviesadas. Em nove delas, havia registros produzidos durante os períodos em questão disponíveis para treinar ou orientar sistemas preditivos; os pesquisadores não puderam chegar a uma conclusão sobre as outras quatro. Portanto, nove de 13 não é uma proporção aplicável às forças policiais em geral, nem prova de que todos os sistemas usaram esses registros. Os autores encontraram evidências mais fortes do uso desses registros em Chicago.

O artigo da BBC também traça uma analogia com um estudo de saúde de 2019. Nesse estudo, um sistema que previa custos futuros de assistência médica atribuía aos pacientes negros as mesmas pontuações de risco que aos pacientes brancos, que, em média, estavam menos doentes. Os pesquisadores calcularam que, em uma seleção simulada sem essa diferença de saúde, a parcela de pacientes negros identificados automaticamente para receber apoio adicional subiria de 17,7% para 46,5%. Essa não foi uma mudança observada na assistência, e o estudo não tratava de policiamento. O ensaio original descreveu incorretamente os números como porcentagens de pacientes negros e brancos que recebiam ajuda; a adaptação da BBC os descreve como parcelas em diferentes cenários de seleção.