Investigadores alertam que a polícia preditiva pode reforçar a discriminação

Investigadores alertaram que a polícia preditiva pode reforçar a discriminação se os sistemas tratarem os registos dos locais onde os agentes procuraram como um mapa fiável dos locais onde ocorrem crimes. O alerta surge numa adaptação da BBC de um ensaio premiado, com novos comentários de investigadores. Os principais estudos sobre policiamento citados foram publicados em 2017 e 2019; identificam riscos, mas não medem um aumento da discriminação causado por um sistema de inteligência artificial policial atualmente em uso.

A preocupação é um ciclo de retroação. Se uma previsão enviar agentes para uma zona que já é alvo de patrulhamento intenso, estes poderão registar mais ocorrências, em parte por estarem presentes para as detetar. Esses registos podem depois influenciar a previsão seguinte. Os crimes comunicados pelo público e os detetados através de patrulhas não têm necessariamente o mesmo padrão.

Num estudo de caso de 2017 sobre o Departamento de Polícia de Los Angeles, a socióloga Sarah Brayne documentou um sistema de pontuação baseado em pessoas, no qual o contacto com a polícia aumentava a pontuação de risco de alguém, enquanto uma pontuação mais elevada podia atrair mais atenção policial. Descreveu também como o registo seletivo podia afetar as previsões dos locais onde ocorriam crimes. A sua investigação não mediu se essas previsões de localização aumentavam a discriminação; Brayne considerou que o efeito da vigilância orientada por dados sobre a desigualdade era uma questão empírica em aberto.

Um estudo distinto de 2019, realizado por Rashida Richardson, Jason Schultz e Kate Crawford, analisou 13 jurisdições dos EUA selecionadas por a polícia preditiva se sobrepor a investigações documentadas ou à supervisão de práticas policiais ilegais ou enviesadas. Em nove, havia registos produzidos durante os períodos em causa que podiam ser usados para treinar ou informar sistemas preditivos; os investigadores não conseguiram chegar a uma conclusão quanto às outras quatro. Nove em 13 não é, portanto, uma proporção aplicável às forças policiais em geral, nem prova de que todos os sistemas usaram esses registos. Os autores encontraram provas mais sólidas da sua utilização em Chicago.

O artigo da BBC estabelece também uma analogia com um estudo de 2019 sobre cuidados de saúde. Nesse estudo, um sistema que previa os custos futuros dos cuidados atribuiu aos doentes negros as mesmas pontuações de risco que aos doentes brancos, que, em média, estavam menos doentes. Os investigadores calcularam que, num cenário de seleção simulada sem essa diferença de saúde, a proporção de doentes negros entre os identificados automaticamente para receber apoio adicional subiria de 17,7% para 46,5%. Essa não foi uma alteração observada nos cuidados, e o estudo não incidiu sobre o policiamento. O ensaio original descreveu incorretamente os valores como percentagens de doentes negros e brancos que receberam ajuda; a adaptação da BBC apresenta-os como proporções em diferentes cenários de seleção.