Todos os artigos noticiososNMC RESEARCH

Investigadores alertam que a polícia preditiva pode reforçar a discriminação

Os registos policiais do passado podem refletir tanto a ação policial como a criminalidade. Investigadores alertam que as ferramentas preditivas podem perpetuar esses padrões, embora as provas não demonstrem um aumento da discriminação causado por um sistema atualmente em uso.

Ilustração de secção gerada por IA
A carregar estatísticas…

A carregar informação de revisão.

Investigadores alertaram que a polícia preditiva pode reforçar a discriminação se os sistemas tratarem os registos dos locais onde os agentes procuraram como um mapa fiável dos locais onde ocorrem crimes. O alerta surge numa adaptação da BBC de um ensaio premiado, com novos comentários de investigadores. Os principais estudos sobre policiamento citados foram publicados em 2017 e 2019; identificam riscos, mas não medem um aumento da discriminação causado por um sistema de inteligência artificial policial atualmente em uso.

A preocupação é um ciclo de retroação. Se uma previsão enviar agentes para uma zona que já é alvo de patrulhamento intenso, estes poderão registar mais ocorrências, em parte por estarem presentes para as detetar. Esses registos podem depois influenciar a previsão seguinte. Os crimes comunicados pelo público e os detetados através de patrulhas não têm necessariamente o mesmo padrão.

Num estudo de caso de 2017 sobre o Departamento de Polícia de Los Angeles, a socióloga Sarah Brayne documentou um sistema de pontuação baseado em pessoas, no qual o contacto com a polícia aumentava a pontuação de risco de alguém, enquanto uma pontuação mais elevada podia atrair mais atenção policial. Descreveu também como o registo seletivo podia afetar as previsões dos locais onde ocorriam crimes. A sua investigação não mediu se essas previsões de localização aumentavam a discriminação; Brayne considerou que o efeito da vigilância orientada por dados sobre a desigualdade era uma questão empírica em aberto.

Um estudo distinto de 2019, realizado por Rashida Richardson, Jason Schultz e Kate Crawford, analisou 13 jurisdições dos EUA selecionadas por a polícia preditiva se sobrepor a investigações documentadas ou à supervisão de práticas policiais ilegais ou enviesadas. Em nove, havia registos produzidos durante os períodos em causa que podiam ser usados para treinar ou informar sistemas preditivos; os investigadores não conseguiram chegar a uma conclusão quanto às outras quatro. Nove em 13 não é, portanto, uma proporção aplicável às forças policiais em geral, nem prova de que todos os sistemas usaram esses registos. Os autores encontraram provas mais sólidas da sua utilização em Chicago.

O artigo da BBC estabelece também uma analogia com um estudo de 2019 sobre cuidados de saúde. Nesse estudo, um sistema que previa os custos futuros dos cuidados atribuiu aos doentes negros as mesmas pontuações de risco que aos doentes brancos, que, em média, estavam menos doentes. Os investigadores calcularam que, num cenário de seleção simulada sem essa diferença de saúde, a proporção de doentes negros entre os identificados automaticamente para receber apoio adicional subiria de 17,7% para 46,5%. Essa não foi uma alteração observada nos cuidados, e o estudo não incidiu sobre o policiamento. O ensaio original descreveu incorretamente os valores como percentagens de doentes negros e brancos que receberam ajuda; a adaptação da BBC apresenta-os como proporções em diferentes cenários de seleção.

Carolyn McKay, investigadora da Universidade de Sydney citada pela BBC, defendeu que os dados fossem analisados com atenção e que houvesse supervisão humana das decisões policiais. Dimitrios Kollias, da Universidade Queen Mary de Londres, concordou que o enviesamento histórico é uma preocupação séria, mas afirmou que não é inevitável: os sistemas podem ser testados para detetar resultados injustos, e os seus dados e objetivos podem ser melhorados. Saber se essas salvaguardas funcionam numa determinada aplicação policial continua a ser uma questão a avaliar, não uma conclusão estabelecida pelos estudos anteriores.

TECH

Inicie sessão para votar a favor ou contra este artigo.

Da discussão

Debate de teste privado. Os comentários são opiniões dos leitores e ainda não são verificados automaticamente quanto à sua veracidade. É possível editar durante 60 segundos após a publicação.

Inicie sessão com uma conta de leitor confirmada e escolha um nome de utilizador para ler os comentários e participar.

A ordenação aplica-se aos comentários principais; as respostas continuam ordenadas do mais antigo para o mais recente. Novos comentários e gostos podem alterar a ordem. Atualize a página para ver a classificação atual.

A carregar comentários…