Especialistas da ONU alertam que a IA e as plataformas online podem perpetuar a discriminação racial

Especialistas das Nações Unidas alertaram que a inteligência artificial e as plataformas online podem reproduzir a discriminação racial e amplificar o ódio. Eles pediram aos Estados que vão além de compromissos voluntários e reforcem as proteções com base no direito internacional dos direitos humanos.

Ao falar ao Terceiro Comitê da Assembleia Geral em 2 de novembro, Ashwini K.P., relator especial da ONU sobre formas contemporâneas de racismo, disse que os sistemas de IA são moldados por dados e instituições que carregam desigualdades históricas. Segundo ele, esses sistemas correm o risco de codificar a discriminação do passado em decisões futuras, sobretudo nas áreas de policiamento, justiça criminal e serviços públicos.

Ele disse que sistemas algorítmicos poderiam identificar incorretamente, vigiar e traçar perfis de comunidades racializadas de forma desproporcional, enquanto tecnologias preditivas poderiam reproduzir práticas policiais discriminatórias. As plataformas online, acrescentou, aceleraram a disseminação do ódio racial. Entre as pessoas que enfrentam discriminação e assédio estão migrantes, pessoas ciganas, muçulmanos, palestinos, judeus e pessoas de ascendência africana. Mulheres e meninas também podem sofrer abusos que combinam racismo e discriminação de gênero.

James Ndirangu Waweru, presidente de um grupo de trabalho da ONU sobre a implementação da Declaração e do Programa de Ação de Durban, disse que as tecnologias digitais amplificaram narrativas de ódio e desinformação em meio ao ressurgimento do racismo, da xenofobia e da intolerância. Ele também descreveu as desigualdades persistentes enfrentadas por pessoas de ascendência africana em áreas como justiça, educação, emprego, moradia e participação política.

Waweru disse que o grupo de trabalho concluiu uma segunda leitura de um projeto de declaração da ONU sobre os direitos das pessoas de ascendência africana. Segundo ele, vários Estados defenderam que as reparações pela escravidão deveriam ir além da compensação financeira e incluir memória, reconhecimento, pedidos de desculpas, reconciliação e cura.

Gün Kut, presidente do Comitê da ONU para a Eliminação da Discriminação Racial, alertou que a discriminação persistente e as restrições financeiras ameaçam a implementação da convenção contra a discriminação racial. Ele disse que o subfinanciamento crônico do sistema de órgãos de tratados da ONU, agravado por uma crise de liquidez, põe em risco décadas de progresso.

A reunião também ouviu posições políticas divergentes. O representante de Israel acusou o órgão de tratados de politizar os direitos humanos e criticou o uso do termo genocídio. Por sua vez, o delegado do Irã alertou contra respostas seletivas ao racismo e manifestou preocupação com a islamofobia e a discriminação contra palestinos.

O relato da ONU sobre a reunião é identificado como informação para a imprensa, e não como registro oficial.