Expertos de la ONU advierten de que la IA y las plataformas en línea pueden afianzar la discriminación racial

Expertos de las Naciones Unidas advirtieron de que la inteligencia artificial y las plataformas en línea pueden reproducir la discriminación racial y amplificar el odio, e instaron a los Estados a ir más allá de los compromisos voluntarios y reforzar las protecciones basadas en el derecho internacional de los derechos humanos.

En una intervención ante la Tercera Comisión de la Asamblea General el 2 de noviembre, Ashwini K.P., relatora especial de la ONU sobre las formas contemporáneas de racismo, dijo que los sistemas de IA están condicionados por datos e instituciones que arrastran desigualdades históricas. Advirtió de que corren el riesgo de codificar la discriminación del pasado en decisiones futuras, y señaló que preocupan especialmente los ámbitos policial, de la justicia penal y de los servicios públicos.

Dijo que los sistemas algorítmicos podían identificar erróneamente, vigilar y perfilar de forma desproporcionada a las comunidades racializadas, mientras que las tecnologías predictivas podían reproducir prácticas policiales discriminatorias. Añadió que las plataformas en línea habían acelerado la propagación del odio racial y que personas como migrantes, romaníes, musulmanes, palestinos, judíos y personas de ascendencia africana sufrían discriminación y acoso. Las mujeres y las niñas también pueden sufrir abusos en los que se entrecruzan el racismo y la discriminación de género.

James Ndirangu Waweru, presidente de un grupo de trabajo de la ONU sobre la aplicación de la Declaración y el Programa de Acción de Durban, dijo que las tecnologías digitales habían amplificado los discursos de odio y la desinformación en un contexto de resurgimiento del racismo, la xenofobia y la intolerancia. También describió las desigualdades persistentes que afrontan las personas de ascendencia africana en ámbitos como la justicia, la educación, el empleo, la vivienda y la participación política.

Waweru dijo que el grupo de trabajo había completado una segunda lectura de un proyecto de declaración de la ONU sobre los derechos de las personas de ascendencia africana. Según informó, varios Estados habían sostenido que las reparaciones por la esclavitud debían ir más allá de la compensación económica e incluir la memoria, el reconocimiento, las disculpas, la reconciliación y la sanación.

Gün Kut, presidente del Comité de la ONU para la Eliminación de la Discriminación Racial, advirtió de que la discriminación persistente y las limitaciones financieras amenazaban la aplicación de la convención contra la discriminación racial. Dijo que la falta crónica de financiación del sistema de órganos de tratados de la ONU, agravada por una crisis de liquidez, ponía en riesgo décadas de avances.

En la reunión también se expusieron posturas políticas contrapuestas. El representante de Israel acusó al órgano de tratados de politizar los derechos humanos y criticó su uso del término genocidio. A su vez, el delegado de Irán advirtió contra las respuestas selectivas al racismo y expresó preocupación por la islamofobia y la discriminación contra los palestinos.