Reflexões filosóficas sobre racismo e tecnologia

Abstract

We aim to philosophically approach algorithmic racism by analyzing the documentary Coded Bias, which shows the reinforcement of race and gender discrimination perpetrated by digital technologies. We will investigate five philosophical concepts to broaden the comprehension of algorithmic discrimination, connected to the subjects presented in Coded Bias: “neutrality of technology” as proposed by Feenberg, to address the political and social aspects of the technological apparatus; the notion of “face” according to Levinas, to address the racist aspects of the facial recognition technology; “discipline” according to Foucault and his reflections on the panoptic to approach the nuances of the omnipresent and continuous discipline operated by technology and algorithms; the “necropolitics” of Mbembe, to understand how the implementation of facial recognition programs by public security services discriminate black people; “racialization of criminality” and the consequent mass incarceration of the black population according to Davis, to address the effects of racism in the notions of justice and security. Furthermore, we will make reference to the works of Noble and Silva to deepen the discussions regarding algorithmic racism.Abordaremos filosoficamente o racismo algorítmico a partir da análise do documentário Coded Bias, que apresenta o uso de tecnologias digitais reforçando discriminações de raça e gênero. Investigaremos cinco conceitos filosóficos a fim de ampliar a compreensão da discriminação algorítmica e que estão relacionados a temas abordados na obra: “neutralidade da tecnologia", com Feenberg, para pensar os aspectos políticos e sociais dos aparatos tecnológicos; a noção de “rosto” de Levinas para analisar o racismo na utilização da tecnologia de reconhecimento facial; “vigilância”, com Foucault e suas reflexões sobre o panóptico para pensarmos as nuances da vigilância contínua e onipresente operada pela tecnologia e pelos algoritmos; “necropolítica”, em Mbembe, para compreender como a aplicação dos programas de reconhecimento facial pela polícia e órgãos públicos de segurança operam de maneira discriminatória em relação às pessoas negras; “racialização do crime” e o consequente encarceramento em massa da população negra, com Davis, pensando os efeitos do racismo nas noções de justiça e segurança. Além disso, estudos como os de Noble e Silva serão usados para aprofundar a discussão sobre o racismo algorítmico