Racismo algorítmico e inteligência artificial: uma análise crítica multimodal

Abstract

The intersection of Artificial Intelligence (AI) and racial issues is an increasingly pertinent topic in the contemporary context of relentless technological advancement and algorithm development. In this article, we aim to analyze the multimodal strategies employed in the construction of a racist image generated by AI. We highlight the complex interactions between different modes of representation and the ideological effects that arise from this interconnection. To achieve this aim, we ground our work theoretically in critical studies on algorithms (O’Neil, 2020; Prado, 2022), algorithmic racism (Noble, 2021; Silva, 2022), and multimodality (Kress, 2003; Jewitt, 2014). Through a critical multimodal analysis, we were able to conduct an in-depth investigation of the image in question. The results obtained underscore the urgency of implementing public policies and regulations that hold companies accountable for the development and application of algorithms with a racist bias. Such measures are essential to ensure the protection and equity of ethnic-racial groups affected by the propagation of discriminatory content, thereby contributing to the construction of a more just, egalitarian, and inclusive society.     A convergência entre Inteligência Artificial (IA) e questões raciais é um tema cada vez mais relevante no contexto contemporâneo de constante avanço tecnológico e desenvolvimento de algoritmos. Diante disso, neste artigo, temos por objetivo analisar as estratégias multimodais utilizadas na construção de uma imagem racista gerada por IA, destacando as complexas interações entre os diferentes modos de representação e os efeitos ideológicos decorrentes dessa interligação. Para alcançar esse propósito, fundamentamo-nos teoricamente em estudos críticos sobre algoritmos (O’Neil, 2020; Prado, 2022), racismo algorítmico (Noble, 2021; Silva, 2022) e multimodalidade (Kress, 2003; Jewitt, 2014). Por meio de uma análise crítica multimodal, foi possível realizarmos uma investigação aprofundada da imagem em questão. Os resultados obtidos demonstram a urgência da implementação de políticas públicas e regulamentações que responsabilizem as empresas envolvidas no desenvolvimento e aplicação de algoritmos com viés racista. Tais medidas são essenciais para garantir a proteção e a equidade dos grupos étnico-raciais afetados pela propagação de conteúdos discriminatórios, contribuindo assim para a construção de uma sociedade mais justa, igualitária e inclusiva.