Fundação Universidade do Vale do Itajaí - Univali
Doi
Abstract
Contextualization: With the scientific delegitimization of racism, cultural inferiority has become the main justification for unequal treatment. In liberal democracies, where equality is formally guaranteed, corrective policies can be demanded for stigmatized groups, such as Black populations. The advancement of AI technologies has brought with it the phenomenon of algorithmic racism, which not only reproduces but intensifies existing prejudices. Facial Recognition Technologies (FRT), widely adopted in Brazil, show higher error rates for racial minorities, raising concerns about the effectiveness of these technologies and the violation of human rights.
Objectives: In this context, the main objective of the present work is to demonstrate that such technologies can serve as vehicles for maintaining racism, and their widespread adoption by public security forces in various Brazilian states perpetuates a history of human rights violations against minority groups.
Methodology: As a procedural method, bibliographic and documental research is used, drawing on articles, books, journalistic materials, and websites. Thus, the study to be conducted in this work has a qualitative character in terms of its approach, as it will include as one of its main methods the exposition of the use of facial recognition algorithms as a factor in the perpetuation of racism.
Results: It was found that artificial intelligences can disseminate racism, and their widespread adoption by public security forces in Brazil perpetuates human rights violations against vulnerable populations.
Keywords: Bahia; human rights; marginalized groups; racism; facial recognition.Contextualización: Con la deslegitimación científica del racismo, la inferioridad cultural se convirtió en la principal justificación para el tratamiento desigual. En democracias liberales, en las que la igualdad está formalmente garantizada, se pueden exigir políticas correctivas para los grupos estigmatizados, como las poblaciones negras. El avance de las tecnologías de IA trajo consigo el fenómeno del racismo algorítmico, que no solo reproduce, sino que intensifica los prejuicios existentes. Las Tecnologías de Reconocimiento Facial (TRF), ampliamente adoptadas en Brasil, muestran tasas de error más altas para las minorías raciales, lo que genera preocupaciones sobre la eficacia de estas tecnologías y la violación de los derechos humanos.
Objetivos: En este contexto, el presente trabajo tiene como objetivo principal demostrar que tales tecnologías pueden servir como vehículos para la manutención del racismo, y su amplia adopción por las fuerzas de seguridad pública en diversos estados brasileños perpetúa un historial de violaciones de derechos humanos contra los grupos minoritarios.
Metodología: Como método de procedimiento, se utiliza la investigación bibliográfica y documental, recurriendo a artículos, libros, materiales periodísticos y sitios web. Así, el estudio a ser conducido en este trabajo tiene un carácter cualitativo en cuanto a su enfoque, ya que incluirá como uno de sus principales métodos la exposición del uso de los algoritmos de reconocimiento facial como factor de perpetuación del racismo.
Resultados: Se verificó que las inteligencias artificiales pueden difundir el racismo, y su amplia adopción por las fuerzas de seguridad pública en Brasil perpetúa violaciones de derechos humanos contra los vulnerables.
Palabras clave: Bahia; derechos humanos; grupos marginalizados; racismo; reconocimiento facial.Contextualização: Com a deslegitimação científica do racismo, a inferioridade cultural tornou-se a principal justificativa para o tratamento desigual. Em democracias liberais, nas quais a igualdade é formalmente garantida, podem-se exigir políticas corretivas para grupos estigmatizados, como as populações negras. O avanço das tecnologias de IA trouxe consigo o fenômeno do racismo algorítmico, que não apenas reproduz, mas intensifica preconceitos existentes. As Tecnologias de Reconhecimento Facial (TRF), amplamente adotadas no Brasil, mostram taxas de erro mais altas para minorias raciais, levantando preocupações sobre a eficácia dessas tecnologias e a violação dos direitos humanos.
Objetivos: Nesse contexto, o presente trabalho tem como objetivo principal demonstrar que tais tecnologias podem servir como veículos para a manutenção do racismo e sua ampla adoção pelas forças de segurança pública em diversos estados brasileiros perpetua um histórico de violações de direitos humanos contra grupos minoritários.
Metodologia: Como método de procedimento, faz-se uso de pesquisa bibliográfica e documental, recorrendo-se a artigos, livros, matérias jornalísticas e websites. Assim, o estudo a ser conduzido neste trabalho tem um caráter qualitativo quanto à sua abordagem, pois incluirá como um dos seus métodos principais a exposição do uso dos algoritmos de reconhecimento facial como fator de perpetuação do racismo.
Resultados: Verificou-se que as inteligências artificiais podem disseminar racismo e sua ampla adoção pelas forças de segurança pública no Brasil perpetua violações dos direitos humanos contra vulneráveis
