“Let the algorithm decide”: is human dignity at stake?

The goal of this article is to argue that the debate regarding algorithmic decision-making and its impact on fundamental rights is not well-addressed and should be reframed in order to allow for adequate regulatory policies regarding recent technological developments in automation. A review of the literature on algorithms and an analysis of Articles 6, IX and 20 of the Brazilian Federal Law n° 13.709/2018 (LGPD) lead to the conclusion that claims that algorithmic decisions are unlawful because of profiling or because they replace human analysis are imprecise and do not identify the real issues at hand. Profiles are nothing more than generalizations, largely accepted in legal systems, and there are many kinds of decisions based on generalizations which algorithms can adequately make with no human intervention. In this context, this article restates the debate about automated decisions and fundamental rights focusing on two main obstacles: (i) the potential for discrimination by algorithmic systems and (ii) accountability of their decision-making processes. Lastly, the arguments put forward are applied to the current case of the covid-19 pandemic to illustrate the challenges ahead

DISCRIMINAÇÃO ALGORÍTMICA: CONCEITO, FUNDAMENTO LEGAL E TIPOLOGIA

O artigo visa analisar o debate teórico sobre discriminação algorítmica, com a finalidade de esclarecer o potencial discriminatório de práticas baseadas em profiling e decisões automatizadas. Para tanto, discutir-se-á, primeiramente, os conceitos de algoritmo e discriminação algorítmica, buscando esclarecer porque tais conceitos são relevantes na economia movida a dados. Em seguida, o texto apresenta de que forma o Big Data, em conjunto com os algoritmos, alterou processos decisórios cotidianos para discutir de que forma tal cenário pode apresentar desafios, especialmente no que diz respeito ao risco de condutas discriminatórias. A última seção visa expor soluções para lidar com o tema da discriminação algorítmica, apresentando a literatura de governança algorítmica, bem como os principais debates entre especialistas no assunto, enfatizando as discussões sobre os limites da transparência enquanto alternativa apta a resolver as questões colocadas

DISCRIMINAÇÃO ALGORÍTMICA: CONCEITO, FUNDAMENTO LEGAL E TIPOLOGIA

O artigo visa analisar o debate teórico sobre discriminação algorítmica, com a finalidade de esclarecer o potencial discriminatório de práticas baseadas em profiling e decisões automatizadas. Para tanto, discutir-se-á, primeiramente, os conceitos de algoritmo e discriminação algorítmica, buscando esclarecer porque tais conceitos são relevantes na economia movida a dados. Em seguida, o texto apresenta de que forma o Big Data, em conjunto com os algoritmos, alterou processos decisórios cotidianos para discutir de que forma tal cenário pode apresentar desafios, especialmente no que diz respeito ao risco de condutas discriminatórias. A última seção visa expor soluções para lidar com o tema da discriminação algorítmica, apresentando a literatura de governança algorítmica, bem como os principais debates entre especialistas no assunto, enfatizando as discussões sobre os limites da transparência enquanto alternativa apta a resolver as questões colocadas

Perspectivas e controvérsias da inovação regulatória no sistema financeiro de pagamentos

Divulgação dos SUMÁRIOS das obras recentemente incorporadas ao acervo da Biblioteca Ministro Oscar Saraiva do STJ. Em respeito à Lei de Direitos Autorais, não disponibilizamos a obra na íntegra.Localização na estante: 336.7 P466eCoordenado e organizado por: Camila Leite Contri, Vinicius Marques de Carvalho e Marcela Mattiuzzo

Concorrência e tributação

Divulgação dos SUMÁRIOS das obras recentemente incorporadas ao acervo da Biblioteca Ministro Oscar Saraiva do STJ. Em respeito à Lei de Direitos Autorais, não disponibilizamos a obra na íntegra.Localização na estante: 336.2:339.137(81) C744

Discriminação Algorítmica - O desafio em desvendar a desigualdade no Brasil

The objective of this work is to provide some clarity on what the role of the Law can be in shedding light upon algorithmic discrimination, as well as how legal instruments could help minimize its risks, with a specific focus on the Brazilian jurisdiction. To do so, it first engages in a debate about what algorithms indeed are, and how the emergence of the data-driven economy, Big Data, and machine learning have leveraged the use of automated systems. Next, it conceptualizes discrimination, and suggesting a typology of algorithmic discrimination that takes statistics into account to provide a rationalization of the debate. It moves on to discussing the path towards enforcing legal norms against discriminatory outcomes running from the use of algorithms. Because legislation specifically aimed at fighting automated systems is still scarce (or application of the current legislation to the problem is contentious), it engages in a debate about the horizontal effects of fundamental rights - given that a relevant part of discriminatory practices occur among private parties, and the most basic defense an individual has against discrimination is the constitutional right to equality. It then analyzes ordinary legislation in three jurisdictions, the United States of America, Germany, and Brazil, that could also be enforced against discriminatory practices running from algorithms, with a special focus on the Brazilian legislation. The legislative debate concludes with the presentation of two concrete cases of algorithmic discrimination, one concerning the unemployment policy in Poland, and the other regarding credit scoring in Brazil. The cases are presented so that the applicability of Brazilian legislation to deal with algorithmic discrimination can be discussed. The final chapter is focused on debating the path forward and what can and should be done by experts, legislators, and policymakers to foster algorithmic innovation without losing sight of its potential for discrimination. It first presents the literature on algorithmic governance and the many proposals for dealing with the problem - dedicating a specific section to the challenges brought about by machine learning - and then sets out an agenda for Brazil.O objetivo desse trabalho é esclarecer qual é o papel que o Direito pode desempenhar no debate sobre a discriminação algorítmica, assim como de que maneira os instrumentos jurídicos podem auxiliar a mitigar os riscos discriminatórios desse tipo de prática, com foco especial na jurisdição brasileira. Para isso, primeiro o trabalho propõe um debate sobre o que são algoritmos, e como a emergência da economia de dados, do Big Data e de técnicas de machine learning impulsionam o uso de sistemas automatizados. Em seguida, conceitua-se a discriminação, propondo-se uma tipologia para a discriminação algorítmica que leva em conta questões estatísticas, a fim de racionalizar a discussão. A dissertação então parte para o debate sobre os caminhos para a aplicação de normas jurídicas em face de discriminação algorítmica. Dado que leis e normas especificamente voltados a esse tema ainda não são muito difundidas (e que a aplicação da legislação existente a essa questão é controversa), o trabalho propõe um debate sobre a eficácia horizontal dos direitos fundamentais - tendo em vista que boa parte das práticas discriminatórias via uso de algoritmos se dá entre partes privadas, e que a defesa mais básica que um indivíduo tem contra a discriminação é o direito constitucionalmente garantido à igualdade. Passa-se então a uma análise da legislação ordinária em três jurisdições, Estados Unidos da América, Alemanha e Brasil, legislação essa que pode também ser aplicada em casos de práticas discriminatórias levadas a cabo via algoritmos, dando especial destaque ao caso brasileiro. Esse debate legislativo é concluído com a apresentação de dois casos concretos, um que diz respeito à política de acesso a emprego na Polônia e outro que trata das práticas de credit scoring no Brasil. Os casos são apresentados de forma a se pensar a eventual possibilidade de uso de regras brasileiras para lidar com os temas discriminatórios que se colocam concretamente. O capítulo final tem como foco o debate do caminho a ser trilhado, e qual pode e deve ser feito por especialistas, legisladores e aplicadores do direito para promover a inovação no campo algorítmico sem perder de vista seus potenciais impactos discriminatórios. Primeiro, apresentase a literatura sobre governança algorítmica e as muitas propostas que pretendem endereçar o tema - com especial atenção aos desafios apresentados pelo machine learning - e então delineiase uma agenda para o Brasil sobre o assunto

Defesa da Concorrência 3º Lugar: Propaganda online e privacidade: o varejo de dados pessoais na perspectiva antitruste

Costuma-se afirmar que empresas “pontocom” devem ser descritas como mercados de dois lados. Esse trabalho filia-se a uma minoria de autores que entende que o funcionamento de grande parte dessas empresas não pode ser corretamente compreendido por meio das regras desse modelo. Procura-se demonstrar (i) de que modo plataformas de propaganda online, que fornecem aos seus usuários serviços gratuitos – como ferramentas de busca e redes sociais – são na verdade melhor descritas sob um modelo de varejo de dados pessoais e (ii) como essa abordagem modifica a análise antitruste. Para isso, recorre-se a uma breve análise de caso no âmbito do Conselho Administrativo de Defesa Econômica, a qual visa apontar efeitos substantivos da proposta aqui apresentada para a defesa da concorrência. Conclui-se que o varejo de dados pessoais (i) traz o direito fundamental de privacidade para a jurisdição antitruste, bem como (ii) altera a percepção sobre os mercados relevantes nos quais as empresas “pontocom” atuam, (iii) insere considerações relevantes sobre bancos de dados como estruturas essenciais e (iv) aponta preocupações pertinentes em matéria de integração vertical e barreiras à entrada.76 páginasOrçamento e FinançasTexto publicado no IX Prêmio SEAE de defesa da concorrência e regulação da atividade econômica - Monografias premiadas 201