Algoritmos que discriminam: uma análise jurídica da discriminação no âmbito das decisões automatizadas e seus mitigadores

Abstract

O presente estudo visa apresentar e discutir o conceito de “discriminação algorítmica” no contexto das tomadas de decisões automatizadas no âmbito do ordenamento jurídico brasileiro; bem como apresentar os mecanismos jurídicos hoje existentes para evitar e mitigar a ocorrência de tal discriminação. O primeiro capítulo traz a discussão sobre o que é a discriminação algorítmica, passando pela análise em abstrato do conceito de discriminação e das normativas presentes no ordenamento jurídico brasileiro (disposições constitucionais, tratados internacionais incorporados pelo Brasil e leis infraconstitucionais) que definem discriminação, entendendo-se que um algoritmo pode apresentar resultados discriminatórios na medida em que oferece tratamentos injustos a indivíduos por meio do resultado de suas decisões. Já o segundo capítulo faz uma discussão dos mecanismos de governança algorítmica que podem mitigar a ocorrência de discriminações por algoritmos. Os focos de análise são as garantias individuais dispostas em regulamentações estatais, sendo tais garantias traduzidas no “direito à explicação” e no “direito à revisão” introduzidas pela General Data Protection Regulation (GDPR) e pela Lei Geral de Proteção de Dados Pessoais (LGPD). Mesmo havendo ainda muitas discussões com relação à existência desses direitos e de como sua aplicação deve ocorrer, é possível afirmar que esses direitos – principalmente os definidos e dispostos na LGPD - são bons mecanismos para incentivar a divulgação de informações relacionadas às tomadas de decisão automatizadas, e, portanto, podem ajudar a evitar a ocorrência de discriminações algorítmicas.

Thisstudy aims to present and discuss the concept of 'algorithmic discrimination' in the context of automated decision-making within the Brazilian legal system; as well as to present the existing legal mechanisms to prevent and mitigate the occurrence of such discrimination. The first chapter discusses the definition of algorithmic discrimination through the abstract analysis of the concept of discrimination and of the rules of the Brazilian legal system (constitutional provisions, international treaties incorporated by Brazil and infra-constitutional laws) that define discrimination, concluding that an algorithm can present discriminatory results to the extent that it offers unfair treatment to individuals through the outcome of its decisions. The second chapter discusses the mechanisms of algorithmic governance that can mitigate algorithmic discriminations. The focus of the analysis is the individual guarantees provided by state regulations, such as the 'right to explanation' and 'right to review', which are provided by the General Data Protection Regulation (GDPR) and the Brazilian General Data Protection Law (LGPD). Although there are still many discussions regarding the existence of these rights and how their application should occur, it is possible to affirm that these rights – especially those defined and provided by the LGPD - are good mechanisms to encourage the dissemination of information related to automated decision-making, and therefore may help to avoid the occurrence of algorithmic discriminations.