O presente estudo analisa o funcionamento do software COMPAS, aplicativo que concede notas a infratores penais para subsidiar decisão judicial sobre a prisão ou liberdade provisória, referência a partir da qual se busca descrever como se dá atualmente a relação entre a inteligência artificial e o Direito, explicar o que é a justiça algorítmica e avaliar a existência de vieses, mesmo em sistemas supostamente objetivos e neutros. Utiliza-se metodologia de investigação do tipo bibliográfica-documental, com pesquisa pura de abordagem qualitativa e quantitativa, descritiva e exploratória quanto aos objetivos. Conclui-se que o uso de algoritmos exigirá familiaridade com conceitos da lógica, da matemática e da estatística para fundamentar ou se contrapor às decisões, que é possível observar vieses nos softwares ainda que respeitem os parâmetros da justiça algorítmica, e que a reprodução desses vieses em diferentes cenários indica que essas distorções estão fora dos algoritmos, podendo representar uma manifestação de racismo estrutural.
The present study analyzes the functioning of COMPAS, an application that awards notes to criminal offenders to support the judicial decision on arrest or provisional release, a reference from which it seeks to describe the relationship between artificial intelligence and law, explain what is algorithmic justice and evaluate the existence of biases, even in supposedly objective and neutral systems. The methodology used was bibliographic-documentary investigation, with qualitative, quantitative, descriptive, and exploratory approach regarding the objectives. The conclusion is that the use of algorithms will require familiarity with concepts of logic, mathematics and statistics to substantiate or oppose decisions, that can be observed bias in software even if they respect the parameters of algorithmic justice, and that the reproduction of these biases in different scenarios indicates that these distortions are outside the algorithms and may represent a manifestation of structural racism.
