Inteligência artificial e viés no judiciário: uma análise constitucional sob a lente empírica

Rayssa de Souza Gargano; Klever Paulo Leal Filpo; Carmen Caroline Ferreira do Carmo Nader

doi:10.61565/revista-aquila.i34.914

Authors

Rayssa de Souza Gargano Universidade Veiga de Almeida
Klever Paulo Leal Filpo Universidade Católica de Petrópolis
Carmen Caroline Ferreira do Carmo Nader Afya Unigranrio

DOI:

https://doi.org/10.61565/revista-aquila.i34.914

Keywords:

Artificial Intelligence, Algorithmic Governance, Algorithmic Bias, Due Process of Law

Abstract

The growing use of artificial intelligence (AI) in the justice system has sparked debates regarding the compatibility between automated decision-making and fundamental guarantees. This article conducts a constitutional-legal analysis, with an empirical-documentary focus, of the risks of algorithmic bias and its impacts on procedural fundamental rights. The qualitative research combines a critical literature review with an empirical survey of institutional data concerning the use of AI systems within the Brazilian Judiciary, as well as an examination of the paradigmatic case of the COMPAS system employed in the United States. The study was developed with funding from CAPES and FAPERJ. It is argued that the lack of algorithmic transparency and auditability may compromise due process of law, judicial impartiality, and the duty to provide reasoned decisions. The article concludes that there is a need to improve public policies on algorithmic governance in Brazil in order to ensure that artificial intelligence functions as a tool supporting judicial activity rather than as a mechanism for reproducing structural inequalities.

Downloads

Download data is not yet available.

References

BAPTISTA, Bárbara Gomes Lupetti. A crença no princípio (ou mito) da imparcialidade judicial. Revista de Estudos Empíricos em Direito, v. 7, n. 2, p. 203-223, jun. 2020.

BOVENS, Mark. Analysing and assessing accountability: a conceptual framework. European Law Journal, v. 13, n. 4, p. 447-468, 2007.

BRENNAN, T.; DIETERICH, W.; EHRET, B. Evaluating the predictive validity of the COMPAS risk and needs assessment system. Criminal Justice and Behavior, v. 36, p. 21-40, 2009.

CONSELHO NACIONAL DE JUSTIÇA (CNJ). Resolução nº 332, de 21 de agosto de 2020. Brasília: CNJ, 2020.

COUTINHO, Luiza Loureiro. Riscos em sistemas de inteligência artificial: definição, tipologia, correlações, principiologia, responsabilidade civil e regulação. Salvador: Juspodivm, 2023.

CRESPO, Marcelo; SANTOS, Coroliano Aurélio de Almeida Camargo. Inteligência artificial, algoritmos e decisões injustas: é hora de revermos criticamente nosso papel em face da tecnologia. Migalhas, 2017. Disponível em: https://www.academia.edu/35023035/Intelig%C3%AAncia_artificial_algoritmos_e_decis%C3%B5es_injustas_C3%A9_hora_de_revermos_criticamente_nosso_papel_em_face_da_tecnologia_pdf. Acesso em: 29 jan. 2025.

DONEDA, Danilo; ALMEIDA, Virgílio A. F. O que é a governança de algoritmos. In: BRUNO, Fernanda et. al. Tecnopolíticas da vigilância: perspectivas da margem. Rio de Janeiro: Boitempo, 2018. p. 141-148.

DRESSEL, Julia; FARID, Hany. The accuracy, fairness, and limits of predicting recidivism. Science Advances, v. 4, n. 1, eaao5580, 2018. DOI: 10.1126/sciadv.aao5580.

EIERMANN, Martin. There is no devil’s bargain between privacy and public health. Foreign Affairs, 2020. Disponível em: https://www.foreignaffairs.com/articles/united-states/2020-04-13/there-no-devils-bargain-between-privacy-and-public-health. Acesso em: 03 nov. 2024.

FASS, T.; HEILBRUN, K.; DEMATTEO, D.; FRETZ, R. The LSI-R and the COMPAS. Criminal Justice and Behavior, v. 35, p. 1095-1108, 2008.

FILPO, Klever Paulo Leal. Mediação judicial: discursos e práticas. Rio de Janeiro: Mauad X; FAPERJ, 2016.

FILPO, Klever Paulo Leal; GARGANO, Rayssa de Souza. Políticas públicas sobre inteligência artificial: refletindo sobre enviesamento algorítmico e proteção a direitos. In: ENCONTROS NACIONAIS DO CONPEDI, XXXII CONGRESSO NACIONAL DO CONPEDI. Anais [...]. São Paulo: CONPEDI, 2025.

KAUFMAN, Dora. A inteligência artificial irá suplantar a inteligência humana? Barueri, SP: Estação das Letras e Cores, 2019.

MOSES, Lyria Bennett. How to think about law, regulation and technology: problems with ‘technology’ as a regulatory target law. Innovation and Technology, v. 5, n. 1, p. 1-20, 2013. Disponível em: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2464750. Acesso em: 03 out. 2024.

NORTHPOINTE. Practitioner’s guide to COMPAS core. 2015. Disponível em: https://s3.documentcloud.org/documents/2840784/Practitioner-s-Guide-to-COMPAS-Core.pdf. Acesso em: 22 out. 2024.

ORGANISATION FOR ECONOMIC CO-OPERATION AND DEVELOPMENT (OECD). Recommendation of the Council on Artificial Intelligence. OECD Legal Instruments, 2024. Disponível em: https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449. Acesso em: 17 maio 2024.

PINTO, Henrique Alves. A tripla fundamentação das decisões jurisdicionais pautadas em inteligência artificial. Salvador: Juspodivm, 2023.

RIZER, Arthur; WATNEY, Caleb. Artificial intelligence can make our jail system more efficient, equitable, and just. Texas Review of Law & Politics, v. 23, n. 1, 2018. Disponível em: http://www.questia.com/read/1P4-2193091511/artificial-intelligence-can-make-our-jail-system-more. Acesso em: 10 set. 2024.

SANTORO, Antonio Eduardo Ramires; PAIVA, Lívia de Meira Lima; MELCHIOR, Antonio Pedro. O princípio da imparcialidade na interceptação das comunicações telefônicas. In: SANTORO, Antonio Eduardo Ramires; MADURO, Flávio Mirza (org.). Interceptação telefônica: os 20 anos da Lei nº 9.296/96. Belo Horizonte: D’Plácido, 2016.

SARLET, Ingo Wolfgang. Notas sobre a assim designada proibição de retrocesso social no constitucionalismo latino-americano. Revista do Tribunal Superior do Trabalho, Brasília, v. 75, n. 3, jul./set. 2009.

SOFTPLAN PLANEJAMENTO E SISTEMAS S.A. SAJ Digital. Disponível em: http://www.sajdigital.com/pesquisa-desenvolvimento/exemplos-inteligencia-artificial/. Acesso em: 14 nov. 2024.

TAUK, Caroline Somesom; SALOMÃO, Luis Felipe. Inteligência artificial no Judiciário brasileiro: estudo empírico sobre algoritmos e discriminação. Revista Diké (UESC), v. 22, n. 23, p. 2-32, jan./jun. 2023.