Inteligência artificial e viés no judiciário: uma análise constitucional sob a lente empírica

Rayssa de Souza Gargano; Klever Paulo Leal Filpo; Carmen Caroline Ferreira do Carmo Nader

doi:10.61565/revista-aquila.i34.914

Autores

Rayssa de Souza Gargano Universidade Veiga de Almeida
Klever Paulo Leal Filpo Universidade Católica de Petrópolis
Carmen Caroline Ferreira do Carmo Nader Afya Unigranrio

DOI:

https://doi.org/10.61565/revista-aquila.i34.914

Palavras-chave:

Inteligência Artificial, Governança Algorítmica, Enviesamento Algorítmico, Devido Processo Legal

Resumo

O crescente uso da inteligência artificial (IA) no sistema de justiça suscita debates acerca da compatibilidade entre automação decisória e garantias fundamentais. Este artigo realiza uma análise jurídico-constitucional, com enfoque empírico-documental, sobre os riscos de enviesamento algorítmico e seus impactos sobre direitos fundamentais processuais. A pesquisa, de natureza qualitativa, combina revisão bibliográfica crítica com levantamento empírico de dados institucionais acerca da utilização de sistemas de IA no Judiciário brasileiro, além de examinar o caso paradigmático do sistema COMPAS, empregado nos Estados Unidos. O estudo conta com recursos da CAPES e da FAPERJ. Argumenta-se que a ausência de transparência e auditabilidade algorítmica pode comprometer o devido processo legal, a imparcialidade judicial e a fundamentação das decisões. Conclui-se pela necessidade de aperfeiçoamento das políticas públicas de governança algorítmica no Brasil, de modo a assegurar que a inteligência artificial atue como instrumento de apoio à jurisdição, e não como fator de reprodução de desigualdades estruturais.

Downloads

Não há dados estatísticos.

Referências

BAPTISTA, Bárbara Gomes Lupetti. A crença no princípio (ou mito) da imparcialidade judicial. Revista de Estudos Empíricos em Direito, v. 7, n. 2, p. 203-223, jun. 2020.

BOVENS, Mark. Analysing and assessing accountability: a conceptual framework. European Law Journal, v. 13, n. 4, p. 447-468, 2007.

BRENNAN, T.; DIETERICH, W.; EHRET, B. Evaluating the predictive validity of the COMPAS risk and needs assessment system. Criminal Justice and Behavior, v. 36, p. 21-40, 2009.

CONSELHO NACIONAL DE JUSTIÇA (CNJ). Resolução nº 332, de 21 de agosto de 2020. Brasília: CNJ, 2020.

COUTINHO, Luiza Loureiro. Riscos em sistemas de inteligência artificial: definição, tipologia, correlações, principiologia, responsabilidade civil e regulação. Salvador: Juspodivm, 2023.

CRESPO, Marcelo; SANTOS, Coroliano Aurélio de Almeida Camargo. Inteligência artificial, algoritmos e decisões injustas: é hora de revermos criticamente nosso papel em face da tecnologia. Migalhas, 2017. Disponível em: https://www.academia.edu/35023035/Intelig%C3%AAncia_artificial_algoritmos_e_decis%C3%B5es_injustas_C3%A9_hora_de_revermos_criticamente_nosso_papel_em_face_da_tecnologia_pdf. Acesso em: 29 jan. 2025.

DONEDA, Danilo; ALMEIDA, Virgílio A. F. O que é a governança de algoritmos. In: BRUNO, Fernanda et. al. Tecnopolíticas da vigilância: perspectivas da margem. Rio de Janeiro: Boitempo, 2018. p. 141-148.

DRESSEL, Julia; FARID, Hany. The accuracy, fairness, and limits of predicting recidivism. Science Advances, v. 4, n. 1, eaao5580, 2018. DOI: 10.1126/sciadv.aao5580.

EIERMANN, Martin. There is no devil’s bargain between privacy and public health. Foreign Affairs, 2020. Disponível em: https://www.foreignaffairs.com/articles/united-states/2020-04-13/there-no-devils-bargain-between-privacy-and-public-health. Acesso em: 03 nov. 2024.

FASS, T.; HEILBRUN, K.; DEMATTEO, D.; FRETZ, R. The LSI-R and the COMPAS. Criminal Justice and Behavior, v. 35, p. 1095-1108, 2008.

FILPO, Klever Paulo Leal. Mediação judicial: discursos e práticas. Rio de Janeiro: Mauad X; FAPERJ, 2016.

FILPO, Klever Paulo Leal; GARGANO, Rayssa de Souza. Políticas públicas sobre inteligência artificial: refletindo sobre enviesamento algorítmico e proteção a direitos. In: ENCONTROS NACIONAIS DO CONPEDI, XXXII CONGRESSO NACIONAL DO CONPEDI. Anais [...]. São Paulo: CONPEDI, 2025.

KAUFMAN, Dora. A inteligência artificial irá suplantar a inteligência humana? Barueri, SP: Estação das Letras e Cores, 2019.

MOSES, Lyria Bennett. How to think about law, regulation and technology: problems with ‘technology’ as a regulatory target law. Innovation and Technology, v. 5, n. 1, p. 1-20, 2013. Disponível em: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2464750. Acesso em: 03 out. 2024.

NORTHPOINTE. Practitioner’s guide to COMPAS core. 2015. Disponível em: https://s3.documentcloud.org/documents/2840784/Practitioner-s-Guide-to-COMPAS-Core.pdf. Acesso em: 22 out. 2024.

ORGANISATION FOR ECONOMIC CO-OPERATION AND DEVELOPMENT (OECD). Recommendation of the Council on Artificial Intelligence. OECD Legal Instruments, 2024. Disponível em: https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449. Acesso em: 17 maio 2024.

PINTO, Henrique Alves. A tripla fundamentação das decisões jurisdicionais pautadas em inteligência artificial. Salvador: Juspodivm, 2023.

RIZER, Arthur; WATNEY, Caleb. Artificial intelligence can make our jail system more efficient, equitable, and just. Texas Review of Law & Politics, v. 23, n. 1, 2018. Disponível em: http://www.questia.com/read/1P4-2193091511/artificial-intelligence-can-make-our-jail-system-more. Acesso em: 10 set. 2024.

SANTORO, Antonio Eduardo Ramires; PAIVA, Lívia de Meira Lima; MELCHIOR, Antonio Pedro. O princípio da imparcialidade na interceptação das comunicações telefônicas. In: SANTORO, Antonio Eduardo Ramires; MADURO, Flávio Mirza (org.). Interceptação telefônica: os 20 anos da Lei nº 9.296/96. Belo Horizonte: D’Plácido, 2016.

SARLET, Ingo Wolfgang. Notas sobre a assim designada proibição de retrocesso social no constitucionalismo latino-americano. Revista do Tribunal Superior do Trabalho, Brasília, v. 75, n. 3, jul./set. 2009.

SOFTPLAN PLANEJAMENTO E SISTEMAS S.A. SAJ Digital. Disponível em: http://www.sajdigital.com/pesquisa-desenvolvimento/exemplos-inteligencia-artificial/. Acesso em: 14 nov. 2024.

TAUK, Caroline Somesom; SALOMÃO, Luis Felipe. Inteligência artificial no Judiciário brasileiro: estudo empírico sobre algoritmos e discriminação. Revista Diké (UESC), v. 22, n. 23, p. 2-32, jan./jun. 2023.