Inteligência artificial pública e soberana no Poder Judiciário brasileiro: arquitetura institucional e epistemológica para a mitigação do racismo algorítmico
DOI:
https://doi.org/10.62009/Emeron.2764.9679.v3.2026.529.p143-173Keywords:
racismo algorítmico, inteligência artificial, Poder Judiciário, soberania tecnológica, acesso à justiçaAbstract
The growing incorporation of artificial intelligence (AI) systems into the routine of the Brazilian Judiciary, from case classifiers to generative language models, coexists with a structural and under-addressed problem: the reproduction, at scale and under the guise of technical neutrality, of historically entrenched racial asymmetries, a phenomenon known as algorithmic racism. This article aims to propose the institutional and epistemological architecture of a public and sovereign artificial intelligence for the Brazilian justice system, designed from inception to mitigate algorithmic racism. The qualitative research combines interdisciplinary literature review and documentary analysis of the current normative framework, notably CNJ Resolution No. 615/2025 and Bill No. 2.338/2023, drawing on the Foucauldian notion of the dispositif and the decolonial critique of the coloniality of power and of data. It argues that the uncritical adoption of private and foreign models constitutes a form of data colonialism and that only a public, auditable and participatorily governed model can operate as a counter-dispositif. A four-layer architecture is proposed (data, model, governance and use), together with operational antiracist safeguards, including auditable equity metrics and dataset documentation sheets. It concludes that algorithmic sovereignty is a condition of possibility for a Judiciary committed to substantive equality and access to justice.
Downloads
Metrics
References
ANGWIN, Julia; LARSON, Jeff; MATTU, Surya; KIRCHNER, Lauren. Machine bias. ProPublica, 23 maio 2016. Disponível em: https://www.propublica.org. Acesso em: 26 maio 2026.
BAROCAS, Solon; SELBST, Andrew D. Big data’s disparate impact. California Law Review, v. 104, n. 3, p. 671-732, 2016.
BENDER, Emily M.; GEBRU, Timnit; McMILLAN-MAJOR, Angelina; SHMITCHELL, Shmargaret. On the dangers of stochastic parrots: can language models be too big? In: Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT ’21). New York: ACM, 2021. p. 610-623.
BENJAMIN, Ruha. Race after technology: abolitionist tools for the new Jim Code. Cambridge: Polity Press, 2019.
BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Brasília: Presidência da República, 2018.
BRASIL. Conselho Nacional de Justiça. Resolução nº 332, de 21 de agosto de 2020. Dispõe sobre a ética, a transparência e a governança na produção e no uso de Inteligência Artificial no Poder Judiciário. Brasília: CNJ, 2020. [Revogada pela Resolução CNJ nº 615/2025].
BRASIL. Conselho Nacional de Justiça. Resolução nº 615, de 11 de março de 2025. Estabelece diretrizes para o desenvolvimento, a utilização e a governança de soluções desenvolvidas com recursos de inteligência artificial no âmbito do Poder Judiciário. Brasília: CNJ, 2025. Disponível em: https://atos.cnj.jus.br/atos/detalhar/6001. Acesso em: 26 maio 2026.
BRASIL. Senado Federal. Projeto de Lei nº 2.338, de 2023. Dispõe sobre o uso da Inteligência Artificial. Brasília: Senado Federal, 2023.
BUOLAMWINI, Joy; GEBRU, Timnit. Gender shades: intersectional accuracy disparities in commercial gender classification. Proceedings of Machine Learning Research, v. 81, p. 77-91, 2018.
CARNEIRO, Sueli. A construção do outro como não-ser como fundamento do ser. 2005. Tese (Doutorado em Educação) – Faculdade de Educação, Universidade de São Paulo, São Paulo, 2005.
CASELI, Helena de Medeiros; NUNES, Maria das Graças Volpe (org.). Processamento de Linguagem Natural: conceitos, técnicas e aplicações em português. BPLN, 2023. Disponível em: https://brasileiraspln.com. Acesso em: 26 maio 2026.
CONJUR. IA fará decisões com mais objetividade, diz Barroso. Consultor Jurídico, 23 maio 2026. Disponível em: https://www.conjur.com.br/2026-mai-23/ia-produzira-decisoes-com-mais-objetividade-do-que-os-juizes-diz-barroso/. Acesso em: 26 maio 2026.
COULDRY, Nick; MEJIAS, Ulises A. The costs of connection: how data is colonizing human life and appropriating it for capitalism. Stanford: Stanford University Press, 2019.
CRAWFORD, Kate. Atlas of AI: power, politics, and the planetary costs of artificial intelligence. New Haven: Yale University Press, 2021.
EUBANKS, Virginia. Automating inequality: how high-tech tools profile, police, and punish the poor. New York: St. Martin’s Press, 2018.
FANON, Frantz. Pele negra, máscaras brancas. Tradução de Renato da Silveira. Salvador: EDUFBA, 2008.
FANON, Frantz. Os condenados da terra. Rio de Janeiro: Civilização Brasileira, 1968.
FAUSTINO, Deivison; LIPPOLD, Walter. Colonialismo digital: por uma crítica hacker-fanoniana. São Paulo: Boitempo, 2023.
FOUCAULT, Michel. A ordem do discurso: aula inaugural no Collège de France, pronunciada em 2 de dezembro de 1970. São Paulo: Edições Loyola, 1996.
FOUCAULT, Michel. Microfísica do poder. Organização e tradução de Roberto Machado. Rio de Janeiro: Graal, 1979.
FOUCAULT, Michel. Vigiar e punir: nascimento da prisão. Tradução de Raquel Ramalhete. Petrópolis: Vozes, 1987.
GEBRU, Timnit et al. Datasheets for datasets. Communications of the ACM, v. 64, n. 12, p. 86-92, 2021.
HARDT, Moritz; PRICE, Eric; SREBRO, Nathan. Equality of opportunity in supervised learning. In: Advances in Neural Information Processing Systems (NeurIPS), v. 29, 2016.
HORA, Nina da. Nina da Hora hackeia o racismo e transforma a computação. [Entrevista]. Geledés – Instituto da Mulher Negra, São Paulo, 16 mar. 2022. Disponível em: https://www.geledes.org.br. Acesso em: 26 maio 2026.
MBEMBE, Achille. Necropolítica: biopoder, soberania, estado de exceção, política da morte. Tradução de Renata Santini. São Paulo: n-1 edições, 2018.
NASCIMENTO, Abdias. O quilombismo: documentos de uma militância pan-africanista. 3. ed. São Paulo: Editora Perspectiva, 2019.
NOBLE, Safiya Umoja. Algorithms of oppression: how search engines reinforce racism. New York: New York University Press, 2018.
NUNES, Pablo. Levantamento revela que 90,5% dos presos por câmeras de reconhecimento facial no Brasil são negros. Rede de Observatórios da Segurança (CESeC); The Intercept Brasil, 21 nov. 2019.
O’NEIL, Cathy. Weapons of math destruction: how big data increases inequality and threatens democracy. New York: Crown, 2016.
PASQUALE, Frank. The black box society: the secret algorithms that control money and information. Cambridge: Harvard University Press, 2015.
QUIJANO, Aníbal. Colonialidade do poder, eurocentrismo e América Latina. In: LANDER, Edgardo (org.). A colonialidade do saber: eurocentrismo e ciências sociais. Perspectivas latino-americanas. Buenos Aires: CLACSO, 2005. p. 107-130.
SILVA, Tarcízio. Racismo algorítmico: inteligência artificial e discriminação nas redes digitais. São Paulo: Edições Sesc São Paulo, 2022.
SOUZA, Fábio; NOGUEIRA, Rodrigo; LOTUFO, Roberto. BERTimbau: pretrained BERT models for Brazilian Portuguese. In: Intelligent Systems: 9th Brazilian Conference, BRACIS 2020. Cham: Springer, 2020. p. 403-417.
UNIÃO EUROPEIA. Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho, de 13 de junho de 2024 (Regulamento da Inteligência Artificial – AI Act). Jornal Oficial da União Europeia, 2024.
VASWANI, Ashish et al. Attention is all you need. In: Advances in Neural Information Processing Systems (NeurIPS), v. 30, 2017.
ZUBOFF, Shoshana. A era do capitalismo de vigilância. Tradução de George Schlesinger. Rio de Janeiro: Intrínseca, 2020.
Downloads
Published
How to Cite
Conference Proceedings Volume
Section
Categories
License
Copyright (c) 2026 Renato Luiz Gomez da Silva
This work is licensed under a Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License.
- A publicação se reserva o direito de efetuar, nos originais, alterações de ordem normativa, ortogramatical, com vistas a manter o padrão culto da língua, respeitando, porém, o estilo dos autores;
- As provas finais não serão enviadas aos autores;
- Os originais não serão devolvidos aos autores;
- Os autores mantém os direitos totais sobre seus trabalhos publicados na Revista da Emeron, ficando sua reimpressão total ou parcial, depósito ou republicação sujeita à indicação de primeira publicação na revista, por meio da licensa está licenciada sob CC BY-NC-SA 4.0;
- Deve ser consignada a fonte de publicação original;
- As opiniões emitidas pelos autores dos artigos são de sua exclusiva responsabilidade;
- Cada autor receberá dois exemplares da revista, caso esteja disponível no formato impresso.
