Revista da Emeron

Renato Luiz Gomez da Silva

doi:10.62009/Emeron.2764.9679.v3.2026.529.p143-173

Autores

Renato Luiz Gomez da Silva Tribunal de Justiça do Estado de Rondônia https://orcid.org/0009-0005-4086-4342

DOI:

https://doi.org/10.62009/Emeron.2764.9679.v3.2026.529.p143-173

Palavras-chave:

racismo algorítmico, inteligência artificial, Poder Judiciário, soberania tecnológica, acesso à justiça

Resumo

A crescente incorporação de sistemas de inteligência artificial (IA) à rotina do Poder Judiciário brasileiro, dos classificadores de processos aos modelos generativos de linguagem, convive com um problema estrutural pouco enfrentado: a reprodução, em escala e sob a aparência de neutralidade técnica, de assimetrias raciais historicamente sedimentadas, fenômeno designado como racismo algorítmico. Este artigo tem por objetivo propor a arquitetura institucional e epistemológica de uma inteligência artificial pública e soberana do sistema de justiça brasileiro, concebida desde a origem para mitigar o racismo algorítmico. A pesquisa, de natureza qualitativa, articula revisão bibliográfica interdisciplinar e análise documental do marco normativo vigente, com destaque para a Resolução CNJ nº 615/2025 e o Projeto de Lei nº 2.338/2023, mobilizando como marco teórico a noção foucaultiana de dispositivo e a crítica decolonial à colonialidade do poder e dos dados. Sustenta-se que a adoção acrítica de modelos privados e estrangeiros constitui forma de colonialismo de dados e que apenas um modelo público, auditável e governado de modo participativo pode operar como contradispositivo. Propõe-se uma arquitetura em quatro camadas (dados, modelo, governança e uso), acompanhada de salvaguardas antirracistas operacionais, entre as quais métricas de equidade auditáveis e fichas de documentação dos conjuntos de dados. Conclui-se que a soberania algorítmica é condição de possibilidade para um Judiciário comprometido com a igualdade material e o acesso à justiça.

Downloads

Não há dados estatísticos.

Métricas

Carregando Métricas ...

Referências

ANGWIN, Julia; LARSON, Jeff; MATTU, Surya; KIRCHNER, Lauren. Machine bias. ProPublica, 23 maio 2016. Disponível em: https://www.propublica.org. Acesso em: 26 maio 2026.

BAROCAS, Solon; SELBST, Andrew D. Big data’s disparate impact. California Law Review, v. 104, n. 3, p. 671-732, 2016.

BENDER, Emily M.; GEBRU, Timnit; McMILLAN-MAJOR, Angelina; SHMITCHELL, Shmargaret. On the dangers of stochastic parrots: can language models be too big? In: Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT ’21). New York: ACM, 2021. p. 610-623.

BENJAMIN, Ruha. Race after technology: abolitionist tools for the new Jim Code. Cambridge: Polity Press, 2019.

BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Brasília: Presidência da República, 2018.

BRASIL. Conselho Nacional de Justiça. Resolução nº 332, de 21 de agosto de 2020. Dispõe sobre a ética, a transparência e a governança na produção e no uso de Inteligência Artificial no Poder Judiciário. Brasília: CNJ, 2020. [Revogada pela Resolução CNJ nº 615/2025].

BRASIL. Conselho Nacional de Justiça. Resolução nº 615, de 11 de março de 2025. Estabelece diretrizes para o desenvolvimento, a utilização e a governança de soluções desenvolvidas com recursos de inteligência artificial no âmbito do Poder Judiciário. Brasília: CNJ, 2025. Disponível em: https://atos.cnj.jus.br/atos/detalhar/6001. Acesso em: 26 maio 2026.

BRASIL. Senado Federal. Projeto de Lei nº 2.338, de 2023. Dispõe sobre o uso da Inteligência Artificial. Brasília: Senado Federal, 2023.

BUOLAMWINI, Joy; GEBRU, Timnit. Gender shades: intersectional accuracy disparities in commercial gender classification. Proceedings of Machine Learning Research, v. 81, p. 77-91, 2018.

CARNEIRO, Sueli. A construção do outro como não-ser como fundamento do ser. 2005. Tese (Doutorado em Educação) – Faculdade de Educação, Universidade de São Paulo, São Paulo, 2005.

CASELI, Helena de Medeiros; NUNES, Maria das Graças Volpe (org.). Processamento de Linguagem Natural: conceitos, técnicas e aplicações em português. BPLN, 2023. Disponível em: https://brasileiraspln.com. Acesso em: 26 maio 2026.

CONJUR. IA fará decisões com mais objetividade, diz Barroso. Consultor Jurídico, 23 maio 2026. Disponível em: https://www.conjur.com.br/2026-mai-23/ia-produzira-decisoes-com-mais-objetividade-do-que-os-juizes-diz-barroso/. Acesso em: 26 maio 2026.

COULDRY, Nick; MEJIAS, Ulises A. The costs of connection: how data is colonizing human life and appropriating it for capitalism. Stanford: Stanford University Press, 2019.

CRAWFORD, Kate. Atlas of AI: power, politics, and the planetary costs of artificial intelligence. New Haven: Yale University Press, 2021.

EUBANKS, Virginia. Automating inequality: how high-tech tools profile, police, and punish the poor. New York: St. Martin’s Press, 2018.

FANON, Frantz. Pele negra, máscaras brancas. Tradução de Renato da Silveira. Salvador: EDUFBA, 2008.

FANON, Frantz. Os condenados da terra. Rio de Janeiro: Civilização Brasileira, 1968.

FAUSTINO, Deivison; LIPPOLD, Walter. Colonialismo digital: por uma crítica hacker-fanoniana. São Paulo: Boitempo, 2023.

FOUCAULT, Michel. A ordem do discurso: aula inaugural no Collège de France, pronunciada em 2 de dezembro de 1970. São Paulo: Edições Loyola, 1996.

FOUCAULT, Michel. Microfísica do poder. Organização e tradução de Roberto Machado. Rio de Janeiro: Graal, 1979.

FOUCAULT, Michel. Vigiar e punir: nascimento da prisão. Tradução de Raquel Ramalhete. Petrópolis: Vozes, 1987.

GEBRU, Timnit et al. Datasheets for datasets. Communications of the ACM, v. 64, n. 12, p. 86-92, 2021.

HARDT, Moritz; PRICE, Eric; SREBRO, Nathan. Equality of opportunity in supervised learning. In: Advances in Neural Information Processing Systems (NeurIPS), v. 29, 2016.

HORA, Nina da. Nina da Hora hackeia o racismo e transforma a computação. [Entrevista]. Geledés – Instituto da Mulher Negra, São Paulo, 16 mar. 2022. Disponível em: https://www.geledes.org.br. Acesso em: 26 maio 2026.

MBEMBE, Achille. Necropolítica: biopoder, soberania, estado de exceção, política da morte. Tradução de Renata Santini. São Paulo: n-1 edições, 2018.

NASCIMENTO, Abdias. O quilombismo: documentos de uma militância pan-africanista. 3. ed. São Paulo: Editora Perspectiva, 2019.

NOBLE, Safiya Umoja. Algorithms of oppression: how search engines reinforce racism. New York: New York University Press, 2018.

NUNES, Pablo. Levantamento revela que 90,5% dos presos por câmeras de reconhecimento facial no Brasil são negros. Rede de Observatórios da Segurança (CESeC); The Intercept Brasil, 21 nov. 2019.

O’NEIL, Cathy. Weapons of math destruction: how big data increases inequality and threatens democracy. New York: Crown, 2016.

PASQUALE, Frank. The black box society: the secret algorithms that control money and information. Cambridge: Harvard University Press, 2015.

QUIJANO, Aníbal. Colonialidade do poder, eurocentrismo e América Latina. In: LANDER, Edgardo (org.). A colonialidade do saber: eurocentrismo e ciências sociais. Perspectivas latino-americanas. Buenos Aires: CLACSO, 2005. p. 107-130.

SILVA, Tarcízio. Racismo algorítmico: inteligência artificial e discriminação nas redes digitais. São Paulo: Edições Sesc São Paulo, 2022.

SOUZA, Fábio; NOGUEIRA, Rodrigo; LOTUFO, Roberto. BERTimbau: pretrained BERT models for Brazilian Portuguese. In: Intelligent Systems: 9th Brazilian Conference, BRACIS 2020. Cham: Springer, 2020. p. 403-417.

UNIÃO EUROPEIA. Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho, de 13 de junho de 2024 (Regulamento da Inteligência Artificial – AI Act). Jornal Oficial da União Europeia, 2024.

VASWANI, Ashish et al. Attention is all you need. In: Advances in Neural Information Processing Systems (NeurIPS), v. 30, 2017.

ZUBOFF, Shoshana. A era do capitalismo de vigilância. Tradução de George Schlesinger. Rio de Janeiro: Intrínseca, 2020.