A IMPARCIALIDADE ALGORÍTMICA: UM DIAGNÓSTICO SOBRE O USO NEOPANÓPTICO DA INTELIGÊNCIA ARTIFICIAL E DA INTELIGÊNCIA COMPUTACIONAL NO JUDICIÁRIO
Resumo
ALGORITHMIC IMPARTIALITY: A DIAGNOSIS ABOUT THE NEOPANOPTIC USE OF ARTIFICIAL INTELLIGENCE AND COMPUTATIONAL INTELLIGENCE IN THE JUDICIARY
ÁREA(S): direito digital; direito processual.
RESUMO: A partir de uma investigação sobre os conceitos de inteligência artificial (IA) e inteligência computacional (IC), bem como sobre as técnicas algorítmicas opacas e transparentes aplicadas aos sistemas informáticos inteligentes, este artigo analisa os riscos de parcialidade algorítmica em decorrência da utilização de sistemas de inteligência artificial no âmbito do direito processual com viés autoritário, discriminatório e intransparente, tomando-se como parâmetro experiências aplicadas nos Estados Unidos e na China contrapostas à experiência brasileira. Enfrenta-se, ainda, o problema do perigo sobre o emprego das técnicas de inteligência artificial com um escopo neopanóptico, isto é, para a vigilância e o controle disciplinar exercido sobre os membros da magistratura. Para tanto, recorremos ao método de pesquisa dedutivo, focado em revisão de literatura especializada e análise documental de decisões da jurisprudência.
ABSTRACT: Based on an investigation into the concepts of artificial intelligence (AI) and the computational intelligence (CI), as well as the opaque and transparent algorithmic techniques applied to intelligent computer systems, this article examines the risks of algorithmic bias resulting from the use of artificial intelligence systems in the field of authoritarian, discriminatory, and non-transparent procedural law, using experiences in the United States and China as a benchmark compared to the Brazilian experience. It also addresses the problem of the peril associated with the use of artificial intelligence techniques with a neopanoptic scope, that is, for surveillance and disciplinary control exercised over members of the judiciary. Therefore, we employ a deductive research method, focusing on a review of specialized literature and a documentary analysis of jurisprudential decisions.
PALAVRAS-CHAVE: imparcialidade algorítmica; inteligência artificial; inteligência computacional; uso judicial; neopanoptismo.
KEYWORDS: algorithmic impartiality; artificial intelligence; computational intelligence; judicial application; neopanoptic.
SUMÁRIO: Introdução: premissas sobre inteligência artificial e inteligência computacional; 1 A questão da imparcialidade algorítmica no Brasil e nos EUA; 2 A experiência chinesa; 3 O estado da arte no Brasil: a política pública “justiça 4.0” e a regulação do uso da IA no Judiciário; Conclusão; Referências.
SUMMARY: Introduction: premises about artificial intelligence and computational intelligence; 1 The issue of algorithmic impartiality in Brazil and the United States; 2 The Chinese experience; 3 The state of the art in Brazil: the public policy “justice 4.0” and the regulation of AI usage in the Judiciary; Conclusion; References.
Referências
ANGWIN, J. Software que avalia réus americanos cria injustiças na vida real. Disponível em: https://apublica.org/2016/06/software-que-avalia-reus-americanos-cria-injusticas-na-vida-real/. Data da publicação: 3 jun. 2016.
BRASIL. CNJ ‒ Justiça 4.0 ‒ 2020. Disponível em: https://www.cnj.jus.br/tecnologia-da-informacao-e-comunicacao/justica-4-0/.
BRASIL; CNJ ‒ Resolução nº 332/2020-CNJ. Disponível em: https://atos.cnj.jus.br/atos/detalhar/3429.
BRASIL. TJSC. Judiciário catarinense terá primeira experiência com o Juízo 100% Digital em janeiro. Publicado em: 18 dez. 2020. Disponível em: https://www.tjsc.jus.br/web/imprensa/-/judiciario-catarinense-tera-primeira-experiencia-com-o-juizo-100-digital-em-janeiro.
BUARQUE, F.; MULLER, D.; MARWALA, T. On rationality, artificial intelligence and economics. Singapore: World Scientific, 2022.
EUROPA. Comissão – COM (2020). Livro branco sobre a inteligência artificial – Uma abordagem europeia virada para a excelência e a confiança. Bruxelas, 19.02.2020. Disponível em: https://ec.europa.eu/commission/sites/beta-political/files/political-guidelines-next-commission_pt.pdf.
GRIMM, C. Dosimetria da pena utilizando redes neurais. Curitiba: UFPR, 2006.
HAN, B.-C. O que é poder. Tradução: Gabriel Salvi Philipson. Petrópolis: Vozes, 2019.
LAZZARATO, M. As revoluções do capitalismo. Tradução: Leonora Corsini. Rio de Janeiro: Civilização Brasileira, 2006.
LINGHAN, Z. apud SHIH, M. Tribunais na China permitem que IAs tomem o lugar de juízes. Canaltech, 15 jul. 2022. Disponível em: https://canaltech.com.br/seguranca/tribunais-na-china-permitem-que-ias-tomem-o-lugar-de-juizes-220922/.
LUÑO, A. H. P. Cibernética, informática y derecho – Un análisis metodológico. Bolonha, Real Colégio da Espanha, 1976.
MAYBIN, S. Sistema de algoritmo que determina pena de condenados cria polêmica nos EUA. BBC News, 31 out. 2016. Disponível em: https://www.bbc.com/portuguese/brasil-37677421.
McCARTHY, J.; MINSKY, M.; ROCHESTER, N.; SHANNON, C. A proposal for the Dartmouth summer research project on Artificial Intelligence. August, 31, 1955, p. 10-11. Disponível em: http://jmc.stanford.edu/articles/dartmouth/dartmouth.pdf.
MCCULLOCH, W. S.; PITTS, W. A logical calculus of the ideas immanent in nervous activity. Bulletin of Mathematical Biophysics 5, 115–133 (1943). Disponível em: https://doi.org/10.1007/BF02478259.
O’NEILL, C. Algoritmos de destruição em massa: como o big data aumenta a desigualdade e ameaça a democracia. Tradução: Rafael Abraham. 1. ed. Santo André: Rua do Sabão, 2020.
PIMENTEL, A. F. Tratado de direito e processo tecnológico – Big data, justiça 4.0 e a digitalização da processualização – Ciberespaço, metaverso, legal design e visual law: o direito processual tecnológico. Recife: Publius, v. 02, 2023.
PIMENTEL, A. F. Tratado de direito e processo tecnológico – A internet e suas camadas – Inteligência artificial e ciberconsciência – Imparcialidade algorítmica: ética, vieses e decisão judicial. Recife: Publius, v. 03, 2023.
REYES, G. China using AI to prosecute people “in every verdict” – 15 jul. 2022, in: Breitbart Asia. Disponível em: https://www.breitbart.com/asia/2022/07/15/report-china-using-ai-to-prosecute-people-in-every-verdict/.
ROVER, A. J. Informática no direito – Inteligência artificial. 1. ed. Curitiba: Juruá, 2001.
RUSSEL, S.; NORVIG, P. Inteligência artificial. Tradução: Regina Celia Simille de Macedo. Rio de Janeiro: Elsevier – Campus, 2013.
VASCONCELOS, M. L. S. Direito e tecnologia: o instituto da litispendência na perspectiva da plataforma “Sinapses”. Recife: Unicap, 2022.
ZHABINA, A. Las cortes de China ya utilizan inteligencia artificial para resolver casos. In: Deutsche Welle, publicado em 20 jan. 2023. Disponível em: https://www.dw.com/es/las-cortes-de-china-ya-utilizan-inteligencia-artificial-para-resolver-casos/a-64471873.
Downloads
Publicado
Como Citar
Edição
Seção
Licença
Autores que publicam nesta revista concordam com os seguintes termos:
Autores mantém os direitos autorais e concedem à revista o direito de primeira publicação, com o trabalho licenciado simultaneamente sob uma Licença Creative Commons Attribution [6 meses] após a publicação, permitindo o compartilhamento do trabalho com reconhecimento da autoria do trabalho e publicação inicial nesta revista.
Autores têm autorização para assumir contratos adicionais separadamente, para distribuição não-exclusiva da versão do trabalho publicada nesta revista (ex.: publicar em repositório institucional ou como capítulo de livro), com reconhecimento de autoria e publicação inicial nesta revista.
Autores têm permissão e são estimulados a publicar e distribuir seu trabalho online (ex.: em repositórios institucionais ou na sua página pessoal) somente seis meses após a efetiva publicação na Revista, já que isso pode gerar alterações produtivas, bem como aumentar o impacto e a citação do trabalho publicado (Veja O Efeito do Acesso Livre).