INTELIGÊNCIA ARTIFICIAL EM DECISÕES JUDICIAIS: OPACIDADE VERSUS GARANTIAS PROCESSUAIS
DOI:
https://doi.org/10.14210/nej.v28n3.p516-535Palavras-chave:
Inteligência Artificial, Garantias Constitucionais, OpacidadeResumo
Contextualização: O texto propõe, como temática, uma análise crítica da utilização da inteligência artificial no processo de tomada de decisões judiciais.
Objetivo: Objetiva-se realizar um exame de como a utilização das novas tecnologias impacta na efetivação de um processo de garantias.
Método: Para o desenvolvimento do trabalho utilizou-se o método dialético, correlacionando a bibliografia sobre o tema, de modo a compreender como o uso da inteligência artificial pode ser benéfico ou prejudicial às garantias constitucionais nesse campo. Investigam-se também os problemas enfrentados ao utilizar a lógica algorítmica para subsidiar a decisão sobre fatos humanos, como a opacidade dos sistemas e a possibilidade, ou não, de se questionar efetivamente as razões das decisões maquinais. Por fim, discute-se a necessidade de uma regulamentação e normatização que guie o processo tecnológico para reafirmar as garantias processuais conquistadas.
Resultados: Concluiu-se que, enquanto os programas de inteligência artificial não tiverem um alto grau de transparência e explicabilidade, não será possível a sua utilização para subsidiar ou tomar decisões judiciais.
Referências
ANGWIN, Julia; MATTU, Surya; KIRCHNER, Lauren. Machine Bias. Disponível em https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing. Acesso em: 21 ago. 2023.
BBC NEWS BRASIL. Sistema de algoritmo que determina pena de condenados cria polêmica nos EUA. 2023. Disponível em: <https://www.bbc.com/portuguese/brasil-37677421>. Acesso em: 06 mar. 2023.
BOLDT, Raphael. Criminologia midiática: Do discurso punitivo à corrosão simbólica do garantismo. Curitiba: Juruá, 2013.
BOLZAN DE MORAIS, José Luis; LOBO, Edilene. A democracia corrompida pela surveillance ou uma fake democracy distópica. In: BOLZAN DE MORAIS, José Luís (Org.). A democracia sequestrada. São Paulo: Tirant Lo Blanch, 2019. p. 27-42.
BOLZAN DE MORAIS, José Luis; BARROS, Flaviane de Magalhães. Compartilhamento de dados e devido processo: como o uso da inteligência artificial pode implicar em uma verdade aleteica. In: NUNES, Dierle; LUCON, Paulo Henrique dos Santos; WOLKART, Erik Navarro (Org.). Inteligência artificial e direito processual. Salvador: JusPodivm, 2022. p. 341-365.
BRASIL, Conselho Nacional de Justiça. Resolução nº 332 de 21 de agosto de 2020. Dispõe sobre a ética, a transparência e a governança na produção e no uso de inteligência Artificial no Poder Judiciário e dá outras providências. 2020. Disponível em: <https://atos.cnj.jus.br/atos/detalhar/3429>. Acesso em: 28 jun. 2023.
BUCCI, Eugenio. Incerteza, um ensaio: Como pensamos a ideia que no desorienta (e orienta o mundo digital). Belo Horizonte: Autêntica. 2023.
CONFESSORE, Nicholas. Cambridge Analytica. 2023. Disponível em: <https://www.nytimes.com/2018/04/04/us/politics/cambridge-analytica-scandal-fallout.html>. Acesso em: 28 jun. 2023.
CUEVA, Ricardo Villas Bôas. Inteligência artificial no judiciário. In: NUNES, Dierle; LUCON, Paulo Henrique dos Santos; WOLKART, Erik Navarro (Org.). Inteligência artificial e direito processual. Salvador: JusPodivm, 2022. p. 55-67.
DOMINGOS, Pedro. O Algoritmo Mestre: Como a busca de algoritmo de machine learning definitivo recriará nosso mundo. São Paulo: Novatec. 2017.
FERRAJOLI, Luigi. Direito e razão: Teoria do garantismo penal. São Paulo: Editora Revista dos Tribunais, 2002.
FERRARI, Isabela; BECKER, Daniel. Direito à explicação e decisões automatizadas: reflexões sobre o princípio do contraditório. In: NUNES, Dierle; LUCON, Paulo Henrique dos Santos; WOLKART, Erik Navarro (Org.). Inteligência artificial e direito processual. Salvador: JusPodivm, 2022. p. 275-301.
FISHER, Max. A máquina do caos: como as redes sociais reprogramaram nossa mente e nosso mundo. 1a Ed. São Paulo: Todavia, 2023.
GOGONI, Ronaldo. AlphaGo se aposenta no auge; Google vai usar o que aprendeu com IA em outras áreas. 2023. Disponível em: <https://meiobit.com/arquivo/366330/google-alphago-ia-heuristica-derrota-numero-um-de-go-do-mundo-e-se-aposenta-deepmind-vai-utilizar-o-que-aprendeu-em-outros-sistemas-especialistas/>. Acesso em: 06 mar. 2023.
LASSALE, José Maria. Ciberleviatán: El colapso de la democracia liberal frente a revolución digital. Barcelona: Arpa, 2019.
NETO, Elias Jacob de Menezes; BOLZAN DE MORAIS, José Luis. Análises computacionais preditivas como um novo biopoder: modificações do tempo na sociedade dos sensores. Revista Novos Estudos Jurídicos – Eletrônica, v. 24, n. 3, p. 11xx-11xx, set-dez 2018. Disponível em: <https://siaiap32.univali.br/seer/indez.php/nej/article/view/13769/7808>. Acesso em: 9 fev. 2023.
NUNES, Antônio José Avelãs. Estado capitalista e suas máscaras. 3ª Ed. São Paulo: Lumen Juris, 2021.
NUNES, Dierle. Virada Tecnológica no direito processual e etapas do emprego da tecnologia no direito processual: seria possível adaptar o procedimento pela tecnologia. In: NUNES, Dierle; LUCON, Paulo Henrique dos Santos; WOLKART, Erik Navarro (Org.). Inteligência artificial e direito processual. Salvador: JusPodivm, 2022. p. 17-54.
PASQUALE, Frank. The Black Box Society. Cambridge: Harvard University Press, 2015.
PIMENTEL, Alexandre F.; BOLZAN DE MORAIS, José Luis; SALDANHA, Paloma Mendes. Estado de Direito e Tecnopoder. Justiça do Direito, v. 35, n. 3, Set./Dez. 2021, pp. 06-43.
SADIN, Eric. La inteligência artificial o el desafio del siglo: Anatomia de um antihumanismo radical. 1ª ed. Buenos Aires: Caja Negra, 2020.
SÁNCHEZ-ARJONA, Mercedes Loorente. Inteligencia Artificial, valoración del riesgo y derecho al debido processo. In: LÓPEZ, Sonia Calaza; SÁNCHEZ-ARJONA, Mercedes Llorente (org.). Inteligencia artificial legal y administración de justicia. Navarra: Thompson Reuters Aranzadi, 2022, p. 371-396.
SHANNON, Claude E.; WEAVER, Warren. The mathematical theory of communication. Chicago: University of Illinois Press. 1963. E-book.
TAVARES, Juarez; CASARA, Rubens. Prova e Verdade. São Paulo. Tirant lo Blanch, 2020.
TIME. Exclusive: OpenAI Used Kenyan Workers on Less Than $2 Per Hour to Make ChatGPT Less Toxic. 2023. Disponível em: <https://time.com/6247678/openai-chatgpt-kenya-workers/>. Acesso em: 06 mar. 2023.
UOL NOTÍCIAS. Juiz usa ChatGPT para proferir decisão em julgamento na Colômbia. 2023. Disponível em: <https://noticias.uol.com.br/ultimas-noticias/deutschewelle/2023/02/03/juiz-usa-chatgpt-para-proferir-decisao-em-julgamento-na-colombia.htm>. Acesso em: 06 mar. 2023.
WIENER, Norbert. Cibernética e sociedade: o uso humano dos seres humanos. São Paulo: Cultrix, 1954.
ZUBOFF, Shoshana. A era do capitalismo de vigilância: A luta por um futuro humano na nova fronteira de poder. São Paulo: Intrínseca, 2019.
Downloads
Publicado
Como Citar
Edição
Seção
Licença
Na qualidade de autor(es) da colaboração, original e inédita, sobre o qual me(nos) responsabilizo(amos) civil e penalmente pelo seu conteúdo, após ter lido as diretrizes para autores, concordado(amos) plenamente com as Políticas Editorias da Revista Novos Estudos Jurídicos - NEJ e autorizo(amos) a publicação na rede mundial de computadores (Internet), permitindo, também, que sua linguagem possa ser reformulada, caso seja necessário, sem que me(nos) seja devido qualquer pagamento a título de direitos autorais, podendo qualquer interessado acessá-lo e/ou reproduzi-lo mediante download, desde que a reprodução e/ou publicação obedeçam as normas da ABNT e tenham a finalidade exclusiva de uso por quem a consulta a título de divulgação da produção acadêmico científico.
