INTELIGENCIA ARTIFICIAL EN DECISIONES JUDICIALES: OPACIDAD VERSUS GARANTIAS PROCESALES
DOI:
https://doi.org/10.14210/nej.v28n3.p516-535Palabras clave:
Inteligencia Artificial, Garantías Constitucionales, OpacidadResumen
Contextualización: El texto propone, como temática, un análisis crítico del uso de la inteligencia artificial en el proceso de toma de decisiones judiciales.
Objetivo: Se busca llevar a cabo un examen de cómo el uso de las nuevas tecnologías impacta en la realización de un proceso con garantías.
Método: Para el desarrollo del trabajo, se utilizó el método dialéctico, correlacionando la bibliografía sobre el tema, con el fin de entender cómo el uso de la inteligencia artificial puede ser beneficioso o perjudicial para las garantías constitucionales en este campo. También se investigan los problemas que se enfrentan al usar la lógica algorítmica para respaldar la decisión sobre hechos humanos, como la opacidad de los sistemas y la posibilidad o la falta de ella para cuestionar efectivamente las razones de las decisiones hechas por máquinas. Finalmente, se discute la necesidad de una regulación y normatividad que guíe el proceso tecnológico para reafirmar las garantías procesales logradas.
Resultados: Se concluyó que mientras los programas de inteligencia artificial no tengan un alto grado de transparencia y explicabilidad, no será posible su utilización para respaldar o tomar decisiones judiciales.
Citas
ANGWIN, Julia; MATTU, Surya; KIRCHNER, Lauren. Machine Bias. Disponível em https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing. Acesso em: 21 ago. 2023. DOI: https://doi.org/10.1201/9781003278290-37
BBC NEWS BRASIL. Sistema de algoritmo que determina pena de condenados cria polêmica nos EUA. 2023. Disponível em: <https://www.bbc.com/portuguese/brasil-37677421>. Acesso em: 06 mar. 2023.
BOLDT, Raphael. Criminologia midiática: Do discurso punitivo à corrosão simbólica do garantismo. Curitiba: Juruá, 2013.
BOLZAN DE MORAIS, José Luis; LOBO, Edilene. A democracia corrompida pela surveillance ou uma fake democracy distópica. In: BOLZAN DE MORAIS, José Luís (Org.). A democracia sequestrada. São Paulo: Tirant Lo Blanch, 2019. p. 27-42.
BOLZAN DE MORAIS, José Luis; BARROS, Flaviane de Magalhães. Compartilhamento de dados e devido processo: como o uso da inteligência artificial pode implicar em uma verdade aleteica. In: NUNES, Dierle; LUCON, Paulo Henrique dos Santos; WOLKART, Erik Navarro (Org.). Inteligência artificial e direito processual. Salvador: JusPodivm, 2022. p. 341-365.
BRASIL, Conselho Nacional de Justiça. Resolução nº 332 de 21 de agosto de 2020. Dispõe sobre a ética, a transparência e a governança na produção e no uso de inteligência Artificial no Poder Judiciário e dá outras providências. 2020. Disponível em: <https://atos.cnj.jus.br/atos/detalhar/3429>. Acesso em: 28 jun. 2023.
BUCCI, Eugenio. Incerteza, um ensaio: Como pensamos a ideia que no desorienta (e orienta o mundo digital). Belo Horizonte: Autêntica. 2023.
CONFESSORE, Nicholas. Cambridge Analytica. 2023. Disponível em: <https://www.nytimes.com/2018/04/04/us/politics/cambridge-analytica-scandal-fallout.html>. Acesso em: 28 jun. 2023.
CUEVA, Ricardo Villas Bôas. Inteligência artificial no judiciário. In: NUNES, Dierle; LUCON, Paulo Henrique dos Santos; WOLKART, Erik Navarro (Org.). Inteligência artificial e direito processual. Salvador: JusPodivm, 2022. p. 55-67.
DOMINGOS, Pedro. O Algoritmo Mestre: Como a busca de algoritmo de machine learning definitivo recriará nosso mundo. São Paulo: Novatec. 2017.
FERRAJOLI, Luigi. Direito e razão: Teoria do garantismo penal. São Paulo: Editora Revista dos Tribunais, 2002.
FERRARI, Isabela; BECKER, Daniel. Direito à explicação e decisões automatizadas: reflexões sobre o princípio do contraditório. In: NUNES, Dierle; LUCON, Paulo Henrique dos Santos; WOLKART, Erik Navarro (Org.). Inteligência artificial e direito processual. Salvador: JusPodivm, 2022. p. 275-301.
FISHER, Max. A máquina do caos: como as redes sociais reprogramaram nossa mente e nosso mundo. 1a Ed. São Paulo: Todavia, 2023.
GOGONI, Ronaldo. AlphaGo se aposenta no auge; Google vai usar o que aprendeu com IA em outras áreas. 2023. Disponível em: <https://meiobit.com/arquivo/366330/google-alphago-ia-heuristica-derrota-numero-um-de-go-do-mundo-e-se-aposenta-deepmind-vai-utilizar-o-que-aprendeu-em-outros-sistemas-especialistas/>. Acesso em: 06 mar. 2023.
LASSALE, José Maria. Ciberleviatán: El colapso de la democracia liberal frente a revolución digital. Barcelona: Arpa, 2019.
NETO, Elias Jacob de Menezes; BOLZAN DE MORAIS, José Luis. Análises computacionais preditivas como um novo biopoder: modificações do tempo na sociedade dos sensores. Revista Novos Estudos Jurídicos – Eletrônica, v. 24, n. 3, p. 11xx-11xx, set-dez 2018. Disponível em: <https://siaiap32.univali.br/seer/indez.php/nej/article/view/13769/7808>. Acesso em: 9 fev. 2023.
NUNES, Antônio José Avelãs. Estado capitalista e suas máscaras. 3ª Ed. São Paulo: Lumen Juris, 2021.
NUNES, Dierle. Virada Tecnológica no direito processual e etapas do emprego da tecnologia no direito processual: seria possível adaptar o procedimento pela tecnologia. In: NUNES, Dierle; LUCON, Paulo Henrique dos Santos; WOLKART, Erik Navarro (Org.). Inteligência artificial e direito processual. Salvador: JusPodivm, 2022. p. 17-54.
PASQUALE, Frank. The Black Box Society. Cambridge: Harvard University Press, 2015. DOI: https://doi.org/10.4159/harvard.9780674736061
PIMENTEL, Alexandre F.; BOLZAN DE MORAIS, José Luis; SALDANHA, Paloma Mendes. Estado de Direito e Tecnopoder. Justiça do Direito, v. 35, n. 3, Set./Dez. 2021, pp. 06-43. DOI: https://doi.org/10.5335/rjd.v35i3.13241
SADIN, Eric. La inteligência artificial o el desafio del siglo: Anatomia de um antihumanismo radical. 1ª ed. Buenos Aires: Caja Negra, 2020.
SÁNCHEZ-ARJONA, Mercedes Loorente. Inteligencia Artificial, valoración del riesgo y derecho al debido processo. In: LÓPEZ, Sonia Calaza; SÁNCHEZ-ARJONA, Mercedes Llorente (org.). Inteligencia artificial legal y administración de justicia. Navarra: Thompson Reuters Aranzadi, 2022, p. 371-396.
SHANNON, Claude E.; WEAVER, Warren. The mathematical theory of communication. Chicago: University of Illinois Press. 1963. E-book.
TAVARES, Juarez; CASARA, Rubens. Prova e Verdade. São Paulo. Tirant lo Blanch, 2020.
TIME. Exclusive: OpenAI Used Kenyan Workers on Less Than $2 Per Hour to Make ChatGPT Less Toxic. 2023. Disponível em: <https://time.com/6247678/openai-chatgpt-kenya-workers/>. Acesso em: 06 mar. 2023.
UOL NOTÍCIAS. Juiz usa ChatGPT para proferir decisão em julgamento na Colômbia. 2023. Disponível em: <https://noticias.uol.com.br/ultimas-noticias/deutschewelle/2023/02/03/juiz-usa-chatgpt-para-proferir-decisao-em-julgamento-na-colombia.htm>. Acesso em: 06 mar. 2023.
WIENER, Norbert. Cibernética e sociedade: o uso humano dos seres humanos. São Paulo: Cultrix, 1954.
ZUBOFF, Shoshana. A era do capitalismo de vigilância: A luta por um futuro humano na nova fronteira de poder. São Paulo: Intrínseca, 2019.
Descargas
Publicado
Cómo citar
Número
Sección
Licencia
Na qualidade de autor(es) da colaboração, original e inédita, sobre o qual me(nos) responsabilizo(amos) civil e penalmente pelo seu conteúdo, após ter lido as diretrizes para autores, concordado(amos) plenamente com as Políticas Editorias da Revista Novos Estudos Jurídicos - NEJ e autorizo(amos) a publicação na rede mundial de computadores (Internet), permitindo, também, que sua linguagem possa ser reformulada, caso seja necessário, sem que me(nos) seja devido qualquer pagamento a título de direitos autorais, podendo qualquer interessado acessá-lo e/ou reproduzi-lo mediante download, desde que a reprodução e/ou publicação obedeçam as normas da ABNT e tenham a finalidade exclusiva de uso por quem a consulta a título de divulgação da produção acadêmico científico.
