LEI GERAL DE PROTEÇÃO DE DADOS E A REVISÃO DE DECISÕES AUTOMATIZADAS: OS MECANISMOS DE REGULAÇÃO BASEADOS EM UMA INTELIGÊNCIA ARTIFICIAL ÉTICA

Cesar Augusto Moacyr  Rutowitsch Beck; Murilo Manzoni Boff; Thami Covatti Piaia

doi:10.14210/rdp.v17n2.p509-546

Autores/as

Cesar Augusto Moacyr Rutowitsch Beck UNIJUÍ https://orcid.org/0000-0002-8625-6503
Murilo Manzoni Boff ITS/RIO e UNIJUÍ https://orcid.org/0000-0002-7715-3916
Thami Covatti Piaia URI - Campus Santo Ângelo https://orcid.org/0000-0001-7123-0186

DOI:

https://doi.org/10.14210/rdp.v17n2.p509-546

Palabras clave:

Ley General de Protección de Datos. Sistemas automatizados de toma de decisiones. Junta de Vigilancia. Regulación en Inteligencia Artificial.

Resumen

Contexto: Este artículo analiza cómo la disposición de la LGPD puede ser una prerrogativa de regulación en inteligencia artificial, a través de mecanismos de rendición de cuentas que incluyen auditorías basadas en la ética, Consejo de Supervisión y autorregulación sectorial, luego de una evaluación de riesgos para definir el alcance de la empresa y la naturaleza del tratamiento de los datos.

Objetivos: Este artículo tiene como objetivo general analizar las propuestas de regulación sobre los sistemas de decisión automatizados, con base en la regulación prevista en la Ley General de Protección de Datos (LGPD) para las solicitudes de revisión de decisiones automatizadas. Los sistemas de inteligencia artificial tienen capas de opacidad, especialmente aquellos que toman decisiones sin interferencia humana. En algunos sistemas, no es posible proporcionar una precisión absoluta sobre las rutas que toma el algoritmo para una decisión determinada. La LGPD preveía la posibilidad de que el interesado pueda solicitar el derecho a una explicación de estas decisiones totalmente automatizadas.

Metodología: Consiste en una investigación cuya metodología adoptada es la revisión bibliográfica basada en el método deductivo.

Descargas

Los datos de descargas todavía no están disponibles.

Biografía del autor/a

Cesar Augusto Moacyr Rutowitsch Beck, UNIJUÍ

Mestre em Direito pela Universidade Regional do Noroeste do Estado do Rio Grande do Sul - UNIJUÍ (2021). Pós-graduando em MBA - Data Science & Analytics (USP/ESALQ). Pesquisador e integrante do Grupo de Pesquisa do Grupo de Pesquisa em Governança de Inteligência Artificial & Ética, pelo Instituto de Estudos Jurídicos Aplicados (IEJA). Pós-Graduado lato sensu em Direito Digital pelo ITS Rio/UERJ (2022). Advogado.

Murilo Manzoni Boff, ITS/RIO e UNIJUÍ

Mestre em Direito do Programa de Pós-Graduação Stricto Sensu em Direito - Mestrado e Doutorado em Direitos Humanos - da Universidade Regional do Noroeste do Estado do Rio Grande do Sul (UNIJUÍ), com bolsa da Coordenação de Aperfeiçoamento de Pessoal de Nível Superior (PROSUC/CAPES). Bacharel em Direito pela Universidade Integrada do Alto Uruguai e das Missões (URI) - Campus Santo Ângelo (2018). Membro do Grupo de Pesquisa CNPq "Direito Humanos, Governança e Democracia". PósGraduando em Direito Digital pelo ITS Rio/UERJ e Direito do Trabalho, Processo do Trabalho e Direito Previdenciário pela Faculdade UNINA.

Thami Covatti Piaia, URI - Campus Santo Ângelo

Doutora em Direito pela Universidade Federal do Rio Grande do Sul – UFRGS (2013). Visiting Scholar na Universidade de Illinois – Campus de Urbana-Champaign – EUA (2012). Estágio pós-doutoral na Universidade de Passo Fundo (2014/2015). Professora na Graduação e no Programa de Pós-Graduação Stricto Sensu – Mestrado e Doutorado em Direito da Universidade Regional Integrada do Alto Uruguai e das Missões – URI -, Campus de Santo Ângelo/RS. Coordenadora do projeto de pesquisa "A rede e o ser: a proteção da cidadania do ser na rede". Pesquisadora na FADISP. Advogada e consultora.

Citas

BIONI, B. Proteção de dados pessoais: a função e os limites do consentimento. Rio de Janeiro: Forense, 2019.

BIONI, B.; LUCIANO, M. O princípio da precaução na regulação de Inteligência Artificial: seriam as leis de proteção de dados o seu portal de entrada? In: FRAZÃO, A.; MULHOLLAND, C. (coords.) Inteligência artificial e direito: ética, regulação e responsabilidade. [livro eletrônico] 2ª ed, rev, São Paulo: Thomson Reuters Brasil, 2020.

BRASIL. Lei nº 13.709, de agosto de 2018. Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/L13709.htm Acesso em: 03 maio 2022.

BROWN, S.; DAVIDOVIC, J.; HASAN, A. The algorithm audit: Scoring the algorithms that score us. Big Data & Society, v. 8, n. 1, p. 205395172098386, jan. 2021. Disponível em: https://doi.org/10.1177/2053951720983865. Acesso em: 3 set 2022. DOI: https://doi.org/10.1177/2053951720983865

BURRELL, J. How the machine ‘thinks’: Understanding opacity in machine learning algorithms. Big Data & Society, v. 3, n. 1, p. 205395171562251, 5 jan. 2016. Disponível em: https://doi.org/10.1177/2053951715622512. Acesso em: 3 maio 2022. DOI: https://doi.org/10.1177/2053951715622512

CAMPISI, N. From Inherent Racial Bias to Inocrrect Data - The Problema With Current Credit Scoring Models. Forbes, 26 fev 2021. Disponível em: https://www.forbes.com/advisor/credit-cards/from-inherent-racial-bias-to-incorrect-data-the-problems-with-current-credit-scoring-models/ Acesso em: 03 set 2022.

DONEDA, D. Da privacidade à proteção de dados pessoais: elementos da formação da Lei Geral de Proteção de Dados. [livro eletrônico] 2ª ed, São Paulo: Thomson Reuters Brasil, 2020.

FLORIDI, L; COWLS, J. A Unified Framework of Five Principles for AI in Society. Issue 1, 23 jun. 2019. Disponível em: https://doi.org/10.1162/99608f92.8cd550d1. Acesso em: 3 maio 2022. DOI: https://doi.org/10.1162/99608f92.8cd550d1

FLORIDI, L.; TADDEO, M. What is data ethics? Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences, v. 374, n. 2083, p. 20160360, 28 dez. 2016. Disponível em: https://doi.org/10.1098/rsta.2016.0360. Acesso em: 3 set 2022. DOI: https://doi.org/10.1098/rsta.2016.0360

FRAZÃO, A. Decisões algorítmicas e direito à explicação. Jota, 24 nov. 2021. Disponível em: https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/decisoes-algoritmicas-e-direito-a-explicacao-24112021 Acesso em: 28 ago 2022.

GUTIERREZ, A. É possível confiar em um sistema de Inteligência Artificial? Práticas em torno da melhoria da sua confiança, segurança e evidências de Accountability. In: FRAZÃO, A.; MULHOLLAND, C. (coords.) Inteligência artificial e direito: ética, regulação e responsabilidade. [livro eletrônico] 2ª ed, rev, São Paulo: Thomson Reuters Brasil, 2020.

HARTMANN, I.A. et al. Policy Paper Regulação de Inteligência Artificial no Brasil. FGV Direito Rio, 2020. Disponível em: https://bibliotecadigital.fgv.br/dspace/bitstream/handle/10438/30078/PolicyPaperIAeGoverno.pdf?sequence=1&isAllowed=y Acesso em 03 set. 2022.

LEMOS, R. O Oversight Board do Facebook. ITS Rio, 12 mai 2020. Disponível em: https://itsrio.org/pt/artigos/o-oversight-board-do-facebook/ Acesso em: 03 set 2022.

LESSIG, L. Code version 2.0. New York: Basic Books, 2006.

MÖKANDER, J. et al. Ethics-Based Auditing of Automated Decision-Making Systems: Nature, Scope, and Limitations. Science and Engineering Ethics, v. 27, n. 4, 6 jul. 2021. Disponível em: https://doi.org/10.1007/s11948-021-00319-4. Acesso em: 3 set 2022. DOI: https://doi.org/10.1007/s11948-021-00319-4

MÖKANDER, J.; FLORIDI, L. Ethics-Based Auditing to Develop Trustworthy AI. Minds and Machines, v. 31, n. 2, p. 323-327, 19 fev. 2021. Disponível em: https://doi.org/10.1007/s11023-021-09557-8. Acesso em: 3 set 2022. DOI: https://doi.org/10.1007/s11023-021-09557-8

MORLEY, J et al. Operationalising AI ethics: barriers, enablers and next steps. AI & SOCIETY, 15 nov. 2021. Disponível em: https://doi.org/10.1007/s00146-021-01308-8. Acesso em: 3 set 2022. DOI: https://doi.org/10.1007/s00146-021-01308-8

PASQUALE, Frank. Black box society: The secret algorithms that control money and information. [S. l.: s. n.], 2016. 311 p. ISBN 9780674970847. DOI: https://doi.org/10.4159/harvard.9780674736061

RAJI, I.D. et al. Closing the AI accountability gap. In: FAT* '20: CONFERENCE ON

FAIRNESS, ACCOUNTABILITY, AND TRANSPARENCY, Barcelona Spain. FAT* '20: Conference on Fairness, Accountability, and Transparency. New York, NY, USA: ACM, 2020. Disponível em: https://doi.org/10.1145/3351095.3372873. Acesso em: 3 set 2022. DOI: https://doi.org/10.1145/3351095.3372873

SCHERER, M.U. Regulating Artificial Intelligence Systems: Risks, Challenges, Competencies, and Strategies. Harvard Jounal of Law & Technlogy, v. 29, n. 2, Spring 2016. DOI: https://doi.org/10.2139/ssrn.2609777

VEGA, I.S. Inteligência artificial e tomada de decisão - a necessidade de agentes externos. In: FRAZÃO, A.; MULHOLLAND, C. (coords.) Inteligência artificial e direito: ética, regulação e responsabilidade. [livro eletrônico] 2ª ed, rev, São Paulo: Thomson Reuters Brasil, 2020.

WORLD ECONOMIC FORUM. AI Governance A holistic Approach to Implement Ethics into AI. Switzerland, 2019. Disponível em: https://weforum.my.salesforce.com/sfc/p/#b0000000GycE/a/0X000000cPl1/i.8ZWL2HIR_kAnvckyqVA.nVVgrWIS4LCM1ueGy.gBc Acesso em: 02 set. 2022.