EL PAPEL DE LOS INFORMES DE EVALUACIÓN DE IMPACTO ALGORÍTMICO EN LA PROMOCIÓN DE SISTEMAS DE IA ÉTICOS POR DISEÑO
DOI:
https://doi.org/10.14210/nej.v30n1.p103-129Palabras clave:
Discriminación, Ética, Inteligencia Artificial, Informe de evaluación de impacto algorítmicoResumen
Contextualización: A pesar de crecer, el grado de concienciación de la sociedad sobre los riesgos y beneficios del uso de sistemas de inteligencia artificial es todavía bajo. En consecuencia, la creación de un modelo regulatorio capaz de promover el equilibrio adecuado entre el fomento de la innovación y la protección de la sociedad requiere el uso de herramientas de actualización que permitan la mejora constante del modelo. El tipo de daño, la velocidad de difusión y el impacto social de los sistemas de IA cuando su uso genera resultados injustos en perjuicio de grupos vulnerables hacen urgente discutir medidas de gestión de riesgos y prevención de controversias.
Objetivos: En este artículo analizamos el papel del reporte de gestión del riesgos y évaluación de impacto para fomentar la adopción de valores de diversidad e inclusión en el diseño de esta tecnología y así prevenir controversias de carácter discriminatorio.
Método: Para la recolección de datos se aplicó el procedimiento de investigación bibliográfico-documental y para la prueba de hipótesis se utilizó el método hipotético-deductivo.
Resultados: A pesar de encontrarse un alto porcentaje de documentos de soft law que directa o indirectamente recomiendan el uso de mecanismos que minimicen los resultados discriminatorios en el uso de sistemas de IA y, entre ellos, el reporte de gestión del riesgos y évaluación de impacto por el uso de dichos sistemas, el estado actual de desarrollo normativo solo permite identificar los factores que podrían favorecer el uso del informe como inductor de un diseño antidiscriminatorio de los sistemas de IA y qué elementos debe contener dicho informe para desempeñar dicho papel.
Descargas
Citas
ALGORITHMWATCH. AI Ethics Guidelines Global Inventory. Berlin: AlgorithmWatch, 2019. Disponível em: https://algorithmwatch.org/en/ai-ethics-guidelines-global-inventory/. Acesso em: 10 jul. 2023.
ANPD - AUTORIDADE NACIONAL DE PROTEÇÃO DE DADOS. ANPD divulga cronograma completo de reuniões técnicas sobre relatório de impacto à proteção dos dados pessoais. Brasília, DF: ANPD, 17 jun. 2021. Disponível em: https://www.gov.br/anpd/pt-br/assuntos/noticias/anpd-divulga-cronograma-completo-de-reunioes-tecnicas-sobre-relatorio-de-impacto-a-protecao-dos-dados-pessoais. Acesso em: 10 jul. 2023.
BRASIL. Lei nº 6.938, de 31 de agosto de 1981. Dispõe sobre a Política Nacional do Meio Ambiente, seus fins e mecanismos de formulação e aplicação, e dá outras providências. Diário Oficial da União: seção 1, Brasília, DF, 2 set. 1981. Disponível em: https://www.planalto.gov.br/ccivil_03/leis/l6938.htm. Acesso em: 10 jul. 2023.
BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Dispõe sobre a proteção de dados pessoais e altera a Lei nº 12.965, de 23 de abril de 2014 (Marco Civil da Internet). Diário Oficial da União: seção 1, Brasília, DF, 15 ago. 2018. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Acesso em: 10 jul. 2023.
BRASIL. Projeto de Lei nº 21, de 2020. Estabelece fundamentos, princípios e diretrizes para o desenvolvimento e a aplicação da inteligência artificial no Brasil; e dá outras providências. Autor: Deputado Eduardo Bismarck (PDT/CE). Apresentado em 4 fev. 2020. Arquivado em 10 dez. 2024. Disponível em: https://www.camara.leg.br/proposicoesWeb/fichadetramitacao?idProposicao=2236340. Acesso em: 10 jul. 2023.
BRASIL. Ministério da Ciência, Tecnologia e Inovação. Estratégia Brasileira de Inteligência Artificial. Portaria MCTIn º 4.617 de 6 de abril de 2021 alterada pela portaria MCTI nº 4.979 de 13 de julho de 2021. Disponível em: https://www.gov.br/mcti/pt-br/acompanhe-o-mcti/transformacaodigital/inteligencia-artificial. Acesso em: 10 jul. 2023.
BRASIL. Senado Federal. Relatório final da Comissão de Juristas responsável por subsidiar a elaboração de substitutivo sobre inteligência artificial no Brasil. Brasília, DF: Senado Federal, 2022. Disponível em: https://www.stj.jus.br/sites/portalp/SiteAssets/documentos/noticias/Relato%CC%81rio%20final%20CJSUBIA.pdf. Acesso em: 10 jul. 2023.
BUOLAMWINI, Joy; GEBRU, Timnit. Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. In: FRIEDLER, Sorelle A.; WILSON, Christo (ed.). Proceedings of the 1st Conference on Fairness, Accountability and Transparency. NY, USA: PMLR, 2018. v. 81, p. 77–91. Disponível em: https://proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf. Acesso em: 10 jul. 2023.
CAPPRA INSTITUTE FOR DATA SCIENCE. Ética na IA: como desenvolver um sistema ético para Inteligência Artificial. Miami: Cappra Institute, 2021. disponível em: https://www.cappra.institute/s/Etica_IA_PT.pdf. Acesso em: 10 jul. 2023.
CONSELHO NACIONAL DO MEIO AMBIENTE (CONAMA). Resolução CONAMA nº 001, de 23 de janeiro de 1986. Dispõe sobre critérios básicos e diretrizes gerais para a avaliação de impacto ambiental. Diário Oficial da União: seção 1, Brasília, DF, 17 fev. 1986. Disponível em: https://www.ibama.gov.br/sophia/cnia/legislacao/MMA/RE0001-230186.PDF. Acesso em: 10 jul. 2023,
DE SPIEGELEIRE, Stephan; MASS, Matthijs; SWEIJS, TIM. Artificial Intelligence and the future of defense. Haia: Hague Center for Strategic Studies, 2017. Disponível; https://www.jstor.org/stable/resrep12564.7?seq=3#metadata_info_tab_contents. Acesso em: 10 jul. 2023.
DOBRIN, Seth; MONTGOMERY, Christina. Principles and Practices for Building More Trustworthy AI. IBM Newsroom, 2021. Disponível em: https://newsroom.ibm.com/Principles-and-Practices-for-Building-More-Trustworthy-AI. Acesso em: 10 jul. 2023.
EUROPEAN COMMISSION. Proposal for a Regulation of the European Parliament and of the Council laying down harmonised rules on artificial intelligence (Artificial Intelligence Act) and amending certain Union legislative acts. COM(2021) 206 final. Brussels, 21 Apr. 2021. Disponível em: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=celex:52021PC0206. Acesso em: 10 jul. 2023.
EUROPEAN COMMISSION. Better regulation. Brussels: European Commission, 2023. Disponível em: https://commission.europa.eu/law/law-making-process/planning-and-proposing-law/better-regulation_en. Acesso em: 10 jul. 2023.
FJELD, J.; Achten, et al. Principled Artificial Intelligence: Mapping Consensus in Ethical and Rights-Based Approaches to Principles for AI. Cambridge, MA: Berkman Klein Center Research Publication, 2020. Disponível em: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3518482. Acesso em: 10 jul. 2023.
FLORIDI, Luciano. Establishing the rules for building trustworthy AI, 2019. Nature Machine Intelligence, v. 1, p. 261-262, Jun. 2019. Disponível em: https://philarchive.org/rec/FLOETR. Acesso em: 10 jul. 2023.
GUNNINGHAM, N; SINCLAIR, D. Designing smart regulation. OECD Global Forum on Sustainable Development, 2004. Disponível em: https://www.oecd.org/env/outreach/33947759.pdf. Acesso em: 10 jul. 2023.
HAO, Karen. This is how AI bias really happens - and why it’s so hard to fix. MIT Technology Review, feb. 2019. Disponível em: https://www.technologyreview.com/2019/02/04/137602/this-is-how-ai-bias-really-happensand-why-its-so-hard-to-fix/. Acesso em: 10 jul. 2023.
LEHR, David; OHLM, Paul. Playing with data: What legal scholars should learn about machine learning. UCDL Review, v. 51, p. 653-717, dec. 2017. Disponível em: https://lawreview.law.ucdavis.edu/issues/51/2/Symposium/51-2_Lehr_Ohm.pdf. Acesso em: 10 jul. 2023.
LIAO, S. Matthew. Ethics of Artificial Intelligence. New York: Oxford University Press, 2000.
GUTIERREZ, Carlos Ignacio; MARCHANT, Gary. Soft law 2.0: Incorporating incentives and implementation mechanisms into the governance of artificial intelligence. OECD.AI, 2019. Disponível em: https://oecd.ai/en/wonk/soft-law-2-0. Acesso em: 10 jul. 2023.
OEA - ORGANIZAÇÃO DOS ESTADOS AMERICANOS. Convenção Interamericana contra Toda Forma de Discriminação e Intolerância. Aprovada na segunda sessão plenária da Assembleia Geral, realizada em 5 de junho de 2013. Antígua, Guatemala: OEA, 2013. Disponível em: https://www.oas.org/pt/cidh/mandato/basicos/discriminacioneintolerancia.pdf. Acesso em: 10 jul. 2023.
OECD - ORGANISATION FOR ECONOMIC CO-OPERATION AND DEVELOPMENT. OECD Regulatory Policy Outlook 2021. Paris: OECD Publishing, 2021. Disponível em: https://www.oecd.org/en/publications/oecd-regulatory-policy-outlook-2021_38b0fdb1-en.html. Acesso em: 30 maio 2025.
OCDE - ORGANIZAÇÃO PARA A COOPERAÇÃO E DESENVOLVIMENTO ECONÔMICO. Recommendation of the Council for Agile Regulatory Governance to Harness Innovation (OECD/LEGAL/0464). Paris: ODCE, 2021.
OCDE - ORGANIZAÇÃO PARA A COOPERAÇÃO E DESENVOLVIMENTO ECONÔMICO. Recommendation of the Council on Artificial Intelligence (OECD/LEGAL/0449). Paris: ODCE, 2019.
PICHAI, Sundar. AI at Google: our principles. Google, jun. 2018. Disponível em: https://www.blog.google/technology/ai/ai-principles/. Acesso em: 10 jul. 2023.
RUSSEL, Stuart; NORVIG, Peter. Artificial Intelligence: a modern approach. 2 ed. New Jersey: Pearson Education, 2010.
SCHWAB, Klaus. A quarta revolução industrial. São Paulo: Edipro, 2018.
SELBST, Andrew D. Et Al. Fairness and Abstraction in Sociotechnical Systems. In: FAT* '19: Proceedings of the Conference on Fairness, Accountability, and Transparency. New York: Association for Computing Machinery, 2019. p. 59–68. Disponível em: https://dl.acm.org/doi/10.1145/3287560.3287598. Acesso em: 10 jul. 2023.
UNCTAD - UNITED NATIONS CONFERENCE ON TRADE AND DEVELOPMENT. Technology and Innovation Report 2021: Catching technological waves – Innovation with equity. Geneva: UNCTAD, 2021. Disponível em: https://unctad.org/system/files/official-document/tir2020_en.pdf. Acesso em: 10 jul. 2023.
UNESCO - ORGANIZAÇÃO DAS NAÇÕES UNIDAS PARA A EDUCAÇÃO, A CIÊNCIA E A CULTURA. Recommendation on the Ethics of Artificial Intelligence. Paris: UNESCO, 2021. Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000381137_eng. Acesso em: 10 jul. 2023.
WEF - WORLD ECONOMIC FORUM. Agile Regulation for the Fourth Industrial Revolution: a Toolkit for Regulators. Geneva: World Economic Forum, 2020. Disponível em: https://www.weforum.org/about/agile-regulation-for-the-fourth-industrial-revolution-a-toolkit-for-regulators/. Acesso em: 03 jul. 2023.
WEF - WORLD ECONOMIC FORUM. Agile Governance: Reimagining Policy-making in the Fourth Industrial Revolution. Geneva: World Economic Forum, 2018. Disponível em: https://encurtador.com.br/UZVug. Acesso em: 03 jul. 2023.
YEUNG, Karen. ‘Hypernudge’: Big Data as a mode of regulation by design. Information Communication and Society, v. 20, p. 118-136, May. 2016. Disponível em: https://www.tandfonline.com/doi/full/10.1080/1369118X.2016.1186713. Acesso em: 03 jul. 2023.
Descargas
Publicado
Cómo citar
Número
Sección
Licencia
Na qualidade de autor(es) da colaboração, original e inédita, sobre o qual me(nos) responsabilizo(amos) civil e penalmente pelo seu conteúdo, após ter lido as diretrizes para autores, concordado(amos) plenamente com as Políticas Editorias da Revista Novos Estudos Jurídicos - NEJ e autorizo(amos) a publicação na rede mundial de computadores (Internet), permitindo, também, que sua linguagem possa ser reformulada, caso seja necessário, sem que me(nos) seja devido qualquer pagamento a título de direitos autorais, podendo qualquer interessado acessá-lo e/ou reproduzi-lo mediante download, desde que a reprodução e/ou publicação obedeçam as normas da ABNT e tenham a finalidade exclusiva de uso por quem a consulta a título de divulgação da produção acadêmico científico.
