THE ROLE OF ALGORITHMIC IMPACT ASSESSMENT REPORTING IN PROMOTING ETHICAL AI SYSTEMS BY DESIGN
DOI:
https://doi.org/10.14210/nej.v30n1.p103-129Keywords:
Discrimination, Ethics, Artificial intelligence, Algorithmic Impact Assessment ReportAbstract
Contextualization: Despite the growing awareness in society about the risks and benefits of using artificial intelligence systems, the level of understanding about it is still low. Therefore, the creation of a regulatory model capable of promoting the appropriate balance between encouraging innovation and protecting society requires update tools that allow constant improvement of the model. The type of harm, the speed of dissemination and the social impact caused by unfair AI systems against vulnerable groups make it urgent to discuss risk management and conflict prevention measures.
Objectives: In this article, we analyze the role of risk and impact assessment in fostering the adoption of diversity and inclusion values in the design of this technology and, thus, preventing conflicts of a discriminatory nature.
Method: In this article we applied the bibliographical-documentary research procedure for data collection, and we used the hypothetical-deductive method to test the hypothesis.
Results: Although we verified the existence of a high percentage of soft law documents that directly or indirectly recommend the use of mechanisms that minimize discriminatory results in the use of AI systems, and, among them, the risk and impact assessment report, the current stage of normative development only makes it possible to identify factors that may act in favor of the use of this report as an inducer of an anti-discriminatory design of AI systems and which kind of data this report should contain to play such a role.
Downloads
References
ALGORITHMWATCH. AI Ethics Guidelines Global Inventory. Berlin: AlgorithmWatch, 2019. Disponível em: https://algorithmwatch.org/en/ai-ethics-guidelines-global-inventory/. Acesso em: 10 jul. 2023.
ANPD - AUTORIDADE NACIONAL DE PROTEÇÃO DE DADOS. ANPD divulga cronograma completo de reuniões técnicas sobre relatório de impacto à proteção dos dados pessoais. Brasília, DF: ANPD, 17 jun. 2021. Disponível em: https://www.gov.br/anpd/pt-br/assuntos/noticias/anpd-divulga-cronograma-completo-de-reunioes-tecnicas-sobre-relatorio-de-impacto-a-protecao-dos-dados-pessoais. Acesso em: 10 jul. 2023.
BRASIL. Lei nº 6.938, de 31 de agosto de 1981. Dispõe sobre a Política Nacional do Meio Ambiente, seus fins e mecanismos de formulação e aplicação, e dá outras providências. Diário Oficial da União: seção 1, Brasília, DF, 2 set. 1981. Disponível em: https://www.planalto.gov.br/ccivil_03/leis/l6938.htm. Acesso em: 10 jul. 2023.
BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Dispõe sobre a proteção de dados pessoais e altera a Lei nº 12.965, de 23 de abril de 2014 (Marco Civil da Internet). Diário Oficial da União: seção 1, Brasília, DF, 15 ago. 2018. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Acesso em: 10 jul. 2023.
BRASIL. Projeto de Lei nº 21, de 2020. Estabelece fundamentos, princípios e diretrizes para o desenvolvimento e a aplicação da inteligência artificial no Brasil; e dá outras providências. Autor: Deputado Eduardo Bismarck (PDT/CE). Apresentado em 4 fev. 2020. Arquivado em 10 dez. 2024. Disponível em: https://www.camara.leg.br/proposicoesWeb/fichadetramitacao?idProposicao=2236340. Acesso em: 10 jul. 2023.
BRASIL. Ministério da Ciência, Tecnologia e Inovação. Estratégia Brasileira de Inteligência Artificial. Portaria MCTIn º 4.617 de 6 de abril de 2021 alterada pela portaria MCTI nº 4.979 de 13 de julho de 2021. Disponível em: https://www.gov.br/mcti/pt-br/acompanhe-o-mcti/transformacaodigital/inteligencia-artificial. Acesso em: 10 jul. 2023.
BRASIL. Senado Federal. Relatório final da Comissão de Juristas responsável por subsidiar a elaboração de substitutivo sobre inteligência artificial no Brasil. Brasília, DF: Senado Federal, 2022. Disponível em: https://www.stj.jus.br/sites/portalp/SiteAssets/documentos/noticias/Relato%CC%81rio%20final%20CJSUBIA.pdf. Acesso em: 10 jul. 2023.
BUOLAMWINI, Joy; GEBRU, Timnit. Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. In: FRIEDLER, Sorelle A.; WILSON, Christo (ed.). Proceedings of the 1st Conference on Fairness, Accountability and Transparency. NY, USA: PMLR, 2018. v. 81, p. 77–91. Disponível em: https://proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf. Acesso em: 10 jul. 2023.
CAPPRA INSTITUTE FOR DATA SCIENCE. Ética na IA: como desenvolver um sistema ético para Inteligência Artificial. Miami: Cappra Institute, 2021. disponível em: https://www.cappra.institute/s/Etica_IA_PT.pdf. Acesso em: 10 jul. 2023.
CONSELHO NACIONAL DO MEIO AMBIENTE (CONAMA). Resolução CONAMA nº 001, de 23 de janeiro de 1986. Dispõe sobre critérios básicos e diretrizes gerais para a avaliação de impacto ambiental. Diário Oficial da União: seção 1, Brasília, DF, 17 fev. 1986. Disponível em: https://www.ibama.gov.br/sophia/cnia/legislacao/MMA/RE0001-230186.PDF. Acesso em: 10 jul. 2023,
DE SPIEGELEIRE, Stephan; MASS, Matthijs; SWEIJS, TIM. Artificial Intelligence and the future of defense. Haia: Hague Center for Strategic Studies, 2017. Disponível; https://www.jstor.org/stable/resrep12564.7?seq=3#metadata_info_tab_contents. Acesso em: 10 jul. 2023.
DOBRIN, Seth; MONTGOMERY, Christina. Principles and Practices for Building More Trustworthy AI. IBM Newsroom, 2021. Disponível em: https://newsroom.ibm.com/Principles-and-Practices-for-Building-More-Trustworthy-AI. Acesso em: 10 jul. 2023.
EUROPEAN COMMISSION. Proposal for a Regulation of the European Parliament and of the Council laying down harmonised rules on artificial intelligence (Artificial Intelligence Act) and amending certain Union legislative acts. COM(2021) 206 final. Brussels, 21 Apr. 2021. Disponível em: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=celex:52021PC0206. Acesso em: 10 jul. 2023.
EUROPEAN COMMISSION. Better regulation. Brussels: European Commission, 2023. Disponível em: https://commission.europa.eu/law/law-making-process/planning-and-proposing-law/better-regulation_en. Acesso em: 10 jul. 2023.
FJELD, J.; Achten, et al. Principled Artificial Intelligence: Mapping Consensus in Ethical and Rights-Based Approaches to Principles for AI. Cambridge, MA: Berkman Klein Center Research Publication, 2020. Disponível em: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3518482. Acesso em: 10 jul. 2023.
FLORIDI, Luciano. Establishing the rules for building trustworthy AI, 2019. Nature Machine Intelligence, v. 1, p. 261-262, Jun. 2019. Disponível em: https://philarchive.org/rec/FLOETR. Acesso em: 10 jul. 2023.
GUNNINGHAM, N; SINCLAIR, D. Designing smart regulation. OECD Global Forum on Sustainable Development, 2004. Disponível em: https://www.oecd.org/env/outreach/33947759.pdf. Acesso em: 10 jul. 2023.
HAO, Karen. This is how AI bias really happens - and why it’s so hard to fix. MIT Technology Review, feb. 2019. Disponível em: https://www.technologyreview.com/2019/02/04/137602/this-is-how-ai-bias-really-happensand-why-its-so-hard-to-fix/. Acesso em: 10 jul. 2023.
LEHR, David; OHLM, Paul. Playing with data: What legal scholars should learn about machine learning. UCDL Review, v. 51, p. 653-717, dec. 2017. Disponível em: https://lawreview.law.ucdavis.edu/issues/51/2/Symposium/51-2_Lehr_Ohm.pdf. Acesso em: 10 jul. 2023.
LIAO, S. Matthew. Ethics of Artificial Intelligence. New York: Oxford University Press, 2000.
GUTIERREZ, Carlos Ignacio; MARCHANT, Gary. Soft law 2.0: Incorporating incentives and implementation mechanisms into the governance of artificial intelligence. OECD.AI, 2019. Disponível em: https://oecd.ai/en/wonk/soft-law-2-0. Acesso em: 10 jul. 2023.
OEA - ORGANIZAÇÃO DOS ESTADOS AMERICANOS. Convenção Interamericana contra Toda Forma de Discriminação e Intolerância. Aprovada na segunda sessão plenária da Assembleia Geral, realizada em 5 de junho de 2013. Antígua, Guatemala: OEA, 2013. Disponível em: https://www.oas.org/pt/cidh/mandato/basicos/discriminacioneintolerancia.pdf. Acesso em: 10 jul. 2023.
OECD - ORGANISATION FOR ECONOMIC CO-OPERATION AND DEVELOPMENT. OECD Regulatory Policy Outlook 2021. Paris: OECD Publishing, 2021. Disponível em: https://www.oecd.org/en/publications/oecd-regulatory-policy-outlook-2021_38b0fdb1-en.html. Acesso em: 30 maio 2025.
OCDE - ORGANIZAÇÃO PARA A COOPERAÇÃO E DESENVOLVIMENTO ECONÔMICO. Recommendation of the Council for Agile Regulatory Governance to Harness Innovation (OECD/LEGAL/0464). Paris: ODCE, 2021.
OCDE - ORGANIZAÇÃO PARA A COOPERAÇÃO E DESENVOLVIMENTO ECONÔMICO. Recommendation of the Council on Artificial Intelligence (OECD/LEGAL/0449). Paris: ODCE, 2019.
PICHAI, Sundar. AI at Google: our principles. Google, jun. 2018. Disponível em: https://www.blog.google/technology/ai/ai-principles/. Acesso em: 10 jul. 2023.
RUSSEL, Stuart; NORVIG, Peter. Artificial Intelligence: a modern approach. 2 ed. New Jersey: Pearson Education, 2010.
SCHWAB, Klaus. A quarta revolução industrial. São Paulo: Edipro, 2018.
SELBST, Andrew D. Et Al. Fairness and Abstraction in Sociotechnical Systems. In: FAT* '19: Proceedings of the Conference on Fairness, Accountability, and Transparency. New York: Association for Computing Machinery, 2019. p. 59–68. Disponível em: https://dl.acm.org/doi/10.1145/3287560.3287598. Acesso em: 10 jul. 2023.
UNCTAD - UNITED NATIONS CONFERENCE ON TRADE AND DEVELOPMENT. Technology and Innovation Report 2021: Catching technological waves – Innovation with equity. Geneva: UNCTAD, 2021. Disponível em: https://unctad.org/system/files/official-document/tir2020_en.pdf. Acesso em: 10 jul. 2023.
UNESCO - ORGANIZAÇÃO DAS NAÇÕES UNIDAS PARA A EDUCAÇÃO, A CIÊNCIA E A CULTURA. Recommendation on the Ethics of Artificial Intelligence. Paris: UNESCO, 2021. Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000381137_eng. Acesso em: 10 jul. 2023.
WEF - WORLD ECONOMIC FORUM. Agile Regulation for the Fourth Industrial Revolution: a Toolkit for Regulators. Geneva: World Economic Forum, 2020. Disponível em: https://www.weforum.org/about/agile-regulation-for-the-fourth-industrial-revolution-a-toolkit-for-regulators/. Acesso em: 03 jul. 2023.
WEF - WORLD ECONOMIC FORUM. Agile Governance: Reimagining Policy-making in the Fourth Industrial Revolution. Geneva: World Economic Forum, 2018. Disponível em: https://encurtador.com.br/UZVug. Acesso em: 03 jul. 2023.
YEUNG, Karen. ‘Hypernudge’: Big Data as a mode of regulation by design. Information Communication and Society, v. 20, p. 118-136, May. 2016. Disponível em: https://www.tandfonline.com/doi/full/10.1080/1369118X.2016.1186713. Acesso em: 03 jul. 2023.
Downloads
Published
How to Cite
Issue
Section
License
Na qualidade de autor(es) da colaboração, original e inédita, sobre o qual me(nos) responsabilizo(amos) civil e penalmente pelo seu conteúdo, após ter lido as diretrizes para autores, concordado(amos) plenamente com as Políticas Editorias da Revista Novos Estudos Jurídicos - NEJ e autorizo(amos) a publicação na rede mundial de computadores (Internet), permitindo, também, que sua linguagem possa ser reformulada, caso seja necessário, sem que me(nos) seja devido qualquer pagamento a título de direitos autorais, podendo qualquer interessado acessá-lo e/ou reproduzi-lo mediante download, desde que a reprodução e/ou publicação obedeçam as normas da ABNT e tenham a finalidade exclusiva de uso por quem a consulta a título de divulgação da produção acadêmico científico.
