O PAPEL DO RELATÓRIO DE AVALIAÇÃO DE IMPACTO ALGORITIMICO PARA O FOMENTO DE SISTEMAS DE IA ÉTICOS BY DESIGN

Resumo

Contextualização: Apesar de crescente, o grau de conscientização da sociedade quanto aos riscos e benefícios do uso de sistemas de inteligência artificial ainda é reduzido. Consequentemente, a criação de um modelo regulatório capaz de promover o adequado equilíbrio entre incentivo à inovação e à proteção da sociedade, requer o uso de ferramentas de atualização que permitam o constante aperfeiçoamento do modelo. O tipo de dano, a velocidade de disseminado e o impacto social provocados pela IA quando seu uso gera resultados injustos em desfavor de grupos vulneráveis tornam urgente a discussão de medidas de gestão de riscos e prevenção conflitos.

Objetivos: Neste artigo, analisamos o papel do relatório de risco e impacto para fomentar a adoção dos valores da diversidade e da inclusão no design desta tecnologia e, assim, prevenir conflitos de natureza discriminatória.

Métodos: Aplicou-se o procedimento de pesquisa bibliográfico-documental para coleta de dados e utilizou-se do método hipotético-dedutivo para o teste da hipótese.

Resultados: Apesar de ser constatado um elevado percentual de documentos de soft law que direta ou indiretamente recomendam o uso de mecanismos que minimizem resultados discriminatórios no uso dos sistemas de IA, e, dentre eles, o relatório de riscos e impactos para o uso de tais sistemas, o atual estágio de desenvolvimento normativo permite apenas identificar fatores que poderiam favorecer o uso do relatório como indutor de um design antidiscriminatório dos sistemas de IA e quais elementos este relatório deveria conter de modo a desempenhar tal papel.