A PROIBIÇÃO DA AUTOMATIZAÇÃO DECISÓRIA BASADA NO PERFILAMENTO DIGITAL

Resumo

Contextualização: A inteligência artificial (IA) gera, produz, implica e representa desafios para os direitos humanos, tanto que deve estabelecer um “alinhamento” com eles. Além disso, sistemas inteligentes não podem interferir na dignidade humana. Por tal razão, a manipulação e operação final dos processos de IA deve depender das pessoas (ainda mais quando os resultados impactam diretamente nas liberdades), e – em última análise – a “dimensão humana” deve estar presente no processo de tomada de decisão, avaliação de denúncias em situações de violação de direitos humanos.

Objetivo: O objetivo da pesquisa é identificar quais direitos fundamentais podem ser afetados pelas tecnologias inteligentes, analisando os usos dessas tecnologias e seu impacto nos direitos, por um lado, e a necessidade de delimitar seu conteúdo definindo garantias, por outro.

Metodologia: A pesquisa utilizou o método indutivo aliado à base lógica indutiva para expressar os resultados.

Resultado: Do nosso ponto de vista, a proibição estudada não abrange toda a automatização das decisões administrativas e/ou judiciais, por meio da utilização da IA no quadro de um procedimento anterior realizado pela Administração Pública ou pelo Poder Judiciário.