Este artigo analisa criticamente o papel da inteligência artificial (IA) na formulação e implementação de políticas de saúde pública no Brasil, com ênfase nos riscos e potencialidades éticas, sociais e técnicas associados ao uso de algoritmos em contextos desiguais. A partir de uma revisão sistemática da literatura interdisciplinar — abrangendo áreas como saúde coletiva, ciência da computação, ética algorítmica e políticas públicas — investigam-se os vieses presentes em sistemas de IA treinados com dados historicamente desbalanceados em termos de raça, gênero, classe e acesso à saúde. Os resultados indicam que, embora a IA possa otimizar diagnósticos, alocação de recursos e vigilância epidemiológica, sua aplicação sem governança democrática e critérios antirracistas e feministas tende a reproduzir e aprofundar desigualdades estruturais. Conclui-se pela necessidade urgente de marcos regulatórios, participação de comunidades vulnerabilizadas no design de tecnologias e formação crítica de gestores e profissionais de saúde para o uso ético e equitativo da IA na esfera pública.
ADAMSON, Adewole S.; SMITH, Avery. Machine learning and health care disparities: the case of skin cancer. JAMA Dermatology, v. 154, n. 5, p. 493–494, 2018.
BASTOS, J. L. et al. Raça, racismo e saúde no Brasil: avanços, limites e desafios. Ciência & Saúde Coletiva, v. 26, n. 12, p. 4745–4756, 2021.
BENJAMIN, Ruha. Race After Technology: Abolitionist Tools for the New Jim Code. Cambridge: Polity Press, 2019.
BRAUN, Virginia; CLARKE, Victoria. Using thematic analysis in psychology. Qualitative Research in Psychology, v. 3, n. 2, p. 77–101, 2006.
BRAVEMAN, Paula; GRUSKIN, Sofia. Defining equity in health. Journal of Epidemiology & Community Health, v. 57, n. 4, p. 254–258, 2003.
BRAZIL. Lei nº 8.080, de 19 de setembro de 1990. Dispõe sobre as condições para a promoção, proteção e recuperação da saúde. Diário Oficial da União, Brasília, DF, 19 set. 1990.
BRAZIL. MINISTÉRIO DA SAÚDE. Mortalidade materna no Brasil: perfil epidemiológico recente. Brasília: MS, 2023.
BREILH, Jaime. La epidemiologia crítica: una alternativa para enfrentar la nueva fase de la globalización. Revista Cubana de Salud Pública, v. 29, n. 3, p. 180–192, 2003.
CRENSHAW, Kimberlé. Demarginalizing the Intersection of Race and Sex. University of Chicago Legal Forum, v. 1989, n. 1, p. 139–167, 1989.
CRAWFORD, Kate. Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. New Haven: Yale University Press, 2021.
DINIZ, Debora. Zika: from the Brazilian backlands to global threat. London: Zed Books, 2020.
DONNANGELO, Maria Cecília de Souza. Saúde e sociedade no Brasil. São Paulo: Duas Cidades, 1976.
EUBANKS, Virginia. Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor. New York: St. Martin’s Press, 2018.
FOUCAULT, Michel. O nascimento da biopolítica: curso dado no Collège de France (1978-1979). São Paulo: Martins Fontes, 2008.
GOMES, A. P. et al. Desigualdades raciais e regionais no acesso a dados de saúde no Brasil. Cadernos de Saúde Pública, v. 38, supl. 1, e00214421, 2022.
HARAWAY, Donna. Situated Knowledges: The Science Question in Feminism and the Privilege of Partial Perspective. Feminist Studies, v. 14, n. 3, p. 575–599, 1988.
HART, Caroline Sarojini. Evidence and expertise in policy-making: rethinking the role of academics. Evidence & Policy, v. 14, n. 2, p. 225–243, 2018.
MBEMBE, Achille. Necropolítica. São Paulo: N-1 Edições, 2019.
MIGNOLO, Walter. The Darker Side of Western Modernity: Global Futures, Decolonial Options. Durham: Duke University Press, 2011.
MOULAERT, Frank et al. Can neoliberalism and social innovation coexist? In: MOULAERT, F. et al. (Ed.). Social Innovation and Territorial Development. London: Routledge, 2010. p. 13–32.
NOBLE, Safiya Umoja. Algorithms of Oppression: How Search Engines Reinforce Racism. New York: NYU Press, 2018.
OBERMEYER, Ziad et al. Dissecting racial bias in an algorithm used to manage the health of populations. Science, v. 366, n. 6464, p. 447–453, 2019.
PISSOLATO, Elizabeth. Tecnologias digitais e saberes indígenas: desafios para a saúde coletiva. Interface – Comunicação, Saúde, Educação, v. 26, e0029221, 2022.
RAJKOMAR, Alvin et al. Ensuring fairness in machine learning to advance health equity. Annals of Internal Medicine, v. 169, n. 12, p. 866–872, 2018.
SANTOS, Boaventura de Sousa. A cruel pedagogia do vírus. 2. ed. São Paulo: Boitempo, 2021.
SILVA, L. R.; ALMEIDA, M. C. Inteligência artificial comunitária na atenção primária: uma experiência no Complexo do Alemão. Saúde em Debate, v. 47, n. spe, p. 112–125, 2023.
SOUZA, Jessé. A elite do atraso: da escravidão à Lava Jato. Rio de Janeiro: Leya, 2021.
SOUZA, C. P. et al. Systematic reviews in global health: challenges and opportunities from the Global South. International Journal for Equity in Health, v. 19, n. 1, p. 1–9, 2020.
SUCHMAN, Lucy. Situational Awareness: Deadly Algorithms and the Ethics of Targeted Killing. In: DEAN, M. et al. (Ed.). Security/Mobility: Politics of Movement. Manchester: Manchester University Press, 2015. p. 71–89.
TASCHNER, N. P. et al. Tecnologias sociais e políticas públicas: lições do Brasil. Ciência & Saúde Coletiva, v. 20, n. 8, p. 2425–2436, 2015.
TRANFIELD, David et al. Towards a methodology for developing evidence-informed management knowledge by means of systematic review. British Journal of Management, v. 14, n. 3, p. 207–222, 2003.
UNESCO. Recommendation on the Ethics of Artificial Intelligence. Paris: UNESCO, 2021.
