Este artículo analiza críticamente el papel de la inteligencia artificial (IA) en la formulación e implementación de políticas de salud pública en Brasil, con énfasis en los riesgos y potencialidades éticas, sociales y técnicas asociados al uso de algoritmos en contextos desiguales. Mediante una revisión sistemática de la literatura interdisciplinaria —que incluye salud colectiva, ciencia de la computación, ética algorítmica y políticas públicas— se investigan los sesgos presentes en sistemas de IA entrenados con datos históricamente desequilibrados en términos de raza, género, clase y acceso a la salud. Los resultados muestran que, aunque la IA puede optimizar diagnósticos, asignación de recursos y vigilancia epidemiológica, su aplicación sin gobernanza democrática ni enfoques antirracistas y feministas tiende a reproducir y profundizar desigualdades estructurales. Se concluye que son necesarios marcos regulatorios urgentes, participación de comunidades vulneradas en el diseño tecnológico y formación crítica de gestores y profesionales de la salud para un uso ético y equitativo de la IA en la esfera pública.
ADAMSON, Adewole S.; SMITH, Avery. Machine learning and health care disparities: the case of skin cancer. JAMA Dermatology, v. 154, n. 5, p. 493–494, 2018.
BASTOS, J. L. et al. Raça, racismo e saúde no Brasil: avanços, limites e desafios. Ciência & Saúde Coletiva, v. 26, n. 12, p. 4745–4756, 2021.
BENJAMIN, Ruha. Race After Technology: Abolitionist Tools for the New Jim Code. Cambridge: Polity Press, 2019.
BRAUN, Virginia; CLARKE, Victoria. Using thematic analysis in psychology. Qualitative Research in Psychology, v. 3, n. 2, p. 77–101, 2006.
BRAVEMAN, Paula; GRUSKIN, Sofia. Defining equity in health. Journal of Epidemiology & Community Health, v. 57, n. 4, p. 254–258, 2003.
BRAZIL. Lei nº 8.080, de 19 de setembro de 1990. Dispõe sobre as condições para a promoção, proteção e recuperação da saúde. Diário Oficial da União, Brasília, DF, 19 set. 1990.
BRAZIL. MINISTÉRIO DA SAÚDE. Mortalidade materna no Brasil: perfil epidemiológico recente. Brasília: MS, 2023.
BREILH, Jaime. La epidemiologia crítica: una alternativa para enfrentar la nueva fase de la globalización. Revista Cubana de Salud Pública, v. 29, n. 3, p. 180–192, 2003.
CRENSHAW, Kimberlé. Demarginalizing the Intersection of Race and Sex. University of Chicago Legal Forum, v. 1989, n. 1, p. 139–167, 1989.
CRAWFORD, Kate. Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. New Haven: Yale University Press, 2021.
DINIZ, Debora. Zika: from the Brazilian backlands to global threat. London: Zed Books, 2020.
DONNANGELO, Maria Cecília de Souza. Saúde e sociedade no Brasil. São Paulo: Duas Cidades, 1976.
EUBANKS, Virginia. Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor. New York: St. Martin’s Press, 2018.
FOUCAULT, Michel. O nascimento da biopolítica: curso dado no Collège de France (1978-1979). São Paulo: Martins Fontes, 2008.
GOMES, A. P. et al. Desigualdades raciais e regionais no acesso a dados de saúde no Brasil. Cadernos de Saúde Pública, v. 38, supl. 1, e00214421, 2022.
HARAWAY, Donna. Situated Knowledges: The Science Question in Feminism and the Privilege of Partial Perspective. Feminist Studies, v. 14, n. 3, p. 575–599, 1988.
HART, Caroline Sarojini. Evidence and expertise in policy-making: rethinking the role of academics. Evidence & Policy, v. 14, n. 2, p. 225–243, 2018.
MBEMBE, Achille. Necropolítica. São Paulo: N-1 Edições, 2019.
MIGNOLO, Walter. The Darker Side of Western Modernity: Global Futures, Decolonial Options. Durham: Duke University Press, 2011.
MOULAERT, Frank et al. Can neoliberalism and social innovation coexist? In: MOULAERT, F. et al. (Ed.). Social Innovation and Territorial Development. London: Routledge, 2010. p. 13–32.
NOBLE, Safiya Umoja. Algorithms of Oppression: How Search Engines Reinforce Racism. New York: NYU Press, 2018.
OBERMEYER, Ziad et al. Dissecting racial bias in an algorithm used to manage the health of populations. Science, v. 366, n. 6464, p. 447–453, 2019.
PISSOLATO, Elizabeth. Tecnologias digitais e saberes indígenas: desafios para a saúde coletiva. Interface – Comunicação, Saúde, Educação, v. 26, e0029221, 2022.
RAJKOMAR, Alvin et al. Ensuring fairness in machine learning to advance health equity. Annals of Internal Medicine, v. 169, n. 12, p. 866–872, 2018.
SANTOS, Boaventura de Sousa. A cruel pedagogia do vírus. 2. ed. São Paulo: Boitempo, 2021.
SILVA, L. R.; ALMEIDA, M. C. Inteligência artificial comunitária na atenção primária: uma experiência no Complexo do Alemão. Saúde em Debate, v. 47, n. spe, p. 112–125, 2023.
SOUZA, Jessé. A elite do atraso: da escravidão à Lava Jato. Rio de Janeiro: Leya, 2021.
SOUZA, C. P. et al. Systematic reviews in global health: challenges and opportunities from the Global South. International Journal for Equity in Health, v. 19, n. 1, p. 1–9, 2020.
SUCHMAN, Lucy. Situational Awareness: Deadly Algorithms and the Ethics of Targeted Killing. In: DEAN, M. et al. (Ed.). Security/Mobility: Politics of Movement. Manchester: Manchester University Press, 2015. p. 71–89.
TASCHNER, N. P. et al. Tecnologias sociais e políticas públicas: lições do Brasil. Ciência & Saúde Coletiva, v. 20, n. 8, p. 2425–2436, 2015.
TRANFIELD, David et al. Towards a methodology for developing evidence-informed management knowledge by means of systematic review. British Journal of Management, v. 14, n. 3, p. 207–222, 2003.
UNESCO. Recommendation on the Ethics of Artificial Intelligence. Paris: UNESCO, 2021.
La Revista Brasileña de Tecnologías Sociales es una publicación Qualis B1, según la clasificación Qualis Periódicos CAPES 2017-2020.
La Revista Brasileña de Tecnologías Sociales tiene como objetivo difundir el conocimiento científico a través de una publicación bianual, que se caracteriza por contenidos multitemáticos e interdisciplinarios dirigidos, preferentemente, a la difusión del trabajo desarrollado por las Maestrías Profesionales del país, en forma de productos o procesos que pueden caracterizarse como Tecnologías Sociales. Actualmente los editores son los profesores Carlos Roberto Praxedes dos Santos (Gestión de Políticas Públicas) y Graziela Liebel (Gestión de Salud y Trabajo).
