BIG DATA, INTELIGÊNCIA ARTIFICIAL E POLICIAMENTO PREDITIVO: BASES PARA UMA ADEQUADA REGULAÇÃO LEGAL QUE RESPEITE OS DIREITOS FUNDAMENTAIS

Autores

  • Cyntia Souza de Menezes Doutora em Direito e Economia pela Universidad Internacional de Cataluña
  • José Ramon Agustina Sanllehí Catedrático de Direito penal e Criminologia na Universitat Abat Oliba CEU

DOI:

https://doi.org/10.14210/nej.v26n1.p103-135

Palavras-chave:

Big Data, Inteligência artificial, Regulação, Policiamento preditivo.

Resumo

Diante das novas ferramentas de análise policial se por um lado a polícia cumpre uma função essencial na prevenção, detecção e investigação de um delito, ela não está livre de ter o seu trabalho limitado e submetido ao princípio da legalidade. A eficácia do trabalho policial não pode, como sabemos, saltar as garantias próprias de um Estado de Direito e sua atividade deve submeter-se a critérios transparentes de razoabilidade e controle, entre outros princípios. Não é legítimo que, para garantir a segurança de todos, seja sacrificada a privacidade daqueles que apenas superficialmente parecem suspeitos. As denominadas investigações prospectivas (phishing expeditions) são proibidas quando é afetado um direito fundamental que requeira autorização judicial prévia. À luz das reflexões anteriores, entendemos que talvez seja precipitada a aplicação massiva de sistemas de IA a modelos de polícia preditiva, enquanto (i) estejam pendentes de refinação; (ii) não tenham uma base científica sólida, e; (iii) operem em um ambiente onde o marco legal, regulatório e de proteção cidadã é ainda limitado. Principalmente quando estes sistemas têm o potencial de afetar de maneira importante a vida de grupos e populações em situação de exclusão e que se veem cada dia mais vigiados.

Referências

AÑON, José G.; BRADFORD, B.; SÁEZ, José Antonio G.; CUENCA, Andrés G. & FERRERES, Antoni L. Identificación Policial por Perfil Étnico en España. Informe sobre experiencias y actitudes en relación con las actuaciones policiales. Tirant Lo Blanch. Valencia 2013. Disponível em: https://www.uv.es.

BARRETT, Lisa F.; ADOLPHS, R.; MARSELLA, S.; MARTINEZ, Aleix M.; POLLAK, Seth D. Emotional Expressions Reconsidered: Challenges to inferring emotion from human facial movements. Psychological Science in the. 2019. DOI: https://doi.org/10.1177/1529100619832930

BRUNDAGE, M.; AVIN, S.; CLARK, J.; TONER, H.; ECKERSLEY, P.; GARFINKEL, B.; AMODEI, D. The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation. February 2018. Disponível em: http://arxiv.org

CATE, Fred H.; KUNER, Christopher; MILLARD, Christopher; SVANTESSON, DAN JERKER, B. "The Challenge of "Big Data" for Data Protection". 2012. Disponível em: http://www.repository.law.indiana.edu

CEA D’ANCONA, M.A.; VALLÉS MARTÍNEZ, M.S. Evolución de la Discriminación en España. Informe de las encuestas IMIO-CIS de 2013 y 2016. Instituto de la Mujer para la Igualdad de Oportunidades (IMIO). 2018. Disponível em: http://www.inmujer.gob.es

CHEN, Z.; WHITNEY, D.; Tracking the Affective State of Unseen Persons. April 9, 2019. Disponível em: https://www.pnas.org

COSTANZO, P.; D’ONOFRIO, F., & FRIEDL, J. Big data and the Italian legal framework: Opportunities for police forces. In AKHGAR, B.; SAATHOFF, G.; ARABNIA, H. R.; HILL, R.; STANIFORTH, A. & BAYERL, P.S. (Eds.), Application of big data for national security. (pp. 238-249). UK: Oxford, 2015. DOI: https://doi.org/10.1016/B978-0-12-801967-2.00016-1

CRAWFORD, K.; DOBBE, R.; BRYER, T.; FRIED, G.; GREEN, B.; KAZIUNAS, E.; WHITTAKER, M. AI Now 2019 Report. New York: AI Now Institute, 2019.

DOMÍNGUEZ FIGUEIRIDO, D.; BASANTA, A. Lógica actuarial, seguridad y sistema de justicia criminal. in La seguridad en la sociedad del riesgo: Un debate abierto. Barcelona: Atelier, 2003.

DREYER, Stephan; SCHULZ, Wolfgang. The GDPR and algorithm decision-making. Safeguarding individual rights, but forgetting society. Völkerrechtsblog, 3 June 2019, doi: 10.17176/20190603-235442-0. Disponível em: https://voelkerrechtsblog.org

DUPUY, Daniela. Inteligencia aplicada al Derecho penal y proceso penal. Em Cibercrimen II. BdeF, 2018. p. 281 y ss.

ENGSTROM, David F.; HO, Daniel E.; SHARKEY, Catherine M.; CUÉLLAR, Mariano-Florentino. Government by Algorithm: Artificial Intelligence in Federal Administrative Agencies. Fevereiro, 2020. DOI: https://doi.org/10.2139/ssrn.3551505

GARCÍA AMADO, Juan Antonio. Anatomía de un imposible. La imagen jurisprudencial del policía. En AGRA, C. da; Domínguez, J.L.; GARCÍA AMADO, J.A.; HEBBERECHT, P.; RECASENS, A. (eds.) La seguridad en la sociedad del riesgo. Madrid: Atelier, 2003, pp. 181-200.

HOUGH, Mike; JACKSON, Jonathan; BRADFORD, Ben; MYHILL, Andy; QUINTON, Paul. Procedural justice, trust and institutional legitimacy. Policing: a journal of policy and practice, vol. 4, n. 3. pp. 203-210. 2010. DOI: 10.1093/police/paq027 DOI: https://doi.org/10.1093/police/paq027

HRUSCHKA, J.; SÁNCHEZ-OSTIZ GUTIÉRREZ, P. Imputación y derecho penal: estudios sobre la teoría de la imputación. Thomson Aranzadi; Universidad de Navarra-Garrigues Cáterdra, 2005.

MAJEED, Abdul; ULLAH, Farman; LEE, Sungchang. “Vulnerability- and Diversity-Aware Anonymization of Personally Identifiable Information for Improving User Privacy and Utility of Publishing Data”. Sensors 2017, vol. 17, 1059; doi:10.3390/s17051059. Disponível em: https://www.mdpi.com DOI: https://doi.org/10.3390/s17051059

Ministerio de Ciencia, Innovación y Universidades. Estrategia Española de I+D+I en inteligencia artificial. 2019. Disponível em: http://www.ciencia.gob.es

MIRÓ LLINARES, F. Predictive Policing: Utopia or Dystopia? On attitudes towards the use of Big Data algorithms for law enforcement. Revista de Internet, Derecho y Política, n. 30. 2020 DOI: https://doi.org/10.7238/idp.v0i30.3223

MIRÓ, Fernando. Inteligencia artificial y justicia penal: más allá de los resultados lesivos causados por robots. Revista de Derecho Penal y Criminología, vol. (20, 87-130. 2018.

RAND Corporation. Predictive Policing – The Role of Crime Forecasting in Law Enforcement Operations. 2013. Disponível em: https://www.rand.org

RHUE, L. Racial Influence on Automated Detection of Emotions. November 9, 2018. Disponible en SSRN: https://ssrn.com or http://dx.doi.org DOI: https://doi.org/10.2139/ssrn.3281765

RICHARDSON, R.; SCHULTZ, Jason M.; & CRAWFORD, K. Dirty Data, Bad Predictions: How Civil Rights Violations impact police data, predictive policing systems, and justice. New York University Law Review Online. 2019

Second European Union Minorities and Discrimination Survey. Being Black in the EU. European Union Agency for Fundamental Rights. 2018. https://fra.europa.eu

COUGHLIN, Tom. “175 Zettabytes By 2025”, publicado em Forbes. 2018. Disponível em: https://www.forbes.com

VALLS PRIETO, J. Problemas jurídico penales asociados a las nuevas técnicas de prevención y persecución del crimen mediante inteligencia artificial. Madrid: Dykinson, 2017. DOI: https://doi.org/10.2307/j.ctt22nmcqg

VALLS PRIETO, Javier; GÓMEZ-ROMERO, Juan. “Use of big-data and the prediction of organized crime”. Building a European Digital Space. Huygens Editoria. 2016.

VÉASE, Meijer; A. WESSELS, M. Predictive Policing: Review of Benefits and Drawbacks. International Journal of Public Administration, Vol. 42, no. 12, 1031-1039. 2019. DOI: https://doi.org/10.1080/01900692.2019.1575664

WACHTER, S.; MITTELSTADT, B. A right to reasonable inferences. Re-thinking data protection law in the age of big data and AI. Columbia Business Law Review. Vol. 2019, n. 2. 2019. Disponível em: https://papers.ssrn.com DOI: https://doi.org/10.31228/osf.io/mu2kf

WEGMAN, D.; PERNAS, B. Perfil Racial en España: investigaciones y recomendaciones. Grupo de Estudios y Alternativas 21, Open Society Justice Initiative, 2005.

Downloads

Publicado

2021-04-01

Como Citar

MENEZES, C. S. de; SANLLEHÍ, J. R. A. BIG DATA, INTELIGÊNCIA ARTIFICIAL E POLICIAMENTO PREDITIVO: BASES PARA UMA ADEQUADA REGULAÇÃO LEGAL QUE RESPEITE OS DIREITOS FUNDAMENTAIS. Novos Estudos Jurí­dicos, Itajaí­ (SC), v. 26, n. 1, p. 103–135, 2021. DOI: 10.14210/nej.v26n1.p103-135. Disponível em: https://periodicos.univali.br/index.php/nej/article/view/17553. Acesso em: 24 jun. 2024.

Edição

Seção

Artigos