Artificial Intelligence in Criminal Proceedings Human Rights at Risk?
Article Sidebar
Main Article Content
Abstract
The aim of the present paper is to analyze some of the possible applications of artificial intelligence in the criminal justice system and how it could affect some human rights of those involved. For that, the first topic presents the concept and functioning of this technology and how it could be used in the most varied stages of criminal procedure. Subsequently, the second topic addresses some limitations and challenges to be overcome in its application in the criminal justice system and, mainly, which human rights may be at stake with that use. The third and final topic presents some possible guidelines aimed at achieving the necessary balance between the efficiency and effectiveness of criminal justice and the protection of human rights of those affected by these technologies.
Downloads
Article Details
This work is licensed under a Creative Commons Attribution 4.0 International License.
Métricas
References
African Charter on Human and Peoples’ Rights (1981). Available on https://au.int/sites/default/files/treaties/36390-treaty-0011_-_african_charter_on_human_and_peoples_rights_e.pdf
Agapito, L. S., Miranda, M. A., & Januário, T. F. X. (2021). On the Potentialities and Limitations of Autonomous Systems in Money Laundering Control. ridp, 92(1), 87-105.
American Convention on Human Rights (1969). Available on https://www.cidh.oas.org/basicos/english/basic3.american%20convention.htm
Barona Vilar, S. (2021). Algoritmización del derecho y de la justicia: de la inteligencia artificial a la smart justice. Valencia: Tirant lo Blanch.
Burchard, C. (2020). Das »Strafrecht« der Prädiktionsgesellschaft: …oder wie »smarte« Algorithmen die Strafrechtspflege verändern (könnten). Forschung Frankfurt: das Wissenschaftsmagazin: Recht und Gesetz, (1), 27-31. Available on: http://publikationen.ub.uni-frankfurt.de/frontdoor/index/index/year/2020/docId/55171
Burrell, J. (2016). How the Machine ‘Thinks’: Understanding Opacity in Machine Learning Algorithms. Big Data & Society, 3(1). Available on https://doi.org/10.1177/2053951715622512
Canestraro, A. C., & Januário, T. F. X. (2022). Inteligência Artificial e Programas de Compliance: Uma Análise dos Possíveis Reflexos no Processo Penal. In F. R. D’Ávila, & M. E. A. Amaral (Eds.), Direito e Tecnologia (pp. 363-392). Porto Alegre: Citadel.
Canestraro, A. C., Kassada, D. A., & Januário, T. F. X. (2019). Nemo tenetur se detegere e programas de compliance: o direito de não produzir prova contra si próprio em face da Lei n. 13.303/16. In E. Saad-Diniz, L. A. Brodt, H. A. A. Torres, & L. S. Lopes (Eds.), Direito Penal Econômico nas Ciências Criminais (pp. 311-342). Belo Horizonte: Vorto. Caria, R. (2020). O Caso State v. Loomis-A Pessoa e a Máquina na Decisão Judicial. In A. M. Rodrigues (Ed.), A Inteligência Artificial no Direito Penal (pp. 245-266). Coimbra: Almedina.
Estellita, H. & Leite, A. (2019). Veículos Autônomos e Direito Penal: uma introdução. In H. Estellita & A. Leite (Orgs.), Veículos Autônomos e Direito Penal (pp. 15-36). São Paulo: Marcial Pons.
European Convention on Human Rights (1950). Available on https://www.echr.coe.int/documents/d/echr/convention_eng
Fidalgo, S. (2020). A Utilização de Inteligência Artificial no Âmbito da Prova Digital-Direitos Fundamentais (Ainda Mais) Desprotegidos. In A. M. Rodrigues (Ed.), A Inteligência Artificial no Direito Penal (pp. 129-162). Coimbra: Almedina.
Gless, S. (2020). ai in the Courtroom: A Comparative Analysis of Machine Evidence in Criminal Trials. Georgetown Journal of International Law, 51(2), 195-253. Available on https://ssrn.com/abstract=3602038
Greco, L. (2020). Poder de julgar sem responsabilidade de julgador: a impossibilidade jurídica do juíz-robô. São Paulo: Marcial Pons.
Hilgendorf, E. (2020). Sistemas Autônomos, Inteligência Artificial e Robótica: uma orientação a partir da perspectiva jurídico-penal. In E. Hilgendorf, & O. Gleizer (Eds.), Digitalização e Direito (pp. 43-60). São Paulo: Marcial Pons.
In A. Frazão, & C. Mulholland (Eds.), Inteligência Artificial e Direito: Ética, Regulação e Responsabilidade (Ebook, N.P.). São Paulo: Thomson Reuters Brasil.
Januário, T. F. X. (2020a). Inteligência Artificial e Responsabilidade Penal no Setor da Medicina. Lex Medicinae: Revista Portuguesa de Direito da Saúde 17(34), 37-64. Available on https://www.centrodedireitobiomedico.org/publica%C3%A7%C3%B5es/revistas
Januário, T. F. X. (2020b). Veículos Autónomos e Imputação de Responsabilidades Criminais por Acidentes. In A. M. Rodrigues (Ed) A Inteligência Artificial no Direito Penal (pp. 95-128). Coimbra: Almedina.
Januário, T. F. X. (2021a). Cadeia de Custódia da Prova e Investigações Internas Empresariais: Possibilidades, Exigibilidade e Consequências Processuais Penais de sua Violação. Revista Brasileira de Direito Processual Penal, 7(2), 1453-1510. Available on https://doi.org/10.22197/rbdpp.v7i2.453
Januário, T. F. X. (2021b). Considerações Preambulares acerca das Reverberações da Inteligência Artificial no Direito Penal. In M. S. Comério, & T. A. Junquilho (Eds.), Direito e Tecnologia: Um Debate Multidisciplinar (pp. 295-314). Rio de Janeiro: Lumen Juris.
Januário, T. F. X. (2021c). Inteligência Artificial e Manipulação do Mercado de Capitais: uma análise das negociações algorítmicas de alta frequência (High-Frequency Trading-HFT) à luz do ordenamento jurídico brasileiro. Revista Brasileira de Ciências Criminais, 186(29), 127-173.
Januário, T. F. X. (2022). Inteligência artificial e direito penal da medicina. In A. M. Rodrigues (Ed.), A inteligência artificial no direito penal (2nd Vol., pp. 125-174). Coimbra: Almedina.
Januário, T. F. X. (2023). Corporate Internal Investigations 4.0: on the criminal procedural aspects of applying artificial intelligence in the reactive corporate compliance. Revista Brasileira de Direito Processual Penal, 9(2), 723-785. Available on https://doi.org/10.22197/rbdpp.v9i2.837 Lei n.º 27/2021, de 17 de maio: Carta Portuguesa de Direitos Humanos na Era Digital. Available on https://www.pgdlisboa.pt/leis/lei_mostra_articulado.php?nid=3446&tabela=leis&so_miolo=
Machado, L. S. (2019). Médico robô: responsabilidade civil por danos praticados por atos autônomos de sistemas informáticos dotados de inteligência artificial. Lex Medicinae: Revista Portuguesa de Direito da Saúde, 16(31), 101-114. Available on https://www.centrodedireitobiomedico.org/publica%C3%A7%C3%B5es/revistas/lex-medicinae-revista-portuguesa-de-direito-da-sa%C3%BAde-ano-16-n%C2%BA-31-32
Mayor, A. (2018). Gods and Robots: myths, machines and ancient dreams of technology. Princeton: Princeton University Press.
McCarthy, J. (2007). What is Artificial Intelligence? Stanford: Stanford University. Available on http://jmc.stanford.edu/artificial-intelligence/index.html
McCarthy, J., Minsky, M. L., Rochester, N., & Shannon, C. E. (2006). A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence, August 31, 1955. ai Magazine, 27(4), 12-14. Available on https://doi.org/10.1609/aimag.v27i4.1904
Miranda, M. A. (2023). Técnica, decisões automatizadas e responsabilidade penal (Doctoral Thesis). Universidade do Estado do Rio de Janeiro, Rio de Janeiro, Brasil.
Miranda, M. A., & Januário, T. F. X. (2021). Novas tecnologias e justiça criminal: a tutela de direitos humanos e fundamentais no âmbito do direito penal e processual penal. In V. Moreira et al. (Eds.), Temas de Direitos Humanos do VI cidh Coimbra 2021 (pp. 284-298). Campinas/Jundiaí: Brasílica/ Edições Brasil.
Miró Llinares, F. (2018). Inteligencia artificial y justicia penal: más allá de los resultados lesivos causados por robots. Revista de Derecho Penal y Criminología, 3(20), 87-130.
Mulholland, C., & Frajhof, I. Z. (2019). Inteligência Artificial e a Lei Geral de Proteção de Dados Pessoais: Breves Anotações Sobre o Direito à Explicação Perante a Tomada de Decisões por Meio de Machine Learning.
Nieva Fenoll, J. (2018). Inteligencia Artificial y Proceso Judicial. Madrid: Marcial Pons.
Peixoto, F. H., & Silva, R. Z. M. (2019). Inteligência Artificial e Direito. Curitiba: Alteridade Editora.
Pereira, A. G. D. (2021). Inteligência Artificial, Saúde e Direito: considerações jurídicas em torno da medicina de conforto e da medicina transparente. Julgar, (45), 235-262.
Prado, G. (2021). A cadeia de custódia da prova no processo penal (2nd edn). São Paulo: Marcial Pons.
Price II, W. N. (2017). Artificial Intelligence in Health Care: Applications and Legal Issues. U of Michigan Public Law Research Paper, (599), 1-7. Available on https://ssrn.com/abstract=3078704
Protocol No. 12 to the Convention for the Protection of Human Rights and Fundamental Freedoms (2000). Available on https://www.echr.coe.int/documents/d/echr/convention_eng
Quattrocolo, S. (2020). Artificial Intelligence, Computational Modelling and Criminal Proceedings: A Framework for a European Legal Discussion. Cham: Springer.
Rodrigues, A. M. (2020a). A questão da pena e a decisão do juiz-entre a dogmática e o algoritmo. In A. M. Rodrigues (Ed.) A inteligência artificial no direito penal (pp. 219-244). Coimbra: Almedina.
Rodrigues, A. M. (2020b). Inteligência Artificial no Direito Penal-A Justiça Preditiva entre a Americanização e a Europeização. In A. M. Rodrigues (Ed.), A Inteligência Artificial no Direito Penal (pp. 11-58).
Rodrigues, A. M. (2021a). Os crimes de abuso de mercado e a “escada impossível” de Escher (o caso do spoofing). Julgar, (45), 65-86.
Rodrigues, A. M. (2021b). The Last Cocktail-Economic and Financial Crime, Corporate Criminal Responsibility, Compliance and Artificial Intelligence. In M. J. Antunes, & S. A. Sousa (Eds.), Artificial Intelligence in the Economic Sector: Prevention and Responsibility (pp. 119-133). Coimbra: Instituto Jurídico da Faculdade de Direito da Universidade de Coimbra. Available on https://doi.org/10.47907/livro2021_4c5
Rodrigues, A. M., & Sousa, S. A. (2021). Algoritmos em contexto empresarial: vantagens e desafios à luz do direito penal. Julgar, (45), 193-214.
Sousa, S. A. (2020). “Não fui eu, foi a máquina”: teoria do crime, responsabilidade e inteligência artificial. In A. M. Rodrigues (Ed.), A inteligência artificial no direito penal (pp. 59-94). Coimbra: Almedina.
Steibel, F., Vicente, V. F., & Jesus, D. S. V. (2019). Possibilidades e Potenciais da Utilização da Inteligência Artificial. In A. Frazão, & C. Mulholland (Eds.), Inteligência Artificial e Direito: Ética, Regulação e Responsabilidade (Ebook, N. P.) São Paulo: Thomson Reuters Brasil.
The European Commission’s High-Level Expert Group on Artificial Intelligence (2018). A Definition of ai: Main Capabilities and Scientific Disciplines: Definition Developed for the Purpose of the Deliverables of the High-Level Expert Group. Brussels: European Commission. Available on https://ec.europa.eu/futurium/en/system/files/ged/ai_hleg_definition_of_ai_18_december_1.pdf
Wimmer, M. (2019). Inteligência Artificial, Algoritmos e o Direito: Um Panorama dos Principais Desafios. In A. P. M. C. Lima, C. B. Hissa, & P. M. Saldanha (Eds.), Direito Digital: Debates Contemporâneos (Ebook, N. P.). São Paulo: Thomson Reuters Brasil.
Yapo, A., & Weiss, J. (2018). Ethical Implications of Bias in Machine Learning. In Proceedings of the 51st Hawaii International Conference on System Sciences (pp. 5365-5372). Available on http://hdl.handle.net/10125/50557
Završnik, A. (2020). Criminal justice, artificial intelligence systems, and human rights. ERA Forum, (20), 567-583. Available on https://doi.org/10.1007/s12027-020-00602-0