Regulation of ai in the judicial process: challenges and opportunities in Latin America

Authors

DOI:

https://doi.org/10.20983/reij.2025.1.1

Keywords:

algorithmic bias, digital justice, digital transformation, judicial systems, technological regulation

Abstract

This paper examines the implementation of artificial intelligence (ai) in Latin America’s judicial systems, highlighting the necessary balance between the potential benefits and the ethical and legal challenges it poses. In the context of increasing digitalization, the study focuses on how ai can improve efficiency and consistency in the administration of justice while addressing issues such as algorithmic bias, lack of transparency, and data protection. Using a qualitative approach based on a literature review and comparative analysis of cases in Argentina, Brazil, Chile, Colombia, and Mexico, patterns were identified, and country-specific challenges and opportunities were assessed. The findings reveal that although ai has streamlined judicial processes, serious concerns remain about fairness and transparency in automated decisions, and there is an inadequacy in current legal frameworks to regulate these technologies adequately. The article proposes a robust and adaptive regulatory framework that incorporates principles of accountability, fairness, and human control, along with regional collaboration, to ensure that ai is used ethically and that it promotes justice in the Latin American justice system.

Downloads

Download data is not yet available.

Author Biography

Yaritza Pérez-Pacheco

Doctora en Derecho por la Universidad Nacional Autónoma de México (unam), con estudios posdoctorales en Derecho y Nuevas Tecnologías. Investigadora Nacional Nivel i por el Consejo Nacional de Humanidades, Ciencias y Tecnologías (Conahcyt). Docente de la Licenciatura en Derecho Internacional de la Universidad Autónoma del Estado de México (uaem). Coordinadora y docente de la Maestría en Derechos Humanos y coordinadora de Investigación de unir México.

References

Agencia de Acceso a la Información Pública. (2023). Programa de Transparencia y Protección de Datos Personales en el Uso de la Inteligencia Artificial. Resolución 161/2023. Boletín Oficial N.º 35.247 - Primera Sección (Argentina), del 4 de septiembre de 2023. https://www.boletinoficial.gob.ar/detalleAviso/primera/293363/20230904?busqueda=1

Amunátegui, C., Madrid, R. y Aranguiz, M. (2021). Inteligencia artificial y Poder Judicial: Chile y sus desafíos pendientes. Facultad de Derecho, Pontificia Universidad Católica de Chile. https://cetys.lat/wp-content/uploads/2021/09/chileV3.pdf

Aymurai. (2024). Inicio. https://www.aymurai.info/

Bustos, G. y Gorgone, B. (2021). Evaluación de la preparación del sistema judicial para la adopción de inteligencia artificial. Caso Argentina. Centro de Estudios en Tecnología y Sociedad (cetys) de la Universidad de San Andrés, Argentina. https://cetys.lat/wp-content/uploads/2021/10/CasoArgentinaV2.pdf

Calderón-Valencia, F., Pérez-Montoya, J. y Morais, F. S. de. (2021). Sistemas de ia en la experiencia del Supremo Tribunal Federal brasileño y la Corte Constitucional colombiana: análisis prospectivo. The Law, State and Telecommunications Review, 13(1), 143-169. https://doi.org/10.26512/lstr.v13i1.35614

Cámara de Diputados. (2024). Proyecto de Ley: Responsabilidad algorítmica y promoción de la robótica, algoritmos verdes e inteligencia artificial en la República Argentina. Congreso de la República Argentina. https://www.diputados.gob.ar/comisiones/permanentes/cpyhacienda/proyecto.html?exp=0805-D-2024

Cámara de Diputados del Congreso de la Unión. (2019). Ley Federal de Protección de Datos Personales en Posesión de los Particulares. Publicada en el Diario Oficial de la Federación del 05/07/2010. Última actualización: 05/07/2010. https://www.diputados.gob.mx/LeyesBiblio/pdf/LFPDPPP.pdf

Castaño, D. (2021). Marco analítico exploratorio – República de Colombia. Caso Colombia. Centro de Estudios en Tecnología y Sociedad (cetys) de la Universidad de San Andrés, Argentina. https://cetys.lat/wp-content/uploads/2021/09/colombiaV3.pdf

Consejo Nacional de Política Económica y Social (Conpes). (2019). Política Nacional para la Transformación Digital e Inteligencia Artificial. Documento N.° 3975. Departamento Nacional de Planeación, República de Colombia. https://colaboracion.dnp.gov.co/CDT/Conpes/Econ%C3%B3micos/3975.pdf

Conselho Administrativo de Defesa Econômica. (2024, 11 de julio). cade presenta contribuciones al proyecto de ley sobre inteligencia artificial. Governo Federal do Brasil. https://www.gov.br/cade/en/matters/noticias/cade-presenta-contribuciones-al-proyecto-de-ley-sobre-inteligencia-artificial

Contini, F. (2020). Artificial Intelligence and the Transformation of Humans, Law and Technology Interactions in Judicial Proceedings. Law, Technology and Humans, 2(1), 4-18. https://doi.org/10.5204/lthj.v2i1.1478

Cornejo, M. I. (2021, 13 de diciembre). Neuroderechos en Chile: consagración constitucional y regulación de las neurotecnologías. Agenda Estado de Derecho. https://agendaestadodederecho.com/neuroderechos-en-chile-consagracion-constitucional-y-regulacion-de-las-neurotecnologias/

Corvalán, J. G. (2020). Prometea: Artificial Intelligence to Transform Justice and Public Organizations. International Journal of Digital and Data Law, 6, 89-101. https://core.ac.uk/download/pdf/322501055.pdf

Dirección General de Datos Abiertos, Gobierno de México. (2018). Estrategia de Inteligencia Artificial mx 2018. Presidencia de la República epn. https://www.datos.gob.mx/blog/estrategia-de-inteligencia-artificial-mx-2018

Echavarría, J. D. (2020). Congreso de la República de Colombia, Cámara de Representantes, Departamento de Antioquia. https://tinyurl.com/2dksq7pd

Lazcoz, G. y Castillo, J. A. (2020). Valoración algorítmica ante los derechos humanos y el Reglamento General de Protección de Datos: el caso Syri. Revista Chilena de Derecho y Tecnología, 9(1), 207-225. https://doi.org/10.5354/0719-2584.2020.56843

Lei N.º 13.709 (2018, 14 de agosto). Ley General de Protección de Datos de Brasil. Presidência da República, Secretaria-Geral, Subchefia para Assuntos Jurídicos. https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/L13709compilado.htm

Lima, V., Fuentes, J. y Martins, A. (2023). Decisão judicial assistida por inteligência artificial e o Sistema Victor do Supremo Tribunal Federal. Revista de Investigações Constitucionais, 10(2). doi: 10.5380/rinc.v10i2.92598

Maqueo, M. S., Moreno, J., Mendoza, O. A. y Rentería, C. (2022). Evaluación del grado de preparación para la adopción de inteligencia artificial en los sistemas judiciales de la región. Caso México. Centro de Estudios en Tecnología y Sociedad (cetys) de la Universidad de San Andrés, Argentina. https://cetys.lat/wp-content/uploads/2021/09/MEXICOV3.pdf

Medina, E. (2022). Hacia una teoría sobre la e-justice o justicia digital: instrucciones para armar. Cuestiones Constitucionales. Revista Mexicana de Derecho Constitucional, 1(46), 177-212. https://doi.org/10.22201/iij.24484881e.2022.46.17052

Ministerio de Ciencia, Tecnología e Innovación. (2024). Hoja de ruta para el desarrollo y aplicación de la inteligencia artificial en Colombia. Gobierno de la República de Colombia. https://tinyurl.com/2xp6we7g

Miranda, H. (2022). Inteligencia artificial y justicia. Revista de la Facultad de Derecho de México, lxxii(284), 374-402. http://10.22201/fder.24488933e.2022.284.83394

Organización para la Cooperación y el Desarrollo Económico/Banco de Desarrollo de América Latina (ocde/caf). (2022). Uso estratégico y responsable de la inteligencia artificial en el sector público de América Latina y el Caribe. Estudios de la ocde sobre Gobernanza Pública. oecd Publishing. https://doi.org/10.1787/5b189cb4-es

Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco). (2022, 13 de septiembre). Capacitación a jueces, abogados y fiscales en materia de inteligencia artificial y Estado de derecho. https://www.unesco.org/es/articles/capacitacion-jueces-abogados-y-fiscales-en-materia-de-inteligencia-artificial-y-estado-de-derecho

-----. (2023). Kit de herramientas global sobre ia y el Estado de derecho para el Poder Judicial. https://unesdoc.unesco.org/ark:/48223/pf0000387331_spa.locale=en

-----. (2024a, 4 de mayo). Chile lanza una política nacional de ia y presenta un proyecto de ley sobre ia siguiendo las recomendaciones de la Unesco. https://www.unesco.org/es/articles/chile-lanza-una-politica-nacionalde-ia-y-presenta-un-proyecto-de-ley-sobreia-siguiendo-las

-----. (2024b). Chile: evaluación del estadio de preparación en materia de inteligencia artificial (ia) de la Unesco. https://unesdoc.unesco.org/ark:/48223/pf0000387216_spa

Parlamentario.com (2023, 2 de agosto). Arrancó en diputados el debate sobre la actualización de la Ley de Protección de Datos Personales. https://www.parlamentario.com/tag/comision-de-asuntos-constitucionales/

Pérez, A. (2021). Justicia civil en la era digital y artificial: ¿hacia una nueva identidad? Revista Chilena de Derecho, 48(2), 203-228. doi: 10.7764/R.482.9

Reglamento (ue) 2016/679 del Parlamento Europeo y del Consejo de 27 de abril de 2016 relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos, y por el que se deroga la Directiva 95/46/ ce (Reglamento General de Protección de Datos). https://eur-lex.europa.eu/legal-content/ES/TXT/?qid=1532348683434&uri=CELEX%3A02016R0679-20160504

Reiling, A. D. (2020). Courts and Artificial Intelligence. International Journal for Court Administration. doi: 10.36745/ijca.343

Saavedra, V. y Upegui, J. C. (2021). Pretoria y la automatización del procesamiento de causas de derechos humanos en Colombia. https://www.dejusticia.org/wp-content/uploads/2021/04/CPC_informe_Colombia.pdf

Sánchez, N. P. (2020). El derecho humano de acceso a la justicia e impacto ante el uso de las tecnologías de la información y comunicación en la función jurisdiccional del Poder Judicial del Estado de México. Revista Ex Legibus, 13, 123-154. https://exlegibus.pjedomex.gob.mx/index.php/exlegibus/article/view/222

Secretaría General de la Presidencia (7 de mayo, 2024). Mensaje de S. E., el Presidente de la República, por el que inicia un Proyecto de Ley de Inteligencia Artificial. Mensaje N.° 063-372/. República de Chile. https://www.camara.cl/verDoc.aspx?prmID=17048&prmTIPO=INICIATIVA

Secretaría de Innovación Pública. (2023). Recomendaciones para una inteligencia artificial fiable. Jefatura de Gabinete de Ministros de Argentina. https://www.argentina.gob.ar/sites/default/files/2023/06/recomendaciones_para_una_inteligencia_artifi cial_fiable.pd

Segura, R. E. (2023). Inteligencia artificial y administración de justicia: desafíos derivados del contexto latinoamericano. Revista de Bioética y Derecho, 58, 45-72. https://revistes.ub.edu/index.php/RBD/article/view/40601/39575

Senado de la República (2024, 15 de mayo). Presentan en el Senado Agenda Nacional de la Inteligencia Artificial para México 2024-2030. Coordinación de Comunicación Social. LXVI Legislatura. https://comunicacionsocial.senado.gob.mx/informacion/comunicados/8982-presentan-en-el-senado-agenda-nacional-de-la-inteligencia-artificial-para-mexico-2024-2030

Simón, P. (2021). Inteligencia artificial y administración de justicia: ¿Quo vadis, justitia? Revista de Internet, Derecho y Política, 33. https://doi.org/10.7238/idp.v0i33.373817

----- (2023). Taxonomía de las garantías jurídicas en el empleo de los sistemas de inteligencia artificial. Revista de Derecho Político, 117, 153-196. https://doi.org/10.5944/rdp.117.2023.37929

Sor Juana. (2014). Ponencia de la ministra Ana Margarita Ríos Farjat, Suprema Corte de Justicia de la Nación de México. https://ponenciamamrfgpt.streamlit.app/

Themis ia. (2024). Themis ia: plataforma jurídica para la Corte idh. Corte Interamericana de Derechos Humanos. https://themisia.corteidh.or.cr/

Vargas, F. de. y Colombo, C. (2021). Inteligência artificial aplicada à atividade jurisdicional: desafios e perspectivas para sua implementação no judiciário. Revista da Escola Judicial do TRT4, 3(5), 117-141. https://rejtrt4.emnuvens.com.br/revistaejud4/article/view/113

Published

2024-11-25