Los deepfakes y su incidencia en el derecho probatorio
DOI:
https://doi.org/10.20983/reij.2025.1.2Palabras clave:
deepfakes, derecho probatorio, derecho procesal, noticias falsas, ultrafalsosResumen
El objetivo de este artículo es determinar el impacto de las tecnologías deepfake en el Derecho Probatorio, debido a que la inteligencia artificial generativa no solo provoca un estado de indefensión para bienes jurídicos como la democracia, sino que también se configura como una problemática disruptiva para la verdad procesal. Asimismo, a lo largo de la presente investigación se empleó el Método de Revisión Integrativa de Literatura mediante el cual se recolectó y filtró información vinculada a la naturaleza e impacto de los ultrafalsos. Finalmente, se llegó a demostrar que en el common law, se debería considerar la posibilidad de erradicar el uso del Principio del Testigo Silencioso frente a las pruebas digitales en consideración de la proliferación de los deepfakes; y, por otro lado, en el civil law, se pudo evidenciar que la necesidad de utilizar inteligencia artificial para la detección de deepfakes atentaría contra dos criterios Daubert, ya que la técnica carece de pruebas frente a errores y le hace falta revisión científica.
Descargas
Citas
Altuncu, E., Franqueira, V. N. L. y Li, S. (2022). Deepfake: Definitions, Performance Metrics and Standards, Datasets and Benchmarks, and a Meta-Review. arXiv:2208.10913. https://doi.org/10.48550/arXiv.2208.10913
Bañuelos, J. (2020). Deepfake: la imagen en tiempos de la posverdad. Revista Panamericana de Comunicación, 2(1), 51-61. https://doi.org/10.21555/rpc.v0i1.2315
Bravo, A. (2017). Image Manipulation Practices through the History and Evolution of Photography. En J. Jaramillo, A. Burbano, F. Londoño y G. Mejía. (Eds.), Proceedings of the 23rd International Symposium on Electronic Art ISEA2017 Manizales (pp. 205-210). Editorial de la Universidad de Caldas.
Bregler, C., Covell, M. y Slaney, M. (1997). Video Rewrite: Driving Visual Speech with Audio. SIGGRAPH ’97: Proceedings of the 24th Annual Conference on Computer Graphics and Interactive Techniques, 353-360. https://doi.org/10.1145/258734.258880
Camacho, A. (1998). Manual de derecho probatorio. Editorial Themis.
Cano, S. (2024, 4-5 de abril). La manipulación de la prueba documental a través de la ia: un reto para los jueces [Conferencia]. XIII Fórum Internacional de Expertos y Jóvenes Investigadores en Derecho y Nuevas Tecnologías; Salamanca, España.
Colegio Técnico del Área de Milwaukee. (2024, 9 de abril). Fake News / ai Deepfakes. https://guides.matc.edu/fakenews/deepfakes
Cootes, T., Edwards, G. y Taylor, C. (2001). Active Appearance Models. ieee Transactions on Pattern Analysis and Machine Intelligence, 23(6), 681-685. https://doi.org/10.1109/34.927467
De Ruiter, A. (2021). The Distinct Wrong of Deepfakes. Philosophy & Technology, 34, 1311-1332. https://doi.org/10.1007/s13347-021-00459-2
Delfino, R. (2023). Deepfakes on Trial: A Call to Expand the Trial Judge’s Gatekeeping Role to Protect Legal Proceedings from Technological Fakery. uc Law Journal, 74(2), 293-348.
Devis Echandía, H. (1984). Compendio de la prueba judicial. Rubinzal – Culzoni Editores.
Eberl, A., Kühn, J. y Wolbring, T. (2022). Using Deepfakes for Experiments in the Social Sciences – A Pilot Study. Frontiers in Sociology, 7. https://doi.org/10.3389/fsoc.2022.907199
Gil, R., Virgili-Gomà, J., López-Gil, J.-M. y García, R. (2023). Deepfakes: Evolution and Trends. Soft Computing: A Fusion of Foundations, Methodologies and Applications, 27, 11295-11318. https://doi.org/10.1007/s00500-023-08605-y
GOV.UK. (2024). Government Cracks Down on ‘Deepfakes’ Creation. https://acortar.link/Y60RFA
Jacobsen, B. N. (2023). The Tensions of Deepfakes. Information, Communication & Society, 1095-1109. https://doi.org/10.1080/1369118X.2023.2234980
Keith, R. (2024, 30 de enero). Intimate Images Protection Act. Harper Grey llp. https://acortar.link/1r8x3J
Lee, S. (2024, 13 de mayo). ai and Elections: Lessons from South Korea. The Diplomat. https://thediplomat.com/2024/05/ai-and-elections-lessons-from-south-korea/
Lubbe, W., Ham-Baloyi, W. y Smit, K. (2020). The Integrative Literature Review as a Research Method: A Demonstration Review of Research on Neurodevelopmental Supportive Care in Preterm Infants. Journal of Neonatal Nursing, 26(6), 308-315. https://doi.org/10.1016/j.jnn.2020.04.006
McIntyre, L. (2018). Post-Truth. Editorial del Instituto de Tecnología de Massachusetts (MIT).
Molina, A. C. y Berenguel, O. L. (2022). Deepfake: A Evolução Das Fake News. Research, Society and Development, 11(6). https://doi.org/10.33448/rsd-v11i6.29533
Mustak, M., Salminen, J., Mäntymäki, M., Rahman, A. y Dwivedi, Y. K. (2023). Deepfakes: Deceptions, Mitigations, and Opportunities. Journal of Business Research, 154. https://doi.org/10.1016/j.jbusres.2022.113368
Naitali, A., Ridouani, M., Salahdine, F. y Kaabouch, N. (2023). Deepfake Attacks: Generation, Detection, Datasets, Challenges, and Research Directions. Computers, 12(10). https://doi.org/10.3390/computers12100216
Nieva Fenoll, J. (2018). Repensando Daubert: la paradoja de la prueba pericial. Civil Procedure Review, 9(1), 11-26.
Oxford. (2024). Deepfake. https://www.oxfordlearnersdictionaries.com/definition/english/deepfake
-----. (2024). Post-Truth. https://www.oxfordlearnersdictionaries.com/definition/english/post-truth?q=Post-Truth
Rare Historical Photos. (2021). How Stalin’s Propaganda Machine Erased People from Photographs, 1922-1953. https://rarehistoricalphotos.com/stalin-photo-manipulation-1922-1953/
Rodny-Gumede, Y. (2018). Fake It till You Make It: The Role, Impact and Consequences of Fake News. En B. Mutsvairo y B. Karam. (Eds.), Perspectives on Political Communication in Africa (pp. 203-219). Editorial de Palgrave Macmillan.
Russell, C. (2005). An Overview of the Integrative Research Review. Prog Transplant, 15(1). https://doi.org/10.1177/152692480501500102
Sharma, J. y Sharma, R. (2017). Analysis of Key Photo Manipulation Cases and their Impact on Photography. iis University Journal of Arts, 6(1), 88-99.
Sodji, L. (2023, 26 de octubre). How We Made David Beckham Speak 9 Languages. Synthesia. https://www.synthesia.io/post/david-beckham
Somers, M. (2020, 21 de julio). Deepfakes, Explained. MIT Management Sloan School. https://mitsloan.mit.edu/ideas-made-to-matter/deepfakes-explained
Song, D. (2019, 23 de septiembre). A Short History of Deepfakes. Medium. https://medium.com/@songda/a-short-history-of-deepfakes-604ac7be6016
Suwajanakorn, S., Seitz, S. y Kemelmacher-Shlizerman, I. (2017). Synthesizing Obama: Learning Lip Sync from Audio. acm Transactions on Graphics, 36(4), 1-13. https://doi.org/10.1145/3072959.3073640
The New York Times. (2009). A Brief History of Photo Fakery. https://archive.nytimes.com/www.nytimes.com/slideshow/2009/08/23/weekinreview/20090823_FAKE_SS_6.html
Thies, J., Zollhöfer, M., Stamminger, M., Theobalt, C. y Nießner, M. (2019). Face2Face: Real-Time Face Capture and Reenactment of rgb Videos. Communications of the acm, 62(1), 96-104. https://doi.org/10.1145/3292039
Thissen, B. (2024, 6 de febrero). La nueva normativa de la ue penalizará los “manuales de pederastia” y los “deepfakes” de abusos a menores. Euro News. https://acortar.link/FAs4BY
Torraco, R. (2016). Writing Integrative Literature Reviews: Using the Past and Present to Explore the Future. Human Resource Development Review, 15(4). https://doi.org/10.1177/1534484316671606
Tsay-Vogel, M. (2020). Third-Person Effect. The International Encyclopedia of Media Psychology. https://doi.org/10.1002/9781119011071.iemp0130
Tucher, A. (2022). Not Exactly Lying: Fake News and Fake Journalism in American History. Editorial de la Universidad de Columbia.
Van Rijmenam, M. (2022). What is Synthetic Media: The Ultimate Guide. The Digital Speaker. https://www.thedigitalspeaker.com/what-is-synthetic-media-ultimate-guide/
Wade, N. (2006). It May Look Authentic; Here’s How to Tell It Isn’t. The New York Times. https://www.nytimes.com/2006/01/24/science/it-may-look-authentic-heres-how-to-tellit-isnt.html
Waldorf, S. (2021). The Man Who Photographed Ghosts. Centro Getty. https://www.getty.edu/news/the-man-who-photographedghosts/
Wang, L., Zhou, L., Yang, W. y Yu, R. (2022). Deepfakes: A New Threat to Image Fabrication in Scientific Publications? Patterns, 3(5). https://doi.org/10.1016/j.patter.2022.100509
Waters, M. (2017). The Great Lengths Taken to Make Abraham Lincoln Look Good in Portraits. Atlas Obscura. https://www.atlasobscura.com/articles/abraham-lincoln-photos-edited
Westerlund, M. (2019). The Emergence of Deepfake Technology: A Review. Technology Innovation Management Review, 9(11), 39-52. http://doi.org/10.22215/timreview/1282
Wolofsky, T. (2014). Photographic Art in the Age of Digital Manipulation: Back to the Darkroom with Michael Lynch and Bruno Latour. Tooth & Claw, 11, 89-99.
Zhang, L. (2023, abril 26). China: Provisions on Deep Synthesis Technology Enter Into Effect. Library of Congress. https://acortar.link/bCKCq7
Descargas
Publicado
Número
Sección
Licencia
Derechos de autor 2024 Ángel Jeancarlo Coaquira Flores
Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial-CompartirIgual 4.0.
El titular de los derechos de explotación de los contenidos de la Revista Especializada en Investigación Jurídica es el Autor o Autora
El licenciamiento bajo el cual se publican los contenidos es Atribución-NoComercial-CompartirIgual 4.0 Internacional (CC BY-NC-SA 4.0) por lo que se autoriza compartir, copiar y redistribuir el material en cualquier medio y formato, adaptar, remezclar, transformar y construir a partir del material para cualquier propósito, siempre y cuando no sea con fines comerciales y se cite al autor(es) original y a la fuente, proporcione la liga a la licencia Creative Commons e indique claramente si se hicieron cambios a la obra y especifique cuales fueron dichos cambios. Para más información consultar el apartado de Política de Acceso Abierto de la revista.
