El uso ilícito de las técnicas de inteligencia artificial y la necesidad de su regulación: el deepfake
Publicado
dic 12, 2024
Almetrics
Dimensions
Google Scholar
Homero Pracedes Jondec Briones
https://orcid.org/0000-0001-9691-2722
María Eugenia Zevallos Loyaga
https://orcid.org/0000-0002-2083-3718
Adolfo Yesser Segura Grados
https://orcid.org/0000-0001-6348-0855
Erika Milagros Castrejon Vilchez
https://orcid.org/0000-0001-7133-6036
https://orcid.org/0000-0001-9691-2722
María Eugenia Zevallos Loyaga
https://orcid.org/0000-0002-2083-3718
Adolfo Yesser Segura Grados
https://orcid.org/0000-0001-6348-0855
Erika Milagros Castrejon Vilchez
https://orcid.org/0000-0001-7133-6036
##plugins.themes.bootstrap3.article.details##
Resumen
Este artículo tiene como objetivo principal determinar si es necesario regular el uso ilícito de las técnicas de IA como el deepfake; además, por objetivos específicos tiene describir el funcionamiento de la deepfake como técnica de IA y su uso ilícito; examinar casuísticamente el reciente uso ilícito de deepfake y cómo se produce el daño; y, finalmente, identificar los fundamentos para la tipificación del uso ilícito de deepfake como técnica de IA.Metodológicamente, se abordó un tipo de investigación básico, con un enfoque de investigación cualitativo y con un diseño no experimental, haciendo uso de entrevistas, y los resultados se obtuvieron mediante un enfoque multidisciplinario, a través de entrevistas con especialistas, análisis documental y estudios relacionados con el deepfake y con fuentes de base de datos de confiabilidad. Se concluye que el deepfake es un tipo de tecnología emergente que está al alcance de usuarios de todas las edades, que gana adeptos constantemente y que su uso malicioso produce trastornos sociales, siendo fundamental regularlo como delito independiente, estableciéndose figuras legales propias según los contextos, sin depender de otras figuras legales.
Keywords
Artificial Intelligence, Legal System, Crime, Technology, Deepfakeinteligencia artificial, ordenamiento jurídico, delito, tecnología, deepfake
References
Adrián Enrique Hernández Muñoz, Miguel Ángel Alexandro Rangel Alvarado, Lenin Torres García, Gustavo Hernández Martínez, Pierre Kalid Castillo Ixta, Leticia Lizzet Olivares Moreno & Andrea Guadalupe Sánchez Morales, Proceso para la realización de una revisión bibliográfica en investigaciones clínicas, Digital Ciencia UAGRO (julio de 2022), https://revistas.uaq.mx/index.php/ciencia/article/view/686
Alejandro Morales Cáceres, El impacto de la inteligencia artificial en el derecho, Advocatus (marzo de 2021), https://doi.org/10.26439/advocatus2021.n39.5117
Andrés Abeliuk & Claudio Gutiérrez, Historia y evolución de la inteligencia artificial, Revista Bits de Ciencia 14 (2021), https://revistasdex.uchile.cl/index.php/bits/article/view/2767
Ángeles Jareño Leal, El derecho a la imagen íntima y el Código penal: la calificación de los casos de elaboración y difusión del deepfake sexual, Revista Electrónica de Ciencia Penal y Criminología, Revista Electrónica de Ciencia Penal y Criminología (abril de 2024), https://dialnet.unirioja.es/servlet/articulo?codigo=9537441
Antonio Rodríguez Rosado, Rigor científico, pertinencia y relevancia en los artículos científicos, Revista Prisma Social (julio de 2024). https://revistaprismasocial.es/
Aurelio Recuenco & William Reyes, Inteligencia artificial: camino a un nuevo esquema del mundo, 23 SCIÉNDO 299 (2020), https://doi.org/10.17268/sciendo.2020.036
Carlos Sabino, El proceso de investigación (Ed. Panapo, 1992).
Carmelo Hernández Ramos, Vicente Magro Servet & J. Pablo Cuéllar Otón, El maltrato psicológico. Causas, consecuencias y criterios jurisprudenciales. El problema probatorio (Instituto de Capacitación Judicial del Supremo Tribunal de Justicia de Sinaloa, 2014), http://hdl.handle.net/10045/46929
Casiano Highton, Los daños derivados de la inteligencia artificial y del impacto de las nuevas tecnologías (Pontificia Universidad Católica Argentina, 2020).
Christian Dennis Valero Quispe, Derecho e inteligencia artificial en el mundo de hoy: escenarios internacionales y los desafíos que representan para el Perú, 79 Themis. Revista de Derecho 311 (2021), https://doi.org/10.18800/themis.202101.017
Código Penal Español [CPE]. Ley Orgánica 10/1995. 23 de noviembre 1995 (España).
Código Penal Peruano [CPP]. Decreto Legislativo 1545 de 2023. Art. 324. 22 de noviembre de 2023 (Perú).
Cristina Romero Chaves, La categorización un aspecto crucial en la investigación cualitativa, Revista de Investigaciones Cesmag 113 (junio de 2005), https://biblioteca.unicesmag.edu.co/digital/revinv/0123-1340v11n11pp113.pdf
Manuel E. Cortés Cortés & Miriam Iglesias León, Generalidades sobre metodología de la investigación (Ed. Universidad Autónoma del Carmen, Colección Material Didáctico, 2004), https://www.unacar.mx/contenido/gaceta/ediciones/metodologia_investigacion.pdf
Eryn J. Newman & Norbert Schwarz, Misinformed by images: How images influence perceptions of truth and what can be done about it, 56 Curr Opin Psychol 101778 (2024), https://doi.org/10.1016/j.copsyc.2023.101778
Fabio Anselmo Sánchez Flores, Fundamentos epistémicos de la investigación cualitativa y cuantitativa: Consensos y disensos, 13 Revista Digital de Investigación en Docencia Universitaria 101 (enero de 2019), http://dx.doi.org/10.19083/ridu.2019.644
Frank Almanza Altamirano & Óscar Peña Gonzales, Teoría del delito: manual práctico para su aplicación en la teoría del caso (Ed. Asociación Peruana de Ciencias Jurídicas y Conciliación [APECC], 2010).
Gülselin Güler & Sedef Gündüz, Deep learning based fake news detection on social media, 12 IJISS (2023), https://doi.org/10.55859/ijiss.1231423
Guy Hedgecoe, El escándalo en un pequeño pueblo de España por las imágenes de decenas de niñas y jóvenes desnudas generadas por IA, BBC News Mundo (25 de septiembre de 2023), https://www.bbc.com/mundo/articles/cz9r6792k13o
Hugo Bernal Huayhua Quispe, Los retos legales del Perú en la era de la revolución tecnológica e inteligencia artificial (Red de Repositorios Latinoamericanos, 2022).
Hugo Sánchez Carlessi, Carlos Reyes Romero & Katia Mejía Sáenz, Manual de términos en investigación científica, tecnológica y humanística (Ed. Universidad Ricardo Palma, 2018).
Jacob Bañuelos Capistrán, Deepfake: la imagen en tiempos de la posverdad, 2 Revista Panamericana de Comunicación 51 (2020), https://doi.org/10.21555/rpc.v0i1.2315
Joshua Glick, Deepfake Satire and the Possibilities of Synthetic Media, 50 Afterimage 81 (2023), https://doi.org/10.1525/aft.2023.50.3.81
Juana Ojeda de López, Johana Quintero & Ineida Machado, La ética en la investigación, 9 Telos 345 (mayo de 2007), http://www.redalyc.org/articulo.oa?id=99318750010
Kevin Roose, Los líderes del sector advierten sobre el “riesgo de extinción” de la inteligencia artificial (NYT, 2023).
Lasse Rouhiainen, Inteligencia artificial: 101 cosas que debes saber hoy sobre nuestro futuro 15-32 (Alienta Editorial, 2018).
Ley 30096 de 2013. Ley de delitos informáticos. 22 de octubre de 2013. D.O. No. 505484.
Ley 30096 de 2013. Ley de delitos informáticos. 22 de octubre de 2013. D.O. No. 505484.
Luz Marina Carmona Rave & Laura Valencia Ruiz, Valoración del daño psicológico en el contexto jurídico colombiano, 7 Revista de Psicología Universidad de Antioquia 147 (julio de 2015), https://doi.org/10.17533/udea.rp.325210
Mario Gonzáles Arencibia & Dagmaris Martínez Cardero, Soluciones educativas frente a los dilemas éticos del uso de la tecnología Deep Fake, 1 Revista Internacional de filosofía teoría y práctica 99 (mayo de 2024), https://doi.org/10.51660/riftp.v1i1.22
Mike Seymour, Lingyao Yuan, Alan Dennis & Kai Riemer, Facing the Artificial: Understanding Affinity, Trustworthiness, and Preference for More Realistic Digital Humans, Hamilton Library, 4673 (2020), https://hdl.handle.net/10125/64316
Mizanur Rahman, Harold Jan Terano, Nafizur Rahman, Aidin Salamzadeh & Saidur Rahaman, ChatGPT and Academic Research: A Review and Recommendations Based on Practical Examples, SSRN (2023).
Narcisa Dolores Piza Burgos, Francisco Alejandro Amaiquema Márquez & Gina Esmeralda Beltrán Baquerizo, Métodos y técnicas en la investigación cualitativa. Algunas precisiones necesarias, 15 Conrado 455 (diciembre de 2019), http://conrado.ucf.edu.cu/index.php/conrado
Nicolás Pascual de la Parte, Ciberseguridad europea con sabor español, Revista SIC Ciberseguridad, Seguridad de la Información y Privacidad (2023).
Óscar Miranda, El peligro de la pornografía deepfake, La República (3 de septiembre de 2023), https://larepublica.pe/domingo/2023/09/03/el-peligro-de-la-pornografia-deepfake-porno-chorrillos-inteligencia-artificial-111374
Óscar Alejandro Palacios Rodríguez, La teoría fundamentada: origen, supuestos y perspectivas, Intersticios Sociales 47 (2021), https://www.redalyc.org/journal/4217/421769000003/
Paulina Iveth Vizcaíno Zúñiga, Ricardo Javier Cedeño Cedeño & Israel Alejandro Maldonado Palacios, Metodología de la investigación científica: guía práctica, 7 Ciencia Latina 9723 (septiembre de 2023), https://doi.org/10.37811/cl_rcm.v7i4.7658
Pedro Morales Corrales & Alejandro Morales Cáceres, El impacto de las nuevas tecnologías en las relaciones laborales, IUS et Praxis 39 (2021), https://doi.org/10.26439/iusetpraxis2021.n052.5072
Percy Jesús Sánchez Loayza & Miguel Ángel Zúñiga Marino, Necesidad de regulación de la inteligencia artificial en la responsabilidad civil extracontractual en el Perú, 2021, (Universidad Tecnológica del Perú, 2022).
Ricardo De La Espriella Guerrero & Carlos Gómez Restrepo, Teoría fundamentada, 49 Revista Colombiana de Psiquiatría 126 (2020), https://www.elsevier.es/es-revista-revista-colombiana-psiquiatria-379-articulo-teoria-fundamentada-S0034745018300891
Ricardo Nieves, Teoría del delito y práctica penal (Ed. Editora Centenario S.A, 2010).
Rimsha Rafique, Rahma Gantassi, Rashid Amin, Jaroslav Frnda, Aida Mustapha & Asma Hassan Alshehri, Deep fake detection and classification using error-level analysis and deep learning, 13 Scientific reports (2023), https://doi.org/10.1038/s41598-023-34629-3
Sebastián Ríos, Los riesgos de la inteligencia artificial, 72 Mensaje 40 (2023).
Victor Lahoud S., Metodología de la investigación científica 1 Odontología Sanmarquina 51 (2001), https://sisbib.unmsm.edu.pe/bvrevistas/odontologia/2001_n8/pdf/metologia_investigacion_cientifica.pdf
Alejandro Morales Cáceres, El impacto de la inteligencia artificial en el derecho, Advocatus (marzo de 2021), https://doi.org/10.26439/advocatus2021.n39.5117
Andrés Abeliuk & Claudio Gutiérrez, Historia y evolución de la inteligencia artificial, Revista Bits de Ciencia 14 (2021), https://revistasdex.uchile.cl/index.php/bits/article/view/2767
Ángeles Jareño Leal, El derecho a la imagen íntima y el Código penal: la calificación de los casos de elaboración y difusión del deepfake sexual, Revista Electrónica de Ciencia Penal y Criminología, Revista Electrónica de Ciencia Penal y Criminología (abril de 2024), https://dialnet.unirioja.es/servlet/articulo?codigo=9537441
Antonio Rodríguez Rosado, Rigor científico, pertinencia y relevancia en los artículos científicos, Revista Prisma Social (julio de 2024). https://revistaprismasocial.es/
Aurelio Recuenco & William Reyes, Inteligencia artificial: camino a un nuevo esquema del mundo, 23 SCIÉNDO 299 (2020), https://doi.org/10.17268/sciendo.2020.036
Carlos Sabino, El proceso de investigación (Ed. Panapo, 1992).
Carmelo Hernández Ramos, Vicente Magro Servet & J. Pablo Cuéllar Otón, El maltrato psicológico. Causas, consecuencias y criterios jurisprudenciales. El problema probatorio (Instituto de Capacitación Judicial del Supremo Tribunal de Justicia de Sinaloa, 2014), http://hdl.handle.net/10045/46929
Casiano Highton, Los daños derivados de la inteligencia artificial y del impacto de las nuevas tecnologías (Pontificia Universidad Católica Argentina, 2020).
Christian Dennis Valero Quispe, Derecho e inteligencia artificial en el mundo de hoy: escenarios internacionales y los desafíos que representan para el Perú, 79 Themis. Revista de Derecho 311 (2021), https://doi.org/10.18800/themis.202101.017
Código Penal Español [CPE]. Ley Orgánica 10/1995. 23 de noviembre 1995 (España).
Código Penal Peruano [CPP]. Decreto Legislativo 1545 de 2023. Art. 324. 22 de noviembre de 2023 (Perú).
Cristina Romero Chaves, La categorización un aspecto crucial en la investigación cualitativa, Revista de Investigaciones Cesmag 113 (junio de 2005), https://biblioteca.unicesmag.edu.co/digital/revinv/0123-1340v11n11pp113.pdf
Manuel E. Cortés Cortés & Miriam Iglesias León, Generalidades sobre metodología de la investigación (Ed. Universidad Autónoma del Carmen, Colección Material Didáctico, 2004), https://www.unacar.mx/contenido/gaceta/ediciones/metodologia_investigacion.pdf
Eryn J. Newman & Norbert Schwarz, Misinformed by images: How images influence perceptions of truth and what can be done about it, 56 Curr Opin Psychol 101778 (2024), https://doi.org/10.1016/j.copsyc.2023.101778
Fabio Anselmo Sánchez Flores, Fundamentos epistémicos de la investigación cualitativa y cuantitativa: Consensos y disensos, 13 Revista Digital de Investigación en Docencia Universitaria 101 (enero de 2019), http://dx.doi.org/10.19083/ridu.2019.644
Frank Almanza Altamirano & Óscar Peña Gonzales, Teoría del delito: manual práctico para su aplicación en la teoría del caso (Ed. Asociación Peruana de Ciencias Jurídicas y Conciliación [APECC], 2010).
Gülselin Güler & Sedef Gündüz, Deep learning based fake news detection on social media, 12 IJISS (2023), https://doi.org/10.55859/ijiss.1231423
Guy Hedgecoe, El escándalo en un pequeño pueblo de España por las imágenes de decenas de niñas y jóvenes desnudas generadas por IA, BBC News Mundo (25 de septiembre de 2023), https://www.bbc.com/mundo/articles/cz9r6792k13o
Hugo Bernal Huayhua Quispe, Los retos legales del Perú en la era de la revolución tecnológica e inteligencia artificial (Red de Repositorios Latinoamericanos, 2022).
Hugo Sánchez Carlessi, Carlos Reyes Romero & Katia Mejía Sáenz, Manual de términos en investigación científica, tecnológica y humanística (Ed. Universidad Ricardo Palma, 2018).
Jacob Bañuelos Capistrán, Deepfake: la imagen en tiempos de la posverdad, 2 Revista Panamericana de Comunicación 51 (2020), https://doi.org/10.21555/rpc.v0i1.2315
Joshua Glick, Deepfake Satire and the Possibilities of Synthetic Media, 50 Afterimage 81 (2023), https://doi.org/10.1525/aft.2023.50.3.81
Juana Ojeda de López, Johana Quintero & Ineida Machado, La ética en la investigación, 9 Telos 345 (mayo de 2007), http://www.redalyc.org/articulo.oa?id=99318750010
Kevin Roose, Los líderes del sector advierten sobre el “riesgo de extinción” de la inteligencia artificial (NYT, 2023).
Lasse Rouhiainen, Inteligencia artificial: 101 cosas que debes saber hoy sobre nuestro futuro 15-32 (Alienta Editorial, 2018).
Ley 30096 de 2013. Ley de delitos informáticos. 22 de octubre de 2013. D.O. No. 505484.
Ley 30096 de 2013. Ley de delitos informáticos. 22 de octubre de 2013. D.O. No. 505484.
Luz Marina Carmona Rave & Laura Valencia Ruiz, Valoración del daño psicológico en el contexto jurídico colombiano, 7 Revista de Psicología Universidad de Antioquia 147 (julio de 2015), https://doi.org/10.17533/udea.rp.325210
Mario Gonzáles Arencibia & Dagmaris Martínez Cardero, Soluciones educativas frente a los dilemas éticos del uso de la tecnología Deep Fake, 1 Revista Internacional de filosofía teoría y práctica 99 (mayo de 2024), https://doi.org/10.51660/riftp.v1i1.22
Mike Seymour, Lingyao Yuan, Alan Dennis & Kai Riemer, Facing the Artificial: Understanding Affinity, Trustworthiness, and Preference for More Realistic Digital Humans, Hamilton Library, 4673 (2020), https://hdl.handle.net/10125/64316
Mizanur Rahman, Harold Jan Terano, Nafizur Rahman, Aidin Salamzadeh & Saidur Rahaman, ChatGPT and Academic Research: A Review and Recommendations Based on Practical Examples, SSRN (2023).
Narcisa Dolores Piza Burgos, Francisco Alejandro Amaiquema Márquez & Gina Esmeralda Beltrán Baquerizo, Métodos y técnicas en la investigación cualitativa. Algunas precisiones necesarias, 15 Conrado 455 (diciembre de 2019), http://conrado.ucf.edu.cu/index.php/conrado
Nicolás Pascual de la Parte, Ciberseguridad europea con sabor español, Revista SIC Ciberseguridad, Seguridad de la Información y Privacidad (2023).
Óscar Miranda, El peligro de la pornografía deepfake, La República (3 de septiembre de 2023), https://larepublica.pe/domingo/2023/09/03/el-peligro-de-la-pornografia-deepfake-porno-chorrillos-inteligencia-artificial-111374
Óscar Alejandro Palacios Rodríguez, La teoría fundamentada: origen, supuestos y perspectivas, Intersticios Sociales 47 (2021), https://www.redalyc.org/journal/4217/421769000003/
Paulina Iveth Vizcaíno Zúñiga, Ricardo Javier Cedeño Cedeño & Israel Alejandro Maldonado Palacios, Metodología de la investigación científica: guía práctica, 7 Ciencia Latina 9723 (septiembre de 2023), https://doi.org/10.37811/cl_rcm.v7i4.7658
Pedro Morales Corrales & Alejandro Morales Cáceres, El impacto de las nuevas tecnologías en las relaciones laborales, IUS et Praxis 39 (2021), https://doi.org/10.26439/iusetpraxis2021.n052.5072
Percy Jesús Sánchez Loayza & Miguel Ángel Zúñiga Marino, Necesidad de regulación de la inteligencia artificial en la responsabilidad civil extracontractual en el Perú, 2021, (Universidad Tecnológica del Perú, 2022).
Ricardo De La Espriella Guerrero & Carlos Gómez Restrepo, Teoría fundamentada, 49 Revista Colombiana de Psiquiatría 126 (2020), https://www.elsevier.es/es-revista-revista-colombiana-psiquiatria-379-articulo-teoria-fundamentada-S0034745018300891
Ricardo Nieves, Teoría del delito y práctica penal (Ed. Editora Centenario S.A, 2010).
Rimsha Rafique, Rahma Gantassi, Rashid Amin, Jaroslav Frnda, Aida Mustapha & Asma Hassan Alshehri, Deep fake detection and classification using error-level analysis and deep learning, 13 Scientific reports (2023), https://doi.org/10.1038/s41598-023-34629-3
Sebastián Ríos, Los riesgos de la inteligencia artificial, 72 Mensaje 40 (2023).
Victor Lahoud S., Metodología de la investigación científica 1 Odontología Sanmarquina 51 (2001), https://sisbib.unmsm.edu.pe/bvrevistas/odontologia/2001_n8/pdf/metologia_investigacion_cientifica.pdf
Cómo citar
Jondec Briones, H. P., Zevallos Loyaga, M. E., Segura Grados, A. Y., & Castrejon Vilchez, E. M. (2024). El uso ilícito de las técnicas de inteligencia artificial y la necesidad de su regulación: el deepfake. Vniversitas, 73. https://doi.org/10.11144/Javeriana.vj73.uiti
Sección
Edición ordinaria
Esta obra está bajo una licencia internacional Creative Commons Atribución 4.0.