Generación de un dataset para la detección de imágenes y vídeos manipulados [Póster]

Generaci´ on de un Dataset para la Detecci´ on de Im´ agenes y V´ ıdeos Manipulados Sergio A. Falc´ on-L´ opez, Antonio Robles-G´ omez, Llanos Tobarra, Rafael Pastor-Vargas Departamento de Sistemas de Comunicaci´ on y Control Escuela T´ ecnica Superior de Ingenier´ ıa Inform´ atica Universidad Nacional de Educaci´ on a Distancia (UNED) Madrid, Spain [email protected]; {arobles,llanos,rpastor}@scc.uned.es Resumen—El consumo de contenidos multimedia en Internet se ha expandido exponencialmente a lo largo de los ´ ultimos a˜ nos. Estas tendencias han contribuido a que las noticias falsas tengan una gran influencia en la sociedad actual. Las ´ ultimas t´ ecnicas para influir en la difusi´ on de informaci´ on falsa digital est´ an basadas en m´ etodos de generaci´ on de im´ agenes y v´ ıdeos, conocidos como Deepfakes. De este modo, nuestro trabajo de investigaci´ on analiza varios m´ etodos de generaci´ on de Deepfakes, as´ ı como explorar diferentes herramientas tradicionales y especializadas para la detecci´ on de ´ estos. En concreto, se ha propuesto un dataset que incluye tanto contenidos multimedia falsos como reales con el fin de establecer un modelo de referencia en t´ ecnicas de detecci´ on de Deepfakes en im´ agenes y v´ ıdeos, as´ ı como poder verificar la bondad de estas t´ ecnicas de detecci´ on. Index Terms—Deepfake, Dataset, T´ ecnicas de Generaci´ on y Detecci´ on, Manipulaci´ on de Contenidos Tipo de contribuci´ on: Investigaci´ on ya publicada I. INTRODUCCI´ ON En la actualidad, las noticias son capaces de viajar alrededor del mundo en pocos minutos, gracias al consumo masivo de informaci´ on en Internet. Este auge ha sido posible principalmente por el incremento de dispositivos m´ oviles, los cuales permiten crear una gran cantidad de contenido multimedia diario, que se propaga mediante aplicaciones de mensajer´ ıa, redes sociales y sitios web de noticias. Si la informaci´ on que se transmite adem´ as es falsa, las consecuencias podr´ ıan llevar hasta el punto de poner manipular la opini´ on de la sociedad [1]. Por este motivo, no s´ olo es necesaria la detecci´ on de esta informaci´ on, sino que tambi´ en tiene que ser efectiva en el tiempo, ya que la generaci´ on de una evidencia falsa puede incluso vulnerar la integridad de las personas. La manipulaci´ on de la sociedad apoy´ andose en medios visuales y auditivos no es nueva, casi tan antigua como la difusi´ on de im´ agenes y sonidos. Sin embargo, la aparici´ on de los Deepfakes ha cambiado por completo el panorama de creaci´ on de contenidos falsos. Muy resumidamente, un Deepfake es una t´ ecnica que tiene como objetivo sustituir la cara de una persona por la cara de otra en un v´ ıdeo o en una imagen [2]. Teniendo en cuenta lo anterior, nuestra propuesta inicial fue presentada en la International Conference on Ubiquitous Computing and Ambient Intelligence de 2023 (UCAmI 2023) [3]. Espec´ ıficamente, aborda los siguientes objetivos dentro del campo de investigaci´ on en Deepfakes: 1. Estudio de varias t´ ecnicas de generaci´ on de Deepfakes para poder crear un dataset con el que experimentar que contenga tanto contenido falso de im´ agenes y v´ ıdeos como real. 2. Revisi´ on de las t´ ecnicas de detecci´ on de Deepfakes existentes con el fin de crear un marco de referencia que pueda ser de utilidad para el/la investigador/a que desee iniciarse en este campo de investigaci´ on. 3. Proponer un conjunto de datos Deepfakes y reales que sea ´ util para la experimentaci´ on con diversas t´ ecnicas de detecci´ on de im´ agenes y v´ ıdeos manipulados. II. NUESTRA PROPUESTA II-A. T´ ecnicas de generaci´ on Los tipos de manipulaciones de im´ agenes y v´ ıdeos agrupados dentro del t´ ermino Deepfake se pueden clasificar en cuatro m´ etodos [4]: Entire Face Synthesis,Identity Swap/Faceswap, Attribute Manipulation, and Expression Swap. Todos estos m´ etodos de manipulaci´ on suelen basarse en el uso de soluciones implementadas de forma b´ asica a trav´ es de GANs (Generative Adversarial Networks), y diversas variaciones para la generaci´ on de Deepfakes. La t´ ecnica Entire Face Synthesis consiste en la creaci´ on completa de caras que no existen. Se han usado Dall-E2 [6] ythispersondoesnotexist [7] para la generaci´ on de contenido falso de este tipo en el dataset propuesto (ver Figura 1). La t´ ecnica Identity Swap/Faceswap consiste en la realizaci´ on del intercambio de rostros en v´ ıdeos. En este trabajo se ha usado DeepFaceLab [8] para la generaci´ on de este tipo de contenido falso. Por su parte, la t´ ecnica Attribute Manipulation tambi´ en se conoce como face editing. Se utiliza como fuente una imagen en la que aparece un rostro, y la manipulaci´ on consiste en modificar algunos de los atributos del rostro. Hemos usado Figura 1. Repositorio del Dataset generado en GitHubs [5]. JNIC 2024 ISBN:978-84-09-62140-8 518 FaceApp [9] para generar este tipo de recurso. Finalmente, Expression Swap tambi´ en conocida como face reenactment, consiste en modificar la expresi´ on facial de la persona [10]. Se ha usado Avatarify [11] para generar este tipo de contenido falso. Para analizar las herramientas de detecci´ on de Deepfake, se ha creado un conjunto de datos que incluye im´ agenes y v´ ıdeos generados con los cuatro enfoques de generaci´ on mencionados anteriormente [5]. Este dataset ha sido publicado, junto a un estudio inicial de dichas t´ ecnicas de generaci´ on y detecci´ on de Deepfakes en [3]. II-B. T´ ecnicas de detecci´ on Se han comenzado a estudiar un conjunto de herramientas de detecci´ on de manipulaciones en im´ agenes y v´ ıdeos, as´ ı como tambi´ en, especializadas en detecci´ on de Deepfakes. Para aquellas herramientas que se basan en inteligencia artificial, en una primera aproximaci´ on se han probado los modelos ya entrenados que ofrecen las propias herramientas. En primer lugar, la aplicaci´ on Forensically [12], nos permitir´ a aplicar diferentes t´ ecnicas basadas en m´ etodos de validaci´ on manual. Los resultados, por tanto, deben ser evaluados por un agente humano, por lo que quedan al criterio y nivel de experiencia del analista forense. Tambi´ en se han testeado dos plugins para la herramienta Autopsy. Uno para detectar manipulaciones en im´ agenes y el otro en v´ ıdeos. El plugin de im´ agenes devuelve la probabilidad de manipulaci´ on, mientras que el de v´ ıdeos, solo indica si es Deepfake o no. Por otra parte, la herramienta Detecci´ on de falsificaci´ on de im´ agenes con CNNs, utiliza Deep Learning y detecta manipulaciones de tipo: copia y movimiento, eliminar y empalme. Los detalles sobre los par´ ametros se describen en [13]. Por su parte, la aplicaci´ on MantraNet es capaz de detectar diversas t´ ecnicas de manipulaci´ on e incluso algunas desconocidas. Como resultado, esta herramienta devuelve un mapa de probabilidades de manipulaci´ on para cada p´ ıxel de una imagen que se va a verificar. Adem´ as, la herramienta MesoNet se basa en la t´ ecnica que se muestra en [14]. Existen dos modelos ya entrenados: Meso-4 y MesoInception4. Para la detecci´ on de im´ agenes en MesoNet, se ha modificado el c´ odigo para poder analizarlas [5]. Finalmente, la aplicaci´ on en l´ ınea Deepware Scanner, usa varios proyectos de detecci´ on de v´ ıdeos Deepfake [15]. Al subir un v´ ıdeo en la secci´ on de Deepware Scanner, se genera un informe indicando si es un Deepfake y la probabilidad de detecci´ on de cada proyecto utilizado. A partir del estudio llevado a cabo que aqu´ ı se presenta de manera muy resumida se va a crear un modelo de referencia y se van a comparar las distintas t´ ecnicas con el dataset generado. III. CONCLUSIONES Y TRABAJOS FUTUROS En este trabajo se han estudiado diferentes t´ ecnicas de generaci´ on de Deepfakes, con el fin de llevar a cabo experimentaciones m´ as profundas dentro de la investigaci´ on en Deepfakes. Tambi´ en se han explorado herramientas de detecci´ on de Deepfake que podr´ ıan emplearse para mitigar este problema. Adem´ as se ha creado un conjunto de datos Deepfake espec´ ıfico para fines de validaci´ on con estas t´ ecnicas de detecci´ on. Los m´ etodos de detecci´ on convencionales y especializados nos pueden ayudar a detectar contenido Deepfake. Como trabajos futuros nos planteamos por una parte elaborar un modelo de referencia para la clasificaci´ on de las t´ ecnicas de detecci´ on de Deepfakes estudiadas. Por otra parte, llevar a cabo un estudio comparativo entre herramientas de detecci´ on convencionales y especializadas mediante el uso de varias m´ etricas de bondad dentro del campo del aprendizaje autom´ atico. AGRADECIMIENTOS Cabe destacar que esta iniciativa se realiza en el marco de los fondos del Plan de Recuperaci´ on, Transformaci´ on y Resiliencia, financiados por la Uni´ on Europea (Next Generation). En concreto, a trav´ es de un Proyecto de Investigaci´ on Estrat´ egico y una C´ atedra Internacional concedidos por el Instituto Nacional de Ciberseguridad (INCIBE) para el periodo 2024-2025. Tambi´ en agradecemos el apoyo del proyecto de investigaci´ on 2023-2024 LearnIoTOnCloud (2023-PUNED-0018) perteneciente al grupo de investigaci´ on CiberCSI UNED, adem´ as del apoyo recibido por el grupo de innovaci´ on CiberGID UNED, el M´ aster en Ciberseguridad de la UNED y el grupo de investigaci´ on I4Labs UNED. REFERENCIAS [1] INCIBE, “Deepfakes,” 2020, Sitio web: https://www.incibe.es/ aprendeciberseguridad/deepfakes (Fecha de ´ ultimo acceso: 3 de mayo de 2024). [2] C. El´ ıas, P. Montoro, S. Osuna, A. Fern´ adez-Rold´ an, A. Robles- G´ omez, T. G´ alvez, “Fake News. La f´ abrica de mentiras. TVE2 y Canal UNED,” Sitio web: https://www.rtve.es/play/videos/uned/03-11-23/ 7003458/ (Fecha de ´ ultimo acceso: 3 de mayo de 2024), 2023. [3] S. A. Falc´ on-L´ opez, A. Robles-G´ omez, L. Tobarra, and R. Pastor- Vargas, “Dataset generation and study of deepfake techniques,” in Proceedings of the 15th International Conference on Ubiquitous Computing & Ambient Intelligence (UCAmI 2023), J. Bravo and G. Urz´ aiz, Eds. Cham: Springer Nature Switzerland, 2023, pp. 197–206. [4] R. Tolosana, R. Vera-Rodriguez, J. Fierrez, A. Morales, and J. Ortega- Garcia, “Deepfakes and beyond: A survey of face manipulation and fake detection,” 2020. [Online]. Available: https://arxiv.org/abs/2001.00179 [5] S. A. Falc´ on, “Repositorio Deepfake,” Sitio web: https://github.com/ oigres5/DeepfakeTFM UNED (Fecha de ´ ultimo acceso: 3 de mayo de 2024), 2022. [6] OPENAI, “Dall-E2,” Sitio web: https://openai.com/dall-e-2/ (Fecha de ´ ultimo acceso: 3 de mayo de 2024), 2023. [7] TPDNE, “This Person Does Not Exist,” 2023, Sitio web: https:// this-person-does-not-exist.com/ (Fecha de ´ ultimo acceso: 3 de mayo de 2024). [8] I. Perov, D. Gao, N. Chervoniy, K. Liu, S. Marangonda, C. Um´ e, M. Dpfks, C. S. Facenheim, L. RP, J. Jiang, S. Zhang, P. Wu, B. Zhou, and W. Zhang, “Deepfacelab: Integrated, flexible and extensible faceswapping framework,” 2021. [9] FaceApp, Sitio web: https://www.faceapp.com/ (Fecha de ´ ultimo acceso: 3 de mayo de 2024), 2023. [10] J. Thies, M. Zollh¨ ofer, M. Stamminger, C. Theobalt, and M. Nießner, “Face2face: Real-time face capture and reenactment of rgb videos,” 2020. [Online]. Available: https://arxiv.org/abs/2007.14808 [11] ALIEVK, “Avatarify,” Sitio web: https://github.com/alievk/ avatarify-desktop (Fecha de ´ ultimo acceso: 3 de mayo de 2024), 2023. [12] J. Wagner, “Forensically,” Sitio web: https://29a.ch/photo-forensics (Fecha de ´ ultimo acceso: 3 de mayo de 2024), 2023. [13] Y. Rao and J. Ni, “A deep learning approach to detection of splicing and copy-move forgeries in images,” in 2016 IEEE International Workshop on Information Forensics and Security (WIFS), 2016, pp. 1–6. [14] D. Afchar, V. Nozick, J. Yamagishi, and I. Echizen, “MesoNet: a compact facial video forgery detection network,” in 2018 IEEE International Workshop on Information Forensics and Security (WIFS). IEEE, dec 2018, pp. 1–7. [Online]. Available: https: //doi.org/10.1109%2Fwifs.2018.8630761 [15] Deepware, “Deepware Scanner,” Sitio web: https://deepware.ai/ (Fecha de ´ ultimo acceso: 3 de mayo de 2024), 2023. Generaci´on de un Dataset para la Detecci´on de Im´agenes y V´ıdeos Manipulados 519