Detección de contenido sensible en audio y vídeo mediante espectrogramas y aprendizaje por transferencia

Detecci´ on de Contenido Sensible en Audio y V´ ıdeo mediante Espectrogramas y Aprendizaje por Transferencia Daniel Povedano ´ Alvarez, Ana Lucila Sandoval Orozco, Luis Javier Garc´ ıa Villalba∗ Grupo de An´ alisis, Seguridad y Sistemas (GASS) Departamento de Ingenier´ ıa del Software e Inteligencia Artificial (DISIA) Facultad de Inform´ atica, Despacho 431, Universidad Complutense de Madrid (UCM) Calle Profesor Jos´ e Garc´ ıa Santesmases, 9, Ciudad Universitaria, 28040 Madrid Email: {dpovedano, asandov, javierv}@ucm.es Resumen—Con la creciente proliferaci´ on del contenido multimedia en l´ ınea, surge la necesidad de garantizar la seguridad digital de los usuarios. La detecci´ on de contenido sensible en v´ ıdeos representa un desaf´ ıo cr´ ıtico para los investigadores y profesionales de la seguridad. Este art´ ıculo examina c´ omo el an´ alisis de audio puede ser una herramienta efectiva para filtrar contenido para adultos sin sacrificar el rendimiento, lo que permite la automatizaci´ on en la detecci´ on de material sensible en dispositivos digitales. Para mejorar esta capacidad, se investigaron m´ etodos de extracci´ on de caracter´ ısticas ac´ usticas y se evaluaron para la detecci´ on de contenido sensible en v´ ıdeos. Utilizando una CNN pre-entrenada y utilizando espectrogramas de log Mel y aumento de datos, obtuvimos un 86,4 % de F1- measure en el conjunto de datos Pornography-2K. Finalmente, en la clasificaci´ on de v´ ıdeos completos se obtuvo un 90,4 % de F1-measure. Index Terms—Aprendizaje profundo, Espectrogramas de Mel, Clasificaci´ on de v´ ıdeos, An´ alisis de audio Tipo de contribuci´ on: Investigaci´ on original (l´ ımite 8 p´ aginas) I. INTRODUCCI´ ON La presencia de contenido sensible en v´ ıdeos puede tener consecuencias graves, especialmente en entornos donde los usuarios son vulnerables, como plataformas de redes sociales, aplicaciones de mensajer´ ıa y entornos de juego en l´ ınea. La exposici´ on a este tipo de contenido puede provocar da˜ nos psicol´ ogicos, traumas emocionales y problemas de seguridad, especialmente para ni˜ nos y adolescentes. Se ha visto que la exposici´ on temprana a la pornograf´ ıa y la exposici´ on no regulada/excesiva a la pornograf´ ıa durante los a˜ nos formativos de la adolescencia tienen diversos efectos nocivos a largo plazo sobre la maduraci´ on sexual, el comportamiento sexual, la adicci´ on a Internet y el desarrollo general de la personalidad [1]. Tres cuartas partes (73%) de los adolescentes han visto pornograf´ ıa online a la edad de 17 a˜ nos, con la edad promedio de la primera exposici´ on a los 12 a˜ nos, seg´ un el informe de Common Sense Media, “Teens and Pornography” [2]. Gran parte de la exposici´ on fue por accidente, con el 58% diciendo que no buscaron los v´ ıdeos y fotos sexualmente expl´ ıcitos, sino que los encontraron mientras navegaban por la web, en las redes sociales o a trav´ es de motores de b´ usqueda o al hacer clic en anuncios. El m´ etodo propuesto en este trabajo, destaca por su capacidad para identificar patrones espec´ ıficos en el audio que puedan indicar la presencia de contenido sensible (sexual), lo cual es especialmente relevante en un contexto donde la tecnolog´ ıa ”Deepfake” y el uso indebido de Inteligencia Artificial Generativa para crear contenido pornogr´ afico indebido (como por ejemplo pornograf´ ıa infantil) plantean riesgos significativos. La utilizaci´ on de espectrogramas para analizar el audio extra´ ıdo de v´ ıdeos abre nuevas posibilidades en la lucha contra la difusi´ on de contenido inapropiado en plataformas digitales. Este enfoque no solo ofrece una alternativa t´ ecnica avanzada para la detecci´ on de contenido sexual, sino que tambi´ en subraya la importancia de desarrollar soluciones tecnol´ ogicas que sean capaces de adaptarse y responder a las t´ ecnicas cada vez m´ as sofisticadas utilizadas para eludir los sistemas de moderaci´ on de contenido existentes. En este contexto, este trabajo propone explorar las capacidades y limitaciones de los espectrogramas en la detecci´ on de contenido sensible en audio mediante Aprendizaje por Transferencia (AT, del ingl´ es Transfer Learning),una t´ ecnica com´ unmente utilizada en el Aprendizaje Profundo (AP, del ingl´ es Deep Learning) que permite transferir el conocimiento adquirido en un dominio espec´ ıfico a otro, con el fin de contribuir a un entorno digital m´ as seguro y responsable. M´ as espec´ ıficamente, este trabajo se enfoca en la detecci´ on de contenido sensible mediante AT y Redes Neuronales Convolucionales (del ingl´ es Convolutional Neural Network (CNN)) empleando el modelo ConvNeXt V2 pre-entrenado con ImageNet. Adem´ as, se investigar´ a c´ omo el uso de un modelo pre-entrenado en un conjunto de datos que no incluye espectrogramas produce un rendimiento excelente en el conjunto de datos Pornography-2k, formado por 1000 v´ ıdeos pornogr´ aficos y 1000 no pornogr´ aficos. El resto del trabajo se organiza como sigue: en la Secci´ on II se presentan brevemente algunos trabajos recientes publicados para la detecci´ on de contenido sensible mediante la clasificaci´ on de audio, especialmente los enfoques basados en AP. En la Secci´ on III se detalla la propuesta del trabajo. En la Secci´ on IV se describe la configuraci´ on de los experimentos realizados. Finalmente, en la Secci´ on V se muestran y discuten los resultados obtenidos y por ´ ultimo, las conclusiones de la investigaci´ on se incluyen en la Secci´ on VI. JNIC 2024 ISBN:978-84-09-62140-8 262 II. TRABAJOS RELACIONADOS Detectar contenido sensible en archivos de audio representa un desaf´ ıo considerable, y su abordaje demanda el uso de t´ ecnicas avanzadas de AP. Este an´ alisis se centra en explorar y examinar las investigaciones m´ as recientes en este ´ ambito, con especial atenci´ on en c´ omo las metodolog´ ıas de AP est´ an siendo aplicadas para atenuar este problema. En esta secci´ on se revisa las contribuciones m´ as significativas en el campo de la detecci´ on de contenido sensible utilizando caracter´ ısticas ac´ usticas mediante Aprendizaje Autom´ atico (AA) y AP. Uno de los primeros trabajos que utiliz´ o las caracter´ ısticas del audio para la detecci´ on de contenido sensible utilizando AP fue [3]. Los autores proponen un m´ etodo de reconocimiento de pornograf´ ıa en v´ ıdeo en vivo stream que utiliza caracter´ ısticas profundas multimodales con atenci´ on controlada. Para ello, extraen dichas caracter´ ısticas (espaciales, de movimiento y de audio) de la transmisi´ on de v´ ıdeo en vivo utilizando CNN. En cuanto al conjunto de datos, los autores recolectaron un conjunto de datos reales de Internet, conocido como BJUT streamer dataset (BJUTSD), que incluye 1.081 v´ ıdeos en directo no pornogr´ aficos y 2.511 v´ ıdeos porno en directo. Respecto a la implementaci´ on t´ ecnica, los tres modelos CNN se inicializaron con un modelo pre-entrenado de ImageNet y se ajustaron con datos de entrenamiento de v´ ıdeos en directo. Adem´ as, realizaron aumento de datos (rotaci´ on, traslaci´ on, etc) sobre los fotogramas (no implementaron ning´ un aumento de aumento de datos sobre el audio o sobre los espectrogramas). Por ´ ultimo, las caracter´ ısticas de audio se extrajeron de espectrogramas con una CNN despu´ es de convertir la se˜ nal de audio de los en espectrogramas mediante una transformaci´ on de Fourier. Finalmente, realizaron seis experimentos obteniendo resultados competitivos (74,86% de exactitud o accuracy) demostrando que el m´ etodo puede reconocer eficazmente los streams de pornograf´ ıa en transmisiones de v´ ıdeo en vivo Song et al. [4] propusieron un enfoque basado en AP con caracter´ ısticas multimodales, incluyendo descriptores de imagen, caracter´ ısticas visuales de cada fotograma, caracter´ ısticas de audio extra´ ıdas del v´ ıdeo y caracter´ ısticas de movimiento. Para el detector basado en caracter´ ısticas de audio, se dividieron los datos de audio en clips de 10 segundos y se extrajeron caracter´ ısticas utilizando el espectrograma de escala de Mel. Se utiliz´ o un subconjunto aleatorio del conjunto de datos Pornography-2K [5] para el entrenamiento y las pruebas SVM, con validaci´ on cruzada de 10 veces. Los resultados mostraron una precisi´ on del 88,3 % para el detector basado en textura de movimiento y del 80 % para el detector basado en caracter´ ısticas de audio. Song et al. [6] propusieron un esquema de apilamiento multimodal para la detecci´ on en l´ ınea r´ apida y precisa de contenidos pornogr´ aficos en Internet. Para detectar con precisi´ on el contenido sensible, se extrajeron caracter´ ısticas visuales y auditivas utilizando un VGG-16 con una Red Neuronal Recurrente ( Recurrent Neural Network (RNN)) bidireccional para reflejar los patrones de cambio de se˜ nal en el tiempo dentro de cada entrada. El conjunto de datos utilizado fue un subconjunto de Pornography-2k y Se recolect´ o otro conjunto de datos de internet que inclu´ ıa contenido sensible con aspectos perjudiciales tanto visuales como auditivos. Se seleccionaron aleatoriamente 8.000 instancias de segmentos, de las cuales 5.000 se utilizaron para entrenamiento y 3.000 para pruebas. Cada instancia conten´ ıa 4,000 segmentos, tanto de contenido sensible como no sensible. Los resultados experimentales revelaron una precisi´ on del 92,33 %, superando a otros trabajos que emplearon modelos multimodales, as´ ı como a los resultados individuales de los clasificadores visual y auditivo (95,33% y 89,16 % respectivamente). En el contexto de los mecanismos de atenci´ on, a diferencia de las t´ ecnicas convencionales que se basan ´ unicamente en caracter´ ısticas visuales sin tener en cuenta las auditivas, Fu et al. [7] presentaron un sistema de AP unificado denominado PornNet que integra subredes duales para la detecci´ on de v´ ıdeos pornogr´ aficos. Para el audio, utilizaron VGGish, obteniendo incrustaciones de caracter´ ısticas de audio, que son espectrogramas log Mel y representaciones de im´ agenes del audio. Posteriormente, para el reconocimiento de las incrustaciones de caracter´ ısticas de audio, los autores utilizaron la red RANet, generando posteriormente resultados de v´ ıdeo-audio. El rendimiento de la propuesta se evalu´ o en un conjunto de datos recopilados por ellos mismos recientemente, mostrando c´ omo el m´ etodo propuesto funciona muy bien, alcanzando una exactitud del 93,4% en el conjunto de datos interno que incluye 1.000 muestras porno junto con 1.000 v´ ıdeos normales y 1.000 v´ ıdeos sexys. M´ as recientemente, Lovenia et al. [8] propusieron un enfoque basado centrado ´ unicamente en caracter´ ısticas ac´ usticas para la detecci´ on pornogr´ afica. Este m´ etodo basado en audio permite filtrar contenidos sensibles explotando diferentes caracter´ ısticas espectrales. Descubrieron que una CNN entrenada en el espectrograma log Mel alcanza el mayor rendimiento en el conjunto de datos Pornography-800 [9] (que consta de 400 v´ ıdeos pornogr´ aficos y 400 no pornogr´ aficos) que las caracter´ ısticas MFCC (Coeficientes Cepstrales en las Frecuencias de Mel , del ingl´ es Mel Frequency Cepstral Coefficients). Los resultados experimentales mostraron que el espectrograma log Mel proporciona mejores caracter´ ısticas en segmentos de 60 segundos para que los modelos reconozcan los sonidos pornogr´ aficos. Por ´ ultimo, para clasificar formas de onda de audio completas en lugar de segmentos, emplearon una t´ ecnica de votaci´ on de segmento a audio que produce los mejores resultados de audio. Los autores obtuvieron puntuaciones de F1 en el conjunto de prueba (20%) de un 94,89 % en segmentos de audio y del 92,02% ea nivel de audio empleando CNN utilizando espectrogramas log Mel como caracter´ ısticas. En [10], Zhou et al. abordan la detecci´ on de contenido pornogr´ afico en archivos de audio empleando un modelo basado en CNN y la investigaci´ on de refinamientos como mecanismos de atenci´ on, m´ etodos de pooling ,label smoothing,warmup yknowledge distillation. El art´ ıculo presenta una evaluaci´ on exhaustiva en un conjunto de datos grande y reci´ en recopilado (224.127 audios pornogr´ aficos y 274.206 audios normales), logrando una exactitud del 97,19% con la combinaci´ on de los refinamientos nombrados anteriormente. Finalmente, Liu et al[11] proponen un m´ etodo novedoso para la detecci´ on de contenido pornogr´ afico en audio, superando las limitaciones de los algoritmos existentes. Introducen una caracter´ ıstica complementaria que combina log Mel, MFCC y Detecci´on de Contenido Sensible en Audio y V´ıdeo mediante Espectrogramas y Aprendizaje por Transferencia 263 GFCC (Coeficientes Cepstrales de Frecuencia de Gammatone, del ingl´ es Gammatone Frequency Cepstrum Coefficient. Su enfoque utiliza la arquitecturaDual-Path Fused Transformer Net (DPFTNet) y Random Forest para la clasificaci´ on. Recolectaron 7942 muestras de datos de v´ ıdeos de streams pornogr´ aficos de Internet. Estos v´ ıdeos fueron convertidos a audio y divididos en archivos de audio de 10 segundos. Finalmente, obtuvieron 13.338 archivos de audio de un solo canal. Las m´ etricas de evaluaci´ on alcanzaron un 93,20 % de exactitud y un 93,56% de puntuaci´ on F1, demostrando su eficacia. En la clasificaci´ on de audio sensible, la mayor´ ıa de trabajos no han explorado m´ etodos de aumento de datos sobre el propio audio (a˜ nadiendo ruido aditivo gaussiano, cambio del nivel del tono, etc) o sobre los espectrogramas de Mel o MFCC ( enmascarando ciertas regiones de la frecuencia o del tiempo de los espectrogramas). Dicho aumento de datos, ayudar´ ıa a generalizar mejor. Adem´ as, ser´ ıa la primera vez que se utiliza el conjuntos de Pornography-2K, ya que los trabajos que han utilizado este conjunto de datos, han empleado un subconjunto para el entrenamiento y para el test. Hasta ahora, ning´ un estudio que aplique Aprendizaje por Transferencia (AT) para detectar contenido sensible en audio a trav´ es de espectrogramas ha investigado el impacto del ajuste fino (del ingles fine-tuning de las capas del modelo en el rendimiento ´ optimo del conjunto de entrenamiento. En su mayor´ ıa, los trabajos se limitan a utilizar modelos preentrenados ´ unicamente para extraer caracter´ ısticas, sin explorar la posibilidad de entrenar algunas capas y evaluar c´ omo afecta su rendimiento. El objetivo del uso de AT es doble: en primer lugar, reducir el tiempo de entrenamiento; y en segundo lugar, examinar el impacto del ajuste fino en el rendimiento, compar´ andolo con el estado del arte. III. DETECCI ´ ON DE CONTENIDO SENSIBLE EN AUDIO Y V´ IDEO En esta secci´ on se describe paso a paso el enfoque de la propuesta de detecci´ on de contenido sensible utilizando espectrogramas y AT con CNN (modelo ConvNeXt V2 femto [12]). Para ello, en esta secci´ on se presenta la metodolog´ ıa empleada, para luego describir el conjunto de datos y el preprocesamiento realizado y finalmente las m´ etricas de evaluaci´ on. III-A. Espectrogramas Para digitalizar la informaci´ on presente en los archivos de audio, se emplea com´ unmente un proceso de muestreo que captura puntos de la se˜ nal de audio misma a intervalos regulares a lo largo del tiempo. B´ asicamente, se toman mediciones de la amplitud de la se˜ nal de audio en intervalos espec´ ıficos y se convierten en valores digitales que pueden ser almacenados y procesados por dispositivos digitales. La velocidad de este proceso de muestreo puede variar, siendo com´ unmente de 44,1 kHz (equivalente a 44,100 muestras por segundo) o 16 kHz (16,000 muestras por segundo). Una vez completado este proceso, se obtiene una representaci´ on digital de la se˜ nal de audio en forma de onda, la cual puede ser interpretada, modificada y analizada mediante software especializado (Fig. 1). Figura 1. Representaci´ on digital de la se˜ nal de audio en forma de onda Figura 2. Espectrograma de log Mel Gracias a la Transformada R´ apida de Fourier (TRF, del ingl´ es FFT), se puede descomponer la se˜ nal de audio en frecuencias individuales y amplitudes asociadas a cada frecuencia. En esencia, transforma la representaci´ on de la se˜ nal del dominio del tiempo al dominio de la frecuencia. El resultado de esta transformaci´ on se conoce como espectro. Dado que la mayor´ ıa de se˜ nales de audio var´ ıan con el tiempo (se˜ nales no peri´ odicas), es necesario una representaci´ on del espectro que tenga en cuenta esta variaci´ on temporal. Por otro lado, la Transformada de Fourier de Tiempo Corto (TFCT, del ingl´ es STFT en ingl´ es) permite descomponer una se˜ nal de audio en peque˜ nos segmentos superpuestos, permitiendo una representaci´ on temporal y frecuencial conocida como espectrograma (Fig.2. El espectrograma, es una herramienta muy ´ util para analizar y visualizar se˜ nales de audio en el dominio del tiempo y la frecuencia. Para su representaci´ on, el eje vertical se transforma a una escala logar´ ıtmica, mientras que la dimensi´ on de color se convierte a decibelios, lo que equivale a una escala logar´ ıtmica de amplitud. Esta adaptaci´ on se realiza porque los humanos perciben una gama estrecha y concentrada de frecuencias y amplitudes, lo que se refleja en el espectrograma de Mel logar´ ıtmico (log Mel). III-B. Metodolog´ ıa Dado que los datos de audio presentan una gama diversa de sonidos, que van desde el habla humana hasta otros ruidos ambientales, resulta esencial emplear caracter´ ısticas ac´ usticas capaces de distinguir entre datos de audio sensibles y no sensibles. Para este fin, se han utilizado las caracter´ ısticas MFCCs, que son ampliamente reconocidos en la detecci´ on del habla, como los espectrogramas logar´ ıtmicos de Mel. Estos ´ ultimos contienen una cantidad m´ as extensa de informaci´ on D. Povedano ´ Alvarez, A. L. Sandoval Orozco and L. J. Garc´ıa Villalba 264 Figura 3. Flujo de trabajo para la clasificaci´ on de audios y v´ ıdeos. ac´ ustica, lo que les permite retener una mayor cantidad de artefactos en frecuencias altas y bajas. Dichos artefactos o caracter´ ısticas retienen sonidos que no son t´ ıpicos del habla, como gemidos o sonidos de movimientos corporales, pero resultan fundamentales en la detecci´ on de audio sensible. Tanto los MFCCs como los espectrogramas logar´ ıtmicos de Mel son ampliamente conocidos y han sido utilizados en la reconocimiento del habla (speech recognition), pero su aplicaci´ on, junto con el AT, en la detecci´ on de audio sensible a´ un es una novedad. Una vez que se ha presentado como se pueden representar una forma de onda (audio) como una imagen, se va a detallar la metodolog´ ıa seguida para la clasificaci´ on de v´ ıdeos utilizando ´ unicamente caracter´ ısticas ac´ usticas. El principal objetivo de este trabajo es clasificar segmentos de audio y v´ ıdeos completos sensibles mediante espectrogramas empleando uno de las ultimas arquitecturas de CNN del estado del arte (ConvNeXt V2 previamente entrenada en un conjunto de datos que originalmente no est´ a dise˜ nado para clasificar espectrogramas, como el conjunto de datos ImageNet. Para ello, tras revisar los ´ ultimos trabajos del estado del arte, primero se extrajeron de cada v´ ıdeo segmentos de audio de 20 segundos con solapamiento de 1 segundo entre audios (para no perder informaci´ on entre audios consecutivos). En una segunda etapa, se obtuvieron los espectrogramas de log Mel y MFCCs mediante diferentes par´ ametros (y por tanto diferentes espectrogramas), como el numero de bandas de mel (bins), el tama˜ no de la ventana de an´ alisis en muestras de audio (N´ umero de Puntos de la Transformada R´ apida de Fourie, del ingl´ es Number of Points of the Fast Fourier Transform (nfft) y la longitd de salto (hop lenght) Respecto a el modelo pre-entrenado utilizado, dentro de la familia de modelos de ConvNeXt V2, el modelo de ConvNeXt V2 femto es el segundo modelo con menos par´ ametros (5,2 millones), comparable a los 5,3 millones de par´ ametros del modelo empleado en [13] para la detecci´ on de contenido sensible sobre el mismo conjunto de datos (Pornography-2K. La arquitectura ConvNeXt V2 incorpora una estructura de autoencoder enmascarado completamente convolucional y una capa de normalizaci´ on de respuesta global (GRN), lo que mejora el rendimiento en m´ ultiples pruebas comparativas. Para la etapa de entrenamiento, se utilizaron diferentes m´ etodos de aumento de datos para mejorar la generalizaci´ on del modelo. Entre ellos, se aplicaron diferentes aumentos en el audio (por ejemplo a˜ nadir ruido aditivo gaussiano o el cambio de tono) como en el espectrograma (enmascarar parte de la frecuencia, eje Y, como del tiempo, eje X). Finalmente, se utilizaron dos m´ etodos para la clasificaci´ on a nivel de v´ ıdeo a partir de sus correspondientes predicciones a nivel de segmento de audio. El primero de ellos fue un umbral est´ andar, en el que la probabilidad de predicci´ on a nivel de v´ ıdeo es igual a la media de sus respectivas predicciones a nivel de segmento. Una forma de onda de audio es sensible (clase 1) si la probabilidad es superior al umbral, o segura (clase 0) si es menor o igual a 0,5. El segundo m´ etodo fue el voto mayoritario, en el que una clase se asigna a nivel de v´ ıdeo en funci´ on de la clase m´ as frecuente entre las predicciones de los segmentos individuales. En este m´ etodo, la clase asignada a un v´ ıdeo se determina por la clase que obtiene la mayor´ ıa de votos entre los segmentos de audio que lo componen. En la Fig.3 se puede observar las etapas descritas anteriormente con mas detalle. III-C. Extracci´ on de segmentos de audio Para la extracci´ on de segmentos de audio de v´ ıdeos del conjunto de datos Pornography-2K, se utiliz´ o la librer´ ıa MoviePy [14]. Para cada v´ ıdeo, se calcul´ o el n´ umero de segmentos de audio necesarios basados en una duraci´ on m´ axima de 20 segundos por segmento. Posteriormente, se determin´ o su tiempo de inicio y finalizaci´ on, se extrajeron los segmentos de audio y se guardaron finalmente como un archivo WAV con una tasa de muestro de 16Khz y con una precisi´ on de 16 bits. III-D. Conjunto de datos Tras la extracci´ on de segmentos de audio, se obtuvo un conjunto de datos formado por 7.795 y 18.498 segmentos de audio seguros y sensibles respectivamente (Tabla I). Cabe destacar que no se pudo extraer segmentos de audio de 24 v´ ıdeos, 12 v´ ıdeos seguros y 12 sensibles, ya que no estos v´ ıdeos no conten´ ıan pista de audio). Tabla I CONJUNTO DE DATOS NPDI Pornography-2k: N ´ UMERO SEGMENTOS DE AUDIO DE 20S EXTRA´ IDOS POR CADA CLASE. Clase Nº segmentos de audio Nº de v´ ıdeos Segura 7.794 988 Sensible 18.498 988 Total 26.292 1.976 Como se puede observar, el conjunto de datos est´ a desequilibrado, ya que la duraci´ on de los v´ ıdeos sensibles del conjunto de datos Pornography-2K es mayor que la de los v´ ıdeos seguros. Es crucial tener en consideraci´ on este desequilibrio al seleccionar la m´ etrica adecuada, la cual se explicar´ a m´ as adelante. Detecci´on de Contenido Sensible en Audio y V´ıdeo mediante Espectrogramas y Aprendizaje por Transferencia 265 III-E. Preprocesamiento En primer lugar, se prepar´ o el espectrograma de Mel/MFCC para su utilizaci´ on en un modelo de AP. Posteriormente, se procedi´ o a normalizar el espectrograma de Mel/MFCC para garantizar que los valores se encuentren dentro de un rango espec´ ıfico. Primero, se verifica si la diferencia entre el valor m´ aximo y el valor m´ ınimo del espectrograma es diferente de cero. Si es as´ ı, significa que hay variaci´ on en los valores y se procede a normalizar dividiendo cada valor del espectrograma por la diferencia entre el m´ aximo y el m´ ınimo, despu´ es de haber restado el m´ ınimo a todos los valores (es decir, normalizaci´ on min-max). Esto asegura que todos los valores est´ en en el rango de 0 a 1. Si la diferencia entre el m´ aximo y el m´ ınimo es igual a cero (lo que indica que todos los valores son iguales), se omite la divisi´ on y simplemente se resta el m´ ınimo a todos los valores. Esto evita una divisi´ on por cero y mantiene los valores iguales, lo que podr´ ıa suceder en casos de espectrogramas con valores constantes. Luego, se ajusta el rango de valores para que est´ en en el rango [0, 255], que es el rango t´ ıpico para valores de p´ ıxeles en im´ agenes. Esto se hace multiplicando por 255. Despu´ es, se replica el ´ unico canal del espectrograma de Mel/MFCC para crear una imagen RGB, que es necesaria para que el modelo pre-entrenado ConvNeXt V2 femto pueda procesarla. A continuaci´ on, se redimensiona la imagen para que tenga un tama˜ no espec´ ıfico (224x224 p´ ıxeles) utilizando el m´ etodo de interpolaci´ on bic´ ubica. Despu´ es de la redimensi´ on, se normaliza la imagen de acuerdo con la media y la desviaci´ on est´ andar t´ ıpicas de las im´ agenes en el conjunto de datos de ImageNet, lo que ayuda al modelo a procesar la imagen de manera eficiente y precisa. En las Fig.4 y Fig.5 se pueden observar las representaciones visuales de log Mel y MFCC respectivamente. En cuanto al aumento de datos, en la Fig.6 se muestra las transformaciones de enmascaramiento de la frecuencia y del tiempo junto con el ruido blanco y cambio de tono). Al aumentar los datos de entrenamiento con perturbaciones del tono, los modelos de detecci´ on de audio o de reconocimiento del habla se vuelven m´ as robustos ante voces con diferentes rangos de tono. El enmascaramiento temporal consiste en seleccionar aleatoriamente un segmento continuo de la se˜ nal de audio y sustituirlo por silencio. Por otra parte, el enmascaramiento de frecuencias, por su parte, consiste en enmascarar un intervalo de frecuencias consecutivas en el espectrograma de audio. Esta t´ ecnica ayuda al modelo a ignorar componentes de frecuencia irrelevantes que pueden surgir del ruido o de interferencias de fondo. III-F. M´ etricas de rendimiento El rendimiento se ha expresado en t´ erminos F1-measure y de la exactitud (accuracy), priorizando F1-measure macro durante la b´ usqueda de los mejores hiper-par´ ametros durante la validaci´ on cruzada (5 fold). La m´ etrica F1-macro es com´ unmente utilizada en la evaluaci´ on de modelos de clasificaci´ on, especialmente cuando se enfrentan conjuntos de datos desequilibrados, es decir, cuando algunas clases tienen muchos m´ as ejemplos que otras. De esta manera, se calcula el F1 para cada clase por separado y luego calcula el promedio no ponderado de estas medidas Figura 4. Espectrograma de log Mel. Figura 5. Espectrograma MFCC. Figura 6. Aumento de datos sobre espectrograma de log Mel. F1 individuales. Esto significa que cada clase contribuye de manera igual al resultado final, independientemente de su tama˜ no o distribuci´ on en el conjunto de datos. Sean los verdaderos positivos (VP), verdaderos negativos (VN), falsos positivos (FP) y falsos negativos (FN), respectivamente, la exactitud (accuracy) de clasificaci´ on , F1-measure D. Povedano ´ Alvarez, A. L. Sandoval Orozco and L. J. Garc´ıa Villalba 266 yF1-macro se definen como sigue: Exactitud = 100 ·V P +TN V P +FP +V N +FN (1) Precisi´on =V P V P +FP (2) Sensibilidad =V P V P +FN (3) Fβ= (1 + β2)·Precisi´on ·Sensibilidad β2·Precisi´on +Sensibilidad (4) donde β= 1 para F1-measure. F1macro =1 N N X i=1 F1i(5) IV. EXPERIMENTOS El c´ odigo para llevar a cabo todos los experimentos fue escrito en Python 3.11. El entrenamiento (ajuste fino de los modelos) se realiz´ o con PyTorch 2.1 en un ordenador Lenovo con un procesador Intel de 13ª Generaci´ on a 2 GHz de frecuencia, 32 GB de RAM y con una GPU Nvidia RTX 3050 con 8 GB de memoria VRAM. IV-A. Detalles de la implementaci´ on En cuanto al aspecto t´ ecnico, primero se dividi´ o de forma estratificada el conjunto de datos Pornography-2K en conjunto de entrenamiento (80 %) con 1.580 v´ ıdeos y conjunto de prueba (20 %) con 396 v´ ıdeos. Posteriormente, se obtuvieron los segmentos de audio espec´ ıficos de cada conjunto de datos, dando lugar a 20.922 y 5.370 segmentos de audio de entrenamiento y prueba respectivamente. Como se ha comentado en el apartado anterior, el tama˜ no recomendado de entrada del modelo ConvNeXt V2 femto es de 224x224, por lo que las im´ agenes (espectrogramas) se re-dimensionaron a dicha resoluci´ on por cada canal uno de los canales (RGB). Para la construcci´ on del modelo de referencia o baseline se utiliz´ o el ConvNeXt V2 femto por defecto, congelando todas las capas salvo la parte superior del modelo, compuesto por una Red Neuronal Feedforward. Adem´ as, se utiliz´ o el optimizador AdamW con un learning rate de 0.0005 y un decaimiento exponencial del aprendizaje del 15% por ´ epoca. Para el entrenamiento con ConvNeXt V2 femto, fue necesario descargarse el modelo de timm con los pesos de ImageNet sin incluir la capa final o top del modelo. Para el ajuste fino se realizaron experimentos ”descongelando”las ´ ultimas 15 y 30 capas. En cuanto a la arquitectura, se a˜ nadi´ o una capa GlobalAveragePooling2D y una Fully Connected Layer (FCL) compuesta por 3 capas con 256, 128 y 64 neuronas respectivamente para la clasificaci´ on final. Para una mayor rapidez en la convergencia, se a˜ nadi´ o una capa BatchNormalization antes de la funci´ on de activaci´ on ReLu y finalmente una capa de regularizaci´ on dropout entre cada una de las capas para evitar el problema de sobreajuste. Para mejorar la capacidad de generalizaci´ on del modelo, se establecieron las siguientes transformaciones o aumento de datos (data augmentation): enmascaramiento de tiempo y frecuencia (con valores de 10 y 5 respectivamente), cambio de tono (entre -0,3 y 0,3), ruido aditivo gaussiano (entre 0,05 y 0,1). Los valores anteriores junto con el numero de bandas de Mel (224), el tama˜ no de la ventana de an´ alisis en muestras de audio (2048/1024) n´ umero de longitud de salto (1024/512) se seleccionaron tras realizar varias pruebas con diferentes espectrogramas (valores altos o bajos supon´ ıan transformaciones bastante significativas en la imagen que imped´ ıan reconocer el propio contenido ). IV-B. Experimentos para la detecci´ on de contenido sensible Respecto a los hiper-par´ ametros (HP) del entrenamiento (validaci´ on cruzada) en los experimentos, se establecieron tras realizar diversas pruebas unos HP base (Tabla II): optimizador AdamW con un planificador ExponentialDecay con un learning rate de 0.0005 y un decay de 0.95, con un tama˜ no de lote o batch size de 128. Adem´ as, se aplic´ o la ponderaci´ on por clases (class weights) para paliar el efecto de los datos desequilibrados. Adem´ as, se utilizaron diferentes m´ etodos de regularizaci´ on para evitar el sobreajuste durante el entrenamiento, como la parada temprana (early stopping), drop out y suavizado de etiqueta (label smoothing). Por otro lado, como se ha dicho anteriormente, tambi´ en se probaron diferentes valores en los principales par´ ametros que controlan la extracci´ on de log Mel y MFCC, como se muestra (Tabla III). Tabla II HIPER-PAR ´ AMETROS UTILIZADOS EN EL ENTRENAMIENTO CON EL MODELO ConvNeXt V2 femto Hiperpar´ ametro Modelo base Ajuste-fino (Baseline) (Fine-tuning) Optimizador AdamW AdamW Decaimiento de pesos 0.01 0.01 Tasa de aprendizaje decaimiento exponencial decaimiento exponencial (lr=0,0005, decay=0,95) (lr=0,0005, decay=0,95) Tama˜ no de lote 128 128 Drop out 0,5 0,5 Parada temprana Si Si Suavizado de etiqueta 0.1 0.1 FCL (3 capas) [256,128,64] [256,128,64] Aumento de datos No Si Capas entrenables No Si Ponderaci´ on por clases Si Si Tabla III DISTINTOS VALORES EMPLEADOS PARA LAS BANDAS DE MEL Y LA LONGITUD DE SALTO DURANTE EL ENTRENAMIENTO CON EL MODELO ConvNeXt V2 femto Hiperpar´ ametro Nº bandas de Mel y MFCC NFFT Hop lenght Combinaci´ on 1 224 2048 1024 Combinaci´ on 2 224 1024 512 Finalmente, en la Tabla V, se presentan las distintas configuraciones de los experimentos llevados a cabo y los resultados obtenidos mediante validaci´ on cruzada. Para una visualizaci´ on m´ as gr´ afica y clara de la variabilidad en los resultados (F1-measure), se proporciona en la Figura 7 un diagrama de cajas. V. RESULTADOS Y DISCUSIONES En esta secci´ on, se presentan los resultados finales obtenidos con el mejor modelo. A la vista de los resultados obtenidos en la Fig. 7, se puede observar como el modelo del experimento 4 (destacado con un color mas oscuro) es el Detecci´on de Contenido Sensible en Audio y V´ıdeo mediante Espectrogramas y Aprendizaje por Transferencia 267 Tabla IV CONFIGURACI ´ ON DE LOS EXPERIMENTOS Exp. Espectrogramas HP para obtener Capas Aumento F1( %) espectrogramas entrenables de datos 1log Mel Combinaci´ on 1 0 No 81,72 2log Mel Combinaci´ on 1 15 No 84,80 3log Mel Combinaci´ on 1 30 No 85,62 4log Mel Combinaci´ on 1 30 Si 85,05 5log Mel Combinaci´ on 2 30 Si 85,39 6 MFCC Combinaci´ on 1 30 Si 80,62 7 MFCC Combinaci´ on 2 30 Si 80,72 mas robusto y con un F1-measure muy parecido al modelo con log Mel y aumento de datos (experimento 5). Tras la elecci´ on del mejor modelo, en la Tabla Vse muestran los resultados sobre el conjunto de datos de prueba. Para generar las predicciones finales (segura/sensible), se aplic´ o la funci´ on argmax sobre las probabilidades generadas por el modelo (dichas probabilidades se calcularon aplicando una funci´ on softmax) sobre la salida del modelo). Esto implica que la clase con la probabilidad m´ as alta en la salida del modelo se selecciona como la predicci´ on final. Como se puede observar, se lograron resultados superiores al 85% en la puntuaci´ on de F1-measure, superando los resultados obtenidos en la validaci´ on cruzada mostrada en la Tabla IV. Esto sugiere que el modelo construido no sufre de sobreajuste (es decir, es robusto frente a datos no vistos) y su rendimiento est´ a cercano a los obtenidos en otros estudios sobre conjuntos de datos similares. El an´ alisis de los resultados revela un mayor rendimiento utilizando 2048 NFFT y un hop lenght de 1024 en espectrogramas de log Mel frente a MFCCs, dando lugar a un modelo con un rendimiento destacable en la clasificaci´ on de instancias tanto positivas como negativas. Las m´ etricas de precisi´ on y sensibilidad muestran una capacidad consistente para predecir correctamente ambas clases. Sin embargo, es importante destacar que, a pesar de la alta precisi´ on general del 76% para la clase negativa (segura), existe cierta dificultad en clasificar correctamente algunas instancias como negativas. Esto sugiere una posible ´ area de mejora en la capacidad del modelo para discernir con mayor precisi´ on entre las instancias negativas y positivas (estudiando un threshold diferente o a˜ nadiendo mas muestras de segmentos de audio de la clase segura). A pesar de esta posible limitaci´ on, las puntuaciones F1-measure indican un equilibrio satisfactorio entre la precisi´ on y la sensibilidad para ambas clases, lo que sugiere una capacidad general del modelo para clasificar con precisi´ on. La matriz de confusi´ on (Fig.8) proporciona una descripci´ on detallada de c´ omo el modelo realiza las clasificaciones, destacando tanto las predicciones correctas como las incorrectas para cada clase. Se observa como el F1-measure, muestra un valor de 81,4 % para la clase 0 (audio seguro) y 91,5% para la clase 1 (audio sensible), lo que indica un buen equilibrio entre precisi´ on y sensibilidad en ambas clases. En cuanto a la clasificaci´ on de v´ ıdeos completos, en las tablas VI y VII se muestran los resultados obtenidos mediante voto mayoritario (predicci´ on que m´ as se repite) y el m´ etodo de la media de las probabilidades de cada segmento de audio por v´ ıdeo, con un umbral est´ andar de 0,5 (50 %). Mediante el m´ etodo de la Tabla VII se ha obtenido un rendimiento superior (90,4%) de F1-macro respecto al obtenido Figura 7. Gr´ afico de cajas de la validaci´ on cruzada. Figura 8. Matriz de confusi´ on sobre el conjunto de prueba de segmentos de audio mediante el voto mayoritario VI. De las 396 muestras de datos del conjunto de pruebas de v´ ıdeos, solo 38 fueron clasificadas incorrectamente. Para investigar m´ as a fondo las posibles causas de estas clasificaciones err´ oneas, se realiz´ o un examen manual de algunos resultados de la prueba (segmentos de audio que fueron predichos incorrectamente). Se observ´ o que los FN pueden atribuirse a la presencia de m´ usica u otros ruidos continuos de fondo en algunas partes de los datos de audio. En otros casos, los datos de audio carecen de sonidos relacionados con el contenido adulto y consisten principalmente en sonidos ambientales, como los de tormentas y agua. Estas caracter´ ısticas de audio llevan al modelo a clasificar err´ oneamente estos segmentos como seguros (no pornogr´ aficos). Por otro lado, los FP suelen comprender sonidos repetitivos, como el tic-tac de un reloj o el sonido del agua, as´ ı como sonidos humanos repetitivos, como suspiros y pesadez despu´ es del ejercicio. Estos tipos de sonidos pueden hacer que las caracter´ ısticas derivadas del audio seguro se asemejen de manera enga˜ nosa al audio pornogr´ afico, lo que resulta en D. Povedano ´ Alvarez, A. L. Sandoval Orozco and L. J. Garc´ıa Villalba 268 clasificaciones incorrectas por parte del modelo. En relaci´ on al estado del arte presentado en la secci´ on II, el ´ unico trabajo con el que se podr´ ıa hacer una comparaci´ on justa (conjunto de datos parecido) es [8]. En dicho trabajo, obtuvieron sobre un conjunto de datos de prueba de 160 muestras, un 94,89 % de F1-measure. Esto resalta que, aunque en este trabajo se ha obtenido un rendimiento un 4% menor, el conjunto de datos Pornography-2K incluye 1200 v´ ıdeos adicionales y m´ as desafiantes de clasificar que el conjunto Pornography-800 utilizado en [8]. Tabla V RESULTADOS SOBRE SEGMENTOS DE AUDIO DEL CONJUNTO DE PRUEBA Clase Precisi´ on ( %) Sensibilidad ( %) Puntuaci´ on F1 ( %) Segura 76 87,6 81,4 Sensible 94,6 88,6 91,5 Exactitud 88,3 (accuracy) F1 (media) 85,3 88,1 86,4 Tabla VI RESULTADOS OBTENIDOS SOBRE V´ IDEOS COMPLETOS DEL CONJUNTO DE PRUEBA MEDIANTE EL VOTO MAYORITARIO. Clase Precisi´ on ( %) Sensibilidad ( %) Puntuaci´ on F1 ( %) Segura 89,2 91,4 90,3 Sensible 91,2 88,9 90 Exactitud 90,1 (accuracy) F1 (media) 90,2 90,2 90,1 Tabla VII RESULTADOS OBTENIDOS SOBRE V´ IDEOS COMPLETOS DEL CONJUNTO DE PRUEBA MEDIANTE EL UMBRAL EST ´ ANDAR. Clase Precisi´ on ( %) Sensibilidad ( %) Puntuaci´ on F1 ( %) Segura 89,6 91,4 90,5 Sensible 91,2 89,4 90,3 Exactitud 90,1 (accuracy) F1 (media) 90,4 90,24 90,4 VI. CONCLUSIONES En este estudio se ha presentado una metodolog´ ıa para la construcci´ on de un modelo para la detecci´ on de contenido sensible, espec´ ıficamente pornograf´ ıa adulta en ficheros de audio y v´ ıdeos, utilizando caracter´ ısticas ac´ usticas. Para ello, se emple´ o una de las arquitecturas m´ as destacadas en el campo de la Visi´ on Artificial, conocida como ConvNeXt V2. Este trabajo constituye el primero en utilizar el conjunto de datos Pornography-2k en su totalidad para la detecci´ on de contenido sensible mediante caracter´ ısticas de audio, logrando una exactitud del 90,1% y un 90,4 % de F1-measure. Adem´ as, mediante la aplicaci´ on de t´ ecnicas adecuadas de aumento de datos, se pudo reducir la variabilidad y aumentar la robustez del modelo, resultando en mejoras significativas en las m´ etricas de rendimiento. En cuanto al trabajo futuro, se observa que existen oportunidades para explorar y mejorar a´ un m´ as el desempe˜ no del modelo. Se sugiere investigar la aplicaci´ on del AT utilizando un modelo pre-entrenado en un conjunto de datos de espectrogramas, lo que podr´ ıa proporcionar una mejora sustancial el rendimiento del modelo. Adem´ as, es crucial explorar otras estrategias de aumento de datos espec´ ıficas para audio sensibles, dado que las t´ ecnicas actuales no son tan variadas como las disponibles para im´ agenes. AGRADECIMIENTOS Este trabajo se ha realizado con los fondos del Plan de Recuperaci´ on, Transformaci´ on y Resiliencia, financiados por la Uni´ on Europea (Next Generation), a trav´ es de la C´ atedra “Ciberseguridad para la Innovaci´ on y la Protecci´ on Digital” INCIBE-UCM. Adem´ as, este trabajo ha contado con el apoyo del proyecto ALUNA (https://aluna-isf.eu/). Este proyecto ha recibido financiaci´ on del programa de investigaci´ on e innovaci´ on Horizonte 2020 de la Uni´ on Europea en virtud del acuerdo de subvenci´ on nº 101084929. El contenido de este art´ ıculo no refleja la opini´ on oficial de la Uni´ on Europea. Los autores son los ´ unicos responsables de la informaci´ on y las opiniones expresadas en ´ el. REFERENCIAS [1] H. Adarsh and S. Sahoo, “Pornography and its impact on adolescent/teenage sexuality,” Journal of Psychosexual Health, vol. 5, no. 1, pp. 35–39, 2023. [2] C. S. Media, “Teens and pornography,” Tech. Rep., 2022. [Online]. Available: https://www.commonsensemedia.org/research/ teens-and-pornography [3] L. Wang, J. Zhang, Q. Tian, C. Li, and L. Zhuo, “Porn streamer recognition in live video streaming via attention-gated multimodal deep features,” IEEE Transactions on Circuits and Systems for Video Technology, vol. 30, pp. 4876–4886, 12 2020. [4] K. H. Song and Y.-S. Kim, “Pornographic video detection scheme using multimodal features,” Journal of Engineering and Applied Sciences, vol. 13, no. 5, pp. 1174–1182, 2018. [5] D. Moreira, S. Avila, M. Perez, D. Moraes, V. Testoni, E. Valle, S. Goldenstein, and A. Rocha, “Pornography classification: The hidden clues in video space–time,” Forensic science international, vol. 268, pp. 46–61, 2016. [6] K. Song and Y. S. Kim, “An enhanced multimodal stacking scheme for online pornographic content detection,” Applied Sciences (Switzerland), vol. 10, 4 2020. [7] Z. Fu, J. Li, G. Chen, T. Yu, and T. Deng, “Pornnet: A unified deep architecture for pornographic video recognition,” Applied Sciences, vol. 11, no. 7, p. 3066, 2021. [8] H. Lovenia, D. P. Lestari, and R. Frieske, “What did i just hear? detecting pornographic sounds in adult videos using neural networks,” in Proceedings of the 17th international audio mostly conference. Association for Computing Machinery, 9 2022, pp. 92–95. [9] S. Avila, N. Thome, M. Cord, E. Valle, and A. De A. Ara´ ujo, “Pooling in Image Representation: The Visual Codeword Point of View,” Computer Vision and Image Understanding, vol. 117, no. 5, pp. 453–465, 2013. [10] L. Zhou, K. Wei, Y. Li, Y. Hao, W. Yang, and H. Zhu, “Acoustic pornography recognition using convolutional neural networks and bag of refinements,” in 2022 Asia-Pacific Signal and Information Processing Association Annual Summit and Conference (APSIPA ASC). IEEE, 2022, pp. 840–845. [11] S. Liu, R. Li, Q. Li, and J. Zhao, “Porn streamer audio recognition based on deep learning and random forest,” Applied Intelligence, vol. 53, no. 15, p. 18857–18867, feb 2023. [Online]. Available: https://doi.org/10.1007/s10489-023-04491-x [12] S. Woo, S. Debnath, R. Hu, X. Chen, Z. Liu, I. S. Kweon, and S. Xie, “Convnext v2: Co-designing and scaling convnets with masked autoencoders,” in Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition, 2023, pp. 16133–16 142. [13] Povedano ´ Alvarez, Daniel and Sandoval Orozco, Ana Lucila and Garc´ ıa Villalba, Luis Javier, “Detecci´ on de contenido sexual expl´ ıcito mediante t´ ecnicas de aprendizaje profundo,” 2023, https://2023.jnic.es/ wp-content/uploads/2023/06/PROGRAMA-JNIC-2023.pdf. [14] Zulko, “Moviepy: Biblioteca de manipulaci´ on de videos y gifs en python,” 2017, https://zulko.github.io/moviepy/. Detecci´on de Contenido Sensible en Audio y V´ıdeo mediante Espectrogramas y Aprendizaje por Transferencia 269