Técnicas de minería de datos en el proceso de secuencias temporales. Aplicaciones a la clasificación industrial de sonidos

TESIS DOCTORAL Técnicas de minería de datos en el proceso de secuencias temporales Aplicaciones a la clasificación industrial de sonidos Autor: Javier Romero Lemos Directores: Amalia Luque Sendra Alejandro Carrasco Muñoz Sevilla, 2017 AGRADECIMIENTOS En primer lugar quisiera expresar mis más sinceros agradecimientos a la Dra. Dña. Amalia Luque Sendra y al Dr. D. Alejandro Carrasco Muñoz por haber realizado la dirección del presente trabajo de tesis. Gracias por la confianza mostrada, el impulso y su dedicación que han hecho posible la realización del mismo. De igual modo, hago extensivos mis agradecimientos a los miembros del Departamento de Ingeniería del Diseño y del Departamento de Tecnología Electrónica de la Universidad de Sevilla que han participado de alguna forma en la consecución de este trabajo. Manifiesto también mi agradecimiento al Dr. Rafael Ignacio Márquez Martínez de Orense (Museo Nacional de Ciencias Naturales) y al Dr. Juan Francisco Beltrán Gala (Facultad de Biología de la Universidad de Sevilla) por su colaboración y apoyo. Deseo también expresar mi reconocimiento a las distintas instituciones que han financiado este trabajo: a la Consejería de Innovación, Ciencia y Empresa, Junta de Andalucía a través del proyecto de excelencia eSAPIENS (TIC-5705); y a la empresa Telefónica, mediante la “Cátedra de Telefónica Inteligencia en la Red”. Gracias a mis padres, hermanas y familia por su apoyo y fe en mis capacidades. A mi suegra y cuñado por la cobertura ofrecida sin la que poco hubiera podido hacer. Especialmente quiero agradecer y dedicar este trabajo a mi mujer y mis hijos. A mi mujer por su enorme esfuerzo y apoyo incondicional. A mis hijos, a los que he robado tantas horas de mi tiempo que les correspondían y usé para la realización de esta tesis. ¡Gracias a todos por ayudarme a cumplir un sueño! RESUMEN El proceso de secuencias temporales supone un campo de trabajo específico dentro de las técnicas de minería de datos o aprendizaje automático. Entre las tareas de esta disciplina se encuentra la clasificación de secuencias temporales que, por su especificidad, admite el uso de tratamientos diferenciados. Entre los datos con estructura de secuencia temporal pueden destacarse las señales sonoras. Existen numerosas aplicaciones en las que resulta de utilidad la clasificación automatizada de sonidos. En muchas de ellas se requiere que la solución propuesta tenga unas características que podríamos calificar de industriales: robustez, inmunidad al ruido, normalización, operación en tiempo real, bajo consumo y bajo coste. En esta tesis se analizan y comparan distintos métodos de clasificación de sonidos. El primer paso para ello supone la segmentación del sonido en fragmentos (ventanas) de muy corta duración. A continuación se caracteriza cada ventana de sonido mediante un conjunto de parámetros. Para ello se propone el uso del estándar ISO MPEG-7 cuya aplicación permite obtener un conjunto normalizado de parámetros. Se consideran a continuación hasta nueve algoritmos de clasificación que, tomando como patrones distintos sonidos de clases conocidas, realizan una clasificación supervisada de cada una de las ventanas sin tener en cuenta el carácter secuencial de las mismas (clasificación no secuencial). Para tener en cuenta el carácter secuencial de los sonidos se proponen y comparan distintos métodos (clasificación secuencial). Algunos de ellos se basan en dotar a cada ventana de parámetros que tienen en cuenta las ventanas anteriores y posteriores. Otros sin embargo, como los Modelos Ocultos de Markov, permiten la caracterización nativa de una secuencia de ventanas. Para pasar de la clasificación de una ventana, o secuencia de ventanas, a la clasificación de un sonido completo se puede proceder mediante un simple conteo de las clases individuales. Sin embargo, en la presente investigación se propone una alternativa: la clasificación de series derivadas. Se define una serie (vectorial) derivada como la secuencia de probabilidades de que cada ventana pertenezca a una determinada clase. Se propone la caracterización de las series derivadas como si se tratase de sonidos, es decir, mediante la caracterización de cada uno de sus ventanas usando parámetros MPEG-7 y su posterior clasificación supervisada usando alguno de los algoritmos clasificadores propios de la minería de datos. El conjunto de técnicas anteriores ha sido utilizado en la clasificación de diversos archivos de sonidos de anuros proporcionados por la Fonoteca Zoológica del Museo Nacional de Ciencias Naturales. Una característica común a todos estos sonidos es que se han grabado en el hábitat natural con una significativa presencia de ruidos (viento, agua, lluvia, tráfico, voces,…), lo que ha supuesto un desafío adicional al proceso y clasificación de la señal sonora. El resultado del análisis realizado permite afirmar que el uso de los parámetros MPEG- 7 constituye una buena alternativa para caracterizar sonidos. En la aplicación analizada el mejor clasificador no secuencial ha resultado ser el árbol de decisión. Por otra parte la introducción de un método de ventana deslizante aparece como la mejor opción de clasificación secuencial, aunque con una mejora muy discreta sobre la técnica no secuencial. Adicionalmente, se ha podido evidenciar que la clasificación de las series derivadas supone una mejora muy notable en las prestaciones del clasificador. Por último, se ha comprobado que la solución propuesta presenta las características adecuadas para poder proclamar su carácter industrial. _______ i ÍNDICE DE CONTENIDOS Capítulo 1. Introducción ................................................................................................... 1 1.1. Objeto de la tesis ................................................................................................... 1 1.2. Contexto de la aplicación ...................................................................................... 1 1.3. Antecedentes tecnológicos ................................................................................... 3 1.4. Estructura de la tesis ............................................................................................. 4 Capítulo 2. Técnicas clásicas de procesamiento de sonidos ............................................ 7 2.1. Introducción........................................................................................................... 7 2.2. Procesamiento en el dominio del tiempo ............................................................. 9 2.3. Procesamiento en el dominio de la frecuencia ................................................... 15 2.4. Procesamiento homomórfico .............................................................................. 19 2.5. Codificación predictiva lineal LPC ........................................................................ 23 Capítulo 3. Caracterización de sonidos mediante el estándar MPEG-7 ......................... 29 3.1. Objetivo y estructura de la norma ...................................................................... 30 3.2. Definición y determinación de parámetros de audio.......................................... 35 3.3. Relación entre los parámetros de la tesis y los MPEG7 ...................................... 57 3.4. Clasificación de sonidos ....................................................................................... 58 Capítulo 4. Técnicas de clasificación .............................................................................. 61 4.1. Introducción a la clasificación no secuencial ....................................................... 61 4.2. Distancia mínima ................................................................................................. 66 4.3. Máxima verosimilitud .......................................................................................... 68 4.4. Árbol de decisión ................................................................................................. 71 4.5. k-vecinos más próximos ...................................................................................... 75 4.6. Máquinas de vectores soporte ............................................................................ 77 4.7. Regresión logística ............................................................................................... 81 4.8. Redes neuronales ................................................................................................ 84 4.9. Función discriminante ......................................................................................... 88 4.10. Clasificador bayesiano ....................................................................................... 91 4.11. Comparación de técnicas de clasificación no secuencial .................................. 93 Capítulo 5. Clasificación de secuencia temporales ...................................................... 101 _______ ii 5.1. Introducción a la clasificación secuencial .......................................................... 101 5.2. Parámetros temporales ..................................................................................... 101 5.3. Reducción de dimensionalidad.......................................................................... 109 5.4. Ventanas deslizantes ......................................................................................... 115 5.5. Ventanas deslizantes recursivas ........................................................................ 120 5.6. Modelos ocultos de Markov .............................................................................. 124 5.7. Clasificación de modelos ARIMA ....................................................................... 137 5.8. Comparación de clasificadores secuenciales .................................................... 144 Capítulo 6. Clasificación de series derivadas ................................................................ 149 6.1. Introducción a las series derivadas ................................................................... 149 6.2. Clasificación de series derivadas ....................................................................... 152 6.3. Consideraciones de industrialización ................................................................ 186 Capítulo 7. Resumen y conclusiones ............................................................................ 191 7.1. Resumen ............................................................................................................ 191 7.2. Conclusiones ...................................................................................................... 193 7.3. Líneas de continuación ...................................................................................... 193 Capítulo 8. Referencias ................................................................................................. 195 _______ iii ÍNDICE DE FIGURAS Figura 2-1 Mecanismo de establecimiento de ventanas (Bernal Bermúdez, Bobadilla Sancho, & Gómez Vilda, 2000) ......................................................................................... 8 Figura 2-2 Función energía superpuesta sobre la señal vocal en el dominio del tiempo ........................................................................................................................................ 10 Figura 2-3 Función energía con distintos tamaños de ventanas de Hamming .............. 11 Figura 2-4 Comparación entre la energía y la magnitud media ..................................... 12 Figura 2-5 Ratio de cruces por cero superpuesto sobre la señal vocal en el dominio del tiempo............................................................................................................................. 13 Figura 2-6 Función de autocorrelación ........................................................................... 14 Figura 2-7 (a) Filtro center-clipping (b) Filtro 3-level center-clipping ............................. 15 Figura 2-8 Espectros de amplitud de una señal para distintos tamaños de ventana .... 16 Figura 2-9 Representación espectro-temporal de la potencia (3D) ............................... 18 Figura 2-10 Espectrograma............................................................................................. 18 Figura 2-11 Relación entre la frecuencia lineal (Hz) y la frecuencia Mel ....................... 21 Figura 2-12 Banco de filtros utilizado por Davis y Mermelstein (Nieto, 2006) .............. 22 Figura 2-13 Banco de filtros triangulares centrado en frecuencias (Nieto, 2006) ......... 22 Figura 2-14 Variación del espectro LPC en función del número de coeficientes ........... 25 Figura 2-15 Análisis de formantes por técnicas LPC ....................................................... 27 Figura 3-1 Elementos del estándar MPEG-7 (Koenen & Pereira, 2000) ......................... 33 Figura 3-2 Visión general de los esquema de descripción (DS’s) (Day & Martinez, 2001) ........................................................................................................................................ 35 Figura 3-3 Relaciones entre distintos tipo de estructuras para la descripción de audio (ISO, 2001) ...................................................................................................................... 36 Figura 3-4 Ilustración de ScalableSeries (ISO, 2001) ...................................................... 37 Figura 3-5 Diagrama de clases para los descriptores de bajo nivel de audio (MPEG, 2005) ............................................................................................................................... 40 Figura 3-6 Potencia total en dB ...................................................................................... 42 Figura 3-7 Espectrograma de un audio con el canto de un sapo partero ...................... 46 Figura 3-8 Espectros de frames, con canto y sin canto de sapo partero ....................... 46 Figura 3-9 Análisis de componentes principales de una distribución normal multivariante (Wikipedia, 2016) ..................................................................................... 48 Figura 3-10 Diagrama de bloques para la extracción de los descriptores de timbre (ISO, 2001) ............................................................................................................................... 52 Figura 3-11 Forma general de la envolvente ADSR de un sonido (Hyoung Gook Kim et al., 2005) ......................................................................................................................... 53 Figura 3-12 Ilustración del tiempo de ataque (ISO, 2001) ............................................. 54 Figura 3-13 Análisis de formantes por técnicas LPC ....................................................... 55 Figura 3-14 Parámetros primeros para ambos frames .................................................. 58 _______ x _______ xi ÍNDICE DE TABLAS Tabla 2-1 Correspondencia entre el espacio espectral y el Cepstral ............................. 20 Tabla 3-1 Relación entre parámetros de la tesis y MPEG-7 ........................................... 57 Tabla 3-2 Parámetros primarios obtenidos para ambos frames.................................... 58 Tabla 4-1 Tipos de sonidos analizados ........................................................................... 63 Tabla 4-2 Tipos de sonidos analizados por tipo de sonido ............................................. 63 Tabla 4-3 Matriz de confusión del árbol de decisión ..................................................... 66 Tabla 4-4 Matriz de confusión del clasificador de mínima distancia ............................. 68 Tabla 4-5 Matriz de confusión del clasificador por máxima verosimilitud .................... 71 Tabla 4-6 Matriz de confusión del árbol de decisión ..................................................... 75 Tabla 4-7 Matriz de confusión del clasificador k-NN ...................................................... 76 Tabla 4-8 Matriz de confusión del clasificador SVM ...................................................... 80 Tabla 4-9 Matriz de confusión de la clasificación por regresión logística ...................... 84 Tabla 4-10 Matriz de confusión de la clasificación por redes neuronales ..................... 88 Tabla 4-11 Matriz de confusión de la clasificación por análisis discriminante .............. 91 Tabla 4-12 Matriz de confusión de la clasificación bayesiana........................................ 93 Tabla 4-13. Resultados de la clasificación no secuencial ............................................... 94 Tabla 4-14. Factor de mérito de clasificadores no secuenciales .................................... 95 Tabla 4-15. Factor de mérito de clasificadores no secuenciales .................................... 96 Tabla 4-16. Indicadores para la evaluación de clasificadores ........................................ 97 Tabla 5-1. Factor de mérito de clasificadores con parámetros temporales ................ 108 Tabla 5-2. Indicadores para la evaluación de clasificadores con parámetros temporales ...................................................................................................................................... 108 Tabla 5-3. Factor de mérito de clasificadores no secuencial ....................................... 113 Tabla 5-4. Indicadores para la evaluación de clasificadores en ............................. 114 Tabla 5-5. Factor de mérito para clasificación con ventana deslizante (tamaño ventana: 5) ................................................................................................................................... 118 Tabla 5-6. Indicadores para la evaluación de clasificadores con ventana deslizante (tamaño ventana: 5) ..................................................................................................... 118 Tabla 5-7. Factor de mérito para clasificación con ventana deslizante recursiva (tamaño ventana: 5) .................................................................................................................... 122 Tabla 5-8. Indicadores para la evaluación de clasificadores con ventana deslizante recursiva (tamaño ventana: 5) ..................................................................................... 122 Tabla 5-9. Factor de mérito para clasificación con ventanas deslizantes y HMM ....... 128 Tabla 5-10. Indicadores para la evaluación de clasificadores con ventana deslizante (tamaño ventana: 5) ..................................................................................................... 129 Tabla 5-11. Factor de mérito para clasificación no secuencial en y HMM ............ 132 _______ xii Tabla 5-12. Indicadores para la evaluación de clasificadores no secuencial en y HMM ............................................................................................................................. 132 Tabla 5-13. Factor de mérito para clasificación no secuencial en y HMM sobre secuencias tamaño ROI ................................................................................................ 136 Tabla 5-14. Indicadores para la evaluación de clasificadores no secuencial en y HMM sobre secuencias tamaño ROI ............................................................................ 136 Tabla 5-15 Factor de mérito para clasificación de modelos ARIMA ............................ 143 Tabla 5-16 Indicadores para la evaluación de clasificadores de modelos ARIMA ....... 143 Tabla 5-17 Factor de mérito de diversas técnicas de clasificación .............................. 145 Tabla 5-18 Factor de mérito de diversas técnicas de clasificación (resumen) ............. 146 Tabla 5-19 Tasa de error de diversas técnicas de clasificación .................................... 146 Tabla 5-20 Tasa de error de diversas técnicas de clasificación (resumen) .................. 146 Tabla 6-1 Indicadores para la evaluación de clasificación por semejanza ................... 158 Tabla 6-2 Tasa de error de la clasificación por semejanza y conteo de series derivada ...................................................................................................................................... 161 Tabla 6-3 Factor de mérito de la clasificación por semejanza y conteo de series derivada ........................................................................................................................ 161 Tabla 6-4 Factor de mérito para clasificación paramétrica (serie derivada: distancia mínima) ......................................................................................................................... 169 Tabla 6-5 Factor de mérito para clasificación paramétrica (serie derivada: máxima verosimilitud) ................................................................................................................ 170 Tabla 6-6 Factor de mérito para clasificación paramétrica (serie derivada: árbol de decisión) ........................................................................................................................ 172 Tabla 6-7 Factor de mérito para clasificación paramétrica (serie derivada: k-vecinos más próximos) .............................................................................................................. 173 Tabla 6-8 Factor de mérito para clasificación paramétrica (serie derivada: SVM) ...... 175 Tabla 6-9 Factor de mérito para clasificación paramétrica (serie derivada: regresión logística) ........................................................................................................................ 176 Tabla 6-10 Factor de mérito para clasificación paramétrica (serie derivada: red neuronal) ...................................................................................................................... 178 Tabla 6-11 Factor de mérito para clasificación paramétrica (serie derivada: función discriminante) ............................................................................................................... 179 Tabla 6-12 Factor de mérito para clasificación paramétrica (serie derivada: clasificador bayesiano)..................................................................................................................... 181 Tabla 6-13 Factor de mérito para clasificación paramétrica (valores en %) ................ 182 Tabla 6-14 Factor de mérito para clasificación paramétrica: diferencial con el conteo (valores en %) ............................................................................................................... 182 Tabla 6-15 Tasa de error para clasificación paramétrica (valores en %)...................... 182 Tabla 6-16 Tasa de error para clasificación paramétrica: diferencial con el conteo (valores en %) ............................................................................................................... 183 _______ xiii Tabla 6-17 Indicadores para la evaluación de clasificación paramétrica (serie derivada: árbol de decisión) ......................................................................................................... 183 Tabla 6-18 Matriz de confusión de la clasificación por combinación árbol de decisiónfunción discriminante ................................................................................................... 185 Tabla 6-19 Tiempos de proceso.................................................................................... 190 _______ xiv _______ 1 CAPÍTULO 1. INTRODUCCIÓN 1.1. Objeto de la tesis Numerosos proyectos industriales, así como amplios campos de la ciencia y la tecnología, se enfrentan al problema del procesamiento de grandes volúmenes de datos que tienen estructura de secuencias temporales. Su tratamiento se realiza, en muchos casos, utilizando técnicas específicas referidas al problema planteado que son válidas dentro de su campo de aplicación. Por otra parte, el incremento constante en la capacidad de almacenamiento y proceso de grandes volúmenes de información está posibilitando la difusión de técnicas que, bajo el nombre genérico de minería de datos, permiten abordar numerosos problemas mediante enfoques estadísticos y de inteligencia artificial. El objetivo de la tesis es el estudio de la aplicabilidad de esas técnicas de minería de datos al caso en que la información a procesar tenga una estructura de secuencias temporales, lo que conlleva importantes condicionantes. Los métodos propuestos en la tesis son contrastados y validados mediante su aplicación a un problema real: la clasificación de sonidos con carácter industrial y, en concreto, a la identificación automática de especies de anuros. El carácter industrial de la clasificación se reflejará, entre otros parámetros, en: la tolerancia ante ruidos y perturbaciones; la normalización de la representación de los sonidos; la capacidad de proceso en tiempo real; y la integrabilidad en sistemas de bajo consumo y bajo coste. 1.2. Contexto de la aplicación Desde que en 1950 Roger Revelle alertara sobre las consecuencias de los gases de efecto invernadero, la comunidad científica internacional ha ido buscando indicadores de la influencia humana en el clima. En 1972, Dennis Meadows presentó en su informe sobre los límites del crecimiento (Meadows, Meadows, Randers, & Behrens, 1972) el primer modelo informático predictivo del calentamiento causado por los combustibles Introducción _______ 2 fósiles. Desde entonces se han propuesto multitud de modelos que tratan de explicar la evolución a largo plazo de diferentes indicadores climáticos. Una de las consecuencias del cambio climático es la incidencia que tiene sobre el desarrollo de funciones fisiológicas básicas de diversas especies (Deutsch et al., 2008; Duarte et al., 2012; Huey et al., 2009; Kearney, Shine, & Porter, 2009; Pörtner & Knust, 2007). Así, por ejemplo, el sonido producido durante el canto de llamada juega un papel central en la selección sexual y en la reproducción de numerosas especies ectotermas (las que regulan su temperatura a partir de la temperatura ambiental), entre las que se incluyen los anuros (ranas y sapos), peces e insectos (Bradbury & Vehrencamp, 1998; Fay & Popper, 2012; Gerhardt & Huber, 2002). Los distintos patrones acústicos se utilizan para la atracción de potenciales parejas, como medio de defensa, para alejar a los oponentes, y para responder a los riesgos de depredación. Estos sonidos son, por tanto, fundamentales para la adaptación de los individuos al medio. Sin embargo, la producción de sonidos en los animales ectotermos está fuertemente influida por la temperatura ambiente (Bellis, 1957; Gayou, 1984; Gerhardt & Mudry, 1980; Márquez & Bosch, 1995; Pires & Hoy, 1992; Schneider, 1974; Walker, 1957, 1962) pudiendo afectar a diversas características de su sistema de comunicación acústico. De hecho la temperatura ambiente, una vez superado cierto umbral, puede restringir los procesos fisiológicos asociados a la producción de sonidos hasta el punto de llegar a inhibir los comportamientos de llamada. Como consecuencia, la temperatura puede llegar a afectar de forma notable a los patrones de los cantos de llamada modificando el comienzo, la duración y la intensidad de los episodios de llamada y, consecuentemente, la actividad reproductiva. Por ello el análisis y clasificación de los sonidos producidos por determinadas especies animales se ha mostrado un potente indicador de los cambios de temperatura y, por tanto, de la existencia del cambio climático. Especialmente interesante son los resultados obtenidos a partir de la consideración de los sonidos producidos por anuros (Llusia, Márquez, Beltrán, Benítez, & do Amaral, 2013). Este análisis requiere en primer lugar la grabación de los distintos sonidos en su entorno natural, pudiendo usarse para ello dispositivos como los descritos en (M. E. Cambron & Bowker, 2006). El procesado de los sonidos grabados puede realizarse en tiempo real de forma local (Aide et al., 2013) o en un centro remoto requiriendo, en este caso, un adecuado sistema de transmisión, normalmente redes de sensores inalámbricas (wireless sensor networks WSN), lo que generalmente requiere la aplicación de técnicas adecuadas de compresión de la información (Diaz, Nakamura, Yehia, Salles, & Loureiro, 2012). Antecedentes tecnológicos _______ 3 Cuando el objetivo es la determinación de indicadores de cambio climático, el requisito de proceso en tiempo real en campo no suele ser necesario, por lo que los sonidos pueden ser analizados a partir de los disponibles en bases de datos como los disponibles en la Fonoteca del Museo Nacional de Ciencias Naturales (Fonozoo, 2015), la Macaulay Library of Natural Sounds (Macaulaylibrary, 2015), la British Library Sound Archive (British Library, 2015), y la Animal Sound Archive in Berlin (Animalsoundarchive, 2015). En (Bardeli, 2009; Weninger & Schuller, 2011) se presentan distintas técnicas de procesado y clasificación de sonidos de animales a partir de esta última fonoteca. El procesado y clasificación de sonidos de animales es un tema recurrente en la literatura por ejemplo en (Potamitis, 2015). En (Huang, Yang, Yang, & Chen, 2009) se presenta un sistema de identificación específica de anuros con el objetivo de proporcionar consulta abierta on-line. 1.3. Antecedentes tecnológicos El proceso de identificación de sonidos en general, y de sonidos de anuros en particular, consta de dos fases. En la primera de ellas se realiza una extracción de un conjunto más o menos amplio de parámetros. La segunda etapa, a continuación, realiza la clasificación del sonido en base a los parámetros anteriores. La mayoría de los algoritmos utilizados basan la clasificación en parámetros espectrales o temporales tales como, por ejemplo, el centroide espectral, el ancho de banda o la tasa de cruces por cero (Benesty, 2008; Fulop, 2011; L. Rabiner & Juang, 1993). Dependiendo de las aplicaciones, de los tipos de sonido y, en muchos casos, de la elección de los autores, estos algoritmos carecen de homogeneidad, tanto en el tipo de parámetro utilizado como en su propia definición. Un caso particular de parámetros espectrales lo constituyen los Mel Frequency Cepstral Coefficients: MFCCs (Zheng, Zhang, & Song, 2001). Estos parámetros, muy usados en la literatura en procesos de clasificación y procesado de sonidos, se encuentran unívocamente definidos e incluso normalizados (ETSI, 2002) por lo que son una buena solución para resolver la heterogeneidad descrita en el párrafo anterior. Si bien los MFCCs presentan un conjunto de parámetros normalizados susceptibles de ser aplicados a la clasificación de sonidos, ofrecen una visión unidimensional del segmento de audio al que se refieren. En efecto, todos los parámetros derivan del mismo enfoque: el cepstrum de la señal sonora (función calculada a partir de su espectro de potencia). El uso de los MFCCs, aun teniendo la ventaja de la normalización, limita las posibilidades de exploración de otros parámetros que pudieran llegar a ser más expresivos. Una alternativa lo constituye el uso de la norma MPEG-7 (ISO, 2001). El objetivo de esta norma no es originalmente la clasificación de sonidos sino otro mucho más Introducción _______ 4 amplio: la descripción normalizada de contenido multimedia (texto, imágenes, audio, vídeo,…). Pero para describir sonidos la norma, en su parte 4, propone un conjunto de parámetros y algoritmos mucho más ricos desde el punto de vista semántico que el proporcionado por los MFCCs. Los parámetros MPEG-7 poseen, por tanto, una doble característica: normalización y riqueza semántica. Eso los hace especialmente atractivos para explorar técnicas de clasificación de sonidos (Casey, 2001). Por otra parte la comparación entre técnicas de clasificación basadas en MFCCs y técnicas basadas en MPEG-7 muestran diversidad de resultados en función de las condiciones de uso (H. G. Kim & Sikora, 2004; Ntalampiras, Potamitis, & Fakotakis, 2008). No obstante, sean cuales fueren los parámetros utilizados para caracterizar un sonido, éstos no son más que la base sobre la que actúan los algoritmos de clasificación. En este aspecto hay también una gran variedad de soluciones en la literatura, predominando quizás las soluciones basadas en modelos ocultos de Markov (L. R. Rabiner, 1989). Precisamente esta es la técnica elegida en la norma MPEG-7. Sin embargo, la clasificación de patrones, sean estos sonidos o no, es un campo de trabajo con una rica tradición y en el que se han hecho numerosas propuestas. Bajo los nombres de aprendizaje automático, machine learning, minería de datos o business intelligence se pueden encontrar potentes algoritmos especializados en la clasificación de patrones en general (Bishop, 2006; Flach, 2012); así como, en particular, de clasificación de datos secuenciales (Dietterich, 2002; Esling & Agon, 2012), y de clasificación de sonidos (Gopi, 2014; Theodoridis & Chellappa, 2013). 1.4. Estructura de la tesis El presente documento de tesis está dividido en siete capítulos de acuerdo con la siguiente estructura:  Capítulo 1: Introducción; contextualiza el trabajo y realiza una breve descripción del mismo, destacando sus objetivos y estructura.  Capítulo 2: Técnicas clásicas de procesamiento de sonidos; realiza una descripción del estado del arte en cuanto a las técnicas de procesamiento de sonidos: en el domino del tiempo; en el domino de la frecuencia; procesamiento homomórfico; y codificación predictiva lineal. A través de cada una de estas técnicas se pueden extraer distintas características de los sonidos, lo que permitirá su representación para una ulterior clasificación.  Capítulo 3: Caracterización de sonidos mediante el estándar MPEG-7; realiza un estudio de la estructura de la norma, profundizando en su parte 4 encargada de la descripción del contenido de audio y, más concretamente, en los descriptores del sonido a bajo nivel (timbre, ritmo, distribución espacial, Estructura de la tesis _______ 5 temporal y espectral o fuente de sonido). Elige y define los parámetros que caracterizarán cada fragmento de un sonido en los capítulos restantes.  Capítulo 4: Técnicas de clasificación; presenta y define distintas técnicas de clasificación dentro de las utilizadas en el ámbito de la minería de datos. Aplica estas técnicas a la clasificación de los fragmentos de sonidos representados mediante los parámetros MPEG-7 definidos en el capítulo anterior. En esta primera aproximación no se tiene en cuenta el carácter secuencial (el orden) de los fragmentos.  Capítulo 5: Clasificación de secuencias temporales; analiza distintas técnicas que permiten tener en cuenta el carácter secuencial de los sonidos. Se consideran especialmente las técnicas basadas en los Modelos Ocultos de Markov, al ser éste el clasificador recomendado por la norma MPEG-7. Se comparan las prestaciones de los clasificadores de secuencias con los resultados obtenidos en el capítulo anterior.  Capítulo 6: Clasificación de series derivadas; introduce el concepto de serie vectorial derivada como aquella secuencia en la que cada fragmento de sonido está representado por un vector cuyos elementos son las probabilidades (o puntuaciones) de pertenecer a cada clase posible de sonido. Se exploran distintas técnicas de clasificación de series derivadas y se comparan sus prestaciones con los resultados obtenidos en los capítulos anteriores. Se realizan finalmente diversas consideraciones de implementación que tratan de proporcionar un carácter industrial al proceso de clasificación propuesto.  Capítulo 7: Resumen y conclusiones; presenta un resumen del trabajo realizado y las conclusiones derivadas del mismo, haciendo especial hincapié en los aspectos más novedosos de la tesis. Se presentan igualmente también las posibles líneas de continuación del presente trabajo de investigación. Técnicas clásicas de procesamiento de sonidos _______ 12 En la Figura 2-4 se compara las funciones energía y magnitud media para la misma señal vocal. Figura 2-4 Comparación entre la energía y la magnitud media Otro parámetro interesante, que se obtiene del tratamiento de la señal en el dominio del tiempo, es el número de cruces por cero. Este ratio tiene una correspondencia directa con las frecuencias que contiene la señal. Las señales vocales son de banda ancha y el ratio de cruces por cero es menos preciso. Sin embargo, usando frames se puede observar información de las propiedades espectrales. Un cruce por cero se produce cuando dos muestras consecutivas de una señal tienen diferente signo. Una característica de la señal basada en el cruce por cero es la densidad de cruces por cero, que consiste en el número de cruces por cero que se producen en un cierto segmento de señal, expresado como (2-10) Si se usa una ventana rectangular, la expresión se simplifica a (2-11) Como se puede observar en la Figura 2-5, si la medida de es elevada existen componentes de alta frecuencia, y viceversa. Este parámetro es bastante fiable para la discriminación de los sonidos sordos y sonoros. Una alta tasa de cruces por cero se puede corresponder generalmente a frames sordos, mientras que un ratio pequeño corresponde con frames sonoros. Procesamiento en el dominio del tiempo _______ 13 Figura 2-5 Ratio de cruces por cero superpuesto sobre la señal vocal en el dominio del tiempo Hay que tomar con cautela este parámetro pues es fuertemente influenciable por múltiples factores como pueden ser el nivel de continua (DC) de la señal y ruidos del sistema de digitalización. La energía o magnitud media y el ratio de cruces por cero se suelen usar de forma combinada para localizar el inicio y final de las señales de voz y los tramos sordos y sonoros. Otro parámetro importante de las señales en el dominio del tiempo es la frecuencia fundamental, tono o pitch, que puede ser usado en múltiples problemas de clasificación de sonidos. Las señales sonoras se caracterizan por tener un valor de pitch muy claro. Sin embargo, las señales sordas carecen de periodicidad. Es en las transiciones donde aparecen los problemas. Existen numerosos algoritmos para calcular el pitch, sin embargo, no existe algoritmo conocido que lo determine con un 100% de fiabilidad, ya que no siempre es fácil determinar si existe periodicidad en una señal o no. El pitch varía mucho entre diferentes individuos, e incluso para un mismo individuo puede variar en función de diversos factores. Uno de los métodos usados para la identificación del pitch es la función de autocorrelación, definida como (2-12) La función de autocorrelación de una señal periódica es también periódica con el mismo período. Técnicas clásicas de procesamiento de sonidos _______ 14 Sean e dos señales de longitud finita. Una medida de similitud es el error cuadrático medio entre ambas. Si se considera un posible desplazamiento entre ambas señales, se obtiene que el error cuadrático medio es (2-13) Desarrollando la expresión anterior se llega a (2-14) Los dos primeros términos de la expresión anterior se corresponden con la energía ambas señales, independen del desplazamiento entre ambas señales. Por tanto, la función se hará mínima cuando el último miembro de la expresión se haga máximo. Si ambas señales son la misma señal el último sumando coincide con la definición de la función de autocorrelación. El valor estimado de pitch se corresponde con el mayor máximo local resultante de la función autocorrelación, excluyendo el máximo global. En la Figura 2-6 se puede observar la función de autocorrelación correspondiente al sonido, anteriormente usado, del sapo corredor. Figura 2-6 Función de autocorrelación Un problema de la función de autocorrelación es la aparición de picos extraños. Este efecto se puede aliviar, si previo al cálculo de la autocorrelación, se pasa la señal por un filtro center-clipping. Este filtro, consiste en realizar una transformación no-lineal de la señal, según el siguiente la Figura 2-7(a). Esta función produce la eliminación de toda la señal que no supera un cierto umbral, que normalmente se fija en un 30% del máximo de la señal en el frame en cuestión. El coste computacional de la aplicación de Procesamiento en el dominio de la frecuencia _______ 15 este filtro es alto por lo que se propone una modificación del mismo, el filtro 3-level center-clipping representando en la Figura 2-7(b). Figura 2-7 (a) Filtro center-clipping (b) Filtro 3-level center-clipping 2.3. Procesamiento en el dominio de la frecuencia La representación del dominio de tiempo muestra las amplitudes de una señal en el instante de tiempo que ocurre el muestreo. En muchos casos se desea saber el contenido de la frecuencia de una señal antes que las amplitudes de señales individuales. El algoritmo que se utiliza para transformar datos en el dominio del tiempo al dominio de la frecuencia se conoce como Transformada de Fourier. La transformada de Fourier es una herramienta muy útil cuando se trabaja con modelos matemáticos. En el caso de estudio, las señales son discretas y mediante el uso de ventanas se limita el número de puntos. Para este conjunto de datos se utiliza la transformada discreta de Fourier (DFT). La DFT es siempre compleja por lo que estará formada por amplitud y fase. La fase tiene poco importancia en el reconocimiento vocal, por tanto, a partir ahora cuando se refiera a DFT se referirá a la amplitud de la DFT. La transformada rápida de Fourier es un algoritmo que permite calcular de forma eficiente la DFT. Para poder aplicar este algoritmo, la secuencia de entrada debe ser múltiplo de 2. Una técnica empleada, para hacer que el tamaño de la secuencia de entrada sea múltiplo de 2, es agregar ceros al final de la secuencia de modo que el número total de muestras sea igual al siguiente múltiplo de 2. Como se verá a continuación, la inclusión de ceros aumenta el tamaño de la muestra lo que ayuda a incrementar la resolución de la frecuencia. Cuando se trabaja con señales vocales, al no ser no estacionaria, se toman ventanas relativamente pequeñas para que dentro de cada ventana se pueda considerar cuasiestacionaria (Bernal & Gómez, Pedro, Bobadilla, 1999). El efecto que provoca el enventadano es convolucionar el espectro de la señal muestreada con el espectro de la ventana, produciendo una distorsión de la transformada de la señal original. Por esto es conveniente elegir un tipo de ventana que produzca menor distorsión, minimizando las discontinuidades que la señal tiene al comienzo y final de cada frame. Esta ventana Técnicas clásicas de procesamiento de sonidos _______ 16 debe tener un valor próximo a cero en sus extremos, y normalmente es simétrica respecto del centro de la misma. La multiplicación de la señal por la ventana tiene dos efectos:  Atenúa de forma gradual la señal a ambos lados del frame seleccionado.  Produce una convolución de la transformada de Fourier de la función ventana y el espectro de la señal. Debido al segundo efecto, la ventana debe satisfacer dos características para reducir la distorsión espectral introducida por el enventanado:  Lóbulo principal estrecho y agudo, con buena resolución en alta frecuencia.  Gran atenuación de los lóbulos secundarios. Estas dos características, generalmente, son contrapuestas, y por tanto es preciso buscar un compromiso entre ambas. El uso de una ventana grande permite analizar muy bien los armónicos, pero la envolvente espectral se “camuflada” en cierto modo. Por el contrario, el uso de ventana pequeña, permite ver la envolvente espectral de forma más limpia (Galindo Riaño, 1996). Este efecto se puede observa en la Figura 2-8. Figura 2-8 Espectros de amplitud de una señal para distintos tamaños de ventana Una buena opción para enventanar señales sonoras puede ser la ventana rectangular con una duración igual a un período del pitch. Esto producirá un espectro de salida muy cercano a la respuesta al impulso. La dificultad estriba en la localización exacta y fiable del período de pitch. Por otra parte, si se toma una ventana pequeña la resolución frecuencial resulta pobre, pues la DFT estudia tantas frecuencias como puntos se indiquen. La frecuencia máxima estudiable para puntos es Procesamiento en el dominio de la frecuencia _______ 17 para par con (2-15) donde es la frecuencia máxima de la señal. Según la ecuación (2-15), si se aumenta el tamaño de la ventana ( ) el número de frecuencias que se estudian es mayor, a costa de disminuir la distancia entre ellas y obteniendo una mejor precisión. La razón matemática indica que cuanto más ancha sea la ventana, más estrecha resulta la función transformada de la ventana, produciendo una menor distorsión en el espectro de la función original. Para reducir el rango dinámico de las señales espectrales, se suele alisar el espectro para compensar los valores de altas y bajas frecuencias mediante un filtro preénfasis. Idealmente, el filtro preénfasis sólo se debe aplicar a señales sonoras. Sin embargo, por la pequeña distorsión que se introduce en las señales aperiódicas, y por simplificar el sistema de análisis, la práctica totalidad de los sistemas actuales aplican el filtro preénfasis a todo tipo de señales. En las envolventes de los espectros se pueden observar unos picos en torno a los múltiplos de la frecuencia fundamental. Estos picos armónicos se denominan formantes. Realmente son zonas de resonancia en las que se pone de relieve un conjunto determinado de armónicos. Al valor de pitch se le denomina formante , . La utilidad de los formantes es determinante en la discriminación de numerosos sonidos. Así por ejemplo, simplemente utilizando la posición de los formantes y , se puede realizar un mapa que permita diferenciar los fonemas vocálicos de la voz humana. Mediante la FFT se calcula el espectro de cada frame. Si se generaliza para todos los frames que componen la señal se obtiene el espectro en cada instante, como una función compleja de dos variables, tiempo y frecuencia. A partir de esta función, se puede obtener el espectro de potencia del sonido en cada frame, (2-16) Se denomina espectrograma a la representación gráfica de esta función, . El espectrograma se puede realizar de dos formas:  Gráfico de 3 dimensiones (Figura 2-9).  Gráfico de 2 dimensiones , señalando con distinta intensidad de color el valor de la potencia, (Figura 2-10). La opción más común es la segunda que es más fácil interpretar y los formantes aparecen como franjas horizontales (Faúndez Zanuy, 2000). Técnicas clásicas de procesamiento de sonidos _______ 18 Figura 2-9 Representación espectro-temporal de la potencia (3D) Figura 2-10 Espectrograma En estas representaciones, algunos valores de potencia pueden quedar “camuflados” para lo cual resulta más conveniente usar una escala logarítmica para las magnitudes de amplitud, representando dB. El espectrograma muestra los valores de las amplitudes en un rango dinámico que hay que calibrar. La forma habitual es usar un filtro pre-énfasis, que independiza el tono del emisor (Fulop, 2011). Sobre el espectrograma se puede definir un amplio conjunto de parámetros, entre los cuales se pueden señalar el centroide de potencia y la dispersión espectral. El Centroide de potencia es una forma de expresar resumidamente la forma del espectro. Indica si el espectro está dominado por altas o bajas frecuencias, Procesamiento homomórfico _______ 19 (2-17) La dispersión espectral de potencia expresa de forma simple la forma del espectro e indica si la potencia está concentrada alrededor del Centroide o, por el contrario, se encuentra dispersa a lo largo de todo el espectro, (2-18) 2.4. Procesamiento homomórfico En la producción de la voz intervienen diversos órganos que forman el aparato fonador. Es importante analizar cómo se produce la voz y obtener un modelo para que en base a éste se puedan diseñar reconocedores de voz que aprovechen las características de este modelo. Una simplificación de la realidad es considerar consiste en separar la influencia de los distintos factores, en concreto separando la influencia de la excitación de la del tracto vocal. De esta forma, la producción de la voz puede ser modelada en tiempos cortos como la convolución de una función de excitación con la respuesta al impulso del tracto vocal. La descomposición homomórfica, es una técnica diseñada para separar componentes de una señal convolucionada por medio de una transformación. Sea (2-19) una señal sonora resultante de la convolución de otras dos señales. Si se aplica la transformada de Fourier se tiene , (2-20) en el espacio de la frecuencia. Tomando el logaritmo en ambos lados de la expresión anterior (2-21) De esta forma, una convolución en el dominio del tiempo, se ha transformado en una suma de componentes logarítmicas en el dominio de la frecuencia. Finalmente, para separar las componentes e , se debe aplicar una transformada inversa de Fourier para el logaritmo del espectro (2-22) Técnicas clásicas de procesamiento de sonidos _______ 20 Esta última transformación se encuentra en el dominio del tiempo, pero no es el mismo tiempo que el de la señal original. Es una medida de la velocidad del cambio de la magnitud espectral. Este dominio es llamado cepstral y existe una correspondencia entre las medidas del espacio espectral y el cepstral: Espectral Cepstral Espectro Cepstro Frecuencia Quefrencia Armónico Ramónico Magnitud Gamnitude Fase Saphe Filtro Liftro Tabla 2-1 Correspondencia entre el espacio espectral y el Cepstral Los coeficientes cepstrales describen la periodicidad del espectro. Un pico en el cepstrum indica que la señal es una combinación lineal de múltiplos de la frecuencia del pitch. El pitch se puede encontrar en el número del coeficiente donde se produce el pico. El cepstrum es un número complejo y, por tanto, tiene parte real e imaginaria. La parte compleja contiene la información sobre la magnitud y fase inicial del espectro, permitiendo la reconstrucción de una señal. Mientras que su parte real utiliza solamente las magnitudes del espectro. Los cepstrum reales de una señal están definidos como (2-23) donde es la transformada de Fourier de . De la misma forma, los cepstrum complejos de se definen como (2-24) donde se usa el logaritmo complejo dado por (2-25) y la fase (2-26) Si la señal es real, el cepstrum real y el complejo son también señales reales. Por tanto el término cepstrum complejo, no se refiere a que es una señal Procesamiento homomórfico _______ 21 compleja, sino que se toma el logaritmo complejo. Para el propósito de este capítulo, cuando se indique cepstrums1 se referirá a los cepstrums reales. Si se aplica este análisis a los frames de una señal, se pueden calcular los cepstrums con el uso de la DFT. No obstante, el cepstrum complejo obtenido no es exacto, debido a que el logaritmo complejo usado en el cálculo de la DFT, es una versión muestreada de . De esta forma, el resultado de la transformación inversa es una versión con aliasing del verdadero cepstrum complejo. Para minimizar el efecto de aliasing se necesita un valor grande para N, aproximadamente mayor o igual que 512. Para poder realizar una comparación con la captación del sonido por el ser humano, hay que tener en cuenta que el sistema auditivo no es constante a lo largo del eje de la frecuencia. Este, puede fácilmente distinguir tonos entre 200 y 250Hz pero no entre 2000 y 2500Hz. Para imitar esta característica espectral se debe usar el análisis espectral con una resolución fija en una escala de frecuencia subjetiva llamada, escala en frecuencia Mel, donde Mel es una unidad de la frecuencia subjetiva. Existe una relación monótona entre la escala Mel y la escala en frecuencia física en Hz (Quariteri, 2002), (2-27) La escala en frecuencia Mel es aproximadamente lineal hasta 1000Hz y logarítmica en frecuencias superiores, Figura 2-11. Figura 2-11 Relación entre la frecuencia lineal (Hz) y la frecuencia Mel Si se representa el cepstrum real en la frecuencia Mel, de una señal analizada en frames, se tienen los Coeficientes Mel Cepstral (MFCC, Mel-Frequency Cepstrum Coefficients). 1 Cepstrums o Ceptra son la forma plurar de cepstrum Técnicas clásicas de procesamiento de sonidos _______ 28 _______ 29 CAPÍTULO 3. CARACTERIZACIÓN DE SONIDOS MEDIANTE EL ESTÁNDAR MPEG-7 Se entiende por caracterización: La determinación de los atributos peculiares de alguien o de algo, de modo que claramente se distinga de los demás (Real Academia Española, 2014). En el campo de la clasificación e identificación de sonidos el primer paso debe ser la caracterización de los sonidos. Como se ha visto en el capítulo anterior, existen un gran número de técnicas usadas en la caracterización de los sonidos. Dependiendo de las aplicaciones, tipos de sonidos y, en muchos casos, la elección de los autores, estas técnicas carecen de homogeneidad, tanto en la selección de características como incluso en la definición del parámetro. Dada la aparente falta de homogeneidad en las técnicas utilizadas parece conveniente realizar el uso de características normalizadas como los Mel Frequency Ceptral Coefficiente (MFCCs). Estas características, ampliamente utilizadas en los procesos de clasificación de sonidos, están unívocamente definidas e incluso estandarizadas (ETSI, 2002), por lo que son una buena solución para hacer frente a la heterogeneidad descrita anteriormente. Mientras los MFCC son un conjunto de características estándar que pueden ser aplicados a la clasificación de sonidos, ofrecen una visión unidimensional al derivarse todas las características del mismo enfoque: el cepstrum de la señal de sonidos. Aunque el uso de los coeficientes MFCC tiene la ventaja de la normalización, limitan la búsqueda de rasgos semánticos más expresivos. Una alternativa entre los distintos estándares existentes, es el estándar MPEG-7, de la Organización Internacional para la Estandandarización (ISO/IEC) (ISO/MPEG, 1998) y desarrollado por el grupo MPEG (Moving Picture Experts Group). El grupo MPEG se encarga de desarrollar normas para la representación codificada del audio y video digital y datos relacionados. Caracterización de sonidos mediante el estándar MPEG-7 _______ 30 La cantidad de información audiovisual disponible en formato digital está alcanzando cifras inconmensurables gracias a las nuevas tecnologías de comunicación y al uso masivo de Internet en la sociedad. El crecimiento de este tipo de información parece no tener límites. El valor de esta información depende en buena medida de lo sencillo que sea encontrarla, recuperarla, acceder a ella y gestionarla (Vicente, 2005). De ahí el interés de este tipo de normas, que normalizan un conjunto de parámetros confiriendo carácter industrializador. El MPEG7 en comparación con los MFCCs presenta una mayor riqueza semántica como se verá a lo largo de este capítulo. 3.1. Objetivo y estructura de la norma MPEG-7, formalmente denominado “Interfaz para la descripción de contenido multimedia (Multimedia Content Description Interface)”, es un estándar para la descripción de material multimedia: habla, audio, vídeo, imágenes y modelos 3D (ISO/MPEG, 1998). No está dirigido a ninguna aplicación en particular. Por el contrario, los elementos que MPEG-7 estandariza apoyan un amplio abanico de aplicaciones. Es bastante diferente de los otros estándares MPEG, porque no define una forma de representar datos con el objetivo de reconstruirlos fielmente, como hizo MPEG-1, 2 y 4 (Koenen & Pereira, 2000). Su objetivo se aparta de estos estándares, que se ocupan principalmente de la representación del contenido (codificación), y añade una capa semántica por encima, dependiendo de ellos (u otros estándares similares) para proporcionar acceso a los contenidos mismos. Ofrece un conjunto completo de herramientas de descripción audiovisual: elementos de metadatos, su estructura y relaciones, que son definidos por el estándar en forma de descriptores y esquemas de descripción. Estas herramientas sirven para crear un conjunto de descripciones formados por esquemas de descripción y sus descriptores correspondientes, que constituirá la base para aplicaciones permitiendo el necesario acceso eficaz y eficiente (búsqueda, filtrado y navegación) al contenido multimedia. Esta es una tarea difícil, dado el amplio espectro de necesidades y aplicaciones multimedia, selectiva y amplio número de funciones audiovisuales de importancia en este contexto (Martínez, 2004). Como todos los estándares producidos por MPEG, la especificación de MPEG-7 está orientada a un modelo de decodificador. Es decir, MPEG-7 detalla la sintaxis y semántica de las descripciones, de tal forma que cualquier decodificador acorde con la norma sea capaz de interpretar una descripción MPEG-7. Por tanto, lo que luego el descodificador haga con ella (filtrado, búsqueda, navegación o acceso), como el método usado en el codificador para generarla no están especificados, dejando espacio para desarrollos o mejoras posteriores, así como para la posibilidad de ofrecer Objetivo y estructura de la norma _______ 31 valor añadido por parte de empresas o instituciones que produzcan aplicaciones basadas en MPEG-7 (Núñez & Fernández, 2002). El estándar MPEG-7 (ISO/IEC 15938) ha sido dividido en secciones, que tratan con diferentes aspectos de la descripción del material multimedia (Chang, Sikora, & Puri, 2001; Martínez, 2004):  Parte 1: MPEG-7 Systems. Esta sección abarca aspectos globales de acceso a la información, mecanismos de transmisión, almacenamiento, sincronización del contenido y descripción de la información, formatos de fichero, multiplexado de descripciones y calidad de servicio. Otro aspecto que engloba son las herramientas relacionadas con la gestión y protección de la propiedad intelectual.  Parte 2: MPEG-7 Description Definition Language. Describe el lenguaje de definición de descripciones. Se basa en el lenguaje XML de metadatos en un intento de favorecer la interoperabilidad y la creación de aplicaciones. Para poder dar al estándar mayores funcionalidades se han añadido algunas extensiones de las que XML Schema puro carece, ya que no fue diseñado para describir material audiovisual. Con el fin de evitar un problema de exceso de datos se ha creado un compresor llamado BiM (Binary Format for MPEG-7). Entre una de sus propiedades, este compresor presenta la ventaja de ser más robusto que XML ante los errores de transmisión (Avaro & Salembier, 2001) y cuenta con una alta tasa de compresión al eliminar la redundancia estructural del documento. Cada documento es dividido y transmitido por partes. A cada parte del documento se le llama unidad de datos y llevará la información completa de un descriptor. De esta forma, en el caso de modificarse la información de un descriptor, sólo se tendrá que transmitir la información de éste y no de todo el documento, lo que permite ahorrar ancho de banda.  Parte 3: MPEG-7 Visual. Comprende la descripción de elementos visuales, por sus propiedades espaciales (color, textura o forma), propiedades temporales (movimiento o actividad), localización espacio-temporal (posición o trayectoria) o por características específicas (reconocimiento de rostros).  Parte 4: MPEG-7 Audio. Especifica los métodos de descripción de contenidos de audio basados en sus características de bajo nivel (timbre, ritmo, distribución espacial, temporal y espectral o fuente de sonido), y herramientas de alto nivel como: la transcripción a texto (para voz o letras de canciones), reconocimiento de sonido e indexación.  Parte 5: MPEG-7 Multimedia Description Schemes. Sección que especifica las herramientas de descripción que son genéricas, así como la organización de los elementos individuales, de forma tal que se puedan aplicar a la creación de descripciones completas de la estructura física y del contenido semántico del material (Salembier & Smith, 2001). Dentro de MDS se encuentran también los Caracterización de sonidos mediante el estándar MPEG-7 _______ 32 esquemas de descripción para los usuarios de los servicios audiovisuales, que permiten especificar las preferencias personales y los patrones de uso para ofrecer servicios de personalización.  Parte 6: MPEG-7 Reference Software: the eXperimentation Model. Pretende proporcionar una implementación de referencia de las partes pertinentes de la norma MPEG-7, y es conocida como XM Experimentation Software o Modelo de Experimentación. El XM permite realizar pruebas de funcionamiento de las partes desarrolladas, asimismo sirve de orientación para la construcción de sistemas MPEG-7. Las aplicaciones XM están divididas en dos tipos: las aplicaciones servidores (extracción) y las aplicaciones cliente (búsqueda, filtrado y/o transcodificación).  Parte 7: MPEG-7 Conformance. Pretende proporcionar directrices y procedimientos para probar que las implementaciones de MPEG-7 se ajustan a las normas establecidas.  Parte 8: MPEG-7 Extraction and use of the descriptions. Agrupa material informativo sobre la extracción y uso de algunas de las herramientas de descripción.  Parte 9: MPEG-7 Profiles. Recoge distintos perfiles y niveles estandarizados para MPEG-7, especificados a través de las distintas partes del estándar ISO/IEC 15939.  Parte 10: MPEG-7 Scheme Definition. Recoge todos los esquemas MPEG-7, reuniéndolos desde diferentes estándares, correcciones y enmiendas. Profundizando en el lenguaje de descripción que usa MPEG-7, los principales elementos del estándar son (Pereira, 1996):  Descriptores (D): son las representaciones de características que definen la sintaxis y la semántica de cada representación característica. Estas representaciones no serán más que un determinado conjunto de metadatos MPEG-7. Se utilizan para describir los siguientes tipos de información: o Características audiovisuales de bajo nivel, como son el color, la textura, el movimiento, la energía, etc. o Características de alto nivel de objetos semánticos, eventos y conceptos abstractos. o Procesos de gestión del contenido. o Información sobre el contenido.  Esquemas de Descripción (DS): especifican la estructura y semántica de las relaciones entre sus componentes. Estos componentes pueden ser tanto D’s como DS’s.  Lenguaje de Definición de Descripciones (DDL): proporciona las herramientas para permitir la creación de nuevos DS’s y D’s. También permite la extensión y modificación de los DS’s existentes. Objetivo y estructura de la norma _______ 33  Herramientas del sistema: permiten el multiplexado de diferentes descripciones así como la sincronización de las mismas con el contenido. Se ocupan de los mecanismos de transmisión y de representaciones codificadas (tanto textuales como binarias) para almacenarlas y transmitirlas de forma eficiente. También incluyen los procesos de gestión y protección de la propiedad intelectual. En la Figura 3-1 se puede observar las relaciones existentes entre los elementos anteriormente indicados. Figura 3-1 Elementos del estándar MPEG-7 (Koenen & Pereira, 2000) En principio, la gran mayoría de los D’s son utilizados para describir características de bajo nivel y podrán ser extraídos de los contenidos de una forma automática. Por el contrario, será necesaria la intervención de un agente humano para extraer los D´s de alto nivel. Los DS’s de MPEG-7, pueden ser clasificados en tres grandes grupos: audio, dominio visual y descripción genérica de datos multimedia. En este último grupo se describen los metadatos relacionados con la creación, producción, uso y gestión de los datos multimedia; así como el contenido multimedia a distintos niveles de abstracción (incluyendo estructura de la señal, características modelos y semántica). Los esquemas de descripciones multimedia (DMS) utilizados en MPEG-7 se dividen en seis partes (Martínez, 2002): 1. Elementos básicos y herramientas. Los elementos básicos se pueden agrupar en dos grandes grupos: información temporal y anotaciones textuales. Los DS’s que describen información temporal se basan en el estándar ISO8601 (Data elements and interchange formats — Information interchange — Representation of dates and times) que especifica una notación estándar utilizada para representar instantes, intervalos e intervalos recurrentes de tiempo evitando ambigüedades. Esta notación facilita la migración entre distintas plataformas. Estos elementos Caracterización de sonidos mediante el estándar MPEG-7 _______ 34 representan la información temporal del contenido o “streams”. Sirven para describir el tiempo a nivel de muestras del contenido multimedia, como pueden ser el periodo de muestreo de una señal digital. Las anotaciones textuales aportan una serie de construcciones básicas como texto libre, texto estructurado y anotaciones estructuras relacionadas. Se utiliza para la descripción textual del contenido multimedia. Además de los elementos básicos, se dispone de un conjunto de herramientas de esquema que facilitan la creación y agrupación de las descripciones. 2. Descripción del contenido. Se utilizan DS’s que describen información sobre la estructura (regiones, cuadros de vídeo, segmentos de audio) y la semántica del contenido multimedia (objetos y eventos). Los DS’s de estructura se organizan en torno a un segmento o “segment”, que representa las características espaciales y temporales del contenido. El segmento puede organizarse en una estructura jerárquica que permita el acceso, o indexado, del contenido para facilitar las búsquedas. Los segmentos se describen utilizando DS’s del tipo anotaciones textuales y D’s de la parte de audio y vídeo (Salembier, Llach, & Garrido, 2002). 3. Gestión del contenido. Se utilizan DS’s que describen la información sobre la creación, producción, codificación, almacenamiento, formatos de archivos y uso de los contenidos multimedia. Estos DS’s se agrupan en: creation infomation que describen la información sobre la creación del contenido: autor, título, lugares, fechas de creación, género, tema, propósito, relaciones con otros contenidos multimedia, lenguaje...; usage infomartion que describen el uso que se le puede dar al contenido multimedia, como puede ser los derechos de autor, disponibilidad e información financiera; y media information que describen información sobre el almacenamiento del contenido, la compresión, codificación y formato de los datos. 4. Organización del contenido. Se utilizan DS’s que permiten organizar y formar colecciones de contenido multimedia. Permite describir una colección como un todo basándose en propiedades comunes de entre todos los contenidos. 5. Navegación y acceso. Se utilizan DS’s para facilitar la navegación y obtención del contenido multimedia. 6. Interacción con el usuario. Describe las preferencias del usuario para, por ejemplo, facilitar la personalización del acceso y presentación del Definición y determinación de parámetros de audio _______ 35 contenido. También permite registrar las acciones realizadas por el usuario en el sistema. Figura 3-2 Visión general de los esquema de descripción (DS’s) (Day & Martinez, 2001) 3.2. Definición y determinación de parámetros de audio Como se ha comentado anteriormente, la parte 4 del estándar MPEG-7 es la que se encarga de la descripción de los contenidos de audio. Los descriptores de audio se dividen en dos áreas generales: descripciones de alto nivel (HLDs) y descripciones de bajo nivel (LLDs) que realizan una descripción genérica del audio (Quackenbush & Lindsay, 2001). Una manera de realizar descripciones de una señal de audio bajo el estándar MPEG-7 (ISO, 2001) es extrayendo características en intervalos regulares, los frames. Las características pueden ser escalares y vectoriales y para cada caso existe un descriptor tipo, AudioLLDScalarType y AudioLLDVectorType, respectivamente. Ambos tipo de datos pueden ser instanciados como valores muestreados en un descriptor ScalableSeries, que es una forma estandarizada de representar una serie de características LLDs (escalares o vectoriales) extraídas de los frames de sonido a intervalos de tiempo regulares. Esta serie puede describirse: completa o de forma escalada. En este último caso, la serie original se descompone en sub-secuencias consecutivas de las muestras. En la Figura 3-3 se puede observar la relación entre los distintos tipos de estructuras que se definen en el estándar. Existen tipos de datos abstractos (AudioDType y AudioDSType) que son definidos en la parte 5 de la norma MPEG-7. Caracterización de sonidos mediante el estándar MPEG-7 _______ 36 Figura 3-3 Relaciones entre distintos tipo de estructuras para la descripción de audio (ISO, 2001) En este apartado se realizará un exhaustivo repaso de los puntos de la norma que tienen relación con la descripción a bajo nivel de los audios. De entre todos los parámetros de bajo nivel que la norma define, para el desarrollo de esta tesis y sus siguientes capítulos, sólo se tendrán en cuenta los parámetros basado en frames. 3.2.1 Clases escalables Los elementos que se describen en este punto no son parámetros. Son clases que ofrecen una estructura para la representación de los distintos parámetros, de cara al almacenamiento y posterior reproducción y tratamiento. Aunque queda fuera de las necesidades de la tesis, se estudian para tener una visión global de la norma. 3.2.1.1 Series escalables - ScalableSeriesType Como se puede observar en la Figura 3-3 ScalableSeriesType es un tipo abstracto heredado por SeriesOfScalarType y SeriesOfVectorType. Sus atributos definen las dimensiones y escala de la serie:  Escalado (scaling): específica cómo se ha escalado la señal original. En caso de no escalar la señal original se omite este atributo.  Número de muestras (totalNumOfSamples): indica el número total de muestras de la señal original sin tener en cuenta el escalado, si lo tuviese.  Radio (ratio): es un número que indica cuantas muestras contiene cada frame, como se puede observar en la Figura 3-4, cada frame (asociada con el número de índice) comprende un radio que es igual al número de muestras originales contenidas dentro de esta misma.  Número de elementos (numOfElements): índica el número total de frames de la serie escalable. Cuando no se escala la señal el número de elementos es igual al número de muestras. SeriesOfScalarTypeSeriesOfScalarType AudioSegmentTypeAudioSegmentTypeAudioSegmentType AudioDSTypeAudioDSType AudioLLDScalarTypeAudioLLDScalarTypeAudioLLDScalarType AudioDTypeAudioDTypeAudioDType SeriesOfVectorTypeSeriesOfVectorType AudioLLDVectorTypeAudioLLDVectorType ScalableSeriesTypeScalableSeriesTypeScalableSeriesType Definición y determinación de parámetros de audio _______ 37 Figura 3-4 Ilustración de ScalableSeries (ISO, 2001) En la Figura 3-4 se muestra una ilustración de una ScalableSeries que consta 31 muestras que están condensadas en 13 muestras escaladas. Las tres primeras muestras escaladas, cada una, contienen dos muestras originales, las siguientes dos contienen seis muestras originales, etc. La última serie escalable tiene un radio de dos, aunque sólo contiene una muestra original. Esta situación no ocasiona problemas pues es detectable mediante (3-1) 3.2.1.2 Serie de valores escalares - SeriesOfScalarType Cuando las propiedades a describir son de tipo escalar se usa el descriptor SeriesOfScalarType cuyos atributos son:  Bruto (Raw): contiene la serie original en caso de que no se haya escalado dicha señal. Como se mencionó anteriormente, el atributo scaling indica si existe una operación de escalado.  Peso (Weight): es opcional y se utiliza para controlar el escalado, (3-2)  Mínimo, máximo y media (Min, Max y Mean): son tres vectores que caracterizan los valores de un frame de la serie escalada. En caso de no escalar la señal original se omiten estos atributos. Para Min se toma el valor mínimo del total de muestras de un frame, (3-3) Para Max se toma el valor máximo de las mismas muestras, (3-4) Y para Mean se toma el valor promedio, Caracterización de sonidos mediante el estándar MPEG-7 _______ 44 forma se obtiene una mejor respuesta en frecuencia. Mediante la aplicación de la transformada discreta de Fourier (DFT) se obtiene (3-13) donde corresponde al frame de señal analizado, es la ventana aplicada (el estándar recomienda el uso de la ventana de Hamming), es el número de coeficientes de la DFT, que para simplificar los cálculos deberá ser la siguiente potencia de 2 respecto el número de muestra de la ventana . Aplicando el Teorema de Parseval, se obtiene la potencia promedio de cada frame (3-14) donde es la energía de la ventana, que se calcula como (3-15) El espectro de potencia de cada coeficiente de la transformada de Fourier en cada frame es (3-16) (3-17) Cada coeficiente representa un cierto rango de frecuencia dado por (3-18) Para encontrar el coeficiente al que pertenece una frecuencia se utiliza expresión (3-19) Por tanto (3-20) Definición y determinación de parámetros de audio _______ 45 La suma de los coeficientes de energía en cada banda de cada frame, son los coeficientes del AudioSpectrumEnvelope (ASE), (3-21) Adicionalmente se agregan dos coeficientes más para la suma de los coeficientes de energía de las frecuencias entre 0 Hz y 62.5 Hz y desde los 16 KHz hasta la frecuencia de Nyquist . 3.2.4.2 Centroide de potencia - AudioSpectrumCentroidType Describe el centro de gravedad del espectro de potencia. Proporciona donde se concentra la mayor parte de la energía del espectro de potencia referenciado a 1kHz en cada frame. Se calculan los coeficientes del espectro de potencia como se ha explicado para el descriptor AudioSpectrumEnvelope. Los coeficientes por debajo de los 62.5Hz se sustituyen por un solo coeficiente con una potencia igual a su suma y una frecuencia nominal de 31.25Hz, para evitar una componente de DC, (3-22) Esto da como resultado un nuevo espectro de potencia, (3-23) (3-24) El AudioSprectrumCentroid se calcula como (3-25) Para poner de manifiesto la interpretación de este parámetro (y de otros subsiguientes basados en el espectro de un frame) se toma como ejemplo un fragmento del espectrograma de un archivo de audio proporcionado por la Fonoteca Zoológica del Museo Nacional de Ciencias Naturales que contiene el canto de un sapo partero tal como aparece en la Figura 3-7. En ese espectrograma se han seleccionado dos frames: una correspondiente a un sonido del canto del anuro en ; y otro Caracterización de sonidos mediante el estándar MPEG-7 _______ 46 correspondiente a un sonido “de fondo” en ausencia de canto en . Los espectros correspondientes pueden verse en la Figura 3-8. Figura 3-7 Espectrograma de un audio con el canto de un sapo partero Figura 3-8 Espectros de frames, con canto y sin canto de sapo partero 3.2.4.3 Dispersión espectral - audioSprectrumSpreadType Describe como se encuentra distribuida la energía espectral alrededor de su Centroide. Una valor bajo significa que la mayor parte de la energía del espectro se encuentra concentrado en su Centroide, mientras que un valor alto representa que la distribución de energía se encuentra en un amplio rango de frecuencias. Con este descriptor se puede reconocer si existe un tono puro o ruido. A partir de los cálculos del AudioSprectrumCentroid, el AudioSprectrumSpread se calcula como la desviación RMS respecto al centroide en escala de Octava, Definición y determinación de parámetros de audio _______ 47 (3-26) 3.2.4.4 Planitud del espectro - AudioSprectrumFlatnessType Este descriptor consiste en una serie de valores que expresan la desviación que existe entre el espectro de potencia de la señal y una señal de ruido blanco. Valores alto reflejan ruido en la señal o que no existe un tono particular en la banda. Valores bajo indican una estructura armónica del espectro o la existencia de un tono particular en la banda. Se realiza el análisis espectral de la señal utilizando el mismo procedimiento especificado para el descriptor AudioSpectrumEnvelope pero sin solapamiento, por lo que el estándar recomienda un hopSize de para este descriptor. Los límites de cada banda vienen dado por (3-27) (3-28) donde es un número entero. En vista de las limitaciones en la resolución de frecuencia, no se recomienda el uso de AudioSpectrumEnvelope por debajo de 250Hz. Una resolución de frecuencia logarítmica de un cuarto de octava se utiliza para todas las bandas. Por lo tanto, todas las bandas son proporcionales a las bandas de frecuencia empleadas por AudioSpectrumEnvelope. Con el fin de reducir la sensibilidad contra las desviaciones en la frecuencia de muestreo, las bandas se definen de una manera solapada: el borde inferior y superiores de cada banda se multiplican por los factores de 0,95 y 1,05, respectivamente. En consecuencia, cada banda se superpone con su banda de vecina un 10% (3-29) (3-30) Para disminuir el procesamiento, se hace un promedio de cada de los coeficientes de energía , donde indica el número de banda a partir de 1kHz, obteniendo un sólo coeficiente de energía . Para cada banda el coeficiente de AudioSpectrumFlatnes (SFM) es Caracterización de sonidos mediante el estándar MPEG-7 _______ 48 (3-31) Si no hay señal de audio presente (la potencia media es cero), se devuelve un valor de planitud 1. 3.2.5 Parámetros para reducción de dimensionalidad La norma MPEG7 contempla dos clases que se usan para la reducción de dimensionalidad. La reducción de dimensionalidad reduce los tiempos que son necesarios en el procesamiento de la información de la misma forma que reduce espacio requerido de almacenamiento sin perder información fundamental. Esta reducción pasa por buscar un cambio de ejes dentro de la distribución de los valores de un parámetro para que estos se puedan identificar con una distancia mínima los ejes. Buscando poder despreciar uno de los dos ejes y quedarse con una de las dos dimensiones como puede verse en la Figura 3-9 como ejemplo de reducción usando el método PCA (Principal component analysis). Este proceso no es trivial, ni mucho menos rápido, quedando fuera del alcance de la tesis aunque si se debe tener en cuenta como unos de los trabajos futuros que surgen a partir de este estudio. Figura 3-9 Análisis de componentes principales de una distribución normal multivariante (Wikipedia, 2016) 3.2.5.1 Bases del espectro - AudioSprectrumBasisType Este descriptor se utiliza para proyectar las descripciones de espectro de alta dimensionalidad en una representación de pocas dimensiones. La reducción de dimensionalidad juega un papel importante en las aplicaciones de clasificación automática mediante la representación compacta de información estadística relevante en los segmentos de audio. Estas características han demostrado funcionar bien para aplicaciones de clasificación y recuperación automáticas. Definición y determinación de parámetros de audio _______ 49 Para realizar una reducción de dimensión sobre una descripción del tipo AudioSpectrumEnvelope, que es una representación de SeriesOfVectors con segmentos y frecuencias, para cada vector, , se pasa a escala de decibelios (3-32) Estos valores se normalizan usando la norma euclídea (L2-norm) (3-33) Los vectores normalizados se pueden organizar en una matriz de x (3-34) donde es el vector normalizado y se calcula (3-35) La matriz (3-34) se puede factorizar, usando el método de descomposición en valores singulares (SVD), como (3-36) donde U es una matriz fila con bases ortogonales, S es una matriz “diagonal” con los valores singulares y V es la traspuesta de una matriz columna con bases ortogonales. Este método elimina información redundante sin que el efecto por la pérdida de información sea notable. La reducción espectral se realiza usando sólo las primeras bases, siendo el rango de valores típicos para clasificación de sonidos de 3 a 10 bases, (3-37) Para calcular la porción de información que se tiene para las bases utilizadas se usa la matriz de valores singulares (3-38) donde es el número total de bases que coincide con el número total de frecuencias. Caracterización de sonidos mediante el estándar MPEG-7 _______ 50 3.2.5.2 Proyección del espectro - AudioSprectrumProjectionType Este descriptor es el complemento al descriptor AudioSpectrumBasis y se utiliza para representar características de baja dimensionalidad de un espectro después de la proyección contra unas bases reducidas. Estos dos descriptores se utilizan siempre juntos. Las características de baja dimensionalidad del AudioSpectrumProjection consisten en una serie de vectores, un vector para cada frame, , del espectrograma de entrada normalizado, , que produce un vector proyectado, , que se almacena en el SeriesOfVector, (3-39) Estos descriptores, AudioSpectrumBasis y AudioSpectrumProjectin se pueden utilizar para la clasificación automática de sonidos y para realizar un resumen del espectrograma. 3.2.6 Parámetros de armonicidad 3.2.6.1 Tono - AudioFundamentalFrequencyType Se usa para describir la frecuencia fundamental de la señal de audio que es una buena aproximación al pitch y la entonación. La frecuencia fundamental es complementaria al espectro de frecuencia logarítmica, y junto con el descriptor AudioHarmonicity, especifica los aspectos detallados de la estructura armónica de sonidos periódicos que el espectro logarítmico no puede representar por falta de resolución. La inclusión de una medida de confianza, utilizando el campo de peso de la serie de escalar es una parte importante del diseño, que permite el manejo adecuado y la escala de las partes de la señal que carecen de una periodicidad clara. La norma no especifica ningún algoritmo para calcularlo. En este trabajo se ha usado una técnica de LPC (Linear Prediction Coding), descrita en el capítulo anterior. 3.2.6.2 Armonicidad – AudioHarmonicityType Describe el grado de armonicidad de una señal de audio y permite distinguir entre sonidos que tienen un espectro de armónicos (sonidos musicales, voz, etc.) y los que tienen un espectro no armónicas (ruido, sonido sordo, mezclas de instrumentos, etc.). Junto con AudioFundamentalFrequecy, AudioHarmonicity describe la estructura armónica del sonido. Estas características son ortogonales y complementarias a descripciones del tipo AudioSpectrumEnvelope. El descriptor está compuesto por dos medidas: HarmonicRatio y UpperLimitOfHarmonicity. 3.2.6.2.1 Razón de armonicidad – HarmonicRatio Se puede definir como la proporción de los componentes armónicos en el espectro de potencia. Se deriva de la correlación entre la señal y una representación retardado de Definición y determinación de parámetros de audio _______ 51 la señal, un retraso del período fundamental de la señal. Para evitar la dependencia de la frecuencia fundamental real, el algoritmo se realiza una estimación buscando el valor máximo de la correlación cruzada normalizada de la señal. Primero se calcula la autocorrelación normalizada del frame con un retardo de (3-40) donde es la señal de audio; siendo el índice del frame con valores entre y ; es el número de frames; donde es el tamaño de la ventana utilizada, usando por defecto un valor de , y es la tasa de muestreo. Los valores de van a , siendo el máximo periodo fundamental esperado que por defecto se utiliza el valor de . Se elige el mayor valor de para cada frame, como la relación armónica de la misma . Este valor es para señales puramente periódicas y tenderá a para el ruido blanco. 3.2.6.2.2 Frecuencia límite de armonicidad - UpperLimitOfHarmonicity Se puede definir como la frecuencia a partir de la cual el espectro no puede considerarse armónico. Se calcula a partir de los espectros de potencia originales y filtrados por filtro del tipo peine (comb). La señal filtrada se calcula (3-41) con con valores entre y . Donde es la ganancia óptima (3-42) siendo el retardo correspondiente a la razón armónica , y la estimación fundamental período. Si no es entero, se calcula por interpolación lineal. Una vez se disponen de las dos señales, original y filtrada, se calcula las DFT usando la técnica descrita en AudioSpectrumEvelope. Se calcula los espectros de potencia y los coeficientes por debajo de los 62.5Hz se sustituyen por un solo coeficiente con una potencia igual a su suma y una frecuencia nominal de 31.25Hz, para evitar una componente de DC, como se describió para el descriptor AudioSpectrumCentroid. Para cada frecuencia, , se calcula la suma de la potencia de frecuencias superiores para ambas señal y se toma su relación Caracterización de sonidos mediante el estándar MPEG-7 _______ 52 (3-43) donde y son las potencias espectrales de la señal original y la filtrada respectivamente, y es la máxima frecuencia del DFT. Partiendo de y bajando en frecuencia, se encuentra la mayor frecuencia, para los que esta relación es menor que un umbral, por defecto 0,5. Esta frecuencia se convierte a escala de octavas centradas en 1kHz, (3-44) 3.2.7 Descriptores de timbre Los siguientes descriptores tienen como objetivo describir las características perceptivas de los sonidos. El timbre es una característica que permite distinguir dos sonidos que son iguales en tono, volumen y duración subjetiva. Es una característica multidimensional que incluye entre otros la envolvente espectral, envolvente temporal y las variaciones de cada uno de estos como se pone de manifiesto en la Figura 3-10 (Hyoung Gook Kim et al., 2005). Los siete descriptores tímbricos son de dos tipos:  Descripción temporal del timbre: LogAttacktTime y Temporal Centroid.  Descripción espectral del timbre: SpectralCentoid, HarmonicSpectralSpread, HarmonicSpectralCentroid, HarmonicSpectralDeviation y HarmonicSpectralVariation. Instantaneous HarmonicSpectralCentroid Instantaneous HarmonicSpectralDeviation Signal Sliding Analysis Window STFT Signal envelope f0 Harmonic Peaks Detection Instantaneous HarmonicSpectralSpread Temporal Centroid z-1 Power Spectrum SpectralCentroid LogAttackTime Instantaneous HarmonicSpectralVariation Figura 3-10 Diagrama de bloques para la extracción de los descriptores de timbre (ISO, 2001) Definición y determinación de parámetros de audio _______ 53 Los descriptores de timbre temporales se extraen de la envolvente de la señal en el dominio del tiempo. La envolvente de la señal describe el cambio de energía de la señal y es generalmente equivalente al ADSR (Attack, Decay, Sustain, Release) de un sonido musical. La Figura 3-11 proporciona una representación esquemática de la envolvente de un sonido, mostrando sus diferentes fases y los plazos correspondientes (expresadas en el dominio índice de frame). Las fases ADSR de un sonido son: • Ataque (Attack): longitud de tiempo requerido para que el sonido para alcanzar su máximo volumen inicial. Será muy corto para un sonido de percusión. • Caída (Decay): tiempo necesario para el volumen para alcanzar un segundo nivel de volumen conocido como sostenido. • Sostenido (Sustain): nivel de volumen en el que el sonido se mantiene después de la fase de caída. En la mayoría de sonidos es inferior al volumen ataque, pero podría ser el mismo o aún más alto. • Relajación (Release): tiempo que tarda el volumen para reducir a cero. Figura 3-11 Forma general de la envolvente ADSR de un sonido (Hyoung Gook Kim et al., 2005) El sonido no tiene que tener las cuatro fases. Un órgano tiene una fase de ataque, una fase sostenida y una fase de relajación, pero no la fase de caída. Las características espectrales de timbre tienen por objeto describir la estructura del espectro armónico y se extraen en un espacio de frecuencia lineal, en lugar de uno logarítmica, derivado de los resultados experimentales en la percepción humana de timbre similares. Se requiere el cálculo de la frecuencia fundamental y los picos armónicos, de acuerdo con una técnica LPC, antes del cálculo de cada una de las características espectrales. Muchos de los descriptores de timbre se han diseñado para el uso específico en las señales armónicas, como una señal musical monofónica. Cada descriptor describe un segmento de sonido. Un ejemplo de un segmento sonido sería una sola nota tocada en un clarinete. Caracterización de sonidos mediante el estándar MPEG-7 _______ 60 _______ 61 CAPÍTULO 4. TÉCNICAS DE CLASIFICACIÓN 4.1. Introducción a la clasificación no secuencial En el capítulo anterior se seleccionaron una serie de atributos que sirven para caracterizar el sonido de cada frame. Estas características se usaran como base para distintos métodos de clasificación automática, que es uno de los objetivos de esta tesis como aplicación práctica de la aplicación de técnicas de minería de datos en secuencias temporales. A partir de este capítulo, se evaluaran distintas técnicas de minería de datos y se compararán a fin de concluir cuál es el mejor método en base a los casos estudiados. En este capítulo se realizará un primer estudio de clasificación de los sonidos a partir de la información de cada frame de forma individual, sin tener en consideración los antecesores ni predecesores, por lo que se puede hablar de una clasificación no secuencial. Los pasos previos a la construcción de un clasificador son el procesamiento de los archivos de audio y la extracción de características a cada frame. Como se ha visto en el capítulo anterior, para este trabajo la extracción de características se basa en la norma MPEG-7. De entre todos los parámetros descriptivos de bajo nivel, se han seleccionado sólo aquellos basados en frames: 1. Potencia total 2. Potencia relevante 3. Centroide de potencia 4. Dispersión espectral de potencia 5. Planitud del espectro 6. Tono (pitch) 7. Razón de armonicidad 8. Frecuencia límite de armonicidad Técnicas de clasificación _______ 62 9. Picos armónicos o formantes a. Frecuencia de los 3 primeros formantes b. Ancho de banda de los 3 primeros formantes 10. Centroide armónico 11. Desviación armónica 12. Dispersión armónica 13. Variación armónica Con ello se consigue una caracterización de cada frame mediante un punto en . Igualmente, cada archivo de sonido se caracteriza mediante una nube de puntos en . La clasificación de cada archivo se consigue mediante la comparación de dicha nube de puntos, con los correspondientes archivos que se seleccionarán como patrones, realizando un “conteo” de la clasificación obtenida de los frames. Esta comparación, denominada en el ámbito de la minería de datos como clasificación supervisada, puede realizarse con numerosas técnicas. Un conjunto amplio y representativo de las mismas es el que se estudiará en este capítulo y está compuesto por los algoritmos siguientes (Gorunescu, 2011):  Distancia mínima.  Máxima verosimilitud.  Árboles de decisión.  k-vecinos más próximos.  Máquinas de vectores soporte.  Regresión logística.  Redes neuronales.  Función discriminante.  Clasificador bayesiano. Para este estudio se ha contado con archivos de sonidos proporcionados por la Fonoteca Zoológica del Museo Nacional de Ciencias Naturales, correspondientes a 2 especies: el sapo corredor (epidalea calamita) y el sapo partero común (alytes obstetricans). Adicionalmente, de cada especie se recogen varios tipos de canto (vocalización). El resumen se recoge en la Tabla 4-1. En total se dispone de 6.053 segundos de grabación (1h:40´:53´´). De la simple audición de los sonidos se puede apreciar que, en el sapo corredor, la vocalización en coro no difiere sensiblemente de la vocalización estándar, salvo en el número de individuos que emiten el sonido. Éste es más continuo y quizás más potente pero sus características son similares. Por ello se han agrupado ambas vocalizaciones en un único tipo de sonido. Introducción a la clasificación no secuencial _______ 63 Especie Vocalización Archivos Sapo corredor Estándar 20 Coro 3 Canto de suelta 10 Subtotal 33 Sapo partero Estándar 29 Distress call 1 Subtotal 30 Total 63 Tabla 4-1 Tipos de sonidos analizados Por otra parte, para el sapo partero de la vocalización “distress call” sólo se dispone de una grabación, por lo que no es posible realizar pruebas significativas de clasificación de sonido. En definitiva, las cinco vocalizaciones anteriores se han reducido a tres tipos de sonido: 1. Sapo corredor con vocalización estándar o de coro. 2. Sapo corredor con vocalización de canto de suelta. 3. Sapo partero con vocalización estándar. Sonido Archivos Sapo corredor 23 Sapo corredor: suelta 10 Sapo partero 30 Total 63 Tabla 4-2 Tipos de sonidos analizados por tipo de sonido Una característica común a todas las grabaciones es que han sido realizadas en el hábitat natural, por lo que están acompañadas de importantes “ruidos” (viento, agua, lluvia, tráfico, voz,…). Para la fase de entrenamiento de los clasificadores es necesario contar con un conjunto de patrones. Los archivos patrones han sido seleccionados de entre todos los disponibles por su buena calidad relativa. No todos los frames dentro de un archivo patrón pueden considerarse representativos del sonido en cuestión. Tan sólo algunos fragmentos, más o menos extensos, tienen ese carácter. Por ello no basta con indicar cuáles son los “archivos patrón” sino, para cada uno de ellos, hay que identificar las regiones de interés (ROI: region of interest). El proceso de identificación de las ROIs se realiza manualmente mediante la audición de la grabación, la observación detallada del espectrograma y el análisis de los parámetros de frame. La Figura 4-1, la Figura 4-2 y la Figura 4-3 muestran los espectrogramas de los patrones con indicación de las respectivas ROIs. Técnicas de clasificación _______ 64 Figura 4-1 ROIs en los patrones del sapo corredor Figura 4-2 ROIs en los patrones del sapo corredor (canto de suelta) Figura 4-3 ROIs en los patrones del sapo partero Una vez determinadas las regiones de interés de los archivos patrones, se calculan los valores de los parámetros de frame para cada uno de los 4 tipos de regiones posibles: las de interés de los 3 tipos de sonido y las regiones de ruido o ausencia de sonido. El Introducción a la clasificación no secuencial _______ 65 objetivo será encontrar pautas de comportamiento que ayuden en la clasificación de los sonidos. Para la mayoría de los algoritmos de clasificación que se utilizarán en este capítulo, bastará con un valor central y una dispersión de la nube de puntos en . Sin embargo, para otras técnicas de clasificación es necesario caracterizar estadísticamente los parámetros de frame con mayor precisión. Para ello se obtendrá la función de distribución de probabilidad o la función de densidad de probabilidad de los mismos. El resultado de cada algoritmo estudiado se representará en una gráfica donde el eje horizontal representa los archivos de sonidos ordenados por tipo: sapo corredor (zona azul); sapo corredor en canto de suelta (zona verde); sapo partero (zona roja). Por cada archivo existe una línea vertical cuyo color se corresponde con la clasificación realizada por el algoritmo (con el mismo código de colores anterior). En una clasificación perfecta, el color de cada línea debería corresponder con el color de la zona. Cada discrepancia de color supone un error de clasificación. La altura de cada línea es la probabilidad que el algoritmo asigna a la clasificación realizada. En la Figura 4-4 se muestra como ejemplo el resultado de la clasificación mediante árbol de decisión. Figura 4-4 Clasificación por árbol de decisión También se mostrará un resumen del clasificador haciendo uso del porcentaje de acierto de cada especie, así como una estimación del porcentaje de acierto global del clasificador. Siguiendo con el ejemplo del clasificador por árbol de decisión en la Figura 4-5 se muestra como se representará el perfil de éxito. Técnicas de clasificación _______ 66 Figura 4-5 Resumen de la clasificación por árbol de decisión Por último, aunque no menos importante, se representará la matriz de confusión donde se compara el resultado obtenido por el clasificador con la el valor real, conocido al utilizar técnicas de aprendizaje supervisado. En la matriz de confusión se puede observar que todos los datos clasificados en la diagonal han sido clasificados correctamente. Un clasificador perfecto tendría una matriz de confusión con un 100% en la diagonal y un 0% fuera. Siguiendo el ejemplo del árbol de decisión en la Tabla 4-3 se muestra la matriz de confusión de dos formas: conteo del número de archivos clasificados y de forma porcentual. Clase obtenida 1 2 3 Clase real 1 20 0 3 2 3 7 0 3 1 1 28 Clase obtenida 1 2 3 Clase real 1 89.96% 0.00% 13.04% 2 30.00% 70.00% 0.00% 3 3.33% 3.33% 93.33% Tabla 4-3 Matriz de confusión del árbol de decisión 4.2. Distancia mínima Una de las técnicas más simples, y sin embargo con una importante efectividad, es la de mínima distancia a los patrones. Existen distintos tipos de distancia, aunque la más utilizada es la distancia euclidiana generalizada para espacios multidimensionales (Wacker & Landgrebe, 1971). Dados 2 puntos y en (un espacio con parámetros), cuyas coordenadas respectivas son (4-1) se denomina distancia euclídea entre ellos a Distancia mínima _______ 67 (4-2) (4-3) No todas estas coordenadas están expresadas en las mismas unidades: algunas lo son en watios (p.e. la potencia), otras en hercios (p.e. el centroide de potencia) y otras son adimensionales (p.e. la razón armónica). Como no todos los valores están expresados en las mismas unidades no es posible realizar la suma que aparece en la expresión anterior. Se requiere una homogeneización o normalización previa de las coordenadas. Para ello se suele utilizar algún indicador de la dispersión de los correspondientes valores o, lo que es lo mismo, del parámetro correspondiente. En este trabajo se utilizará como medida de dispersión el rango de cada parámetro definido como (4-4) que tiene la propiedad de proporcionar valores de cada sumando entre 0 y 1. Con esta modificación, la medida de la distancia euclídea queda (4-5) Si el punto corresponde a un frame y el punto es el del valor central de un patrón calculado por la mediana, entonces representa la distancia del frame al patrón . En la Figura 4-6 se compara el resultado obtenido aplicando el cálculo de la distancia mínima, a todos los frames de cada uno de los archivos, con el valor real que se debería haber obtenido. Puede observarse que las grabaciones de sapo corredor son generalmente bien clasificadas con un porcentaje de acierto del 87% para la vocalización estándar y del 90% para la vocalización de canto de suelta. Sin embargo, el clasificador obtiene un resultado mediocre para las grabaciones de sapo partero con un índice de acierto del 60%. En la Figura 4-7 se presenta el resumen de las prestaciones obtenidas para cada clase y en la Tabla 4-4 la matriz de confusión del clasificador. Técnicas de clasificación _______ 68 Figura 4-6 Clasificación de todas las grabaciones usando la mínima distancia Figura 4-7 Prestaciones del clasificador por mínima distancia Clase obtenida 1 2 3 Clase real 1 20 0 3 2 3 7 0 3 1 1 28 Clase obtenida 1 2 3 Clase real 1 89.96% 0.00% 13.04% 2 30.00% 70.00% 0.00% 3 3.33% 3.33% 93.33% Tabla 4-4 Matriz de confusión del clasificador de mínima distancia 4.3. Máxima verosimilitud El método de clasificación de mínima distancia analizado en el apartado anterior resume la información sobre los patrones en único indicador por cada parámetro: el valor central del mismo. El valor de la distancia a un valor central de cada clase no aprovecha otra amplia información disponible en la nube de puntos. Es casi intuitivo que una determinada distancia del valor central de un parámetro no tiene la misma importancia si la dispersión del mismo es alta que si es baja. Máxima verosimilitud _______ 69 Una forma de tener en cuenta esta dispersión es considerar no sólo el valor central sino también el rectángulo que lo circunscribe. El rectángulo se convierte en un hiperparalelepípedo (paralelepípedo de dimensiones) en . Un paso más en la dirección de aprovechar la información de la nube de puntos es considerar, no sólo el valor central y la dispersión, sino la distribución estadística de los puntos. La estadística de un parámetro puede describirse, bien mediante la función de distribución de probabilidad , bien mediante la función de densidad de probabilidad . La relación entre estas funciones viene dada por (4-6) Si se denomina a una variable discreta que identifica el tipo de frame, pudiendo tomar los valores 1, 2, 3, o 4. Se puede decir que para los sonidos (o frames) de tipo , el parámetro tiene una función de densidad de probabilidad que denominaremos . Si inicialmente se considera un único parámetro significativo, el problema de la clasificación es el siguiente: para un frame , cuyo parámetro significativo toma el valor , determinar el valor de al que más se asemeja. Para el sonido o patrón , identificado por , la probabilidad de obtener un valor del parámetro es . A esa probabilidad condicionada se la denomina verosimilitud (likelihood) de que el sonido sea dado que el valor del parámetro significativo es , y se expresa como . (4-7) El criterio de clasificación de máxima verosimilitud consiste en obtener el valor de la verosimilitud para todos los valores de y clasificar el frame con el valor de cuya verosimilitud sea máxima (Le Cam, 1979). En el caso de funciones continuas, la verosimilitud se define a partir de la función de densidad de probabilidad de acuerdo a la expresión siguiente (4-8) o, genéricamente para cualquier frame y cualquier patrón de sonido, (4-9) Si se utilizan 2 parámetros significativos y , la función de densidad de probabilidad es una función bivariante . Técnicas de clasificación _______ 76 En las primeras versiones del algoritmo se consideraban por igual todas las variables que intervienen en el modelo a la hora de calcular la distancia. Evoluciones posteriores han enriquecido el algoritmo con distintos modificadores útiles en distintas situaciones:  Introducción de rechazo de muestras que no obtengan una cierta garantía de que la clase asignada sea la correcta.  Asignación de pesos distintos a las variables en función de su importancia en la determinación de la clase.  Selección de prototipos con el fin de reducción del conjunto de entrenamiento. Todas estas técnicas pueden hibridar de muchas maneras, lo que da idea de lo complejo que puede llegar a ser un clasificador por vecindad. No obstante, se puede concluir que el método de los k-vecinos más cercanos es el más simple de todos los algoritmos de aprendizaje automático, ya que simplemente consiste en clasificar un objeto por el voto de la mayoría de sus vecinos (Gorunescu, 2011). Los puntos más negativos de este algoritmo pueden ser el coste computacional elevado y que es muy influenciable por valores extremos y atípicos (outliers). Para el estudio particular de este trabajo se ha aplicado el algoritmo usado una métrica euclidiana y un valor de , que lanzado sobre el conjunto de muestras disponibles arroja una tasa de éxito global del 73.02%. En la Figura 4-14 se compara el resultado obtenido aplicando el método de los vecinos más próximos, haciendo uso de la función fitcknn de MATLAB. Puede observarse que las grabaciones de sapo corredor son generalmente bien clasificadas con un 100% para la vocalización estándar. Sin embargo ofrece resultados mediocres para las grabaciones de sapo corredor para la vocalización de canto de suelta y sapo partero con índices de acierto del 50% y 60%, respectivamente. En la Figura 4-15 se presenta el resumen de las prestaciones obtenidas para cada clase y en la Tabla 4-7 se muestra la matriz de confusión del clasificador. Clase obtenida 1 2 3 Clase real 1 23 0 0 2 5 5 0 3 12 0 18 Clase obtenida 1 2 3 Clase real 1 100.00% 0.00% 0.00% 2 50.00% 50.00% 0.00% 3 40.00% 0.00% 60.00% Tabla 4-7 Matriz de confusión del clasificador k-NN Máquinas de vectores soporte _______ 77 Figura 4-14 Clasificación de todas las grabaciones usando k-NN Figura 4-15 Prestaciones del clasificador k-NN 4.6. Máquinas de vectores soporte Las máquinas de vectores soporte, SVM (Support Vector Machines) tienen su origen en los trabajos sobre la teoría del aprendizaje estadístico (Boser, Guyon, & Vapnik, 1992; Cortes & Vapnik, 1995). Las SVMs fueron desarrolladas específicamente para la tarea de clasificación binaria, aunque en la actualidad se utilizan para resolver otros tipos de tareas como la regresión y el agrupamiento. La mayor diferencia entre las SVMs y otros métodos de aprendizaje automático se encuentra en que las SVMs no se centran en construir modelos que cometan pocos errores, sino que, intenta producir predicciones en las que se pueda tener mucha confianza, asumiendo que cometerá errores. La idea es seleccionar un hiperplano de separación que equidiste de las muestras más cercanas de cada clase, consiguiendo un margen máximo en cada lado del hiperplano. A la hora de definir el hiperplano, sólo se tienen en cuenta las muestras de cada clase Técnicas de clasificación _______ 78 que se encuentran en la frontera. A estas muestras se les denominan vectores soporte. Esta idea es fácilmente aplicable cuando las clases que forman las muestras de entrenamiento están completamente separadas mediante una función lineal, Figura 4-16 (a). En este caso existen infinitos hiperplanos que permiten separar las clases. Para identificar el hiperplano óptimo se define el concepto de margen de un hiperplano de separación, , buscando el hiperplano que presente mayor margen (Cristianini & Shawe-Taylor, 2000), Figura 4-17. Para resolver esta búsqueda se utilizan métodos de optimización de funciones. Figura 4-16 (a) Clases perfectamente separables linealmente (b) Clases separables linealmente con error (c) Clases no separables linealmente Figura 4-17 Ejemplo de margen óptimo señalando los vectores soporte (Shawe-Taylor & Cristianini, 2004) En los problemas se caracterizan normalmente por poseer ruido y no pueden ser separados linealmente sin admitir ciertos errores en la clasificación, Figura 4-16 (b). En el problema de optimización para maximizar el margen, admitir errores implica consentir que las restricciones puedan ser violadas. Para contemplar estas situaciones, se introduce en cada restricción una variable de holgura, . Cuando las clases no pueden separarse mediante una función lineal, Figura 4-16 (c), se recurre a transformaciones no lineales que llevan del espacio de entrada a otro espacio de mayor dimensionalidad, incluso infinita, en el que las clases sean separables linealmente. A este nuevo espacio se le conoce como espacio de características, Figura 4-18. Máquinas de vectores soporte _______ 79 j Figura 4-18 Ejemplo de función de transformación del espacio de entrada al especio de las características (Shawe-Taylor & Cristianini, 2004) En este nuevo espacio resulta interesante resaltar que siempre se puede clasificar linealmente cualquier conjunto de datos siempre que espacio tenga número de dimensiones apropiado, pudiendo llegar a infinitas (Han, Kamber, & Pei, 2011). En este espacio el hiperplano de separación es , donde es un vector perpendicular al hiperplano. La función genera vectores en el nuevo espacio a partir de los atributos originales. El margen de las clases a este hiperplano resulta , por lo que el problema se encuentra en minimizar (Hastie, Tibshirani, & Friedman, 2005). El producto puede ser expresado como función de los datos de entrada y su expresión dependerá del espacio de entrada, por lo que se simplifica mucho al partir de unas dimensiones más reducidas, (4-16) A este producto (4-16) se le denomina kernel, siendo el espacio de características un espacio de Hilbert, generalización del espacio euclídeo. Existen distintos tipos de funciones kernel, las más comunes son:  Líneal (4-17)  Gaussiana (4-18)  Polinómica (4-19) De forma genérica son kernels todas aquellas funciones que verifiquen el teorema de Mercer (Riesz & Nagy, 1990) Técnicas de clasificación _______ 80 (4-20) para toda función de cuadrado integrable. Las SVM tiene una naturaleza dicotómica. Sin embargo es habitual necesitar resolver problemas multiclase, como ocurre en el caso de estudio de este trabajo. Existen distintas técnicas para aproximar a SVM multiclase de N clases. Las técnicas más conocidas son:  Una frente a todas que descompone el problema multiclase con N clases en problemas binarios, en los cuales cada una de las clases se enfrenta al resto. Se construyen N clasificadores que definen N hiperplanos que separan la clase i de las N-1 restantes. Para que se considere una clasificación admisible es necesario que el elemento a clasificar sólo sea asociado a una clase de uno de los clasificadores binarios mientras que en el resto de clasificadores binarios el elemento debe pertenecer a la categoría asociada al resto en cada caso.  Una frente a una que descompone el problema de N clases en problemas binarios, donde se crean todos los posibles enfrentamientos uno a uno entre clases. Cada elemento a clasificar se somete a todos estos clasificadores binarios, y se añade un voto a la clase ganadora para cada caso, resultando como clase propuesta la que más votos suma. Para implementar este modelo se hace uso de la función de MATLAB fitcsvm usando un kernel gausiano. Como se ha comentado anteriormente, esta función sólo realiza una clasificación binaria, por lo que se ha desarrollado una función propia para implementar la técnica una frente a todas de forma iterativa. En la Figura 4-19 se compara el resultado obtenido por el modelo creado. Puede observarse que las grabaciones de sapo corredor son generalmente bien clasificadas con un 100% para la vocalización estándar. Sin embargo ofrece resultados mediocres para las grabaciones de sapo corredor para la vocalización de canto de suelta y sapo partero con índices de acierto del 20% y 70%, respectivamente. En la Figura 4-20 se presenta el resumen de las prestaciones obtenidas para cada clase y en la Tabla 4-8 se muestra la matriz de confusión del clasificador. Clase obtenida 1 2 3 Clase real 1 23 0 0 2 8 2 0 3 8 1 21 Clase obtenida 1 2 3 Clase real 1 100.00% 0.00% 0.00% 2 80.00% 20.00% 0.00% 3 26.67% 3.33% 70.00% Tabla 4-8 Matriz de confusión del clasificador SVM Regresión logística _______ 81 Figura 4-19 Clasificación de todas las grabaciones usando SVM Figura 4-20 Prestaciones del clasificador SVM 4.7. Regresión logística La regresión logística es un modelo estadístico donde se usa la probabilidad de pertenecer a una clase como función de otras variables predictoras (Hastie et al., 2005). El modelo tiene la forma (4-21) donde es la probabilidad de que la muestra tome el valor de una determinada clase cuando (Dobson & Barnett, 2008). El inconveniente principal de esta fórmula (4-21) es que debe estar entre cero y uno, y no hay ninguna garantía de que la predicción verifique esta restricción. Para garantizar que la respuesta prevista esté entre cero y uno se hace uso de una función que satisfaga esta restricción (4-22) Una clase de funciones que satisfacen esta condición son las funciones de distribución, por lo que el problema se puede resolver tomando como cualquier función de Técnicas de clasificación _______ 82 distribución. Haciendo uso de la función de distribución logística, que tiene la ventaja de ser continua, se obtiene (4-23) Particularizando al caso de dos clases se tiene . (4-24) Haciendo una transformación se consigue un modelo lineal que se denomina logit (Cramer, 2005) (4-25) La variable representa en escala logarítmica la diferencia entre las probabilidades de pertenecer a ambas clases, y al ser una función lineal se facilita la estimación y la interpretación del modelo. Generalizando a clases se obtiene el modelo que se indica en la expresión (4-26). (4-26) Volviendo a la simplificación para , se tiene que los parámetros del modelo se corresponden con: , la ordenada en el origen y . A veces, se utilizan también como parámetros y , denominados los odds ratios o ratios de probabilidades, que indican cuánto se modifican las probabilidades por unidad de cambio en las variables (4-27) En el caso de tener dos elementos con los mismos valores en todas sus variables menos en una, , donde el odds ratio para estos dos casos es Regresión logística _______ 83 (4-28) La expresión (4-28) indica cuánto se modifica el ratio de probabilidad cuando la variable aumenta en una unidad. Si se considera se tiene (4-29) (4-30) donde representa el valor de que hace igualmente probable que un elemento cuyas restantes variables son , pertenezca a una de las dos clases. En la Figura 4-21 se compara el resultado obtenido aplicando el modelo generado en MATLAB mediante la función mnrfit. Puede observarse que las grabaciones de sapo corredor son generalmente bien clasificadas con un 100% para la vocalización estándar. Sin embargo ofrece resultados mediocres para las grabaciones de sapo corredor para la vocalización de canto de suelta y sapo partero con índices de acierto del 40% y 47%, respectivamente. En la Figura 4-22 se presenta el resumen de las prestaciones obtenidas para cada clase y en la Tabla 4-9 se muestra la matriz de confusión del clasificador. Figura 4-21 Clasificación de todas las grabaciones usando regresión logística Técnicas de clasificación _______ 84 Figura 4-22 Prestaciones del clasificador por regresión logística Clase obtenida 1 2 3 Clase real 1 23 0 0 2 6 4 0 3 15 1 14 Clase obtenida 1 2 3 Clase real 1 100.00% 0.00% 0.00% 2 60.00% 40.00% 0.00% 3 50.00% 3.33% 46.67% Tabla 4-9 Matriz de confusión de la clasificación por regresión logística 4.8. Redes neuronales Las Redes Neuronales, NN (Neural Networks), fueron originalmente una simulación abstracta de los sistemas nerviosos biológicos, constituidos por un conjunto de unidades llamadas neuronas o nodos conectados unos con otros. El primer modelo de red neuronal fue propuesto en 1943 (McCulloch & Pitts, 1943) en términos de un modelo computacional de actividad nerviosa. Este modelo era un modelo binario, donde cada neurona tenía un escalón o umbral prefijado, y sirvió de base para los modelos posteriores. Las características principales de las redes neuronales son las siguientes (Du & Swamy, 2013):  Auto-Organización y Adaptabilidad: utilizan algoritmos de aprendizaje adaptativo y auto-organización, por lo que ofrecen mejores posibilidades de procesado robusto y adaptativo.  Procesado no Lineal: aumenta la capacidad de la red para aproximar funciones, clasificar patrones y aumenta su inmunidad frente al ruido.  Procesado Paralelo: normalmente se usan un gran número de nodos de procesado, con alto nivel de interconectividad. Redes neuronales _______ 85 Figura 4-23 Esquema de red neuronal artificial con una capa oculta Al elemento básico de computación se le llama habitualmente nodo o neurona. Recibe entradas desde otros nodos o de una fuente externa de datos. En la (4-30) se muestra un esquema general de una red neuronal artificial con entradas, salidas y una capa oculta. Cada entrada tiene un peso asociado , que se va modificando en el proceso de aprendizaje. Cada nodo aplica una función de la suma de las entradas ponderadas mediante los pesos (4-31) La salida puede servir como entrada en otros nodos. Hay dos fases en la modelización con redes neuronales (Hastie et al., 2005):  Fase de entrenamiento: donde se usa un conjunto de datos o patrones de entrenamiento para determinar los pesos (parámetros) que definen el modelo de red neuronal. Se calculan de manera iterativa, de acuerdo con los valores de entrenamiento, con el objeto de minimizar el error cometido entre la salida obtenida por la red neuronal y la salida deseada.  Fase de prueba: en la fase anterior, el modelo puede que se ajuste demasiado a las particularidades presentes en los patrones de entrenamiento, perdiendo su habilidad de generalizar su aprendizaje a casos nuevos (sobreajuste). Para evitar el problema del sobreajuste, es aconsejable utilizar un segundo grupo de datos diferentes a los de entrenamiento, el grupo de validación, que permita controlar el proceso de aprendizaje. Normalmente, los pesos óptimos se obtienen optimizando (minimizando) alguna función de energía. Por ejemplo, un criterio muy utilizado es minimizar el error cuadrático medio entre el valor de salida y el valor real esperado. Una red neuronal típica se puede caracterizar por la función de base y la función de activación. Cada nodo suministra un valor a su salida. Este valor se propaga a través Técnicas de clasificación _______ 92 probabilidad se puede obtener por el producto de las probabilidades condicionales individuales de cada atributo dado el nodo clase (4-49) donde es el número de atributos, incrementándose linealmente el número de parámetros en función de , en lugar de hacerlo exponencialmente. Con esta simplificación sólo es necesario estimar el vector de probabilidades a priori de cada clase, , y la matriz de probabilidad condicional para cada atributo dado la clase, . Estos parámetros se pueden estimar a partir de los datos de entrenamiento en base a frecuencia. El denominador, , no es necesario al ser un valor constante independiente de la clase. Una limitación de este clasificador es que normalmente los atributos no son condicionalmente independientes. Una forma de resolver esta limitación es agregando una estructura de dependencias entres los atributos. Existen dos alternativas básicas:  Clasificador bayesiano simple aumentado con un árbol, TAN.  Clasificador bayesiano simple aumentado con una red, BAN. La desventaja de estas soluciones es que aumenta la complejidad y el tiempo de aprendizaje y clasificación. Otra alternativa para resolver la limitación del NBC es transformar la estructura manteniendo su estructura inicial introduciendo las operaciones de: eliminación, unión/combinación e introducción de un nodo oculto para separar dos atributos. Esta modificación se puede sistematizar calculando la dependencia de pares de atributos mediante la información mutua condicional, IMC, (4-50) Para el par con mayor IMC probar las tres operaciones básicas evaluando las tres estructuras y la original para quedarse con la mejor opción. Este proceso se repite hasta que no se mejore el clasificador. En la Figura 4-28 se compara el resultado obtenido aplicando el modelo construido en MATLAB mediante la función fitNativeBayes. Puede observarse que las grabaciones de sapo partero son clasificadas correctamente con un 96.67%. Sin embargo ofrece unos malos resultados para las grabaciones del sapo corredor con índices de acierto del 65.22% y 10%. En la Figura 4-29 se presenta el resumen de las prestaciones obtenidas para cada clase y en la Tabla 4-12 se muestra la matriz de confusión del clasificador. Comparación de técnicas de clasificación no secuencial _______ 93 Figura 4-28 Clasificación de todas las grabaciones usando clasificador bayesiano Figura 4-29 Prestaciones del clasificador bayesiano Clase obtenida 1 2 3 Clase real 1 15 0 8 2 9 1 0 3 0 1 29 Clase obtenida 1 2 3 Clase real 1 65.22% 0.00% 34.78% 2 90.00% 10.00% 0.00% 3 0.00% 3.33% 96.67% Tabla 4-12 Matriz de confusión de la clasificación bayesiana 4.11. Comparación de técnicas de clasificación no secuencial A lo largo de este capítulo se han ido presentando distintas técnicas de clasificación no secuencial. En la Tabla 4-13 se recoge una comparación entre los distintos clasificadores estudiados en función de la tasa de éxito global y de forma individual por cada tipo de canto estudiado. Técnicas de clasificación _______ 94 Algoritmos Canto 1 (23) Aciertos Canto 2 (10) Aciertos Canto 3 (30) Aciertos Total (63) Aciertos Distancia mínima 14 61% 10 100% 0 0% 24 38.10% Máxima verosimilitud 22 93% 5 50% 23 77% 50 79.37% Árboles de decisión 20 87% 7 70% 28 93% 55 87.30% k-vecinos más próximos 23 100% 5 50% 18 60% 46 73.02% SVM 23 100% 2 20% 21 70% 46 73.02% Regresión logística 23 100% 4 40% 14 47% 41 65.02% Redes neuronales 11 48% 0 0% 29 97% 40 63.49% Función discriminante 23 100% 4 40% 15 50% 42 66.67% Clasificador bayesiano 15 65% 1 10% 29 97% 45 71.43 Tabla 4-13. Resultados de la clasificación no secuencial La Figura 4-30 refleja de forma gráfica los mismos resultados expuestos en la Tabla 4-13. La altura de la barra refleja la tasa global de éxito para cada clasificador. Los puntos (con el código de colores habitual) indican la tasa de éxito para cada tipo de canto. Figura 4-30. Resultados de la clasificación no secuencial Para la selección de un método de clasificación no sólo es importante la tasa de éxito global sino también que esa tasa esté equilibrada para los distintos tipos de cantos. Para considerar este segundo factor se usará como indicador el rango, , de la tasa de éxito, definido como (4-51) siendo la tasa de éxito del algoritmo de clasificación para el tipo de canto -ésimo. La Figura 4-31 se enfrenta para cada clasificador la tasa de error global y el rango. DisMinMaxVerArDec kNN SVM RegLog Neur Discr Bayes 0 10 20 30 40 50 60 70 80 90 100 110 Tasa de éxito Comparación de técnicas de clasificación no secuencial _______ 95 Figura 4-31. Tasa de error y su rango (unidades en %) Un buen algoritmo de clasificación debe tener una tasa de error baja y un rango bajo. Cuanto más cerca al origen se encuentre un algoritmo, mejor será. Una buena medida que combina ambos valores es, pues, la distancia al origen que se calcula como (4-52) De la expresión anterior se puede fácilmente derivar un factor de mérito normalizado (entre 0 y 1) mediante la expresión (4-53) El valor de este factor de mérito para cada clasificador estudiado se recoge en la Tabla 4-14. Algoritmos Aciertos Errores Rango Distancia origen Mérito Distancia mínima 38.10% 61.90% 100% 1.18% 16.84% Máxima verosimilitud 79.37% 20.63% 43% 0.48% 66.28% Árboles de decisión 87.30% 12.70% 23% 0.26% 81.42% k-vecinos más próximos 73.02% 26.98% 50% 0.57% 59.83% SVM 73.02% 26.98% 80% 0.84% 40.83% Regresión logística 65.08% 34.92% 60% 0.69% 50.91% Redes neuronales 63.49% 36.51% 97% 1.04% 26.71% Función discriminante 66.67% 33.33% 60% 0.69% 51.47% Clasificador bayesiano 71.43% 28.57% 87% 0.92% 35.25% Tabla 4-14. Factor de mérito de clasificadores no secuenciales Un método usual para evaluar el funcionamiento de los clasificadores es similar al empleado en la evaluación de pruebas diagnósticas en medicina. En un problema de 010 20 30 40 50 60 70 80 90 100 0 10 20 30 40 50 60 70 80 90 100 Tasa de error Rango de tasa de error DisMin MaxVer ArDec kNN SVM RegLog Neur Discr Bayes Técnicas de clasificación _______ 96 clasificación binaria, en la que los resultados se etiquetan como positivos o negativos, hay cuatro posibles resultados que se muestran en la matriz de confusión mostrada en la Tabla 4-15. Los casos correctos son la suma de verdaderos positivos y verdaderos negativos, mientras que los errores cometidos son la suma de falsos positivos y falsos negativos. Clase obtenida Positivo Negativo Clase real Positivo Verdadero positivo TP (true positive) Falso negativo FN (false negative) Negativo Falso positivo FP (false positive) Verdadero negativo TN (true negative) Tabla 4-15. Factor de mérito de clasificadores no secuenciales En base a estos casos, se pueden definir diversos parámetros que permiten evaluar los clasificadores. Los más usuales son:  Sensibilidad: proporción de muestras correctamente clasificadas como positivas, (4-54)  Especificidad: proporción de muestras correctamente clasificadas como negativas, (4-55)  Exactitud: capacidad del clasificador de acercarse al resultado real, (4-56)  Precisión: indica la eficacia real del clasificador, (4-57)  Tasa de error: indica el porcentaje de errores, (4-58) En la Tabla 4-16 se recogen los valores de los indicadores anteriores para cada uno de los clasificadores estudiados. Comparación de técnicas de clasificación no secuencial _______ 97 Algoritmo Exactitud Tasa de errores Precisión Sensib. Especif. Distancia mínima 58.73% 41.27% - 53.62% 75.47% Máxima verosimilitud 86.24% 13.76% 79.37% 74.11% 89.58% Árboles de decisión 91.53% 8.47% 87.05% 83.43% 93.01% k-vecinos más próximos 82.01% 17.99% 85.83% 70.00% 85.83% SVM 82.01% 17.99% 75.21% 63.33% 86.04% Regresión logística 76.72% 23.28% 77.42% 62.22% 81.87% Redes neuronales 75.66% 24.34% 54.53% 49.18% 81.14% Función discriminante 77.78% 22.22% 77.83% 63.33% 82.70% Clasificador bayesiano 80.95% 19.05% 63.63% 57.29% 83.79% Tabla 4-16. Indicadores para la evaluación de clasificadores La decisión de clasificación se establece mediante un umbral sobre los resultados de las pruebas realizadas. En función de este umbral, se obtienen diferentes resultados de sensibilidad y especificidad para un determinado método. Las denominadas curvas ROC (Receiver Operating Characteristics), desarrolladas inicialmente en aplicaciones de radar, se han usado en distintos ámbitos como la medicina, psicología,… y más recientemente en el aprendizaje automático. Las curvas ROC fueron introducidas en el campo de la minería de datos por (Spackman, 1989) y el análisis de la curva ROC se ha convertido en una poderosa herramienta para la evaluación y comparación de distintos algoritmos de clasificación (Fawcett, 2006). Una posible representación enfrenta los valores de sensibilidad y especificidad. Dado que los verdaderos positivos equivalen a la sensibilidad y los falsos positivos a la especificidad. Otro modo de representar curvas ROC es mediante la razón de verdaderos positivos frente a la razón de falsos positivos. Un clasificador perfecto se situaría en la esquina superior izquierda del gráfico, correspondiéndose con un 100% de verdaderos positivos y 0% de falsos positivos. En la Figura 4-32 se representa el análisis ROC de los algoritmos estudiados. En esta figura, la diagonal dibujada en trazos discontinuos representa una clasificación aleatoria y se le conoce con el nombre de línea de no-discriminación. Esta diagonal divide el espacio en dos regiones, donde el espacio por encima de la diagonal representa un mejor resultado de clasificación respecto al azar, y los puntos por debajo un peor resultado respecto al azar. Técnicas de clasificación _______ 98 Figura 4-32 Comparación de los métodos de clasificación mediantes análisis ROC La validez de la comparación puede verse severamente afectada si se utilizan mediciones pocos fiables. Otra forma de compara los clasificadores es conociendo el grado de concordancia entre los distintos clasificadores, es decir, hasta qué punto dos clasificadores coinciden. Para determina el grado de concordancia entre dos clasificadores se dispone de una herramienta estadística, el coeficiente kappa de Cohen ( ) (Cohen, 1960). De forma simplificada, el coeficiente de kappa corresponde a la proporción de concordancias observadas sobre el total de observaciones, habiendo excluido las concordancias atribuibles al azar. Desde el punto de vista probabilístico, el coeficiente kappa es la probabilidad condicional de acuerdo entre los clasificadores, dado que las clasificaciones no son independientes entre sí, estando correlacionadas. En el caso que los clasificadores sean completamente independientes el valor de los coeficientes Kappa será cero. Por otro lado, si el acuerdo entre los clasificadores es completo el valor de los coeficientes kappa será uno. Para determinar hasta qué punto la concordancia observada es superior a la que es esperable obtener por puro azar se utiliza el índice de concordancia kappa (4-59) donde es el acuerdo observado relativo entre los clasificadores comparados, y es la probabilidad hipotética de acuerdo por azar. Una vez calculados los coeficientes kappa entre todos los clasificadores estudiados, para facilitar la comparación de los métodos, los resultados se enfrentan en la matriz de la Figura 4-33. Comparación de técnicas de clasificación no secuencial _______ 99 Figura 4-33 Comparación de los métodos de clasificación mediantes coeficientes kappa de Cohen La conclusión tras analizar las distintas comparativas realizadas, es que para una clasificación automática no secuencial de los sonidos usando características basadas en el estándar MPEG-7, el árbol de decisión ofrece los mejores resultados, entre los métodos de clasificación estudiados. Este método obtiene una tasa de error del 8.47%, lo que se considera un buen resultado teniendo en cuenta la mala calidad de los archivos de sonidos procesados. MinDis MaxLik DecTr kNN SVM LogReg Neur Discr Bayes 100% 16% 16% 12% 12% 11% 0% 11% 2% 16% 100% 63% 66% 65% 56% 33% 59% 40% 16% 63% 100% 53% 60% 48% 35% 51% 60% 12% 66% 53% 100% 66% 67% 24% 58% 35% 12% 65% 60% 66% 100% 71% 27% 74% 52% 11% 56% 48% 67% 71% 100% 16% 76% 31% 0% 33% 35% 24% 27% 16% 100% 18% 20% 11% 59% 51% 58% 74% 76% 18% 100% 34% 2% 40% 60% 35% 52% 31% 20% 34% 100% MinDis MaxLik DecTr kNN SVM LogReg Neur Discr Bayes 0% 25% 50% 75% 100% _______ 101 CAPÍTULO 5. CLASIFICACIÓN DE SECUENCIA TEMPORALES 5.1. Introducción a la clasificación secuencial En el capítulo anterior se han aplicado diversas técnicas de clasificación al problema de clasificación de un sonido. Para ello se ha dividido el sonido en una secuencia de frames y obtenido de cada uno de ellos un conjunto de parámetros de acuerdo con los especificaciones de la norma MPEG-7 (ISO, 2001). Por tanto, el punto de partida de los algoritmos de clasificación es una nube de puntos en un espacio , es decir, un espacio de 18 dimensiones. Cada punto en dicho espacio se corresponde con un frame de sonido. Con dicho enfoque el mejor resultado se obtiene, según se vio, con un algoritmo de clasificación basado en un árbol de decisión, que consigue una tasa de errores del 12.70%, un valor razonablemente bajo considerando la baja calidad de las grabaciones de sonido disponibles. Sin embargo, en el método de clasificación anteriormente descrito, todos los puntos de la nube (todos los frames) se consideran sin ligadura unos con otros. En ningún momento se tiene en cuenta durante la clasificación el hecho de que los frames están ordenados en una secuencia temporal. Es decir, se clasifica cada frame de manera aislada, en base únicamente a sus propios parámetros, y sin tener en cuenta los frames anteriores o posteriores. En este capítulo se estudiaran distintos métodos de clasificación teniendo en cuenta el carácter secuencial de los frames para tratar de mejorar los resultados anteriores de clasificación. 5.2. Parámetros temporales Una primera aproximación al problema se basa en la construcción de parámetros, para cada frame, que identifiquen de alguna forma su ligazón con los frames anteriores y Clasificación de secuencia temporales _______ 108 Algoritmo Acierto Errores Rango Distancia origen Mérito Distancia mínima 46.03% 53.97% 70% 0.88 37.50% Máxima verosimilitud 74.60% 25.40% 40% 0.47 66.50% Árboles de decisión 87.30% 12.70% 30% 0.33 76.96% k-vecinos más próximos 68.25% 31.75% 60% 0.68 52.00% SVM 87.30% 12.70% 40% 0.42 70.32% Regresión logística 84.13% 15.87% 40% 0.43 69.57% Redes neuronales 58.73% 41.27% 67% 0.78 44.56% Función discriminante 80.95% 19.05% 36% 0.40 71.42% Clasificador bayesiano 52.38% 47.62% 53% 0.71 49.82% Tabla 5-1. Factor de mérito de clasificadores con parámetros temporales La Tabla 5-2 recoge los valores de los indicadores de exactitud, precisión, sensibilidad, especificidad y tasa de errores. Se puede ver que el mejor método de clasificación sigue siendo el árbol de decisión. Cabe destacar que la precisión, sensibilidad y especificidad es sensiblemente mayor en . Algoritmo Exactitud Tasa de errores Precisión Sensib. Especif. Distancia mínima 64.02% 35.98% 54.68% 56.09% 77.04% Máxima verosimilitud 83.07% 16.93% 86.32% 73.33% 86.67% Árboles de decisión 91.53% 8.47% 91.40% 84.44% 93.33% k-vecinos más próximos 78.84% 21.16% 84.50% 64.44% 83.33% SVM 91.53% 8.47% 91.40% 82.22% 93.33% Regresión logística 89.42% 10.58% 89.90% 80.00% 91.67% Redes neuronales 72.49% 27.51% 53.82% 47.73% 79.05% Función discriminante 87.30% 12.70% 81.25% 77.44% 90.41% Clasificador bayesiano 68.25% 31.75% 57.59% 49.76% 75.08% Tabla 5-2. Indicadores para la evaluación de clasificadores con parámetros temporales En la Figura 5-8 se representa el análisis ROC de los distintos algoritmos estudiados donde de nuevo el mejor clasificador es el árbol de decisión. En la Figura 5-9 se representa la concordancia de los resultados usando los coeficientes kappa. La conclusión tras analizar las distintas comparativas realizadas, es que la clasificación por árbol de decisión ofrece los mejores resultados cuando se usan los parámetros temporales. Reducción de dimensionalidad _______ 109 Figura 5-8 Comparación de los métodos de clasificación con parámetros temporales mediantes análisis ROC Figura 5-9 Comparación de los métodos de clasificación con parámetros temporales mediantes coeficientes kappa de Cohen 5.3. Reducción de dimensionalidad El disponer de parámetros de cada frame no obliga necesariamente a considerarlos todos la hora de la clasificación. Por razones de eficiencia computacional conviene reducir la dimensionalidad de la nube de puntos, o lo que es lo mismo, el número de parámetros que identifica cada frame. Como se ha visto en el apartado anterior, en una primera aproximación al problema secuencial se ha pasado de a . Este aumento en la dimensionalidad se pondrá aún más de manifiesto cuando se estudien determinados algoritmos, como los de ventanas deslizantes. MinDis MaxLik DecTr kNN SVM LogReg Neur Discr Bayes 100% 26% 29% 19% 29% 26% 13% 30% 17% 26% 100% 72% 81% 78% 77% 20% 75% 50% 29% 72% 100% 60% 78% 73% 33% 70% 27% 19% 81% 60% 100% 66% 71% 21% 68% 39% 29% 78% 78% 66% 100% 94% 33% 86% 35% 26% 77% 73% 71% 94% 100% 31% 92% 39% 13% 20% 33% 21% 33% 31% 100% 27% 4% 30% 75% 70% 68% 86% 92% 27% 100% 49% 17% 50% 27% 39% 35% 39% 4% 49% 100% MinDis MaxLik DecTr kNN SVM LogReg Neur Discr Bayes 0% 25% 50% 75% 100% Clasificación de secuencia temporales _______ 110 Resulta interesante pues, disponer de un número reducido de parámetros más significativos, problema conocido como reducción de dimensionaldiad. Existen distintas aproximaciones a este problema (Y. Li, Dong, & Ma, 2008; Noda, Travieso, & Sánchez-Rodríguez, 2016; Sotoca & Pla, 2010; Whitney, 1971). La norma MPEG-7 propone como técnicas de reducción la descomposición en valores singulares (SVD) (Golub & Van Loan, 1996) o el análisis de componentes independientes (ICA) (Hyvärinen, Hoyer, & Inki, 2001). La elección de la técnica para el proceso de reducción de dimensionalidad no es un tema menor, teniendo una envergadura similar a la de este trabajo, por lo que no será objeto de estudio en esta tesis. Siguiendo los planteamientos definidos en (Luque, Carrasco, Barbancho, & Romero, 2016), se han seleccionado los siguientes cinco parámetros:  La razón de armonicidad.  La dispersión de la potencia.  El ancho de banda del primer formante.  Tono (pitch).  Frecuencia límite de armonicidad. En Figura 5-10 se presentan los gráficos de los cinco parámetros seleccionados donde se muestran los puntos correspondientes a cada frame con el código de colores habituales, un valor central de los parámetros mediante un punto cuadrado y una medida de la dispersión de los mismos mediante un rectángulo. Para el valor central se usa la mediana y para la dispersión el rango intercuartil. Reducción de dimensionalidad _______ 111 Figura 5-10 Proyecciones en de las nubes de puntos (Pt – dispersión de potencia, Pitch – Tono, Ra – razón de amonicidad, Fla – frecuencia límite de armonicidad y - ancho de banda del primer formante) A continuación, se compararán los resultados de la clasificación no secuencial con número reducido de parámetros con los obtenidos inicialmente bajo , en el capítulo anterior. En la Figura 5-11 se comparan los resultados de la clasificación mediante árbol de decisión sobre el mismo conjunto de sonidos en los dos espacios. El resultado global de la clasificación puede resumirse en la Figura 5-12. Clasificación en Clasificación en Figura 5-11 Clasificación por árbol de decisión Como se puede observar, para la clasificación por árbol de decisión el paso de 18 a 5 parámetros incrementa la tasa de error del 12.70% hasta alcanzar un valor del 15.87%, poco más de tres puntos. Clasificación de secuencia temporales _______ 112 Clasificación en Clasificación en Figura 5-12 Resumen de la clasificación por árbol de decisión En la Figura 5-13 se extiende esta comparación de resultados de clasificación entre ambos espacios para todos los métodos estudiados en la clasificación no secuencial. Como se ha venido trabajando, la altura de la barra refleja la tasa global de éxito para cada clasificador. Los puntos, con el código de colores habitual, indican la tasa de éxito para tipo de canto. Clasificación en Clasificación en Figura 5-13 Resultados de la clasificación no secuencial En la Figura 5-14 se comparan las figuras de mérito de cada técnica de clasificación, entre espacios, mediante un gráfico que enfrenta el rango de la tasa de error frente a la tasa de error. La Tabla 5-3 recoge el factor de mérito de cada uno de los clasificadores utilizados. Se puede ver que el mejor método de clasificación sigue siendo el árbol de decisión. DisMinMaxVer ArDec kNN SVM RegLog Neur Discr Bayes 0 10 20 30 40 50 60 70 80 90 100 110 Tasa de éxito DisMinMaxVer ArDec kNN SVM RegLog Neur Discr Bayes 0 10 20 30 40 50 60 70 80 90 100 110 Tasa de éxito Reducción de dimensionalidad _______ 113 Clasificación en Clasificación en Figura 5-14 Tasa de error y su rango (unidades en %) para clasificación no secuencial Algoritmo Acierto Errores Rango Distancia origen Mérito Distancia mínima 38.10% 61.90% 100% 1.18 16.84% 31.75% 68.25% 100% 1.21 14.39% Máxima verosimilitud 79.37% 20.63% 43% 0.48 66.28% 58.73% 41.27% 47% 0.63 55.80% Árboles de decisión 87.30% 12.70% 23% 0.26 81.42% 84.13% 15.87% 11% 0.19 86.22% k-vecinos más próximos 73.02% 26.98% 50% 0.57 59.83% 74.60% 25.40% 56% 0.61 56.74% SVM 73.02% 26.98% 80% 0.84 40.30% 50.79% 49.21% 100% 1.11 21.19% Regresión logística 65.08% 34.92% 60% 0.69 50.91% 42.86% 57.14% 100% 1.15 18.56% Redes neuronales 63.49% 36.51% 97% 1.04 26.71% 60.32% 39.68% 60% 0.72 49.13% Función discriminante 66.67% 33.33% 60% 0.69 51.47% 36.51% 63.49% 96% 1.15 18.82% Clasificador bayesiano 71.43% 28.57% 87% 0.92 35.25% 57.14% 42.86% 87% 0.97 31.63% Tabla 5-3. Factor de mérito de clasificadores no secuencial La Tabla 5-4 compara los valores de los indicadores de exactitud, precisión, sensibilidad, especificidad y tasa de errores. La Figura 5-15 se representa el análisis ROC de los distintos algoritmos estudiados donde de nuevo, en , el mejor clasificador es el basado en árbol de decisión. 010 20 30 40 50 60 70 80 90 100 0 10 20 30 40 50 60 70 80 90 100 Tasa de error Rango de tasa de error DisMin MaxVer ArDec kNN SVM RegLog Neur Discr Bayes 010 20 30 40 50 60 70 80 90 100 0 10 20 30 40 50 60 70 80 90 100 Tasa de error Rango de tasa de error DisMin MaxVer ArDec kNN SVM RegLog Neur Discr Bayes Clasificación de secuencia temporales _______ 114 Figura 5-15 Comparación de los métodos de clasificación en mediantes análisis ROC Algoritmo Exactitud Tasa de errores Precisión Sensib. Especif. Distancia mínima 58.73% 41.27% - 53.62% 75.47% 54.50% 45.50% - 47.83% 72.96% Máxima verosimilitud 86.24% 13.76% 79.37% 74.11% 89.58% 72.49% 27.51% 66.74% 58.99% 78.21% Árboles de decisión 91.53% 8.47% 87.05% 83.43% 93.01% 89.42% 10.58% 85.40% 83.77% 91.52% k-vecinos más próximos 82.01% 17.99% 85.83% 70.00% 85.83% 83.07% 16.93% 84.97% 68.55% 86.49% SVM 82.01% 17.99% 75.21% 63.33% 86.04% 67.20% 32.80% - 43.33% 74.17% Regresión logística 76.72% 23.28% 77.42% 62.22% 81.87% 61.90% 38.10% 46.55% 37.78% 70.20% Redes neuronales 75.66% 24.34% 54.53% 49.18% 81.14% 73.54% 26.46% 60.61% 51.59% 81.02% Función discriminante 77.78% 22.22% 77.83% 63.33% 82.70% 57.67% 42.33% - 33.00% 66.49% Clasificador bayesiano 80.95% 19.05% 63.63% 57.29% 83.79% 71.43% 28.57% 66.85% 44.25% 74.49% Tabla 5-4. Indicadores para la evaluación de clasificadores en En la Figura 5-16 se representa la concordancia de los resultados usando los coeficientes kappa. La conclusión tras analizar las distintas comparativas realizadas, es que la clasificación no secuencial en por árbol de decisión ofrece los mejores resultados, no alejándose de los resultados obtenidos en . Ventanas deslizantes _______ 115 Figura 5-16 Comparación de los métodos de clasificación en mediantes coeficientes kappa de Cohen 5.4. Ventanas deslizantes Una de las técnicas básicas de clasificación de datos secuenciales es la basada en ventanas deslizantes (Aggarwal, 2007; Dietterich, 2002). De forma genérica en un espacio sean: es el vector de parámetros con el que se identifica el frame - ésimo, el algoritmo de clasificación utilizado y la clase estimada a la que pertenece dicho frame. En una clasificación no secuencial se tiene que . (5.1) La técnica de clasificación secuencial mediante ventanas deslizantes se basa en utilizar los mismos clasificadores que en el caso no secuencial, pero aplicándolos sobre otro conjunto de datos. Para esto se define una “ventana” de tamaño que comience en el frame -ésimo y comprenda frames hacia atrás. En este caso, la clasificación estimada se obtiene mediante la expresión (5.2) siendo . La denominación de “ventana deslizante” deriva del hecho de que la “ventana” se va “deslizando” hacia adelante a medida que se van considerando frames consecutivos. Si la dimensión de es ( , entonces la dimensión de es ( ), poniendo de manifiesto, de forma aún más clara que en el apartado 5.2, la importancia de reducir la dimensionalidad de cada frame. MinDis MaxLik DecTr kNN SVM LogReg Neur Discr Bayes 100% 7% 12% 9% 3% 2% 1% 1% 0% 7% 100% 44% 58% 30% 9% 16% 4% 16% 12% 44% 100% 76% 21% 15% 35% 0% 24% 9% 58% 76% 100% 32% 16% 30% 2% 23% 3% 30% 21% 32% 100% 37% 9% 14% 11% 2% 9% 15% 16% 37% 100% 4% 26% 3% 1% 16% 35% 30% 9% 4% 100% 0% 14% 1% 4% 0% 2% 14% 26% 0% 100% 2% 0% 16% 24% 23% 11% 3% 14% 2% 100% MinDis MaxLik DecTr kNN SVM LogReg Neur Discr Bayes 0% 25% 50% 75% 100% Clasificación de secuencia temporales _______ 116 Utilizando los mismos algoritmos que en la clasificación no secuencial del capítulo anterior, y definiendo cada frame mediante 5 parámetros ( ), la Figura 5-17 refleja el factor de mérito obtenido por cada clasificador para distintos tamaños de la ventana. Figura 5-17 Factor de mérito en función del tamaño de la ventana Como se puede ver el comportamiento es diverso para cada uno de los algoritmos ensayados. La Figura 5-18 refleja el comportamiento del factor de mérito promedio, así como el valor máximo y el mínimo. Figura 5-18 Factor de mérito en función del tamaño de la ventana (media) 0 5 10 15 10 20 30 40 50 60 70 80 90 100 Tamaño de la ventana Mérito (%) DisMin MaxVer ArDec kNN SVM RegLog Neur Discr Bayes 0 5 10 15 0 20 40 60 80 100 120 Tamaño de la ventana Mérito (%) Máximo Media Mínimo Ventanas deslizantes _______ 117 Se observa que el valor medio (en verde) tiene un máximo relativo para un tamaño de la ventana de 5 frames, mientras que el valor máximo (en azul) alcanza el máximo para 6 frames (casi el mismo valor). A efectos de comparación de los distintos algoritmos, en lo que sigue se utilizará un tamaño de ventana de 5 frames. Una vez fijado el tamaño de la ventana y de forma análoga al capítulo anterior, a continuación se realizan distintos métodos de evaluación de los clasificadores con el objetivo de determinar cuál es el algoritmo que mejores resultado obtiene. La Figura 5-19 refleja de forma gráfica la comparación de los distintos algoritmos usando ventanas deslizantes de tamaño 5 frames en . Los distintos algoritmos, usados en el estudio no secuencial, son aplicados sobre cada ventana. Finalmente por conteo se elige la clase asignada. La altura de la barra refleja la tasa global de éxito para cada clasificador. Los puntos, con el código de colores habitual, indican la tasa de éxito para cada tipo de canto. Figura 5-19 Resultados de la clasificación con ventana deslizante (tamaño ventana: 5) La Figura 5-20 refleja el mérito de cada técnica de clasificación mediante un gráfico que enfrenta el rango de la tasa de error y la tasa de error. La Tabla 5-5 recoge el factor de mérito de cada uno de los clasificadores utilizados. La Tabla 5-6 recoge los valores de los indicadores de exactitud, precisión, sensibilidad, especificidad y tasa de errores. Se puede ver que el mejor método de clasificación sigue siendo el árbol de decisión. En la Figura 5-21 se representa el análisis ROC de los distintos algoritmos estudiados donde de nuevo el mejor clasificador es el árbol de decisión. DisMinMaxVer ArDec kNN SVM RegLog Neur Discr Bayes 0 10 20 30 40 50 60 70 80 90 100 110 Tasa de éxito Clasificación de secuencia temporales _______ 124 5.6. Modelos ocultos de Markov 5.6.1. Descripción general Una de las técnicas más utilizadas en el reconocimiento de sonidos (L. R. Rabiner, 1989; L. R. Rabiner & Juang, 1986; Stamp, 2012) es la basada en los modelos ocultos de Markov (HMM: Hidden Markov Models), que tienen un enfoque estadístico. Este es el método de clasificación de sonidos sugerido en la norma MPEG-7 (apartado 6.4 de ISO, 2001) y muy utilizado en el reconocimiento de sonidos junto con los MFCC. Según los modelos ocultos de Markov, el sonido “observado” en el instante (frame) -ésimo es consecuencia (es emitido) por un proceso subyacente “oculto” que en ese instante se encuentra en el estado , como se representa en la Figura 5-29. El conjunto de posibles estados está formado por un número finito de estados ( ), es decir, . Naturalmente el estado en el instante (frame) -ésimo es uno de los posibles estados, por tanto, . Por otro lado, el conjunto de posibles observaciones está formado por un número finito de códigos ( ), es decir, . De forma análoga, la observación en el instante (frame) - ésimo es uno de los posibles códigos, por tanto, . Figura 5-29 Estados y observaciones en un modelo oculto de Markov Los elementos que componen los modelos ocultos de Markov son:  Un conjunto de estados. Estos estados se encuentran ocultos.  Una matriz de transiciones de probabilidades , en la que cada elemento representa la probabilidad de que se produzca una transición del estado al .  Una matriz de emisiones , formado por vectores , cada uno de los cuales está constituido por elementos cada uno de los cuales representa la probabilidad de que estando en el estado se emita un código .  Una matriz en la que cada elemento genérico representa la probabilidad de que estado -ésimo sea el estado inicial. Establecidos los valores apropiados para estos componentes se puede usar el HMM para generar una secuencia de observaciones . El procedimiento de reconocimiento puede ser descrito como el cálculo de la probabilidad de que una Modelos ocultos de Markov _______ 125 observación sea producida por alguno de los modelos de referencia creados en la fase de entrenamiento, a fin de encontrar la que proporciona el valor máximo. La Figura 5-30 muestra un ejemplo de un modelo oculto de Markov con 4 estados. Figura 5-30 Transiciones y emisiones en un modelo oculto de Markov Como se ha visto, en un modelo oculto de Markov las observaciones pertenecen al conjunto de posibles observaciones que está formado por un número finito ( ) de códigos. Para el caso de estudio, en el instante (frame) -ésimo se dispone de un valor con el valor de los parámetros para ese frame, es decir, (o si no se ha efectuado ningún proceso de reducción de dimensionalidad). Para convertir este valor de en una observación perteneciente a un conjunto finito de códigos se pueden usar 2 estrategias. La primera de las estrategias consiste en construir un modelo oculto de Markov para cada uno de los parámetros del frame. Estos modelos no son independiente sino que están acoplados (Brand, 1997; Zhong & Ghosh, 2002). Si es el número de parámetros de un frame, se tiene que y, por tanto, el número de modelos ocultos de Markov que se tendrá que construir es . Para cada uno de esos modelos, por ejemplo el -ésimo, el problema ahora es pasar el valor del parámetro a la observación , perteneciente al conjunto finito de código. Esto puedo hacerse fácilmente con una simple cuantización de en tantos niveles como códigos se deseen. La segunda estrategia para convertir en una observación perteneciente a un conjunto finito de códigos es la cuantización multidimensional, utilizando para ellos algunos de los algoritmos disponibles (Linde, Buzo, & Gray, 1980). Con este enfoque sólo es necesario construir un modelo oculto de Markov. Por su sencillez está será la estrategia que se adaptara, utilizando para ello la función, en código MATLAB, kmeanlbg (Brookes, 1998b). La selección del tipo de modelo, el número de estado y código no es simple. Estas elecciones deben realizarse en función de la señal que se está modelando. En (L. R. Clasificación de secuencia temporales _______ 126 Rabiner, 1989) se sugiere un número de estados entre 2 y 10 para el procesado de sonidos y 256 códigos. Para el caso de estudio se ha seleccionado 5 estados. Entrenando el modelo con los patrones de cada clase de sonido, se obtienen tantos modelos como clases, que resultan tener la misma estructura reflejada en la Figura 5-31, que corresponde con una topología conocida como de “izquierda a derecha” (Modelo HMM de Bakis). Esta topología hace que la matriz de transiciones sea triangular superior (5.5). El entrenamiento se realiza con la función hmmtrain de MATLAB. (5.5) Figura 5-31 Modelo oculto de Markov para el canto de un anuro La etapa final consiste en considerar una secuencia de frames que se desea clasificar, para cada uno de los cuales se conocer el vector de parámetros , y transformarlo en una secuencia de observaciones mediante la función disteusq (Brookes, 1998a). A continuación, se calcula mediante un procedimiento de avance y retroceso (Baum & Eagon, 1967), la posibilidad de que dicha secuencia de observaciones haya sido generada por los modelos ocultos correspondientes a cada una de las clases. Esta operación se realiza mediante la función hmmdecode de MATLAB, clasificando la secuencia como la de mayor probabilidad. En este punto, se han utilizado tres enfoques sobre la forma de obtener una secuencia de frames: a. Usando una ventana deslizante de tamaño . b. Usando una única secuencia formada por todos los frames del sonido. c. Usando secuencias consecutivas (sin deslizamiento) cuyo tamaño coincide con la duración media de las regiones de interés de los sonidos patrón. Estos tres enfoques se desarrollan en los siguientes apartados, obteniendo resultados distintos para cada uno de ellos. 5.6.2. Modelos ocultos de Markov sobre ventanas deslizantes El primer enfoque para obtener una secuencia de frames es usar una ventana deslizante de tamaño (Tiberiu, 2013). La Figura 5-32 muestra el resultado de la clasificación mediante modelos ocultos de Markov aplicados a secuencias de sonidos con técnica de ventana deslizante. Se han utilizado 5 parámetros para definir cada frame, y una ventana deslizante de tamaño 5. El resultado global de la clasificación puede resumirse en la Figura 5-33. Modelos ocultos de Markov _______ 127 Figura 5-32 Clasificación por modelo oculto de Markov sobre ventanas deslizantes Figura 5-33 Resumen de la clasificación por modelo oculto de Markov sobre ventanas deslizantes La Figura 5-34 refleja de forma gráfica la comparación de los distintos algoritmos de ventana deslizante incluyendo el de modelos ocultos de Markov. La altura de la barra refleja la tasa global de éxito para cada clasificador. Los puntos, con el código de colores habitual, indican la tasa de éxito para cada tipo de canto. La Figura 5-35 refleja el mérito de cada técnica de clasificación enfrentando el rango de la tasa de error y la tasa de error. La Tabla 5-9 recoge el factor de mérito de cada uno de los clasificadores utilizados con el método de ventana deslizante. La Tabla 5-10 recoge los valores de los indicadores de exactitud, precisión, sensibilidad, especificidad y tasa de errores. Se puede ver que el mejor método de clasificación sigue siendo el árbol de decisión. Clasificación de secuencia temporales _______ 128 Figura 5-34 Resultados de la clasificación con ventanas deslizantes y HMM Figura 5-35 Tasa de error y su rango (unidades en %) para clasificación con ventanas deslizantes y HMM Algoritmo Acierto Errores Rango Distancia origen Mérito Distnacia mínima 36.51% 63.49% 100% 1.18 16.24% Máxima verosimilitud 73.02% 26.98% 43% 0.51 63.90% Árboles de decisión 85.71% 14.29% 19% 0.24 83.20% k-vecinos más próximos 71.43% 28.57% 70% 0.76 46.54% SVM 57.14% 42.86% 80% 0.91 35.83% Regresión logística 65.08% 34.92% 57% 0.67 52.93% Redes neuronales 71.43% 28.57% 60% 0.66 53.01% Función discriminante 36.51% 63.49% 87% 1.08 23.87% Clasificador bayesiano 79.37% 20.63% 43% 0.48 66.06% Modelo oculto de Markov 53.97% 46.03% 38% 0.60 57.67% Tabla 5-9. Factor de mérito para clasificación con ventanas deslizantes y HMM DisMinMaxVerArDec kNN SVMRegLog Neur Discr Bayes HMM 0 10 20 30 40 50 60 70 80 90 100 110 Tasa de éxito 010 20 30 40 50 60 70 80 90 100 0 10 20 30 40 50 60 70 80 90 100 Tasa de error Rango de tasa de error DisMin MaxVer ArDec kNN SVM RegLog Neur Discr Bayes HMM Modelos ocultos de Markov _______ 129 Algoritmo Exactitud Tasa de errores Precisión Sensib. Especif. Distancia mínima 57.67% 42.33% - 52.17% 74.84% Máxima verosimilitud 82.01% 17.99% 85.83% 72.22% 85.83% Árboles de decisión 90.48% 9.52% 87.23% 87.44% 92.53% k-vecinos más próximos 80.95% 19.05% 85.37% 64.44% 85.00% SVM 71.43% 28.57% 71.20% 52.22% 77.70% Regresión logística 76.72% 23.28% 78.54% 64.44% 81.87% Redes neuronales 80.95% 19.05% 65.60% 61.74% 84.08% Función discriminante 57.67% 42.33% - 32.32% 66.14% Clasificador bayesiano 86.24% 13.76% 79.67% 72.42% 88.49% Modelo oculto de Markov 69.31% 30.69% 56.42% 52.75% 78.13% Tabla 5-10. Indicadores para la evaluación de clasificadores con ventana deslizante (tamaño ventana: 5) En la Figura 5-36 se representa el análisis ROC de los distintos algoritmos estudiados donde de nuevo el mejor clasificador es el árbol de decisión. Figura 5-36 Comparación de los métodos de clasificación con ventana deslizante (tamaño ventana: 5) mediantes análisis ROC En la Figura 5-37 se representa la concordancia de los resultados usando los coeficientes kappa. La conclusión, en tras analizar las distintas comparativas realizadas, es que la clasificación por HMM genera peores resultados de forma generalizadas respecto a la mayoría de métodos sobre ventana deslizante. 010 20 30 40 50 60 70 80 90 100 0 10 20 30 40 50 60 70 80 90 100 False Positive Rate (%) True Positive Rate (%) DisMin MaxVer ArDec kNN SVM RegLog Neur Discr Bayes HMM Clasificación de secuencia temporales _______ 130 Figura 5-37 Comparación de los métodos de clasificación con ventana deslizante (tamaño ventana: 5) mediantes coeficientes kappa de Cohen 5.6.3. Modelos ocultos de Markov sobre el sonido completo La Figura 5-38 muestra el resultado de la clasificación mediante modelos ocultos de Markov aplicados a secuencias de sonidos constituidas por el sonido completo. En ella se han utilizado 5 parámetros para definir cada frame. El resultado global de la clasificación puede resumirse en la Figura 5-39. Figura 5-38 Clasificación por modelo oculto de Markov sobre el sonido completo DisMin MaxVer ArDec kNN SVM RegLog Neur Discr Bayes HMM 100% 12% 18% 10% 7% 10% 6% 0% 12% 29% 12% 100% 54% 59% 48% 61% 30% 0% 48% 16% 18% 54% 100% 51% 44% 54% 44% 1% 51% 32% 10% 59% 51% 100% 57% 57% 33% 9% 54% 21% 7% 48% 44% 57% 100% 73% 18% 21% 24% 10% 10% 61% 54% 57% 73% 100% 25% 13% 38% 14% 6% 30% 44% 33% 18% 25% 100% 0% 33% 36% 0% 0% 1% 9% 21% 13% 0% 100% 13% 0% 12% 48% 51% 54% 24% 38% 33% 13% 100% 20% 29% 16% 32% 21% 10% 14% 36% 0% 20% 100% DisMin MaxVer ArDec kNNSVM RegLog NeurDiscr BayesHMM 0% 25% 50% 75% 100% Modelos ocultos de Markov _______ 131 Figura 5-39 Resumen de la clasificación por modelo oculto de Markov sobre el sonido completo Los resultados obtenidos de la clasificación por HMM sobre el sonido completo serán comparados con los resultados de los distintos método de clasificación no secuencial en . Para empezar, la Figura 5-40 refleja de forma gráfica esta comparación. La altura de la barra refleja la tasa global de éxito para cada clasificador. Los puntos, con el código de colores habitual, indican la tasa de éxito para cada tipo de canto. Figura 5-40 Resultados de la clasificación no secuencial en y HMM La Figura 5-41 refleja el mérito de cada técnica de clasificación mediante la representación del rango de la tasa de error frente la tasa de error. La Tabla 5-11 recoge el factor de mérito de cada uno de los clasificadores utilizados. La Tabla 5-12 recoge los valores de los indicadores de exactitud, precisión, sensibilidad, especificidad y tasa de errores. DisMinMaxVerArDec kNN SVMRegLog Neur Discr Bayes HMM 0 10 20 30 40 50 60 70 80 90 100 110 Tasa de éxito Clasificación de secuencia temporales _______ 132 Figura 5-41 Tasa de error y su rango (unidades en %) para clasificación no secuencial en y HMM Algoritmo Acierto Errores Rango Distancia origen Mérito Distnacia mínima 31.75% 68.25% 100% 1.21 14.39% Máxima verosimilitud 58.73% 41.27% 47% 0.63 55.80% Árboles de decisión 84.13% 15.87% 11% 0.19 86.22% k-vecinos más próximos 74.60% 25.40% 56% 0.61 56.74% SVM 50.79% 49.21% 100% 1.11 21.19% Regresión logística 42.86% 57.14% 100% 1.15 18.56% Redes neuronales 41.27% 58.73% 37% 0.69 51.04% Función discriminante 36.51% 63.49% 96% 1.15 18.82% Clasificador bayesiano 57.14% 42.86% 87% 0.97 31.63% Modelo oculto de Markov 76.19% 23.81% 87% 0.90 36.45% Tabla 5-11. Factor de mérito para clasificación no secuencial en y HMM Algoritmo Exactitud Tasa de errores Precisión Sensib. Especif. Distancia mínima 54.50% 45.50% - 47.83% 72.96% Máxima verosimilitud 72.49% 27.51% 66.74% 58.99% 78.21% Árboles de decisión 89.42% 10.58% 85.40% 83.77% 91.52% k-vecinos más próximos 83.07% 16.93% 84.97% 68.55% 86.49% SVM 67.20% 32.80% - 43.33% 74.17% Regresión logística 61.90% 38.10% 46.55% 37.78% 70.20% Redes neuronales 73.54% 26.46% 60.61% 51.59% 81.02% Función discriminante 57.67% 42.33% - 33.00% 66.49% Clasificador bayesiano 71.43% 28.57% 66.85% 44.25% 74.49% Modelo oculto de Markov 84.13% 15.87% 70.24% 61.64% 85.58% Tabla 5-12. Indicadores para la evaluación de clasificadores no secuencial en y HMM 010 20 30 40 50 60 70 80 90 100 0 10 20 30 40 50 60 70 80 90 100 Tasa de error Rango de tasa de error DisMin MaxVer ArDec kNN SVM RegLog Neur Discr Bayes HMM Modelos ocultos de Markov _______ 133 En la Figura 5-42 se representa el análisis ROC de los distintos algoritmos estudiados donde de nuevo el mejor clasificador es el árbol de decisión. Figura 5-42 Comparación de los métodos de clasificación no secuencial en y HMM mediantes análisis ROC En la Figura 5-43 se representa la concordancia de los resultados usando los coeficientes kappa. La conclusión en tras analizar las distintas comparativas realizadas, es que la clasificación por HMM sobre el sonido completo aunque mejora los resultados respecto a su uso sobre ventanas deslizantes, sigue teniendo peores resultados respecto al árbol de decisión en , ya sea sobre ventana deslizante o no secuencial. Figura 5-43 Comparación de los métodos de clasificación no secuencial en y HMM mediantes coeficientes kappa de Cohen 010 20 30 40 50 60 70 80 90 100 0 10 20 30 40 50 60 70 80 90 100 False Positive Rate (%) True Positive Rate (%) DisMin MaxVer ArDec kNN SVM RegLog Neur Discr Bayes HMM DisMin MaxVer ArDec kNN SVM RegLog Neur Discr Bayes HMM 100% 7% 12% 9% 3% 2% 0% 1% 0% 9% 7% 100% 44% 58% 30% 9% 9% 4% 16% 15% 12% 44% 100% 76% 21% 15% 15% 0% 24% 49% 9% 58% 76% 100% 32% 16% 18% 2% 23% 40% 3% 30% 21% 32% 100% 37% 11% 14% 11% 15% 2% 9% 15% 16% 37% 100% 5% 26% 3% 9% 0% 9% 15% 18% 11% 5% 100% 0% 3% 24% 1% 4% 0% 2% 14% 26% 0% 100% 2% 0% 0% 16% 24% 23% 11% 3% 3% 2% 100% 11% 9% 15% 49% 40% 15% 9% 24% 0% 11% 100% DisMin MaxVer ArDec kNNSVM RegLog NeurDiscr BayesHMM 0% 25% 50% 75% 100%