Detección de anomalías en placas de acero utilizando técnicas de inteligencia artificial

Equa ion Chap e 1 Sec ion 1
T abajo Fin de G ado
en Ingenie ía de Tecnologías indus iales
De ección de anomalías en placas de ace o u ilizando
écnicas de in eligencia a i icial
Au o : Ignacio González Pe is
Tu o : F ancisco José Simois Ti ado
Dp o. Teo ía de la Señal y Comunicaciones
Escuela Técnica Supe io de Ingenie ía
Uni e sidad de Se illa
Se illa, 2025
iii
T abajo Fin de G ado
en Ingenie ía de Tecnologías Indus iales
De ección de anomalías en placas de ace o
u ilizando écnicas de in eligencia a i icial
Au o :
Ignacio González Pe is
Tu o :
F ancisco José Simois Ti ado
P o eso i ula
Dp o. de Teo ía de la Señal y Comunicaciones
Escuela Técnica Supe io de Ingenie ía
Uni e sidad de Se illa
Se illa, 2025
T abajo Fin de G ado: De ección de anomalías en placas de ace o u ilizando écnicas de in eligencia a i icial
Au o :
Ignacio González Pe is
Tu o :
F ancisco José Simois Ti ado
El ibunal nomb ado pa a juzga el P oyec o a iba indicado, compues o po los siguien es miemb os:
P esiden e:
Vocales:
Sec e a io:
Acue dan o o ga le la cali icación de:
Se illa, 2025
El Sec e a io del T ibunal

ii
A mi amilia
A mis maes os
ix
Ag adecimien os
Quisie a exp esa mi g a i ud al p o eso F ancisco José Simois, cuyo acompañamien o ha sido decisi o pa a la
culminación de es e T abajo Fin de G ado. Su o ien ación écnica, su cons an e disposición pa a esol e dudas
y, sob e odo, su con ianza en mis capacidades han impulsado cada e apa del p oyec o. Ag adezco ambién a
mis compañe os y amilia, cuyo apoyo incondicional ha p opo cionado el ánimo necesa io pa a supe a los e os
que su gie on du an e la in es igación. Finalmen e, ex iendo mi econocimien o a la Escuela y al pe sonal de
labo a o io po acili a los ecu sos y el en o no académico que hicie on posible es e abajo.
Ignacio González Pe is
G ado en ingenie ía de ecnologías indus iales
Se illa, 2025
Glosa io 60
Anexo A. Es uc u a del p oyec o y F agmen os de código 61
A.1 Es uc u a de ca pe as del p oyec o 61
A.2 F agmen os cla e del código 62
A.2.1 Fea u eGene a o ( ans o me s.py) 62
A.2.2 Función build_es ima o ( builde s.py ) 63
A.2.3 Mé odo un_c () – En enamien o en alidación c uzada (K-Fold) 64
Anexo B. Es uc u a del p oyec o y F agmen os de código 66
B.1 No ebook 01_eda.ipynb 66
B.2 No ebook 02_ ea u e_enginee ing.ipynb 68
B.3 No ebook 03_model_ aining.ipynb 70
B.4 04_hype pa ame e _op imiza ion.ipynb 72
B.2 05_ ea u e_impo ance.ipynb 73
ÍNDICE DE TABLAS
Tabla 4–1 Desbalance de clases 14
Tabla 4–2 Núme o de ou lie s 20
Tabla 7–1. Hipe pa áme os iniciales 36
Tabla 8–1 Va iables más impo an es en el de ec o Pas y 40
Tabla 8–2 Va iables más impo an es en el de ec o Z_Sc a ch 40
Tabla 8–3 Va iables más impo an es en el de ec o K_Sc a ch 41
Tabla 8–4 Va iables más impo an es en el de ec o S ains 41
Tabla 8–5 Va iables más impo an es en el de ec o Di iness 42
Tabla 8–6 Va iables más impo an es en el de ec o Bumps 42
Tabla 8–7 Va iables más impo an es en el de ec o O he _Faul s 43
Tabla 8–8 Compa a i a Auc con y sin p ep ocesamien o 44
Tabla 8–9. AUC de lgbm 45
Tabla 8–10. AUC de log eg 45
Tabla 8–11. AUC de 46
Tabla 8–12. AUC de mlp 47
Tabla 0–1 Concep os 56
Tabla 0–1 Lib e ías de Py hon empleadas en el p oyec o 74

x ii
ÍNDICE DE FIGURAS
Figu a 3-1. Pa che ugoso (pa ch) análogo a un de ec o Pas y: esco ia adhe ida que ompe el b illo [20] 8
Figu a 3-2. A añazo en a ios amos, bas a una zona con azo en zig-zag pa a ilus a Z_Sc a ch [20] 9
Figu a 3-3. Conjun o de a añazos oblicuos que o man una K; co esponde a K_Sca ch [3] 9
Figu a 3-4. Mancha/discolo ación supe icial sin elie e isible, equi alen e a S ains. [20] 10
Figu a 3-5. Depósi os di usos de calamina ejemplo eal de supe icie sucia, Di iness [2] 10
Figu a 3-6. P o ube ancias que sob esalen del plano, Ilus ación de Bumps. [2] 11
Figu a 3-7. Impe ección a iada (c azing) incluida en la ca ego ía O he _Faul s [2] 12
Figu a 4-1. Es adís icas desc ip i as 13
Figu a 4-2. Dis ibución KDE de Y máximo. 15
Figu a 4-3. Dis ibución KDE del g oso de placa 15
Figu a 4-4. Dis ibución KDE del mínimo de luminosidad. 16
Figu a 4-5. Boxplo po de ec o (K-Sc a ch). 17
Figu a 4-6. Co elación de las a iables 18
Figu a 4-7. Valo es al an es po ea u es. 19
Figu a 5-1. Diag ama de lujo del p ep ocesamien o 23
Figu a 5-2. Ejemplo de los 5 p ime os alo es de las nue as a iables 24
Figu a 5-3. Winso izado de Pixels_A eas 25
Figu a 6-3. Winso izado y ans o mación loga í mica de Pixel_A eas 26
Figu a 5-5. T ans o mación quan ílica de Edges_index 27
Figu a 6-1. Diag ama de lujo del aine 29
Figu a 7-2. A ea Unde he ROC Cu e de ed neu onal Pe cep ón Mul icapa 35
Figu a 7-1. Flujo p incipal de op imización 38
Figu a 7-2. E olución del ROC-AU po cada ial en lgbm 39
Figu a 8-2. Mapa de calo 20 a iables más in luyen es 43
Figu a 8-1. Auc medio po de ec o (lgbm) 48
Figu a 8-2. Auc medio po de ec o ( ) 48
Figu a 8-3. Auc medio po de ec o (log eg) 49
Figu a 8-4. Auc medio po de ec o (mlp) 49
Figu a 8-6. ROC-AUC medio sob e el conjun o de alidación (hold ou ) 50
Figu a 8-7. Auc medio po de ec o sob e el conjun o de alidación (hold ou ) de odos los modelos 50
Figu a 8-8. Tiempo de en enamien o de cada modelo po old 51
Figu a 8-9. Pun uación en Kaggle 52
Figu a 0-1. Head con dimensiones del da ase y p ime as 5 ilas 66
Figu a 0-2. Ma iz de co elación Pea son en e las a iables. 67
Figu a 0-2. Winso izado a iable Pixels_a eas. 68
Figu a 0-4. Edges_index ans o mación cuán ilica. 69
Figu a 0-5. Hold-ou inicial, gene ación de olds y selección del modelo. 70
Figu a 0-6. Dis ibución ROC-AUC po de ec o en el modelo eg esión logís ica 71
xix
No ación
A*
Conjugado
c. .p.
En casi odos los pun os
c.q.d.
Como que íamos demos a
∎
Como que íamos demos a
e.o.c.
En cualquie o o caso
e
núme o e
IRe
Pa e eal
IIm
Pa e imagina ia
sen
Función seno
g
Función angen e
a c g
Función a co angen e
sen
Función seno
sinxy
Función seno de x ele ado a y
cosxy
Función coseno de x ele ado a y
Sa
Función sampling
sgn
Función signo
ec
Función ec ángulo
Sinc
Función sinc
∂y ∂x
x◦
De i ada pa cial de y espec o
No ación de g ado, x g ados.
P (A)
P obabilidad del suceso A
SNR
Signal- o-noise a io
MSE
Minimum squa e e o
:
Tal que
<
Meno o igual
>
Mayo o igual
Backslash
⇔
Si y sólo si
1
1 INTRODUCCIÓN
u an e décadas, la indus ia side ú gica ha in en ado esponde una p egun a an simple como incómoda:
¿cómo sabe si una lámina de ace o, apa en emen e pe ec a, esconde un de ec o? En sus comienzos, la
espues a ue decididamen e a esanal: ojos en enados, no mas écnicas y mucha expe iencia
acumulada. La inspección isual manual ue, po la go iempo, el bas ión del con ol de calidad. Sin emba go,
como odo o icio basado en la pe cepción humana, es a p ác ica ambién a as aba sus lími es: a iga,
subje i idad y e o es ine i ables.
Con la llegada de la au oma ización y el auge de la in o má ica, el escena io cambió adicalmen e . [1]
Apa ecie on mé odos au omá icos que, como cen inelas incansables, analizaban da os es uc u ados, ya ue an
ci as ías de i adas de senso es o imágenes ans o madas po algo i mos. An es de que el deep lea ning oma a
po asal o la escena ecnológica, se empleaban écnicas de p ocesamien o digi al de señales e imágenes pa a
ex ae ca ac e ís icas cla e: o mas, ni eles de luminancia o ans o madas en ecuencia [2]. A pa i de ahí,
los da os e an pasados po el amiz de clasi icado es adicionales. En e los en oques clásicos se des acaban la
segmen ación po umb ales, las ans o madas de Fou ie o los il os de Gabo , odos diseñados pa a ilumina
las impe ecciones ocul as en la ex u a del me al [2]. A su ez, se aplicaban mé odos es adís icos pa a de ec a
anomalías y des iaciones su iles en la supe icie. [1]
Poco a poco, la in eligencia a i icial (la “ ieja escuela” del ap endizaje au omá ico) empezó a gana e eno.
Hacia inales de los años no en a y p incipios de los 2000 [3], se in oduje on algo i mos supe isados aplicados
a da os es uc u ados . [4, 3, 5] La idea e a sencilla y ambiciosa a la ez: deja que las máquinas ap endie an a
econoce de ec os a pa i de ejemplos p e ios. Su gie on modelos como los á boles de decisión, las edes
neu onales con una sola capa ocul a o las céleb es máquinas de ec o es de sopo e (SVM), [6] en enadas con
a ibu os numé icos que desc ibían, la supe icie de las placas de ace o. E an modelos aún p imi i os si los
compa amos con las edes p o undas ac uales, pe o ma ca on el p ime paso se io hacia la au oma ización del
juicio écnico.
El pano ama se ol ió más in e esan e con la llegada de la década de 2010 [4]. La disponibilidad de conjun os
de da os públicos y el a ance de las écnicas de mine ía de da os despe a on un eno ado en usiasmo
in es igado . Un hi o pa icula ue la publicación en 2010 del conjun o de da os S eel Pla es Faul s en el
eposi o io de la UCI . [7] Es e conjun o (una sue e de “ca illa escola ” pa a algo i mos) incluye 27 a ibu os
ísicos de placas de ace o y el ipo de de ec o asociado. Desde en onces, se ha con e ido en un campo de p uebas
pa a nume osos clasi icado es desa ollados en la li e a u a especializada. En e las a iables se encuen an
medidas como índices de o ma, ni eles de luminosidad o dimensiones, que pe mi en in e i , con azonable
p ecisión, el ipo de alla en la ab icación. [7, 8, 2]
Los en oques más adicionales pa a la de ección de de ec os en da os abula es ecu ían a modelos “poco
p o undos”, en con aposición a las ac uales edes neu onales p o undas . [6] El a senal incluía análisis de
a ianza, con ol es adís ico de p ocesos y algo i mos de clasi icación diseñados pa a p edeci au omá icamen e
el ipo de de ec o. Con el iempo, modelos gené icos como Random Fo es , las SVM o las edes de pocas capas
demos a on se más consis en es que el ojo humano [4, 1, 6]. In es igaciones p e ias ambién explo a on la
combinación de análisis de imágenes (segmen ación espacial o ecuencial) con clasi icado es au omá icos
clásicos . [6]
Es os modelos pe mi ie on educi la dependencia de eglas écnicas o inspecciones isuales. Sin emba go, su
endimien o seguía a ado al ingenio humano: dependían en g an medida de ca ac e ís icas diseñadas po expe os
[2]. E an sis emas e icaces, pe o ambién ágiles ue a de su con ex o. Es a limi ación impulsó una segunda ola
de in es igaciones: la búsqueda de en oques más obus os, menos sensibles al en o no y, en de ini i a, más
“in eligen es”. [9]
1.1 Obje i os
El p opósi o gene al de es e T abajo Fin de G ado es demos a la aplicación igu osa de écnicas mode nas de
Machine Lea ning (ML) pa a la de ección au omá ica de de ec os en placas de ace o, u ilizando el e o
D

2
S eel Pla e De ec  P edic ion – Kaggle TPS S4 E3 (ma zo 2024) [10] como caso de es udio. Pa a alcanza dicho
p opósi o se plan ean los siguien es obje i os especí icos::
1. Diseña un lujo ep oducible de ciencia de da os que aba que desca ga, azabilidad y e sionado de
los da os
2. Explo a y ca ac e iza el conjun o de da os sin é icos p opo cionado po Kaggle median e un análisis
desc ip i o y isual
3. Implemen a écnicas de ea u e enginee ing y selección de a iables que mejo en la capacidad
p edic i a sin sac i ica in e p e abilidad.
4. Desa olla y compa a dis in os modelos p edic i os incluyendo en oques lineales, bagging (Random
Fo es ) y g adien boos ing (Ligh GBM/XGBoos ), e aluándolos con alidación c uzada es a i icada
y mé ica AUC‑ROC media po clase
5. Realiza ine unning de los modelos median e un ajus e de los hipe pa áme os
6. Re lexiona c í icamen e sob e los esul ados ob enidos, las limi aciones del da ase sin é ico y las líneas
de mejo a u u a, dejando de inida una hoja de u a pa a abajos pos e io es. El obje i o no es, po
an o, alcanza las mejo es sco es den o del leade boa d si no ealiza una compa ación de di e en es
modelos y écnicas de ML.
3
2 FUNDAMENTACIÓN TEÓRICA Y ESTADO DEL
ARTE
2.1 Ap endizaje supe isado y clasi icación mul i-e ique a
En es e apa ado, dedicado al ap endizaje supe isado aplicado a la de ección de de ec os en la indus ia
side ú gica, se ha desc i o con de alle un ma co de clasi icación mul i-e ique a en el que, pa iendo de la p emisa
de que una misma lámina de ace o puede exhibi simul áneamen e múl iples impe ecciones: ayadu as
(sc a ches), manchas, de o maciones o suciedad, [6, 8] se pone de mani ies o la insu iciencia de los
clasi icado es mul i-class adicionales que obligan a asigna una única ca ego ía p edominan e (o la e ique a
«sin de ec os») a cada pieza inspeccionada [8]. De es e modo, al pe mi i que cada ins ancia eciba a ios ó ulos
ex aídos de un conjun o p ede inido de ca ego ías, el en oque mul i-e ique a in oduce pa a cada e ique a una
a iable bina ia que indica la p esencia o ausencia del de ec o co espondien e y posibili a, po an o, p edeci
combinaciones comple as de allas que esul an esenciales pa a la pos e io oma de decisiones co ec i as en
plan a, al y como se sub aya en la li e a u a de ap endizaje mul i-e ique a. [11, 12, 8]
His ó icamen e, cuando los sis emas de inspección au oma izada no con emplaban es a capacidad, la solución
habi ual consis ía en ag ega clases compues as o gené icas; un ejemplo pa adigmá ico es la ca ego ía
«O he _Faul s» [1, 9], u ilizada en conjun os de da os indus iales pa a ag upa láminas que no encajaban
limpiamen e en un único ipo de de ec o o que p esen aban a ias anomalías simul áneas. Si bien es a es a egia
pe mi ía e ique a de algún modo dichas piezas, su p incipal limi ación esidía en la aguedad del esul ado, pues
no in o maba sob e qué de ec os conc e os es aban p esen es. La adopción de modelos mul i-e ique a sol en a
es a ca encia al e i a ca ego ías cajón de sas e y al posibili a que, en e a una mues a ambigua, el sis ema
indique explíci amen e, po ejemplo, De ec os = {Rayadu a, Manchas}, p opo cionando así una desc ipción más
ica y accionable de la calidad del p oduc o. [12]
Po o o lado, la ele ancia p ác ica de la clasi icación mul i-e ique a se e e o zada po la posibilidad de
explo a las co elaciones en e de ec os, pues o que de e minados allos ienden a coexis i debido a causas
comunes del p oceso de laminado (una desalineación, po ejemplo, puede induci simul áneamen e ayadu as y
abolladu as) y el conocimien o de ales co-ocu encias , además de mejo a la capacidad p edic i a del modelo
al cap u a pa ones conjun os, con ibuye al diagnós ico de las causas aíz [8]. No obs an e, incluso un en oque
mul i-e ique a sencillo que a e cada de ec o de mane a independien e apo a ya la en aja undamen al de
iden i ica odos los ipos de allas p esen es en una misma mues a y, en consecuencia, de e leja con mayo
idelidad el es ado eal de cada p oduc o, ga an izando así un con ol de calidad in eg al en en o nos
manu ac u e os donde la p esencia de de ec os múl iples es la no ma y no la excepción. [12]
2.2 Algo i mos ele an es
Se desc iben, a con inuación, los algo i mos que, según la li e a u a ecien e, esul an más adecuados pa a la
clasi icación mul i-e ique a de de ec os en ace o cuando se dispone de un conjun o de da os abula es de amaño
amplio, man eniendo como p emisa que, además de en ena clasi icado es especí icamen e diseñados pa a
múl iples e ique as, es iable adap a algo i mos adicionales de clasi icación mul i-clase a in de p edeci , de
mane a simul ánea, más de un de ec o:
2.2.1 Bosques alea o ios (Random Fo es )
En p ime luga , los Bosques Alea o ios (Random Fo es ), cons i uidos po un conjun o de á boles de decisión
gene ados a pa i de subconjun os alea o ios de mues as y a ibu os, han demos ado una ele ada obus ez
en e al uido y una no able capacidad pa a maneja ca ac e ís icas he e ogéneas [3, 8, 9]; de hecho, al a a
4
p oblemas mul i-e ique a, puede op a se po en ena un bosque independien e po cada e ique a o ecu i a
a ian es de á bol que admi en múl iples salidas, siendo es a úl ima opción la que pe mi e ob ene , pa a cada
de ec o, una p edicción bina ia basada en c i e ios de di isión adap ados, po ejemplo, la en opía mul i-e ique a
[8].
La e icacia de es a écnica queda e lejada en los abajos de Nkonyana e al. [9], quienes in o man de que
Random Fo es supe ó a SVM y edes neu onales en la clasi icación de sie e ipos de de ec os, esul ado
a ibuible a la na u aleza ensemble del mé odo y a la educción del sob eajus e que p opo ciona la selección
alea o ia de ca ac e ís icas en cada á bol. [9]
2.2.2 Máquinas de G adien Boos ing
Po o o lado, las Máquinas de G adien Boos ing, ep esen adas po implemen aciones como XGBoos o
Ligh GBM [13, 12, 6], se han popula izado g acias a su ele ada p ecisión en da os abula es y a la e iciencia
compu acional que o ecen las e siones mode nas [12]; es os algo i mos cons uyen secuencialmen e á boles
de decisión donde cada nue o modelo co ige los e o es del conjun o p eceden e y, en escena ios mul i-e ique a,
suelen aplica se bajo el esquema de bina y ele ance, en enando un clasi icado independien e pa a cada
de ec o [12].
No obs an e, pese a a a cada e ique a de o ma sepa ada, su al o pode p edic i o, combinado con la posibilidad
de ajus a pesos o unciones obje i o pa a mi iga el desbalanceo de clases, los con ie e en una opción
compe i i a en en o nos indus iales de g an olumen de da os; además, la es a egia de classi ie chains pe mi e
cap a pa cialmen e las dependencias en e e ique as sin eque i modi icaciones especí icas del algo i mo de
boos ing. [12]
In es igaciones ecien es (po ejemplo, el es udio de Ag awal y Adane [14] demues an que un Random Fo es
es ánda y una e sión de es e algo i mo op imizada median e P incipal Componen Analysis (PCA) alcanzan
al ededo del 76 % de exac i ud, lo que espalda la e icacia de los ensambles de á boles en gene al y, po
ex ensión, sub aya el po encial de los mé odos de g adien boos ing, que pe enecen a la misma amilia de
en oques. [14]
Finalmen e, se des aca que la elección en e en ena un único modelo capaz de emi i múl iples salidas o una
colección de clasi icado es independien es depende á, en úl ima ins ancia, de la magni ud del conjun o de da os
disponible, del g ado de desbalanceo p esen e y del impac o compu acional que el diseñado de la solución es é
dispues o a asumi . [14]
2.2.3 Reg esión logís ica (mul i-e ique a)
Den o del conjun o de clasi icado es lineales, la eg esión logís ica esul a especialmen e a ac i a po su
sencillez ma emá ica y la in e p e abilidad di ec a de sus coe icien es; en un con ex o mul i-e ique a, la p ác ica
habi ual consis e en en ena un modelo logís ico bina io po cada ipo de de ec o, de o ma que, pa a cada
ins ancia, se ob iene una p obabilidad asociada a la p esencia de dicho de ec o, asumiendo, como hipó esis de
p ime o den, la independencia es adís ica en e e ique as. [8, 4]
Es e plan eamien o p opo ciona una línea base pe inen e g acias a su apidez de en enamien o, a la acilidad
pa a calib a las p obabilidades de i adas y a la posibilidad de ajus a los umb ales de decisión que de e minan
si una p obabilidad es imada se aduce inalmen e en la asignación de la e ique a; no obs an e, su na u aleza
es ic amen e lineal puede limi a la cap ación de elaciones más complejas en e a ibu os y de ec os,
especialmen e cuando dichas elaciones p esen an compo amien os no lineales p onunciados [4].
5
Aun así, en sis emas de inspección indus ial, la logís ica puede in eg a se como clasi icado po de ec o pa a
cada e ique a y combina se pos e io men e, median e eglas de negocio o mé icas de cos e, con modelos no
lineales que apo en pode p edic i o adicional, p ese ando de es a o ma la azabilidad de las decisiones
modeladas. [12]
2.2.4 Máquinas de Vec o es de Sopo e (SVM) mul i-e ique a
Las SVM han cons i uido un pila clásico en la clasi icación de de ec os debido a su capacidad pa a explo a
espacios de al a dimensión y de ini on e as de decisión con óp imo ma gen; sin emba go, al gene a po
de ec o modelos bina ios o mul i-clase, la ex ensión a escena ios mul i-e ique a suele ma e ializa se a a és de
la es a egia uno con a odos, en enando una SVM independien e po de ec o y ob eniendo así una p edicción
bina ia pa a cada e ique a. [8, 6] Es udios especí icos sob e el S eel Pla es Faul s da ase mues an que
con igu aciones one agains one (OAO) log an p ecisiones p óximas al 86 % lo que las si úa en el ango al o de
esul ados publicados, si bien es a e icacia iene acompañada de un cos e compu acional que c ece linealmen e
con el núme o de e ique as. [4]
Exis en o mulaciones a anzadas, como Rank-SVM o en oques de ano ación ex endida (ex ended decision label
anno a ion), que a an de inco po a dependencias in e -e ique a, aunque su adopción indus ial sigue siendo
limi ada po la complejidad de en enamien o y la di icul ad de pa ame ización. [11]
En la p ác ica, en ena a ias SVM bina ias con inúa esul ando una opción iable cuando el núme o de de ec os
no supe a la decena, siemp e que se disponga de ecu sos de cómpu o su icien es y se acep en las
simpli icaciones inhe en es a la pé dida de in o mación elacional en e e ique as. [14]
2.2.5 k-Nea es Neighbo s adap ado (ML-kNN)
El algo i mo de los k ecinos más ce canos o ece una ía al e na i a basada en ap endizaje pe ezoso, donde la
p edicción de cada mues a se apoya di ec amen e en la dis ibución de e ique as obse ada en su ecindad; la
a ian e ML-kNN p opues a po Zhang y Zhou . [11] inco po a un a amien o bayesiano que, pa a cada e ique a,
es ima la p obabilidad de pe enencia a pa i del ecuen o de ecinos que poseen dicha e ique a y de un é mino
a p io i. A di e encia del kNN con encional, que o a ía po una única clase mayo i a ia, ML-kNN calcula,
e ique a po e ique a [4, 8], una pun uación que pe mi e e ique a simul áneamen e múl iples de ec os sin
necesidad de en ena clasi icado es sepa ados. [11]
Su implemen ación es concep ualmen e sencilla y puede se i de e e encia cuando el núme o de a ibu os es
mode ado y es án co ec amen e no malizados; sin emba go, compa e con el kNN adicional la sensibilidad a
la dimensionalidad y a la escala de los a ibu os, lo que exige aplica écnicas de educción o es anda ización
p e ias pa a e i a la deg adación del endimien o. [11]
En manu ac u a abula con combinaciones ecu en es de de ec os, ML-kNN esul a ú il pa a cap u a pa ones
locales que o os mé odos globales pod ían ob ia , aunque no igu a en e los algo i mos más ci ados en la
li e a u a ecien e sob e placas de ace o, mo i o po el cual se ecomienda conside a lo como complemen o
explo a o io más que como solución inal única. [11]
2.2.6 Redes Neu onales (Pe cep ón Mul icapa)
Las edes neu onales a i iciales de ipo pe cep ón mul icapa (MLP) cons i uyen una al e na i a
pa icula men e lexible pa a abo da la clasi icación mul i-e ique a, dado que pe mi en inco po a de o ma
na u al a ias neu onas de salida con unciones de ac i ación sigmoide y, po an o, gene a pa a cada de ec o
una p obabilidad independien e comp endida en e 0 y 1.
12
3.3 Na u aleza sin é ica del da ase y conside aciones especiales
De acue do con la in o mación p o is a po el o ganizado , los egis os ue on gene ados de o ma sin é ica a
pa i de dis ibuciones inspi adas en inspecciones eales de placas de ace o, lo que ga an iza simul áneamen e
(i) la ausencia de da os con idenciales y (ii) un comp omiso adecuado en e complejidad y lige eza ≈ 19 k
obse aciones pa a p opósi os didác icos. No obs an e, es a p ocedencia implica dos cues iones cla e:
• La ans e encia po encialmen e limi ada a en o nos indus iales eales, donde las señales pueden
p esen a uido adicional y pa ones menos ma cados.
• La necesidad de una in e p e ación cau elosa de modelos y ans o maciones, dado que la “his o ia”
ísica subyacen e a cada ea u e no se encuen a documen ada de mane a explíci a, ex emo que obliga
a undamen a con de alle cualquie conclusión ex aída a pa i de los pesos o impo ancias ob enidos
3.4 Fo ma o de los da os y equisi os de la compe ición
El o ma o o iginal suminis ado es un CSV con sepa ado de coma, codi icación UTF-8 y encabezados
explíci os; pa a la ase de e aluación, la pla a o ma exige un a chi o de en ío que con enga la columna id
seguida de las sie e p obabilidades es imadas (en idén ico o den a las e ique as enume adas), po ejemplo:
• id,Pas y,Z_Sc a ch,K_Sca ch,S ains,Di iness,Bumps,O he _Faul s
19219,0.12,0.03,0.07,0.01,0.04,0.08,0.02
• Mé ica o icial: media (mac o) del AUC-ROC indi idual de cada una de las sie e clases.
La mé ica o icial u ilizada pa a el anking es la media mac o del AUC-ROC calculada de o ma indi idual pa a
cada clase [10]. En el apa ado 7.1 se explica á con mayo de alle en que consis e. Con es e ma co se delimi an
las condiciones necesa ias pa a el análisis explo a o io y la cons ucción del pipeline de machine lea ning que
se de alla án en los capí ulos pos e io es.
Figu a 3-7. Impe ección a iada (c azing) incluida en la
ca ego ía O he _Faul s [2]

13
4 ANÁLISIS EXPLORATORIO DE DATOS (EDA)
Código en no ebook 01_eda.ipynb [22]. Es e apa ado se basa en el abajo de [14, 15, 17]
4.1 Es adís icas desc ip i as
En la ase de análisis explo a o io de da os (EDA) se ha elabo ado, a pa i de la o alidad de a iables numé icas
del conjun o de en enamien o, un compendio de los p incipales es adís icos desc ip i os: con eo de
obse aciones (N), media, mediana, alo es mínimo y máximo, des iación ípica, pe cen iles 25 % y 75 %, así
como el ango in e cua ílico (IQR), con el p opósi o de de ec a de o ma emp ana posibles alo es ex emos,
sesgos p onunciados en la dis ibución o disc epancias de escala que pudie an eque i un p oceso pos e io de
no malización. La in o mación esul an e se ha sin e izado en una abla que, median e un código c omá ico
(Rojos pa a des iación es ánda supe io a media, ama illos pa a mínimos y máximos ele ados según egla de
iq y azul oscu o pa a iq ex emos compa ados con el es o de a iables) esal a aquellas columnas cuya
dispe sión ela i a (po ejemplo, des iaciones es ánda signi ica i amen e ele adas en e a la media) o cuyos
alo es mínimo y máximo pudie an suge i e o es de cap u a o la exis encia de ou lie s.
Figu a 4-1. Es adís icas desc ip i as
Po o o lado, se ha de e minado la dis ibución de las sie e e ique as bina ias de de ec o, Pas y, Z_Sc a ch,
K_Sca ch, S ains, Di iness, Bumps y O he _Faul s, cuan i icando an o el núme o absolu o de piezas a ec adas
como su po cen aje ela i o espec o al o al de mues as; es e balance de clases e ela un desbalance no able,
ya que cie os de ec os (Di iness o S ains) p esen an una incidencia muy educida en e a o os (Bumps u
O he _Faul s) ela i amen e más ecuen es. Po o o lado, se ha podido ap ecia que el numé o de ilas con más
14
de un de ec o es p ác icamen e desp eciable (menos de 30), es p obable que es o se deba a que piezas i egula es
con de ec os múl iples se colocasen di ec amen e en la e ique a O he _ aul s en el da ase o iginal ab iendo la
posibilidad de ans o ma el p oblema de mul i-e ique a a mul i-clase si se eliminasen es as ilas. Es a es a egia
si bien es in e esan e y ha dado buenos esul ados en el anking, en la p ác ica son modelos menos gene ales y
dependien es del con ex o de la compe ición.
Tabla 4–1 Desbalance de clases
Tipo de de ec o
posi i os
Po cen aje (%)
Pas y
1,466
7.63
Z_Sc a ch
1,150
5.98
K_Sca ch
3,432
17.86
S ains
568
2.96
Di iness
485
2.52
Bumps
4,763
24.78
O he _Faul s
6,558
34.12
Finalmen e, se ha analizado la epe cusión di ec a de dicho desbalance en la es a egia de e aluación y
en enamien o, des acándose la con eniencia de implemen a écnicas de mi igación especí icas, ponde ación
de clases u o e sampling con el in de e i a que los modelos subsecuen es se inclinen hacia las clases
mayo i a ias y se p ese e la ep esen a i idad de los de ec os mino i a ios. En conjun o, es e diagnós ico
p elimina p opo ciona una isión cla a de la es uc u a global de los da os y sien a las bases pa a an icipa y
co egi po enciales incon enien es an es de la ase de modelado.
4.2 Visualizaciones de dis ibución y co elación
Pos e io men e se ha elabo ado isualizaciones, sob e la base del esumen es adís ico p e iamen e desc i o, un
conjun o de ep esen aciones g á icas encaminadas a examina , en p ime luga , la mo ología uni a ian e de
las dis ibuciones, median e his og amas con cu as de densidad y, en segundo é mino, la elación en e dichas
a iables y la p esencia de cada de ec o median e diag amas de caja; inalmen e, se ha gene ado un mapa de
calo de co elaciones de Pea son. El p incipal obje i o es allana el e eno pa a ealiza con más in o mación
la ingenie ía de ea u es en el p ep ocesamien o.
15
4.2.1 Dis ibuciones uni a ian es
En es a p ime a ase de la isualización se han gene ado, pa a cada a iable numé ica del conjun o de
en enamien o, his og amas acompañados de cu as de densidad (KDE) que pe mi en disce ni la o ma de la
dis ibución: sime ía, sesgos a la de echa o a la izquie da, mul imodalidades o colas la ga (skew) y, al mismo
iempo, de ec a acumulaciones de alo es en los ex emos que pod ían e ela la p esencia de ou lie s o lími es
écnicos (p. ej., sa u ación de senso es), de modo que la in o mación ob enida o ien a la e en ual aplicación de
ans o maciones loga í micas o escalados con el in de mejo a la no malidad de los da os y homogeneiza sus
angos). A modo de ejemplo se mues an 3 g á icas desc ip i as de la si uación gene al aunque en la ca pe a
epo s/ isualiza ions [22] se pueden isualiza pa a odas las a iables.
Figu a 4-2. Dis ibución KDE de Y máximo.
La dis ibución de Y_Maximum mues a una al a concen ación de egis os en alo es bajos y una cola
p olongada hacia la de echa. La con inuidad de los alo es al os sugie e que no son e o es de cap u a, sino
de ec os de ec ados lejos del o igen de coo denadas; Dado que X y Y ep esen an las coo denadas del bounding-
box que encie a cada de ec o (no las dimensiones comple as de la placa), desca a es os alo es ex emos
implica ía pe de in o mación aliosa sob e anomalías que ocu en en la zona inal de la placa o sob e de ec os
excepcionalmen e la gos
Figu a 4-3. Dis ibución KDE del g oso de placa
16
Se puede ap ecia una dis ibución mul imodal con un al o g ado de asime ía y disc e a, p obablemen e es o
úl imo se deba a la u ilización de espeso es es ánda en la p oducción de placas.
En es a ilus ación se puede ap ecia una dis ibución mul imodal con dos picos cla os, es o se puede debe a
una con i encia de dos subpoblaciones o p ocesos di e en es, po ejemplo: dis in os ipos de ma e iales o
di e encias en las condiciones de medición en las placas de ace o. P esen a además una pequeña asime ía con
una pequeña cola hacia la de echa.
4.2.2 Boxplo s po clase de de ec o
A in de explo a la elación en e cada a iable y la p esencia de los dis in os de ec os, se han cons uido
diag amas de caja (boxplo s) bajo la modalidad uno- e sus- es o, compa ando la dis ibución de cada
ca ac e ís ica en e piezas que p esen an o no un de e minado de ec o; En es os g á icos se pueden ap ecia , en
algunas a iables, desplazamien os signi ica i os en la mediana (línea in e io en la caja) y en el ango
Figu a 4-4. Dis ibución KDE del mínimo de luminosidad.
17
in e cua ílico (línea supe io e in e io de cada caja) con espec o al g upo sin de ec o, lo que sugie e un
po encial alo p edic i o de es as a iables y o ien a an o la selección de a iables como el diseño de u u os
modelos. Los cí culos blancos ep esen an alo es que se encuen an ue a del ango in e cuá ilico
En es e ejemplo los ec ángulos na anjas mues an los alo es de odas las a iables cuando K-Sc a ch es á
p esen e y los azules cuando no, en es e caso llama la a ención dos cosas: po un lado, se puede ap ecia un
ele ado núme o de ou lie s en di e sas a iables lo que sugie e que es necesa io ealiza ans o maciones si se
quie en implemen a modelos lineales (es o algo que ya se había podido ap ecia en los diag amas KDE). Po
o o lado, hay cie as a iables cómo TypeO S eel_A300 / A400 que mues an una sepa ación casi pe ec a
cuando se p esen a el de ec o, po lo que con o al segu idad se án ele an es pa a iden i ica el de ec o.
Figu a 4-5. Boxplo po de ec o (K-Sc a ch).

18
4.2.3 Ma iz de co elación
Finalmen e, se ha elabo ado un mapa de calo de co elaciones de Pea son que e idencia la exis encia de a ios
pa es de a iables con coe icien es supe io es a 0,8 en alo absolu o, indica i o de edundancia in o ma i a, y
po an o jus i ica i o de écnicas de educción de dimensionalidad (PCA) o de egula ización, así como de o as
a iables con co elaciones muy bajas que pod ían apo a in o mación singula o uido; es e análisis
complemen a los es adís icos numé icos y las isualizaciones uni a ian es an e io es, es ableciendo una base
sólida pa a las e apas subsiguien es de ingenie ía de ca ac e ís icas y cons ucción de modelos.
Se puede ap ecia una co elación casi pe ec a en e las a iables, X/Y_min con X/Y_max; Pixels_A eas,
X_Pe ime e y Y_Pe ime e ambién es án bas an e co elacionadas (Á eas y pe íme os c ecen de o ma
conjun a). Po o o lado, Typeo s eel_A300 y A400 son complemen a ias (Azul oscu o) es necesa io elimina
una (Pa a modelos que no sopo an mul icolinealidad pe ec a cómo eg esión logís ica es imp escindible)
4.3 Iden i icación de alo es al an es
No se ha iden i icado ningún alo al an e, si bien se ha decidido ealiza una isualización pa a usos u u os y
documen a la ausencia de impac o inmedia o en la calidad de los da os. El diagnós ico de alo es ausen es se
ha abo dado median e la con ección de una abla que, pa a cada a iable, de alla el núme o absolu o y el
po cen aje de egis os nulos espec o al o al, a in de p io iza aquellas columnas cuya ca encia de in o mación
supe e un umb al c í ico y, llegado el caso, jus i ica su desca e o la aplicación de écnicas de impu ación que
pe mi an es ima los alo es al an es.
Figu a 4-6. Co elación de las a iables
19
Figu a 4-7. Valo es al an es po ea u es.
20
4.4 De ección de ou lie s
La de ección de alo es a ípicos se ha e ec uado aplicando la egla clásica basada en el ango in e cua ílico
(IQR = Q3- Q1), es o es, conside ando ou lie s aquellos egis os que se si úan po debajo de Q1 – 1,5 × IQR o
po encima de Q3 + 1,5 × IQR, lo que ha dado luga a una abla donde se consigna, po a iable, el núme o de
obse aciones ex emas y, con ello, se iden i ica cualquie columna con una concen ación desp opo cionada de
alo es anómalos, posible indicio de e o es de medición, e ique ado inco ec o o condiciones de ope ación
inusuales pe o legí imas.
Tabla 4–2 Núme o de ou lie s
Tipo de de ec o
posi i os
X_Minimum
0
X_Maximum
0
Y_Minimum
1,118
Y_Maximum
1,112
Pixels_A eas
3,722
X_Pe ime e
3,717
Y_Pe ime e
2,785
Sum_o _Luminosi y
3,826
Minimum_o _Luminosi y
211
Maximum_o _Luminosi y
1,292
Leng h_o _Con eye
0
TypeO S eel_A300
0
TypeO S eel_A400
0
S eel_Pla e_Thickness
2,173
Edges_Index
0
Emp y_Index
61
21
Squa e_Index
0
Ou side_X_Index
3,641
Edges_X_Index
0
Edges_Y_Index
25
Ou side_Global_Index
0
LogO A eas
421
Log_X_Index
3,325
Log_Y_Index
8
O ien a ion_Index
0
Luminosi y_Index
999
SigmoidO A eas
0
La egla del IQR es necesa ia pa a iden i ica ou lie s, ya que, al basa se en los cua iles de la p opia dis ibución,
se ajus a de mane a más obus a a la dispe sión eal de los da os. Realiza , po ejemplo, un co e al 99 % (es
deci elimina aquellas a iables que supe en el umb al del 99 %) es a bi a io y puede se demasiado es ic o o
demasiado laxo según la asime ía de cada a iable: una a iable con cola lige a al ez no enga alo es po
encima del pe cen il 99 que sean e dade amen e anómalos, mien as que o a muy sesgada pod ía con ene
ou lie s que caigan po debajo del umb al si solo mi ásemos el p99.
4.5 Conclusiones cla e del EDA
4.5.1 Ausencia de alo es al an es y limpieza p e ia
El da ase aw (19 219 ilas × 35 columnas) no p esen a nulos, po lo que no es necesa ia ninguna e apa de
impu ación. Las a iables obje i o bina ias se queda on in ac as; el es o de ea u es con inuas equie en
a amien o de escala y ou lie s.
4.5.2 He e ogeneidad de escalas y asime ías ma cadas
Algunas a iables (p. ej. pe íme os, á eas, luminosidad) exhiben colas de echas muy la gas y angos que
aba can a ios ó denes de magni ud. Pa a modelos lineales/ edes, se aplica án log1p, seguidas de escalado
obus o. Pa a Ligh GBM o andom Fo es bas a un capado lige o (winso ización P1–P99). En el
p ep ocesamien o se e á con más de alle.
4.5.3 P esencia de ou lie s legí imos
En e el 10 % y el 20 % de los alo es de á ea, pe íme o y luminosidad se encuen an ue a del ango
in e cua ílico ípico. Sin emba go, es os alo es ex emos no son e o es de senso es ni anomalías, sino que
pod ían co esponde p ecisamen e a de ec os inusualmen e g andes o b illan es, es deci , los casos que el
modelo debe ap ende a de ec a . Po an o, no se elimina án. En su luga , se aplica án ans o maciones sua es
28
5.4 Pipelines y ep oducibilidad
Todo el p oceso de p ep ocesamien o ha sido encapsulado en un único pipeline [16]. Es o iene a ias en ajas:
• Rep oducibilidad: ga an iza que los mismos pasos se apliquen en en enamien o, alidación y es ,
e i ando ugas de in o mación.
• Modula idad: cada ans o mación es una e apa independien e, lo que pe mi e ajus es inos y es s po
sepa ado.
• Facilidad de in eg ación: el pipeline se conec a ácilmen e con el modelo inal, pe mi iendo el uso
conjun o en p ocesos de alidación c uzada o expo ación.
5.5 Manejo del desbalance de clase
5.5.1 Es a i icación mul ilabel
An es de en ena se gene an los pliegues de alidación conse ando simul áneamen e la dis ibución de odas
las e ique as. De es e modo, incluso las clases más a as es án ep esen adas en cada pa ición y se e i a que
algún pliegue se quede sin ejemplos posi i os, lo que ga an iza mé icas compa ables en e pliegues. Pesos de
clase en el en enamien o.
Pa a cada e ique a se calcula un peso p opo cional [16] a su a eza (cuan o menos ecuen e, mayo peso) y se
inco po a a la unción de pé dida del modelo. Es o penaliza con más in ensidad los e o es en la clase mino i a ia
sin al e a las ecuencias eales, ayudando a que el algo i mo ap enda pa ones ú iles pa a de ec a esos casos
escasos.
5.5.2 O e sampling
Se ha implemen ado un o e sampling opcional median e RandomO e sample() del módulo imbalanced-lea n,
solo sob e la pa e de en enamien o de cada pliegue, se duplican alea o iamen e las obse aciones de las
e ique as más escasas (en es e p oyec o, Pas y y Di ines ya que las clases mino i a ias alcanzan un buen ROC-
AUC, modelos como lgbm y log eg apenas mejo an un 0,001 y Random o es empeo a lige amen e) has a
alcanza un núme o ijo de posi i os. Así se equilib a la p opo ción de clases que e el modelo du an e el ajus e,
sin con amina la alidación.

29
6 MODELADO
En es e capí ulo se desc ibe el código de (03_model_ aining.ipynb). Se ha implemen ado usando la in o mación
p oceden e y unciones p oceden es de [13,16,17]
6.1 Flujo p incipal del aine
Figu a 6-1. Diag ama de lujo del aine
En los siguien es apa ados se de alla cada una de las di e en es e apas p incipales del lujo con mayo de alle.
30
6.2 Pa icionado y p epa ación de da os (en enamien o, alidación, es )
6.2.1 Hold-ou inicial pa a es inal
Al inicio del p oceso se apa a un subconjun o de obse aciones que, po diseño, pe manece á ese ado en
exclusi a pa a la e aluación de ini i a del modelo una ez concluidas an o la ase de ajus e de hipe pa áme os
como la alidación in e media, de modo que dicho conjun o (denominado en lo sucesi o es inal) no in e iene
en ninguna i e ación de búsqueda ni en ope ación de alidación c uzada, ga an izando con ello que la mé ica
calculada sob e él e leje la capacidad eal de gene alización del algo i mo en e a da os absolu amen e inédi os.
La seg egación emp ana de es e es inal elude cualquie il ación de in o mación: cada decisión ela i a a la
a qui ec u a, a la sin onía de hipe pa áme os o a las ans o maciones aplicadas se adop a sin exposición p e ia
a esos ejemplos, y de es a mane a la e aluación pos -en enamien o ca ece de sesgo de i ado del con ac o p e io
con el conjun o ese ado, p opo cionando así una es imación impa cial y ope acionalmen e ele an e sob e la
idoneidad del modelo pa a su e en ual despliegue o compa ación con p opues as al e na i as.
6.2.2 K- old es a i icado mul ilabel
Una ez excluido el es de ini i o, el es o de los da os se des ina a la ase combinada de en enamien o y
alidación in e media, pa a la cual se implemen a una alidación c uzada en k pliegues que, i e a i amen e,
asigna uno de los pliegues al ol de alidación mien as los es an es se emplean como en enamien o; además,
dado que la a ea es de na u aleza mul ilabel, es deci , cada egis o puede po a simul áneamen e a ias
e ique as, la pa ición se diseña de mane a que cada pliegue p ese e, en la medida de lo es adís icamen e posible,
la dis ibución o iginal de odas las e ique as, incluidas las menos ecuen es, ep oduciendo así la complejidad
inhe en e al conjun o global. Se ha u ilizado i e a i e-s a i ica ion 0.1.9 pa a la gene ación de los spli s.
La es a egia de alidación c uzada es a i icada mul ilabel pe mi e explo a al máximo la in o mación
disponible, ob eniendo múl iples es imaciones de la mé ica de in e és y mi igando la dependencia de una sola
pa ición; al asegu a que cada i e ación con iene ep esen an es de odas las e ique as, se e i a la ausencia o la
sob e- ep esen ación de clases mino i a ias, lo que se aduce en e aluaciones consis en es y mu uamen e
compa ables en e pliegues y, en consecuencia, en una es imación más obus a de la capacidad de gene alización
del modelo du an e el ajus e.
6.2.3 Fija semillas y gua da spli s
Se emplea una semilla alea o ia ija en odas las ope aciones que implican es ocas icidad, desde la pa ición
inicial has a cualquie p ocedimien o de mues eo o de ans o mación con componen e alea o ia, de modo que,
an e ejecuciones epe idas bajo las mismas condiciones y con la misma semilla, las di isiones en en enamien o,
alidación y el es inal se epliquen exac amen e, lo que esul a esencial pa a la as eabilidad y la
ep oducibilidad ín eg a de los expe imen os.
La ep oducibilidad posibili a la compa ación idedigna de esul ados en e ejecuciones, el in e cambio
anspa en e de expe imen os con e ce os y la e i icación empí ica de mejo as in oducidas en el pipeline; al
ija la semilla se ga an iza que cualquie di e gencia obse ada p o enga exclusi amen e de modi icaciones en
el modelo, en el p ep ocesado o en la lógica de en enamien o, y no de luc uaciones inhe en es a pa iciones
dis in as, de modo que, aun sin almacena explíci amen e los índices en a chi os sepa ados, la con igu ación de
la semilla única pe mi e egene a de o ma de e minis a los mismos spli s en u u as ejecuciones.
6.3 P epa ación de ans o mado es y modelos
En es a ase se es ablecen las bases que pe mi en con e i los da os c udos en una ep esen ación ope a i a
óp ima pa a el ap endizaje au omá ico y, de o ma pa alela, se con igu an los es imado es que abo da án de
mane a independien e cada una de las sie e e ique as de de ec o incluidas en el p oblema. El obje i o úl imo es
ga an iza que, a lo la go de odo el lujo de en enamien o y alidación, se p ese e la ep oducibilidad de los
31
pasos, se con ole el desbalanceo inhe en e a las clases mino i a ias y se man enga una a qui ec u a modula que
acili e u u as ex ensiones.
6.3.1 Cálculo de pesos
Pa a cada e ique a bina ia de ec o en e a no de ec o, se ha calculado un peso equilib ado posi i o/nega i o
de i ado de la dis ibución empí ica obse ada en el conjun o de en enamien o. Conc e amen e, pa a la e ique a
k se ob iene la elación mos ada en la ecuación co espondien e, empleándose un umb al mínimo ε que p e iene
la asignación de pesos nulos, equisi o indispensable pa a cie os algo i mos g adien es (po ejemplo,
Ligh GBM). De es e modo:
• Compensación del desbalance: los de ec os poco ecuen es eciben un ac o de penalización supe io ,
e i ando la i ialización de la p edicción.
• Robus ez en e a alsos nega i os: al ponde a con mayo se e idad los e o es en clases mino i a ias,
se e ue za la de ección de de ec os c í icos.
• Flexibilidad especí ica po e ique a: cada clase dispone de su p opio coe icien e, ajus ado a la
p e alencia egis ada.
6.3.2 Pipeline de p ep ocesamien o
Se cons uye un único obje o de ipo Pipeline que encadena, de modo ep oducible y sin il ado de da os de
alidación, odas las ans o maciones necesa ias sob e las ca ac e ís icas. El con enido y las as o maciones se
encuen an de allados en el apa ado an e io . La impo ancia de in eg a la pipeline de p ep ocesamien o adica
en:
• P e ención de uga de da os (da a leakage): las es adís icas de ans o mación se ajus an sólo con el
conjun o de en enamien o de cada pliegue.
• Rep oducibilidad: Le o o ga al modelo la capacidad de ejecu a el pipeline comple o (limpieza,
ingenie ía de ca ac e ís icas y escalado) de o ma idén ica en cualquie ase o en o no, asegu ando
consis encia de esul ados
• Modula idad y limpieza: cualquie cambio en el p ep ocesamien o se concen a en un único módulo.
6.3.3 Es imado es one s es
Conside ando que una misma obse ación puede p esen a simul áneamen e más de un de ec o (con igu ación
mul i-e ique a) [16], se adop a la es a egia “one- s- es ”. Así, se c ea un clasi icado independien e po
e ique a, al que se le suminis an los pesos calculados en el epíg a e 7.3.1 como hipe pa áme o ligado a la
unción de pé dida in e na. Es e plan eamien o esul a especialmen e pe inen e po que:
• Aísla la especialización po de ec o, pe mi iendo que cada modelo e ine sus on e as de decisión sob e
un único ipo de anomalía;
• Ga an iza homogeneidad en la en ada, oda ez que los sie e modelos compa en el pipeline desc i o
en 7.3.2;
• Facili a la ex ensibilidad, ese ando la posibilidad de inco po a , en el u u o, écnicas de mues eo o
a qui ec u as al e na i as sin comp ome e la in eg idad del esquema gene al.
En conjun o, es a p epa ación pe mi e a a de o ma elegan e el desbalance, ga an iza la calidad de los da os
y abo da la complejidad mul i-label con una a qui ec u a cla a y modula .
32
6.3.4 In eg ación en el pipeline de en enamien o
La gene ación de pa iciones, an o la sepa ación hold-ou inicial como los pliegues des inados a la alidación
c uzada, ha quedado plenamen e in eg ada en el lujo au oma izado de en enamien o. Al inicia se el p oceso,
se ca gan los da os, se ese a el subconjun o de p ueba de ini i o y se cons uyen los índices co espondien es
a cada pliegue. En la i e ación p opia del en enamien o, se emplean exclusi amen e los egis os de ap endizaje
y alidación de la pa ición en cu so, de modo que el conjun o de p ueba pe manece inaccesible has a la
e aluación inal, ga an izando así la obje i idad de las mé icas epo adas.
6.4 Algo i mos implemen ados:
6.4.1 Random Fo es
Se ha u ilizado el algo i mo Random Fo es [3,16,17], écnica de ensamblado que, al combina un ele ado
núme o de á boles de decisión independien es en enados median e Boo s ap: cada á bol se en ena con una
e sión di e en es de los da os pe mi iendo el emplazo (algunas ilas se duplican y o as se eliminan de mane a
que cado uno es di e en e a los an e io es), es o pe mi e ob ene un modelo obus o y con meno a ianza que
un á bol único. Especí icamen e, cada á bol se ha cons uido con una mues a alea o ia del conjun o de
en enamien o y, adicionalmen e, con una selección alea o ia de ca ac e ís icas en cada nodo, lo que in oduce
la di e sidad necesa ia pa a que el o o mayo i a io (en clasi icación) o el p omedio (en eg esión) p opo cione
una p edicción inal más es able.
6.4.2 G adien Boos ing Machines (Ligh GBM)
Po o o lado, se ha implemen ado el mé odo de G adien Boos ing [13,17], conc e amen e median e la lib e ía
Ligh GBM. [19] A di e encia del en oque an e io , los á boles se cons uyen de o ma secuencial, de mane a
que cada nue o á bol co ige los esiduos (exp esados como g adien es nega i os de la unción de pé dida)
gene ados po el conjun o de á boles p e io. El p ocedimien o i e a i o se o maliza, pa a cada e apa 𝑚, a a és
de la op imización:
donde L es la unción de pé dida y 𝛻
𝑦𝑖 su g adien e con espec o a la p edicción an e io .
6.4.3 Reg esión logís ica
La eg esión logís ica es un mé odo u ilizado pa a modela la p obabilidad de que una a iable de espues a
bina ia (po ejemplo, de ec = Yes/No) pe enezca a una ca ego ía de e minada, en unción de una o más
a iables p edic o as. [16,17]
A di e encia de una eg esión lineal, que pod ía p oduci p obabilidades nega i as o mayo es que uno (lo cual
no iene sen ido en un con ex o p obabilís ico), la eg esión logís ica emplea la unción logís ica, que asegu a
que las p edicciones es én siemp e en e 0 y 1:
33
Es a unción iene una o ma ca ac e ís ica de "S", ajus ándose de mane a más na u al al ango de p obabilidades
eal y gene ando p edicciones cohe en es sin impo a el alo de la a iable explica i a.
Ma emá icamen e, la eg esión logís ica modela la elación median e el loga i mo de las odds (log-odds o logi ):
Exis en di e sas écnicas de penalización pa a e i a el sob eajus e del modelo. T as una op imización de
hipe pa áme os se ha omado l1 (lasso). Qué consis e en la suma de alo es absolu os de los coe icien es con el
obje i o de desincen i a modelos con alo es complejos.
6.4.4 Redes neu onales (Pe cep ón Mul icapa)
Finalmen e, se ha implemen ado una ed neu onal Pe cep ón Mul icapa (MLP), concebida como una
a qui ec u a eed- o wa d luye en una única con al menos una capa ocul a. Cada neu ona lle a a cabo una
ans o mación lineal de sus en adas, seguida de una unción de ac i ación no lineal (ReLU o anh), al como
se desc ibe en la exp esión [16,17]:
donde W y b son los pesos y sesgos de la capa l y φ la unción de ac i ación seleccionada. El ajus e de los
pa áme os se ha e ec uado median e e op opagación y descenso de g adien e, empleando a ian es como
Adam, y se han inco po ado écnicas de egula ización con el in de e i a el sob eajus e y ga an iza la
con e gencia del modelo.
En conjun o, la in eg ación de es os algo i mos ha pe mi ido dispone de un abanico de en oques
complemen a ios, cuyos esul ados se han compa ado pos e io men e en é minos de capacidad p edic i a y
obus ez, siguiendo la misma lógica analí ica aplicada en el es o del es udio.
6.5 Implemen ación de la clasi icación mul i-e ique a
En es a sección se compa an las dos ap oximaciones conside adas pa a abo da la na u aleza mul i-e ique a del
p oblema, a sabe , la en ol u a Mul iOu pu Classi ie p opo cionada po sciki -lea n y el en enamien o de
clasi icado es independien es, alo ándose sus implicaciones p ác icas en é minos de implemen ación,
lexibilidad y ca ga compu acional. [16]
6.5.1 Opción A: Mul iOu pu Classi ie
La clase Mul iOu pu Classi ie [16] pe mi e, en eo ía, encapsula un único es imado base y aplica de mane a
au omá ica el ajus e ( i ) y la p edicción (p edic ) sob e cada e ique a bina izada.

34
Es a decisión obedece a que, aun cuando la API esul an e es ex ao dina iamen e concisa (bas a con una sola
llamada a i /p edic ), el esquema exige que odas las salidas compa an exac amen e el mismo conjun o de
hipe pa áme os, lo que es inge la posibilidad de ajus a , po ejemplo, alo es di e enciados de pos_weigh po
e ique a o de ejecu a p ocesos de hype -pa ame e op imisa ion (HPO) indi idualizados.
6.5.2 Opción B: Clasi icado es independien es
La es a egia al e na i a consis e en gene a , pa a cada una de las sie e e ique as, un es imado au ónomo
(Ligh GBM, Random Fo es , Logis ic Reg ession o Mul i-Laye Pe cep on) a a és de la unción
build_es ima o () [16], que de uel e la ci ada lis a de clasi icado es; pos e io men e, En T aine .py se i e a
secuencialmen e sob e ella. Es e plan eamien o, aunque conlle a un código lige amen e más ex enso y obliga a
ag ega manualmen e las salidas pa a la cons ucción del submission.cs , o ece en ajas sus anciales:
• posibilidad de ca ga y almacena iche os de pa áme os óp imos especí icos
(bes _pa ams_<label>.json) po de ec o.
• ajus e di e enciado de scale_pos_weigh o class_weigh en unción de la p e alencia de cada de ec o, y
• pa alelización del en enamien o sin dependencias c uzadas.
6.5.3 Jus i icación de la elección es ánda
Finalmen e, se ha adop ado la opción B como en oque de e e encia, a endiendo a los siguien es a gumen os:
• Ligh GBM ca ece de sopo e na i o pa a p oblemas mul i-e ique a, de modo que la capaci ación de
sie e modelos independien es cons i uye la única ía ac ible pa a explo a sus p es aciones.
• El esquema p opues o o o ga libe ad pa a desbalancea cada salida de o ma óp ima y e ec ua ajus es
inos po clase, ci cuns ancia imp escindible en un con ex o donde la dis ibución de de ec os p esen a
ue es asime ías.
• En sín esis, aun sac i icando cie a concisión en la implemen ación, la adopción de clasi icado es
independien es maximiza la lexibilidad hipe pa amé ica, acili a la ges ión del desbalanceo y conse a
la posibilidad de pa aleliza el lujo de en enamien o, cualidades que esul an decisi as pa a sa is ace
los equisi os de p ecisión y ep oducibilidad es ablecidos en es e abajo.
35
7 OPTIMIZACIÓN
En es e capí ulo se desc ibe el código de (04_hype pa ame e _op imiza ion.ipynb) basado en [16,17,18]
7.1 Mé ica de op imización
Con iene p ecisa en qué consis e exac amen e la ROC-AUC (Recei e Ope a ing Cha ac e is ic - A ea Unde
he Cu e). [17] Pa a cada e ique a bina ia se cons uye la cu a ROC azando la asa de e dade os posi i os
(TPR = TP / [TP + FN]) en e a la asa de alsos posi i os (FPR = FP / [FP + TN]) mien as se ba e odo el
ango de umb ales posibles sob e la p obabilidad es imada po el modelo. El á ea bajo esa cu a se calcula como
la in eg al de inida de la unción TPR(FPR) en e 0 y 1. Numé icamen e suele ap oxima se median e la egla
del apecio y ep esen a la p obabilidad de que el clasi icado asigne una pun uación mayo a una mues a
posi i a que a o a nega i a omada al aza . El alo esul an e es á aco ado en e 0.5 ( endimien o alea o io) y
1.0 (clasi icación pe ec a) y, a di e encia de la exac i ud, pe manece in a ian e an e desequilib ios de clase,
mo i o po el cual se adop a como mé ica o icial de la compe ición y como c i e io in e no de op imización.
Cualquie cu a que se encuen e ce ca de la ec a ama illa discon inua no ex ae señal. ROC-AUC es el á ea
o al po debajo la línea azul. No a: Aunque pe manezca in a ian e an e desequilib ios de clase el modelo en el
en enamien o sigue necesi ando es a egias pa a maneja el desbalance. De no se así se ende ía a no p edeci
nunca de ec os mino i a ios (La mé ica del concu so es la media de ROC-AUC).
7.2 Selección de pa áme os iniciales
Los hipe pa áme os son las di e en es con igu aciones posibles con las que se puede en ena un modelo. Po
ejemplo: Núme o de á boles en un andom o es , p o undidad máxima del á bol, núme o de neu onas en una
capa ocul a mlp, e c. El endimien o de un modelo puede a ia en g an medida dependiendo de la selección de
es os. Es po es e mo i o que ealiza un ajus e es de i al impo ancia pa a ga an iza buenos esul ados.
Figu a 7-1. A ea Unde he ROC Cu e de ed neu onal Pe cep ón Mul icapa
36
El obje i o, po an o, es explo a dis in as combinaciones midiendo su endimien o con un conjun o de
alidación. La idea p incipal es di idi los da os en k pliegues de mane a que a la ho a de p oba alo es se ayan
o ando y cada Spli pa icipe una ez en la alidación y en el es o de las i e aciones, en el en enamien o. Es
imp escindible no oma los da os ese ados pa a el es inal pa a no p o oca es imaciones engañosas y ugas
de in o mación. ( alidación c uzada)
Finalmen e se ob end ía la con igu ación que o ezca el equilib io óp imo en e p ecisión y capacidad de
gene alización.
An es de la op imización ina (siguien e apa ado) se de inió un pun o de pa ida ep oducible pa a cada amilia
de modelos, inspi ándonos en ecomendaciones clásicas de la li e a u a y en buenas p ác icas de sus
implemen aciones de e e encia (sciki -lea n 1.4 y Ligh GBM 4.3). [3,13,16,19]
Es os pa áme os base se codi ican en s c/models/builde s.py como base_pa ams; si el expe imen o an e io dejó
en disco un bes _pa ams_<model>.json, la unción _load_bes _pa ams los sob eesc ibe dinámicamen e,
man eniendo la cohe encia del ci cui o de expe imen ación.
Tabla 7–1. Hipe pa áme os iniciales
Modelo
Pa áme o
Valo inicial
Jus i icación
Ligh GBM
(LGBMClassi ie )
n_es ima o s
500
Comp omiso en e sesgo y
a ianza con cos e de cómpu o
acep able.
lea ning_ a e
0.05
Recomendado po Ke e al. [13]
como alo “segu o” en
p oblemas abula es medianos.
num_lea es
64
Ap oximadamen e 2 ×
√(n_ ea u es) pa a e i a sob e-
ajus e p ema u o.
max_dep h
-1
Sin es icción; se egula iza ía
subsampling.
subsample,
colsample_by ee
0.8 / 0.8
Bagging/g a ing lige o que
educe a ianza sin dispa a el
e o de sesgo.
Random Fo es
(RandomFo es Classi ie )
n_es ima o s
400
B eiman [3] sugie e > 200 á boles
pa a es abiliza OOB-e o ; 400
asegu a con e gencia con
ha dwa e ac ual.
max_dep h
None
Cada á bol c ece has a pu eza; el
ensemble limi a el o e i ing.
Reg esión Logís ica
(Logis icReg ession)
penal y
ℓ2
Regula ización es ánda cuando n
≫ p.
sol e
lb gs
Con e gencia obus a en
p oblemas mul iclase y líneas
37
Modelo
Pa áme o
Valo inicial
Jus i icación
base g andes.
max_i e
2000
Asegu a con e gencia as
es anda iza y one-ho sin
penaliza excesi amen e el
iempo.
MLP (Red Neu onal
Mul icapa)
hidden_laye _sizes
(128, 64)
A qui ec u a “2-laye ReLU”
habi ual en ablas sin é icas de
amaño medio.
ac i a ion
elu
Buen comp omiso en e
exp esi idad y iempo de
in e encia.
sol e
adam con
lea ning_ a e_ini = 0.001
Ajus e canónico que con e ge
ápido en da ase s medianos.
ba ch_size
256, max_i e = 200,
alpha = 1e-4
Valo es guía de sciki -lea n pa a
e i a o e - i ing emp ano.
ea ly_s opping
Sí ( alida ion_ ac ion =
0.1, n_i e _no_change =
10)
De iene el en enamien o cuando
no hay mejo a signi ica i a.
7.3 Tuning de hipe pa áme os con Op una
En e las di e en es al e na i as, la op imización bayesiana [17,18] es un mé odo in eligen e pa a encon a los
mejo es hipe pa áme os de un modelo de machine lea ning sin ene que p oba odas las combinaciones
posibles. En luga de explo a de mane a alea o ia o exhaus i a, es e en oque se basa en i “ap endiendo” a pa i
de los esul ados de los expe imen os an e io es. Cada ez que se e alúa una combinación de hipe pa áme os,
el algo i mo ac ualiza su conocimien o sob e qué zonas del espacio de búsqueda pa ecen más p ome edo as,
concen ando los es ue zos en aquellas con igu aciones que ienen más p obabilidades de mejo a el
endimien o.
Op una, una de las lib e ías más u ilizadas pa a es e p opósi o, implemen a es a op imización de o ma muy
lexible y au omá ica. El p oceso se o ganiza en ensayos llamados ials, donde cada uno co esponde a un
conjun o especí ico de hipe pa áme os que se p ueban en el modelo. T as cada ial, Op una mide la calidad de
la solución (po ejemplo, la ROC-AUC ob enida en alidación c uzada) y u iliza un modelo p obabilís ico
in e no que es ima qué combinaciones pueden p oduci esul ados aún mejo es. Es e mecanismo pe mi e que
las siguien es p uebas no sean al aza , sino guiadas po la expe iencia acumulada du an e la búsqueda. [18]
Una en aja impo an e de Op una es que ges iona de o ma au omá ica el almacenamien o de los expe imen os,
la elección de las p óximas con igu aciones y el desca e an icipado de p uebas que no pa ecen p ome edo as,
una écnica conocida como poda emp ana. G acias a es a combinación de ap endizaje p og esi o y e iciencia,
se log a educi signi ica i amen e el iempo necesa io pa a encon a una con igu ación óp ima. Además, su
in eg ación con sciki -lea n y Ligh GBM acili a aplica la en p oyec os eales sin complicaciones adicionales.
[18]
Pa a maximiza el p omedio de ROC-AUC en las sie e e ique as, se diseñó un p oceso de op imización basado
en Op una con los siguien es componen es:
E aluación
44
44
8.2 Conclusiones del p ep ocesamien o
Tabla 8–8 Compa a i a Auc con y sin p ep ocesamien o
model
p ep ocesamien o
Mean_auc
lgbm
no
0.885514
lgbm
sí
0.886909
l
no
0.783910
l
sí
0.850710
mlp
no
0.558199
mlp
sí
0.865843
no
0.883222
sí
0.884474
• Sin las ans o maciones los modelos lineales (p.e: log eg) no con e gen y empeo an
signi ica i amen e.
• Pa a modelos basados en a boles como andom o es y ligh boos el p ep ocesamien o no es necesa io.
• El o den de ans o maciones (winso iza → log → scale ) educe asime ías, ou lie s y colas ex emas.
• Las ea u es de i adas añaden in o mación cla e ( amaño ela i o, posición y luminosidad
no malizada).
• El pipeline esul an e es ep oducible y encaja di ec amen e en el modelo, e i ando el da a leakage. [15]

45
8.3 Resul ados ob enidos
A lo la go del p oyec o se e alua on cua o amilias de modelos: Reg esión Logís ica (baseline lineal), Random
Fo es (á boles en bagging) y Ligh GBM (g adien e boos ing), ed neu al mlp, median e alidación c uzada
es a i icada de 5 olds. Pa a acili a la compa ación de los di e en es modelos , en la Tabla 9-1 se esumen las
mé icas p omedio de 5 olds (0-4), que son las que se u iliza on sis emá icamen e pa a elegi hipe pa áme os.
Tabla 8–9. AUC de lgbm
Fold
Pas y
Z_Sc a ch
K_Sc a ch
S ains
Di iness
Bumps
O he _Faul s
Mean
AUC
0
0.86242
0.96306
0.98224
0.98637
0.88217
0.80326
0.71800
0.88536
1
0.85648
0.96000
0.98362
0.99279
0.88222
0.82247
0.70225
0.88569
2
0.87640
0.96379
0.98413
0.99456
0.85302
0.81475
0.70935
0.88514
3
0.87809
0.96136
0.98582
0.99175
0.82781
0.80302
0.68670
0.87636
4
0.84367
0.95523
0.98572
0.99319
0.88530
0.81252
0.70512
0.88296
Media global lgbm: 0.8837
Mejo es hipe pa áme os:
{
"n_es ima o s": 612,
"lea ning_ a e": 0.01072281429140794,
"num_lea es": 194,
"max_dep h": 7,
"min_child_weigh ": 0.2466259045229786,
"subsample": 0.9927990065176265,
"colsample_by ee": 0.6147785539690324,
" eg_alpha": 0.03601145064808459,
" eg_lambda": 0.00042061065726512664
}
Tabla 8–10. AUC de log eg
Fold
Pas y
Z_Sc a ch
K_Sc a ch
S ains
Di iness
Bumps
O he _Faul s
Mean
AUC
0
0.86053
0.91331
0.97856
0.99066
0.82578
0.75026
0.65980
0.85413
E aluación
46
46
1
0.85146
0.91581
0.97914
0.98859
0.85109
0.74170
0.65981
0.85537
2
0.84906
0.89298
0.97820
0.98519
0.87907
0.76286
0.65934
0.85810
3
0.85055
0.89459
0.97691
0.98836
0.84902
0.75173
0.65005
0.85160
4
0.87782
0.91186
0.98097
0.98229
0.82034
0.77072
0.66477
0.85840
Media AUC log eg: 0.85182
Mejo es hipe pa áme os:
{
"n_es ima o s": 1000,
"min_samples_spli ": 4,
"min_samples_lea ": 7
}
Tabla 8–11. AUC de
Fold
Pas y
Z_Sc a ch
K_Sc a ch
S ains
Di iness
Bumps
O he _Faul s
Mean
AUC
0
0.85433
0.94812
0.98321
0.99144
0.87888
0.81546
0.71234
0.88365
1
0.84912
0.95123
0.98467
0.99212
0.88134
0.80245
0.69867
0.88132
2
0.86210
0.95756
0.98734
0.99345
0.88267
0.80922
0.70543
0.88423
3
0.86045
0.95089
0.98512
0.99078
0.77912
0.79234
0.68845
0.86477
4
0.83445
0.93989
0.98344
0.99412
0.89367
0.80867
0.69734
0.87845
Media Globlal : 0.87875.
Mejo es hipe pa áme os:
{
"l _penal y": "l1",
"l _C": 4.291057738420302
}
47
Tabla 8–12. AUC de mlp
Fold
Pas y
Z_Sc a ch
K_Sc a ch
S ains
Di iness
Bumps
O he _Faul s
Mean
AUC
0
0.842666
0.947118
0.979115
0.985648
0.844476
0.764036
0.683186
0.864178
1
0.856610
0.924725
0.970116
0.977263
0.841509
0.800497
0.701836
0.867508
2
0.863960
0.945971
0.979966
0.987199
0.806450
0.794449
0.686674
0.866381
3
0.878320
0.933051
0.978610
0.986500
0.814956
0.776216
0.673848
0.863714
4
0.840300
0.917283
0.980485
0.990758
0.877519
0.796728
0.696562
0.870734
Media Globlal mlp: 0.8665
Mejo es hipe pa áme os:
{
"n_laye s": 3,
"hidden_uni s": 128,
"ac i a ion": " anh",
"alpha": 0.00016480446427978953,
"lea ning_ a e_ini ": 0.0011207606211860567
}
8.4 In e p e ación y compa ación en e modelos
Se mues an los esul ados de AUC p omedio pa a cada de ec o, así como un análisis de la impo ancia de
ca ac e ís icas.
E aluación
48
48
Figu a 8-2. Auc medio po de ec o (lgbm)
Figu a 8-3. Auc medio po de ec o ( )
49
Figu a 8-4. Auc medio po de ec o (log eg)
Figu a 8-5. Auc medio po de ec o (mlp)

E aluación
50
50
Figu a 8-7. Auc medio po de ec o sob e el conjun o de alidación (hold ou ) de odos los modelos
Figu a 8-6. ROC-AUC medio sob e el conjun o de alidación (hold ou )
51
Pun os cla e:
• Ligh GBM lide a consis en emen e odas las clases; la ganancia media en e a RF es de +0.004 AUC,
y en e a la logís ica, +0.027 AUC.
• El iempo de en enamien o po old se man iene en segundos; incluso en en o nos de p oducción con
in e encia en línea, los cua o modelos son iables.
• Los esul ados comple os se encuen an en epo s/ ables/ me ics.cs .
8.5 Discusión de hallazgos y limi aciones
• Ligh GBM como mejo comp omiso: alcanza la mayo AUC en la submission de Kaggle an o en
alidación (0.883) como en el leade boa d público (0.893), sin incu i en sob eajus e (gap p i ado
0.883). [10]. (En kaggle hay dos sco es di e en es el público ep esen a un 20% del es inal mien as
que el p i ado solo se e ela al inal de la compe ición 80% es an e) La mejo pun uación de la
compe ición ue 0.89782 en el leade boa d público po usua io Jeonghyeon Yun y 0.88977 en el p i ado
po usua io kailai
Figu a 8-8. Tiempo de en enamien o de cada modelo po old
52
52
• Da ase sin é ico: el conjun o de da os p ocede de la Tabula Playg ound Se ies y no e leja po
comple o la p oducción eal.
• Desbalance de e ique as: la es a i icación po e ique a man u o es abilidad, el o e sampling empeo ó
lige amen e la pun uación.
8.6 Aplicaciones p ác icas e implicaciones en la indus ia
Aplicando la egla del 80-20, podemos log a la mayo pa e del bene icio con una acción del
es ue zo. Pa a una p ime a p ueba en un en o no eal con iene usa Random Fo es : unciona bien
sin ene que p epa a mucho los da os, ole a dis in as escalas y alo es acíos, y se puede con e i
con acilidad en código C pa a in eg a lo di ec amen e en los con olado es de plan a (PLCs).
Además, pe mi e en ende de o ma sencilla qué a iables in luyen más en cada p edicción.
Si es a p ueba inicial demues a su u ilidad, el siguien e paso na u al es pasa a Ligh GBM o
XGBoos . Es os modelos suelen apo a un poco más de p ecisión sin dispa a los iempos de
cálculo (en o no a una milésima de segundo po egis o en un p ocesado ac ual) y pueden
empaque a se en o ma o Open Neu al Ne wo k Exchange (ONNX), lo que acili a su despliegue en
dis in as pla a o mas.
Figu a 8-9. Pun uación en Kaggle
53
9 CONCLUSIONES Y LÍNEAS FUTURAS DE
INVESTIGACIÓN
El lujo de abajo diseñado, desde la limpieza y ans o mación de los da os has a la op imización, ha
demos ado se de e minan e pa a ob ene esul ados sólidos y ep oducibles. T as compa a a ias amilias de
algo i mos, el modelo basado en á boles de decisión (Ligh GBM) o eció el mejo equilib io en e p ecisión y
apidez, alcanzando un AUC medio de 0,88 sin mos a indicios de sob eajus e. Es e endimien o con i ma que
un p ep ocesado cuidadoso, jun o con una e aluación cohe en e del desbalanceo de clases, puede mi iga la
pé dida de in o mación y mejo a la gene alización aun cuando se abaja con da os sin é icos. Aun así, el
ca ác e a i icial del conjun o empleado deja abie as dudas sob e la aslación di ec a de es as conclusiones a
un en o no indus ial eal [8].
De ca a al u u o se ía alioso ensaya combinaciones de modelos dis in as, po ejemplo, ag upando a ios
algo i mos y en enando un me a-modelo con hipe pá ame os di e en es po de ec o que decida a quién “hace
caso” en cada escena io; es as écnicas de ensamblado suelen apo a pequeñas mejo as adicionales de p ecisión.
También con end ía inco po a he amien as de in e p e abilidad más a anzadas que de allen la in luencia de
cada a iable, acili ando el diagnós ico de de ec os po pa e del pe sonal de calidad. Finalmen e, p oba el
sis ema con da os p oceden es de la línea de p oducción pe mi i ía medi su obus ez an e el uido eal y, si ue a
necesa io, ajus a de nue o los pa áme os pa a man ene el endimien o a lo la go del iempo.
De ca a a con inua puliendo el sis ema, un siguien e paso azonable se ía e isa a ondo los esul ados e ique a
po e ique a: cons ui ma ices de con usión y cu as ROC pe mi i ía de ec a , po ejemplo, si algún de ec o
conc e o se con unde sis emá icamen e con “O he Faul s” y ajus a los umb ales de decisión o los pesos de
clase en consecuencia. En pa alelo, pod ía p oba se un p ep ocesado “más ino” di e enciado pa a cada modelo,
se han man enido a iables con co elación al a que empeo an algunos mé odos como la eg esión logís ica.
Finalmen e, con end ía explo a dos o es modelos complemen a ios al Ligh GBM (p.ej. Ca Boos o XGboos );
incluso si la ganancia b u a en AUC es pequeña [16, 17, 19], el con as e de impo ancias y la calib ación
conjun a de p obabilidades apo a ían una imagen más ní ida de dónde es á aún el ma gen de mejo a.
Una posible ex ensión se ía e isa la calib ación de p obabilidades, especialmen e si se desea u iliza los sco es
del modelo más allá del anking pu o. Aunque la mé ica AUC‑ROC u ilizada en es e abajo e alúa la capacidad
disc imina i a (es deci , si los ejemplos posi i os ob ienen sco es más al os que los nega i os), no ga an iza que
las p obabilidades p edichas sean numé icamen e iables. En o as palab as, un alo de 0.9 no implica que el
de ec o ocu a en el 90 % de los casos simila es. Técnicas de calib ación como Pla Scaling (una eg esión
logís ica aplicada a los sco es) o Iso onic Reg ession (un ajus e monó ono no pa amé ico) pe mi en co egi
es a des iación de o ma pos ‑hoc. Es as pueden in eg a se median e el w appe Calib a edClassi ie CV de
sciki -lea n [16], y se ían especialmen e ú iles si se desea ija umb ales ope a i os explíci os po clase o
compa a di ec amen e sco es en e e ique as con dis in a p e alencia.
Glosa io
60
60
GLOSARIO
AUC: A ea Unde he Cu e ........................................................................................................... x, i, iii, i, 12, 14, 17, 18, 11, 13, 10, 11, 12, 13
AUC-ROC: A ea Unde he ROC Cu e ............................................................................................................................................. x, i, 14, 17, 18
CPU: Cen al P ocessing Uni ............................................................................................................................................................................... 13
CSV: Comma Sepa a ed Values ................................................................................................................................................................ xi, 10, 14
EDA: Explo a o y Da a Analysis............................................................................................................................................................ ii, 10, 16, 19
ELA: Ensemble Lea ning Algo i hm ..................................................................................................................................................................... 14
ENN: Edi ed Nea es Neighbo s ........................................................................................................................................................................... 14
GBMs: G adien Boos ing Machines ................................................................................................................................................................... 12
IQR: In e qua ile Range .............................................................................................................................................................. 10, 15, 16, 17, 22
KDE: Ke nel Densi y Es ima ion .................................................................................................................................................................. i, 12, 14
LSTM: Long Sho -Te m Memo y ........................................................................................................................................................................ 14
ML: Machine Lea ning .......................................................................................................................................................................... ii, 11, 12, 10
ML-kNN; Mul i-Label k Nea es Neighbo s ......................................................................................................................................................... 12
MLP: Mul i-Laye Pe cep on ...................................................................................................................................................................12, 13, 11
N: Núme o de ins ancias ...................................................................................................................................................................................... 10
OAO-SVM: One-Agains -One Suppo Vec o Machine .................................................................................................................................... 12
ONNX: Open Neu al Ne wo k Exchange ............................................................................................................................................................. 13
PCA: P incipal Componen Analysis............................................................................................................................................................... 11, 14
PLCs: P og ammable Logic Con olle s ............................................................................................................................................................... 13
SHAP: SHapley Addi i e exPlana ions ................................................................................................................................................................. 13
SMOTE: Syn he ic Mino i y O e -sampling Technique ..................................................................................................................................... 13
STD: S anda d De ia ion ....................................................................................................................................................................................... 23
SVM: Suppo Vec o Machine ...................................................................................................................................................... ii, 11, 12, 13, 14
TPE: T ee-s uc u ed Pa zen Es ima o ............................................................................................................................................................... 12
UCI: Uni e si y o Cali o nia, I ine ................................................................................................................................................................ 11, 10
UTF-8: Unicode T ans o ma ion Fo ma – 8 bi ................................................................................................................................................. 14

61
ANEXO A. ESTRUCTURA DEL PROYECTO Y
FRAGMENTOS DE CÓDIGO
A.1 Es uc u a de ca pe as del p oyec o
g-s eel-pla e-de ec s/
├── da a/
│ ├── aw/ # Da os o iginales de Kaggle
│ │ └── playg ound-se ies-s4e3/
│ ├── in e im/ # Da os limpios o ans o mados (ou lie s, impu ación)
│ └── ex e nal/ # Recu sos ex e nos (documen os, benchma ks, e c.)
├── no ebooks/
│ ├── 01_eda.ipynb # Análisis explo a o io
│ ├── 02_ ea u e_enginee ing.ipynb # Ingenie ía de ca ac e ís icas
│ ├── 03_model_ aining.ipynb # En enamien o de modelos
│ ├── 04_hype pa ame e _op imiza ion.ipynb # Op imización de hipe pá ame os
│ └── 05_ ea u e_impo ance.ipynb # Compa ación de modelos y ea u es
├── s c/
│ ├── __ini __.py
│ ├── con ig.py # Ru as y pa áme os globales
│ ├── da a/
│ │ ├── loading.py # Ca ga de CSVs y u as
│ │ ├── spli .py # Gene ación de spli s (hold-ou y k- old)
│ │ └── p ep ocessing.py # Pipeline de limpieza y ans o maciones
│ ├── ea u es/
│ │ └── ans o me s.py # Fea u eGene a o , ColumnD oppe , escalado, e c.
│ ├── models/
│ │ ├── builde s.py # Función build_es ima o po ipo de modelo
│ │ ├── hpo.py # Op imización de hipe pá ame os
│ │ └── aine .py # Clase T aine : i , p edic , e aluación
│ ├── isualiza ion/ # G á icas eu ilizables (SHAP, AUC po clase, e c.)
│ └── cli/
│ └── ain.py # En y poin con Type pa a en enamien o po e minal
├── models/ # Pesos en enados (.pkl), pa áme os .json
├── epo s/
│ ├── igu es/ # G á icos expo ados pa a la memo ia
│ └── ables/ # CSVs con mé icas y esul ados
├── docs/ # Bo ado es de memo ia
└── en i onmen .yml
Anexo A. Es uc u a del p oyec o y F agmen os de código
62
62
A.2 F agmen os cla e del código
A.2.1 Fea u eGene a o ( ans o me s.py)
[5, 15, 16, 22]
class Fea u eGene a o (BaseEs ima o , T ans o me Mixin):
"""
Gene a ea u es de i adas sin il a da os de alidación/ es .
Añade columnas que desc iben:
- o ma y amaño del de ec o (wid h, heigh , aspec a io)
- posición ela i a (cen o no malizado)
- in ensidad luminosa (media y pico ela i o)
- lag bina io de á ea muy g ande (P95)
"""
de __ini __(sel , img_wid h: in = 1700, img_heigh : in = 12_800_000):
sel .img_wid h = img_wid h
sel .img_heigh = img_heigh
de i (sel , X, y=None):
# Gua da el pe cen il 95 del á ea pa a usa lo como umb al ijo
sel . ea u e_names_in_ = np.asa ay(X.columns, d ype=objec )
sel .p95_ = np.pe cen ile(X["Pixels_A eas"], 95)
e u n sel
de ans o m(sel , X):
X_ = X.copy()
# Tamaño del de ec o (en píxeles)
X_["Wid h"] = X_["X_Maximum"] - X_["X_Minimum"]
X_["Heigh "] = X_["Y_Maximum"] - X_["Y_Minimum"]
X_["Aspec _Ra io"] = X_["Wid h"] / (X_["Heigh "] + 1e-6)
# Posición ela i a (cen o de la bounding-box)
X_["X_Cen e _no m"] = (X_["X_Minimum"] + X_["X_Maximum"]) / 2 / sel .img_wid h
X_["Y_Cen e _no m"] = (X_["Y_Minimum"] + X_["Y_Maximum"]) / 2 / sel .img_heigh
# In ensidad media y con as e local
X_["Mean_Luminosi y"] = X_["Sum_o _Luminosi y"] / (X_["Pixels_A eas"] + 1e-6)
X_["Max_ o_Mean_Luminosi y"] = (
X_["Maximum_o _Luminosi y"] / (X_["Mean_Luminosi y"] + 1e-6)
)
# Flag bina io: ¿es un de ec o inusualmen e g ande?
X_["is_ e y_la ge"] = (X_["Pixels_A eas"] > sel .p95_).as ype(in )
e u n X_
de ge _ ea u e_names_ou (sel , inpu _ ea u es=None):
i inpu _ ea u es is None:
inpu _ ea u es = sel . ea u e_names_in_
ex a = np.a ay(
[
"Wid h",
"Heigh ",
"Aspec _Ra io",
"X_Cen e _no m",
63
"Y_Cen e _no m",
"Mean_Luminosi y",
"Max_ o_Mean_Luminosi y",
"is_ e y_la ge",
],
d ype=objec ,
)
e u n np.conca ena e([np.asa ay(inpu _ ea u es, d ype=objec ), ex a])
A.2.2 Función build_es ima o ( builde s.py )
[16,19,22]
de build_es ima o (name: s , pos_weigh s: Lis [ loa ]):
"""
De uel e una lis a de es imado es (uno po e ique a).
Pa ame e s
----------
name : {"lgbm", " ", "log eg", "mlp"}
Algo i mo base a u iliza .
pos_weigh s : lis [ loa ]
Peso asignado a la clase posi i a de cada e ique a, ú il pa a balanceo.
"""
n_labels = len(pos_weigh s)
# Ligh GBM: boos ing e icien e pa a da os abula es
i name == "lgbm":
base_pa ams = dic (
n_es ima o s=500,
lea ning_ a e=0.05,
num_lea es=64,
subsample=0.8,
colsample_by ee=0.8,
andom_s a e=RANDOM_STATE,
n_jobs=N_JOBS,
e bosi y=-1,
min_gain_ o_spli =0.0,
)
base_pa ams.upda e(_load_bes _pa ams("lgbm")) # Op una o e ide
base_pa ams = _ il e _pa ams(LGBMClassi ie , base_pa ams)
e u n [
LGBMClassi ie (**base_pa ams, scale_pos_weigh =pos_weigh s[k])
o k in ange(n_labels)
]
# Random Fo es : modelo en bagging obus o al uido
i name == " ":
base_pa ams = dic (
n_es ima o s=400,
andom_s a e=RANDOM_STATE,
n_jobs=N_JOBS,
)
base_pa ams.upda e(_load_bes _pa ams(" "))
base_pa ams = _ il e _pa ams(RandomFo es Classi ie , base_pa ams)
e u n [
RandomFo es Classi ie (
**base_pa ams,
class_weigh ={0: 1, 1: pos_weigh s[k]}
Anexo A. Es uc u a del p oyec o y F agmen os de código
64
64
)
o k in ange(n_labels)
]
# Reg esión logís ica con ajus e de sol e según penalización
i name in {"log eg", "l ", "logis ic"}:
base_pa ams = dic (
penal y="l2",
sol e ="lb gs",
C=1.0,
max_i e =2000,
andom_s a e=RANDOM_STATE,
n_jobs=N_JOBS,
)
base_pa ams.upda e(_load_bes _pa ams("log eg"))
# Si se usa L1 o elas icne , se ue za sol e compa ible
i base_pa ams.ge ("penal y") in {"l1", "elas icne "} and
base_pa ams.ge ("sol e ") no in {"saga", "liblinea "}:
base_pa ams["sol e "] = "saga"
base_pa ams = _ il e _pa ams(Logis icReg ession, base_pa ams)
e u n [
Logis icReg ession(
**base_pa ams,
class_weigh ={0: 1, 1: pos_weigh s[k]}
)
o k in ange(n_labels)
]
# MLP ( ed neu onal densa) con egula ización y ea ly s opping
i name == "mlp":
base_pa ams = dic (
hidden_laye _sizes=(128, 64),
ac i a ion=" elu",
sol e ="adam",
lea ning_ a e_ini =0.001,
ba ch_size=256,
max_i e =200,
alpha=1e-4,
ea ly_s opping=T ue,
alida ion_ ac ion=0.1,
n_i e _no_change=10,
andom_s a e=RANDOM_STATE,
e bose=False,
)
base_pa ams.upda e(_load_bes _pa ams("mlp"))
base_pa ams = _ il e _pa ams(MLPClassi ie , base_pa ams)
e u n [MLPClassi ie (**base_pa ams) o _ in ange(n_labels)]
# Si el modelo no es á implemen ado
aise ValueE o (
"Modelo '{name}' no sopo ado. Elige en e 'lgbm', ' ', 'log eg' o 'mlp'."
)
A.2.3 Mé odo un_c () – En enamien o en alidación c uzada (K-Fold)
[16, 19, 22]
65
de un_c (sel ) -> pd.Da aF ame:
"""
Ejecu a alidación c uzada k- old pa a el modelo ac ual.
Gua da las mé icas po old y de uel e un Da aF ame con los esul ados.
"""
# 1. Ca ga de da os y gene ación de pliegues -------------------------
X, y, ain_idx, hold_idx, olds = sel ._p epa e_da a()
# 2. Inicialización del pipeline y modelos ---------------------------
sel ._p epa e_ ans o me s_and_models(y[ ain_idx])
# 3. En enamien o po old ------------------------------------------
c _me ics: Lis [Dic [s , loa ]] = []
o old_id, al_idx in enume a e( olds):
# Sepa a ain y alidación pa a es e old
_idx = np.se di 1d( ain_idx, al_idx)
sel .logge .in o(
"Fold %s – ain %s · al %s", old_id, len( _idx), len( al_idx)
)
# En ena modelos y calcula AUC po clase en es e old
old_me ics = sel ._ ain_ old( old_id, _idx, al_idx, X, y)
c _me ics.append( old_me ics)
# 4. Ag ega mé icas y gua da esul ados -----------------------------
d _c = pd.Da aF ame(c _me ics)
d _c . o_cs (sel . epo _di / "{sel .c g.model_name}_c _me ics.cs ", index=False)
sel .logge .in o("Mean AUC pe old: n%s", d _c [[" old", "mean_auc"]])
sel .logge .in o("Global mean AUC = %.5 ", d _c ["mean_auc"].mean())
e u n d _c

66
ANEXO B. ESTRUCTURA DEL PROYECTO Y
FRAGMENTOS DE CÓDIGO
B.1 No ebook 01_eda.ipynb
Figu a 0-1. Head con dimensiones del da ase y p ime as 5 ilas
67
Figu a 0-2. Ma iz de co elación Pea son en e las a iables.
Anexo B. Es uc u a del p oyec o y F agmen os de código
68
68
B.2 No ebook 02_ ea u e_enginee ing.ipynb
Figu a 0-3. Winso izado a iable Pixels_a eas.
69
Figu a 0-4. Edges_index ans o mación cuán ilica.
No a: En s c/ ea u es/ ans o me .py se ha usado ans o mación log1p