A aques a un Sis ema de De ecci´on de In usiones
median e Redes Gene a i as Ad e sa ias
A acks on an In usion De ec ion Sys em by
Ad e sa y Gene a i e Ne wo ks
TRABAJO FIN DE GRADO
GRADO EN INGENIER´
IA INFORM ´
ATICA
CURSO 2022–2023
Ai o Es eban N´u˜nez
Robe o Po illo To es
Ma cos Ma u e Fe n´andez
Di ec o es
Luis Ja ie Ga c´ıa Villalba
Luis Albe o Ma ´ınez He n´andez
Depa amen o de Ingenie ´ıa del So wa e e In eligencia A i icial
Facul ad de In o m´a ica
Uni e sidad Complu ense de Mad id
Mad id, Junio de 2023
Ag adecimien os
A nues os di ec o es del abajo y a odas las pe sonas del G upo de An´alisis,
Segu idad y Sis emas de la Uni e sidad Complu ense de Mad id que nos han ayudado
y explicado cualquie duda en odo momen o. En especial a Luis Albe o Ma ´ınez
He n´andez que ha es ado disponible pa a noso os odo es e iempo y nos ha esuel o
los p oblemas que en´ıamos an o en las euniones como en ho a ios di e en es.
iii
´
Indice Gene al
´
Indice de Figu as IX
´
Indice de Tablas XI
Lis a de Ac ´
onimos XV
Abs ac XVII
Resumen XIX
1. In oducci´
on 1
1.1. Mo i aci´on .................................... 1
1.2. Con ex o ..................................... 1
1.3. Obje o de la In es igaci´on ............................ 2
1.4. Plan de T abajo ................................. 2
1.5. Es uc u a del T abajo .............................. 4
2. Ma co Te´
o ico 5
2.1. Ap endizaje Au om´a ico ............................. 5
2.1.1. ´
A boles de decisi´on ............................ 6
2.2. Ap endizaje P o undo .............................. 7
2.2.1. Redes neu onales a i iciales ....................... 7
2.2.2. Redes neu onales con olucionales .................... 8
2.2.3. Redes neu onales ecu en es ...................... 9
2.3. Cibe segu idad .................................. 10

i ´
INDICE GENERAL
2.4. Segu idad en In eligencia A i icial ....................... 11
2.5. Redes Gene a i as Ad e sa ias ......................... 11
2.5.1. A aque Ad e sa io a un Clasi icado de Malwa e ........... 12
2.6. A aque de Denegaci´on de Se icio ....................... 13
2.7. Redes Gene a i as Ad e sa ias Tabula es ................... 13
2.8. Ka ka ....................................... 14
2.9. Sis ema de De ecci´on de In usos basado en Ap endizaje Au om´a ico . . . . 14
3. Es ado del A e 15
3.1. Modelo de Amenaza Ad e sa ia ......................... 15
3.1.1. Ejemplos Ad e sa ios .......................... 16
3.1.2. Clasi icaci´on de Amenazas Ad e sa ias ................. 17
3.2. Clasi icaci´on de A aques Seg´un el Conocimien o del A acan e ........ 18
3.2.1. A aques de caja blanca ......................... 18
3.2.2. A aques de caja neg a .......................... 19
3.2.3. A aques de caja g is ........................... 20
3.3. A aques de En enenamien o ........................... 20
3.3.1. Ejemplo de un A aque de En enenamien o .............. 21
3.3.2. Funcionamien o del Ap endizaje Colabo a i o ............. 21
3.3.3. Ejecuci´on del A aque ........................... 21
3.4. A aques de E asi´on ................................ 22
4. Dise˜
no e Implemen aci´
on 23
4.1. Conjun o de da os y P ep ocesamien o ..................... 23
4.2. Componen es del Sis ema ............................ 25
4.3. Implemen aci´on del Sis ema de De ecci´on de In usos y me odolog´ıa . . . . 26
4.3.1. En enamien o .............................. 26
4.4. Red Gene a i a Ad e sa ia pa a A aca un Sis ema de De ecci´on de In usos 28
4.4.1. P ep ocesamien o del Conjun o de Da os ............... 28
4.4.2. Desa ollo de la Red Gene a i a Ad e sa ia .............. 28
4.4.2.1. Es uc u a ........................... 28
´
INDICE GENERAL ii
4.4.2.2. En enamien o ......................... 30
4.5. S´ın esis de A aques Dis ibuidos de Denegaci´on de Se icio U ilizando
Redes Ad e sa ias Gene a i as Tabula es ................... 32
4.5.1. Ejecuci´on del c´odigo ........................... 32
5. Expe imen os y Resul ados 35
5.1. An´alisis del E o come ido po el Sis ema de De ecci´on de In usos . . . . 35
5.2. An´alisis de Resul ados de la Red Gene a i a Ad e sa ia ........... 37
6. Con ibuciones 39
6.1. Ai o Es eban N´u˜nez ............................... 39
6.2. Robe o Po illo To es ............................. 40
6.3. Ma cos Ma u e Fe n´andez ............................ 41
7. Conclusiones y T abajo Fu u o 43
7.1. Conclusiones ................................... 43
7.2. T abajo Fu u o .................................. 44
8. In oduc ion 45
8.1. Mo i a ion .................................... 45
8.2. Con ex ...................................... 45
8.3. Objec o he In es iga ion ........................... 46
8.4. Wo kplan ..................................... 46
8.5. S u u e o he Wo k ............................... 47
9. Conclusions and Fu u e Wo k 49
9.1. Conclusions .................................... 49
9.2. Fu u e Wo k ................................... 50
Bibliog a ´
ıa 51
´
Indice de Figu as
1.1. Diag ama de Gan del P oyec o. ........................ 3
2.1. Pe cep ´on simple [HGMH+00]. ......................... 8
2.2. Pe cep ´on mul icapa [HGMH+00]. ....................... 8
2.3. P ocedimien o b´asico de una ed neu onal con olucional [LLY+22]. ..... 9
2.4. Red neu onal ecu en e de es capas [SBS+17]. ............... 10
2.5. Es uc u a b´asica de una Gene a i e Ad e sa ial Ne wo ks (GAN). ..... 12
3.1. A aque de e asi´on ................................ 18
3.2. A aque de en enenamien o ............................ 18
3.3. Es uc u a MalGAN [HT17b] .......................... 19
4.1. Mapa de calo de co elaci´on en e las p incipales ca ac e ´ıs icas del
conjun o de da os. ................................ 25
4.2. Es uc u a con los componen es del sis ema. .................. 26
4.3. Cu a de ap endizaje del ´a bol a iando el pa ´ame o min samples spli .. . 27
4.4. ´
A bol de decisi´on del IDS. ............................ 27
5.1. Ma iz de con usi´on sob e el conjun o de p ueba. ............... 37
5.2. Ma iz de con usi´on sob e el conjun o de p ueba ad e sa io. ......... 38
8.1. P ojec Gan Cha . ............................... 47
ix

Abs ac
The a i icial in elligence is expe iencing a boom in he socie y, he powe o hese
algo i hms is g owing and new applica ions a e cons an ly appea ing: image classi ie s,
oice ecognize s, cha bo s, e c. A i icial in elligence, like all o he b anches o compu e
science, mus be conce ned abou he secu i y o i s algo i hms and da a p ocessing. This
wo k is an analysis o ad e sa ial a acks, which use he ools o a i icial in elligence
agains i sel . I a model can be ained wi h da a o de ec pa e ns and make p edic ions
i can also be ained o gene a e da a ha can alsi y hese p edic ions. Th oughou his
p ojec di e en ways o pe o ming ad e sa ial a acks a e analyzed ocusing mainly on
a acking malwa e classi ie s. In addi ion, an example implemen a ion o an ad e sa ial
a ack on an in usion de ec ion sys em is gi en and he esul s will be analyzed.
Keywo ds: Ad e sa ial A ack, Ad e sa ial Ne wo k, A i icial In elligence, Deep
Lea ning, Gene a i e Malwa e, Machine Lea ning, Neu al Ne wo k.
x ii
Resumen
La in eligencia a i icial es ´a expe imen ando un ue e impac o en la sociedad, la po encia
de es os algo i mos no pa a c ece y no pa an de apa ece nue as aplicaciones: clasi icado es
de im´agenes, econocedo es de oz, cha bo s, e c. La in eligencia a i icial, como el es o
de amas de la in o m´a ica, debe p eocupa se po la segu idad de sus algo i mos y del
a amien o de da os. Es e abajo es un an´alisis de los a aques ad e sa ios, los cuales
u ilizan las he amien as de la in eligencia a i icial con a s´ı misma. Si un modelo puede
en ena se con da os pa a de ec a pa ones y hace p edicciones ambi´en se puede en ena
pa a gene a da os que puedan alsea es as p edicciones. A lo la go de es e p oyec o se
analizan dis in as o mas de ealiza a aques ad e sa ios cen ´andose p incipalmen e en
a aques a clasi icado es de so wa e malicioso. Adem´as se da un ejemplo de implemen aci´on
de a aque ad e sa io a un sis ema de de ecci´on de in usos del que se analiza ´an los
esul ados.
Palab as cla e: Ap endizaje P o undo, Ap endizaje Au om´a ico, A aque Ad e sa io, Red
Gene a i a Ad e sa ia, Malwa e, Redes Neu onales, In eligencia A i icial.
xix
Cap´ı ulo 1
In oducci´on
1.1. Mo i aci´on
En la ac ualidad, la In eligencia A i icial (IA) es uno de los campos de la in o m´a ica
con m´as desa ollo e in e siones a ni el global. Los a ances es ´an pe mi iendo c ea
mul i ud de he amien as ´u iles pa a el se humano en con ex os muy di e en es. En e
ellas se encuen an los usos de la IA pa a la segu idad de o os campos como po ejemplo
clasi icado es de malwa e o de ec o es de ´a ico malicioso en edes. Sin emba go, la
IA ambi´en iene ulne abilidades y puede ecibi a aques que pe u ben su co ec o
uncionamien o.
Los a aques ad e sa ios son la mayo p eocupaci´on si se habla de segu idad en IA
pues o que pueden enga˜na de di e en es mane as a algo i mos de Machine Lea ning
(ML) en e o as cosas. En en 2014, Ian Good ellow p opuso las Redes Gene a i as
Ad e sa ias conocidas en ingl´es como Gene a i e Ad e sa ial Ne wo ks (GAN) en su
abajo [GPAM+20]. Es as son a d´ıa de hoy, la o ma m´as es udiada y u ilizada pa a
ealiza a aques ad e sa ios. Es e abajo se cen a a en el es udio de las ulne abilidades
y de la segu idad de los algo i mos de ML median e la in es igaci´on y pos e io
expe imen aci´on de a aques que es ´an a la o den del d´ıa en el mundo cada ez m´as g ande
de la IA. Pa a ello se lle a ´a a cabo la implemen aci´on de una ed GAN que se u iliza a
pa a ealiza un a aque ad e sa io con a alg´un algo i mo de ML.
1.2. Con ex o
El p esen e T abajo Fin de G ado se enma ca den o de un p oyec o de
in es igaci´on i ulado Pla o m o Analysis o Resilien and Secu e So wa e – LAZARUS,
ap obado po la Comisi´on Eu opea den o del P og ama Ma co Ho izon e (con oca o ia
HORIZON-CL3-2021-CS-01) en i ud del acue do de sub enci´on n´ume o 101070303 y
1

2Cap´
ı ulo 1. In oducci´
on
en el que pa icipa el G upo GASS de la Uni e sidad Complu ense de Mad id (G upo
de An´alisis, Segu idad y Sis emas, h ps://gass.ucm.es, g upo 910623 del ca ´alogo de
g upos de in es igaci´on econocidos po la UCM).
Adem´as de la Uni e sidad Complu ense de Mad id pa icipan en LAZARUS las
siguien es en idades: A hena Resea ch Cen e – ARC (G ecia), The Uni e si y o Padua
(I alia), In o end Inno a ions Company Limi ed (Chip e), Da a Cen ic Se ices SRL
(Ruman´ıa), Luxembou g Ins i u e o Science and Technology (Luxembu go), Mo i ian
EOOD (Bulga ia), Bina e Oy (Finlandia), Fundaci´on APWG Eu opean Union Founda ion
(Espa˜na), Maggioli Spa (I alia).
Tienen m´as in o maci´on en:
h ps://co dis.eu opa.eu/p ojec /id/101070303
h ps://laza us-he.eu
1.3. Obje o de la In es igaci´on
El obje i o de es e abajo es ealiza un es udio e in es igaci´on sob e la segu idad en la
IA, cen ´andose en los a aques ad e sa ios y m´as en conc e o en las Redes Gene a i as
Ad e sa ias o en ingl´es Gene a i e Ad e sa ial Ne wo ks (GAN). T as ene una base
s´olida de conocimien os sob e el ema, se a a ´a de dise˜na e implemen a una GAN que
sea capaz de enga˜na a alg´un algo i mo de ML. El obje i o es ob ene una implemen aci´on
e icien e y p oba la de di e en es mane as.
1.4. Plan de T abajo
El desa ollo de es e abajo se ha ealizado en es ases dis ibuidas seg´un el diag ama
de Gan de la Figu a 1.1 y desc i as a con inuaci´on:
1. In es igaci´
on:
Pa a comenza , median e la ealizaci´on de una euni´on gene al, se explic´o el pun o
inicial o de pa ida del p oyec o as´ı como los obje i os p incipales y los conocimien os
que se iban a necesi a pa a lle a los a cabo. Pos e io men e, se aco d´o euni se
semanalmen e con la idea de ealiza un seguimien o de los a ances y p og eso en la
in es igaci´on y pa a esol e las posibles dudas que pudiesen su gi . O a az´on po
la cual se conce a on dichas euniones ue pa a pode desa olla y a a concep os
b´asicos sob e los dis in os emas o campos que concie ne es e abajo, los cuales se ´an
a ados en los siguien es apa ados. Es a ase comenz´o a mediados de sep iemb e
de 2022. Du an e los p ime os cua o meses hubo que adap a se al con ex o del
1.4. Plan de T abajo 3
abajo y ue necesa io adqui i conocimien os pa a da pie al pos e io desa ollo.
Pa a ello, se ealiza on cu sos sob e di e en es emas elacionados y lec u as de
a ´ıculos que e an e e encias base del abajo. Cada in eg an e del g upo ealizaba
es´umenes y p esen aciones de los a ´ıculos sob e los que in es igaba cada semana
pa a ealiza poco a poco un eposi o io de conocimien o com´un sob e el abajo en
Google D i e y pa a a anza conjun amen e hacia un obje i o com´un. En el ´ul imo
mes de in es igaci´on, el equipo ya en´ıa una base lo su icien emen e ue e como
pa a empeza a plan ea se a e isa c´odigo y pensa en la e apa de desa ollo. La
in es igaci´on en s´ı se segu´ıa lle ando a cabo cons an emen e median e la lec u a de
a ´ıculos con c´odigo inculado pa a e e encia se y obse a implemen aciones an es
de comenza con la p opia.
2. Desa ollo: En el momen o en el que se ubie on su icien es conocimien os, se aco d´o
dedica menos iempo a la in es igaci´on y empeza a codi ica la p opues a pa a
elabo a una e si´on s´olida del p oyec o. La ase de in es igaci´on, como ya se ha
se˜nalado, con inu´o pe o pas´o a un segundo plano, ya que se in es ig´o sob e nociones
conc e as que su gie on du an e el desa ollo. Po ello, en es a ase se es udia on
p incipios a anzados del lenguaje de p og amaci´on Py hon y de lib e ´ıas necesa ias
pa a la implemen aci´on. Se es udia on di e en es p opues as sob e edes GAN.
Du an e es a ase se p ocesa on di e en es conjun os de da os pa a en ende los mejo
y se implemen a on las uncionalidades necesa ias pa a lle a a cabo el p oyec o.
Fue en es a ase donde se decidi´o que se u iliza ´ıa nues a implemen aci´on de la
GAN pa a a aca un Sis ema de De ecci´on de In usos (IDS, del ingl´es In usion
De ec ion Sys em). Se ealiz´o la implemen aci´on de es e median e un algo i mo de
ML y p ocesando un conjun o de da os espec´ı ico.
3. Expe imen aci´
on: Una ez que se empeza on a ab ica los p ime os p o o ipos del
concep o, se puso en ma cha el p oceso de expe imen aci´on. Du an e es e iempo,
el equipo analiz´o los esul ados y lleg´o a cie as conclusiones. Cabe menciona que
el modelo se compa ´o con inuamen e con o os y se op imiz´o du an e la ase de
expe imen aci´on, con inuando as´ı el p oceso de desa ollo.
Figu a 1.1: Diag ama de Gan del P oyec o.
4Cap´
ı ulo 1. In oducci´
on
1.5. Es uc u a del T abajo
El p esen e abajo es ´a di idido en 8 cap´ı ulos de los cuales 6 cap´ı ulos es ´an en cas ellano
y 2 en ingl´es. Seguidamen e se p esen a su es uc u a:
El Cap´ı ulo 2se ealiza una in oducci´on de los concep os base pa a comp ende el
desa ollo del abajo. Se in oducen bases de Ap endizaje Au om´a ico (AA),Ap endizaje
P o undo (AP), segu idad y el obje o p incipal de nues o abajo: las GAN. Tambi´en se
apo a alg´un ejemplo de a aque ad e sa io.
El Cap´ı ulo 3se ealiza una ecopilaci´on de abajos elacionados con el ema de es udio,
cen ada en las di e en es amenazas ad e sa ias exis en es y se p oponen ejemplos de
a ´ıculos que ealizan a aques ad e sa ios.
En el Cap´ı ulo 4se desa olla la me odolog´ıa y dise˜no del abajo, explicando la ases
que u ie on las implemen aciones ealizadas pa a lle a a cabo es e abajo y c´omo se
ealiza on.
El Cap´ı ulo 5desc ibe los expe imen os ealizados pa a e alua la e ec i idad la GAN
implemen ada y desa ollada en el cap´ı ulo 4y p esen a los esul ados ob enidos.
El Cap´ı ulo 6p esen a las con ibuciones pe sonales de cada miemb o del g upo en es e
abajo.
El Cap´ı ulo 7mues a conclusiones ex a´ıdas en es e abajo y las posibles u u as
in es igaciones.
Los Cap´ı ulos 8y9son las aducciones al ingl´es de la In oducci´on y de las Conclusiones.
Cap´ı ulo 2
Ma co Te´o ico
En es e cap´ı ulo se explica el con ex o en el que se basa la in es igaci´on de es e T abajo Fin
de G ado. En el pun o 2.1, se expone una peque˜na base sob e concep os de Ap endizaje
Au om´a ico p o undizando el los ´a boles de decisi´on y en el pun o 2.2 sob e Ap endizaje
P o undo. A con inuaci´on, en la secci´on 2.3 se in oducen concep os impo an es sob e
segu idad de in o maci´on y en la 2.4 se p o undiza ´a en segu idad en in eligencia a i icial
in oduciendo los a aques ad e sa ios. En la secci´on 2.5 se p esen an las GAN como
concep o cla e del abajo. Po ´ul imo se an a explica concep os impo an es que se
an a u iliza a lo la go del abajo como son los a aques DoS en la secci´on 2.6, las GAN
abula es en la 2.7, la lib e ´ıa Ka ka en la 2.8 y po ´ul imo los IDS en la secci´on 2.9.
2.1. Ap endizaje Au om´a ico
Machine Lea ning es la aducci´on en ingl´es de Ap endizaje Au om´a ico (AA), una ama
de la IA en la que los sis emas in o m´a icos u ilizan cie os algo i mos que les apo an la
capacidad de ap ende y adap a se a nue os da os sin necesidad de in e enci´on humana
[ML123]. As´ı, a pa i de los da os de en ada, el sis ema es capaz de da una espues a
a p oblemas de clasi icaci´on, eg esi´on, ecomendaciones e c. El ML es ´a es echamen e
elacionado con la mine ´ıa de da os ya que los algo i mos mejo an su endimien o a medida
que se en enan con nue os da os. Tambi´en es ´a elacionado con la es ad´ıs ica ya que se
emplean modelos es ad´ıs icos y p obabil´ıs icos a la ho a ealiza p edicciones.
Seg´un la a ea que se quie a ealiza y los da os disponibles pa a el en enamien o de
los modelos necesa ios pa a cub i la, los algo i mos de ML se di iden en es ipos de
ap endizaje:
Ap endizaje supe isado: se le suminis a al sis ema da os ya clasi icados po el
se humano. El algo i mo a a ´a de descub i las elaciones en e los da os con el
obje i o de ob ene p edicciones pa a nue as en adas. Es e ipo de ap endizaje se
5
12 Cap´
ı ulo 2. Ma co Te´
o ico
Pa a una mejo comp ensi´on del las GAN, en la Figu a 2.5 se obse a una ed neu onal que
ecibe o og a ´ıas y decide pa a cada ejemplo si se a a de una o o de un ga o o de o a
cosa, es e se ´a nues o disc iminado . A la en ada y salida del disc iminado se conec a
una ed gene a i a que in oduzca al e aciones en las mues as a ando de p oduci un
allo en el esul ado del disc iminado .
Figu a 2.5: Es uc u a b´asica de una GAN.
El esul ado de es e modelo desemboca en un a aque ad e sa io, en caso de ´exi o el
gene ado p opo ciona ´a mues as ad e sa ias capaces de enga˜na al disc iminado y po
an o a o os modelos de ML como un clasi icado como se e en la siguien e subsecci´on
con un ejemplo de a aque a un clasi icado de malwa e.
2.5.1. A aque Ad e sa io a un Clasi icado de Malwa e
Realiza un a aque ad e sa io a un clasi icado que a a un conjun o de da os de so wa e
a˜nade la p oblem´a ica de al e a un iche o ejecu able sin deja lo inse ible. Al momen o
de gene a un ejemplo ad e sa io nos in e esa que la mues a siga siendo un so wa e
uncional adem´as de enga˜na al clasi icado .
La en ada del gene ado cons a de un iche o de malwa e en o ma de un ec o
ca ac e ´ıs ico mde ama˜no My de un ec o de uido z. El ec o mes bina io y cada
d´ıgi o implica la exis encia de una ca ac e ´ıs ica. zes un ec o de ama˜no Zdonde Zes
un hipe pa ´ame o del modelo. La unci´on de zes pe mi i al gene ado p oduci a ios
ejemplos ad e sa ios pa a un solo ec o ca ac e ´ıs ico.
El gene ado consis e en una ed neu onal eed o wa d mul icapa que ecibe y de uel e
un ec o ca ac e ´ıs ico. La ´ul ima capa de la ed iene Mneu onas con la unci´on de
ac i aci´on sigmoide, con es o se consigue que la salida de la ed Θ sean Mca ac e ´ıs icas
con alo es en e 0 y 1. Despu´es se aplica una no malizaci´on bina ia a la salida pa a
ob ene un ec o de unos y ce os, a es e ec o se le llama a Θ0.
Pa a e i a deja el malwa e inse ible se a˜nade alguna ca ac e ´ıs ica i ele an e, nunca
desecha una ca ac e ´ıs ica que es u iese en el ec o de en ada. Pa a es e in se aplica el
ope ado OR l´ogico bi a bi , as´ı solo se a˜nadi ´an los unos de Θ0que no es ´en ya en m, al
ec o esul an e de es a ope aci´on se le llama a m0(m0=m|Θ0).
La na u aleza bina ia del ec o m0no pe mi e la p opagaci´on hacia a ´as del e o has a el

2.6. A aque de Denegaci´
on de Se icio 13
gene ado . Se de ine una unci´on Gque pe mi a al gene ado accede a la in o maci´on del
g adien e del de ec o sus i u o en cada i e aci´on del en enamien o. Es ´a unci´on aplica ´a
la unci´on max bi a bi en e my Θ, los bi s a 1 de mse man end ´an in ac os y el es o
de bi s se modi ica ´an en unci´on del g adien e.
G(m, z) = max(m, Θ).
La unci´on de pe dida del gene ado se ´a in e sa a la del clasi icado sus i u o, de es a
o ma, a medida que el clasi icado sus i u o aya ap endiendo a clona al clasi icado de
caja neg a, el gene ado he eda ´a el conocimien o pa a gene a ec o es malignos que el
clasi icado de caja neg a no pueda e ique a como Malwa e.
2.6. A aque de Denegaci´on de Se icio
Un a aque DoS es un ipo de a aque cibe n´e ico cuyo obje i o es sa u a un sis ema, ed
o se icio en l´ınea, con el in de impedi el acceso o uso po pa e de usua ios leg´ı imos.
Du an e un a aque DoS, los pe pe ado es emplean una ed de m´ul iples disposi i os
comp ome idos pa a en ia una g an can idad de ´a ico also o solici udes maliciosas
hacia el obje i o deseado. Es os disposi i os comp ome idos pueden inclui compu ado as,
se ido es u o os disposi i os conec ados a In e ne p e iamen e in ec ados con malwa e
y con olados po el a acan e.
El obje i o del a aque consis e en sob eca ga el sis ema obje i o con un olumen excesi o
de ´a ico o solici udes, lo cual ago a los ecu sos del sis ema, ales como el ancho de banda
de la ed, la capacidad de p ocesamien o o las conexiones disponibles. Como esul ado, el
sis ema obje i o se uel e inaccesible o expe imen a un endimien o deg adado de mane a
signi ica i a, lo que impide a los usua ios leg´ı imos u iliza lo no malmen e.
2.7. Redes Gene a i as Ad e sa ias Tabula es
Las GAN abula es son un ipo de modelo ad e sa io u ilizado pa a gene a da os abula es
de o ma sin ´e ica. Es e en oque se basa en las GAN, las cuales es ´an compues as como
sabemos po dos edes neu onales: el gene ado y el disc iminado , que compi en en e s´ı.
En el con ex o de da os abula es, que son conjun os de da os es uc u ados en o ma de
ablas con ilas y columnas, las GAN abula es se u ilizan pa a c ea nue as mues as
de da os simila es al conjun o de da os o iginal. Es as edes esul an especialmen e
´u iles cuando se p e ende man ene la es uc u a y las elaciones en e las di e en es
ca ac e ´ıs icas p esen es en los da os abula es. El gene ado en una GAN abula ecibe
una en ada alea o ia llamada uido la en e y la ans o ma en una mues a de da os
14 Cap´
ı ulo 2. Ma co Te´
o ico
abula es sin ´e icos. Po o o lado, el disc iminado e al´ua si una mues a es eal o
sin ´e ica. Ambas edes se en enan de mane a ad e sa ia: el gene ado in en a enga˜na
al disc iminado gene ando mues as m´as ealis as, mien as que el disc iminado busca
dis ingui en e mues as eales y gene adas. Du an e el p oceso de en enamien o, el
gene ado y el disc iminado se mejo an con inuamen e mien as compi en en e s´ı.
Idealmen e, al inal del en enamien o, el gene ado es capaz de gene a mues as que
esul an indis inguibles pa a el disc iminado .
2.8. Ka ka
Ka ka es una biblio eca en Py hon que implemen a un consumido y p oduc o pa a
Apache Ka ka, un sis ema de mensaje ´ıa dis ibuida. Ka ka es una pla a o ma de
ansmisi´on de da os de al o endimien o y baja la encia u ilizada pa a en ia da os en
iempo eal en e aplicaciones y sis emas dis ibuidos.
La biblio eca Ka ka b inda una in e az ´acil de usa pa a in e ac ua con cl´us e es de
Ka ka desde Py hon. Pe mi e a los desa ollado es esc ibi aplicaciones de consumido es
y p oduc o es que en ´ıan y eciben mensajes a a ´es de emas de Ka ka. Algunas
ca ac e ´ıs icas des acadas de Ka ka incluyen:
1. P oduc o : Pe mi e c ea un p oduc o en Py hon pa a en ia mensajes a los emas
de Ka ka. Es o posibili a la publicaci´on de da os en iempo eal pa a que o os
consumido es los p ocesen.
2. Consumido :Ka ka ambi´en pe mi e c ea consumido es en Py hon que se
susc iben a los emas de Ka ka y eciben mensajes en iempo eal. Los consumido es
pueden p ocesa y analiza los da os en iados po los p oduc o es.
2.9. Sis ema de De ecci´on de In usos basado en
Ap endizaje Au om´a ico
Un IDS es un so wa e de segu idad cuya unci´on es de ec a accesos no au o izados
en un sis ema o una ed de o denado es, y en base a ello, gene a alg´un ipo de ale a
o log pa a que pos e io men e pueda se ges ionado po el adminis ado de sis emas
co espondien e [IDS23]. Su obje i o p incipal po an o es e isa y clasi ica el ´a ico
de ed como no mal o malicioso. As´ı, ML es de g an u ilidad pa a clasi ica el ´a ico
bas´andose en las ca ac e ´ıs icas del mismo [LSX22]. Los ´a boles de decisi´on son uno de los
posibles algo i mos u ilizados pa a implemen a los.
Cap´ı ulo 3
Es ado del A e
En la ac ualidad, hay di e sos es udios sob e las m´ul iples amenazas ad e sa ias y abajos
en los que se ponen a p ueba y se analizan me odolog´ıas y obje i os muy di e en es. En la
secci´on 3.1 se habla ´a del modelo de amenaza ad e sa io ac ual analizando a ´ıculos en los
que se exponen o mas de c ea ejemplos ad e sa ios en con ex os a iados y dando una
clasi icaci´on de los a aques ad e sa ios seg´un di e en es ca ac e ´ıs icas. En la secci´on 3.2 se
habla a sob e los a aques ad e sa ios seg´un el conocimien o del a acan e en oc´andose ya en
el pun o de is a de en ena una GAN. A con inuaci´on se en a aques de en enenamien o
en la secci´on 3.3 y a aques de e asi´on en la secci´on 3.4.
3.1. Modelo de Amenaza Ad e sa ia
Un componen e cla e del an´alisis de segu idad de los sis emas o componen es de un sis ema
es el modelado de amenazas. Los obje i os p incipales de es e es es ablece obje i os
de segu idad median e la iden i icaci´on de amenazas y po enciales ulne abilidades
pe mi iendo desa olla pol´ı icas pa a p e eni o minimiza el impac o de dichas amenazas
en los sis emas. Es a e apa pe mi e maximiza la segu idad de un sis ema.
Los modelos de ML su en ulne abilidades an e a aques ad e sa ios. En conc e o, en el
´ambi o de segu idad de ed se ealizan muchos m´as a aques que en o os campos debido
a la na u aleza de las aplicaciones p opias de es e campo como de ecci´on de malwa e,
in usos o il ado de spam. En [IAKMS19] se p esen a una axonom´ıa pa a gene a
a aques ad e sa ios con a un modelo de ML implemen ado en pla a o mas de segu idad
que supe isan el ´a ico en la ed. Adem´as se p esen an dos en oques de clasi icaci´on pa a
los a aques ad e sa ios sugi iendo algunas de ensas pa a es os a aques.
15
16 Cap´
ı ulo 3. Es ado del A e
3.1.1. Ejemplos Ad e sa ios
El p ime es udio en el que se habla de concep os elacionados con los ejemplos ad e sa ios
es [SZS+13]. En ´el se a gumen a que una peque˜na pe u baci´on en la o ma de una en ada
cuidadosamen e elabo ada pod´ıa con undi a una ed neu onal de DL. En ese a ´ıculo hacen
p uebas con im´agenes y hay muchos es udios que in es igan ese campo.
Los ejemplos ad e sa ios son el componen e p incipal de los a aques ad e sa ios y consis e
en una en ada pe u bada de un algo i mo de ML. Sea po ejemplo en un da ase conc e o
con ca ac e ´ıs icas xy con e ique as clasi icadas y, se a a de ob ene un ejemplo ˜x=x+δ,
siendo δla pe u baci´on, que sea p ´ac icamen e indis inguible de xpe o que sea clasi icado
con una e ique a dis in a a y. Si se llama cal clasi icado , se busca una pe u baci´on
peque˜na al que c(x)6=c(˜x). Es os ejemplos ad e sa ios se c ean usando m´e odos de
op imizaci´on que buscan la m´ınima pe u baci´on que maximice la unci´on de p´e dida de
la ed neu onal.
Como se ha mencionado, en es e abajo se an a gene a ejemplos ad e sa ios median e
el uso de una GAN. Sin emba go, hay muchos o os m´e odos in e esan es pa a c ea los.
A con inuaci´on se enume an algunos de ellos. En [KGB16] se exponen a ios m´e odos
pa a gene a los en ocados a da ase s de im´agenes y a˜naden ´o mulas ma em´a icas pa a
explica lo. En [IAKMS19] se enume an con una explicaci´on b e e.
M´
e odo del G adien e de Signo R´
apido del ingl´
es Fas G adien Sign
Me hod (FGSM): es un m´e odo simple y compu acionalmen e e icien e compa ado
con o os m´e odos pa a gene a ejemplos ad e sa ios. Los ejemplos se c ean
calculando la p´e dida de la p op agaci´on hacia delan e, a con inuaci´on el g adien e
espec o a la en ada y modi icando los da os en la di ecci´on de los g adien es que
maximiza la p´e dida [FGS23].
M´
e odo I e a i o b´
asico o Basic I e a i e Me hod (BIM): ealiza el c´alculo
del g adien e en mul iples i e aciones. Es o esuel e el p oblema de o os m´e odos
como el FGSM de asumi que pueden in oduci se los ejemplos di ec amen e en
el modelo de ap endizaje au om´a ico. Es o dis a mucho de se p ´ac ico, ya que la
mayo ´ıa de los a acan es a lo hacen a a ´es de disposi i os como senso es. Hay
a ian es de es e m´e odo escogiendo la clase menos p obable p edicha po la ed
pa a aplica el BIM [BIM23].
A aque basado en el Jacobiano y Mapa de A enci´
on o Jacobian-based
Saliency Map A ack (JSMA): se usa una ma iz jacobiana de la en ada pa a
encon a las ca ac e ´ıs icas que m´as a ec an a la salida. El a aque ad e sa io se
gene a a˜nadiendo peque˜nas pe u baciones bas´andose en esas ca ac e ´ıs icas.
Tambi´en hay o os abajos que se en ocan en gene a ejemplos ad e sa ios pe o sob e
3.1. Modelo de Amenaza Ad e sa ia 17
da os dis in os a im´agenes. En [ZDS17] se expone que las pe u baciones a menudo no
son na u ales, no ienen signi icado sem´an ico y no son aplicables a dominios complicados
como el lenguaje y se p opone un ma co pa a gene a ejemplos con adic o ios na u ales
y legibles que se encuen an en la a iedad de da os. En [SM17] se a a la gene aci´on
de ejemplos ad e sa ios en ex os con un algo i mo que modi ica la en ada o iginal
( eemplazando, inse ando y qui ando palab as del ex o).
3.1.2. Clasi icaci´on de Amenazas Ad e sa ias
Den o del modelo de amenaza ad e sa ia, en [IAKMS19] se conside an di e en es ipos
de a aque eniendo en cuen a el conocimien o del a acan e, sus obje i os, el momen o del
a aque, la ecuencia con la que se ac ualiza u op imiza el ejemplo y la alsi icaci´on del
a aque. Seguidamen e se da una explicaci´on b e e de odo ello:
Conocimien o del a acan e: a la ho a de a aca , no solo hay que conoce la
unci´on que cumple el modelo que se quie e a aca , su implemen aci´on o el ipo de
da os de en ada sino que adem´as se debe ene en cuen a el conocimien o que el
a acan e iene sob e la a qui ec u a y la implemen aci´on del modelo. Se explica la
clasi icaci´on m´as de alladamen e en la secci´on 3.2 y en ocado a las GAN.
Obje i o del a acan e: a aques di igidos o a aques de iabilidad. Los p ime os buscan
induci una p edicci´on espec´ı ica y de ini i a en el modelo de ML mien as que los
segundos buscan maximiza el e o come ido en la p edicci´on.
Momen o del a aque: a aques de e asi´on en e a a aques de en enenamien o.
En la e asi´on, ambi´en conocidos como a aques explo a o ios o a aques a iempo
de decisi´on, el a acan e p e ende con undi la decisi´on del modelo de ap endizaje
au om´a ico despu´es de que se haya ap endido como se mues a en la Figu a 3.1.
En la Secci´on 3.4 lo e emos con m´as de alle. Es o con as a con los a aques de
en enenamien o que implica co upci´on ad e sa ia de los da os de en enamien o
an es del en enamien o pa a induci una p edicci´on e ´onea del modo de ap endizaje
como se mues a en la Figu a 3.2. P o undiza emos sob e ellos en la Secci´on 3.3.
F ecuencia: ocasiones en la que el ejemplo ad e sa io es ac ualizado u op imizado.
En los one-sho se ealiza una ez. En los i e a i os se ealiza a ias eces, mejo ando
el endimien o pe o ag andando el cos e.
Falsi icaci´
on: los alsos posi i os hacen que se clasi ique mal un ejemplo ad e sa io
nega i o como uno posi i o como po ejemplo un ma wa e clasi icado como benigno
y un also nega i o al e ´es.

18 Cap´
ı ulo 3. Es ado del A e
Figu a 3.1: A aque de e asi´on
Figu a 3.2: A aque de en enenamien o
3.2. Clasi icaci´on de A aques Seg´un el Conocimien o del
A acan e
A pa i de aho a se pone el oco en las edes GAN que se in oduje on en el Cap´ı ulo 2
y se a a desa olla la clasi icaci´on de los a aques ad e sa ios seg´un el conocimien o
del a acan e. A pa e de la unci´on que cumple el modelo que se quie e a aca , su
implemen aci´on o el ipo de da os de en ada, se debe ene en cuen a el conocimien o
que un a acan e iene sob e la a qui ec u a y la implemen aci´on del modelo. El gene ado
necesi a ob ene conocimien o del modelo que se es ´a a acando pa a p oduci los ejemplos
ad e sa ios. Es a puede se una a ea se complica a medida que se iene menos in o maci´on
sob e la a qui ec u a, los pa ´ame os de en enamien o y los pesos esul an es del modelo
a acado. En es e pa adigma se pueden di idi los a aques ad e sa ios en es ca ego ´ıas
p incipales: los a aques de caja neg a, de caja g is y de caja blanca.
3.2.1. A aques de caja blanca
En es e ipo de a aque, el pe pe ado iene un conocimien o comple o del modelo de
des ino, incluidos los da os de en enamien o, la es uc u a y los pa ´ame os. Pa a log a
la alla del modelo, un a acan e debe es udia su compo amien o y comp ende las
ulne abilidades del modelo, po ejemplo, qu´e da os de en ada p oducen una salida alsa.
Conociendo oda es a in o maci´on es mucho m´as sencillo decidi la implemen aci´on pa a
el gene ado y la ans e encia de conocimien o [ML222] desde el clasi icado .
Es e ipo de a aques es ampliamen e u ilizado. En [WLC+21b] p opusie on un a aque
3.2. Clasi icaci´
on de A aques Seg´
un el Conocimien o del A acan e 19
ad e sa io de caja blanca que pe mi e ealiza a aques de modelos de ML con
pe u baciones su iles y se ompen modelos de en enamien o ad e sa io TRADES
[ZYJ+19] con la asa de ´exi o m´as al a. Los a aques gene ados log an educi la p ecisi´on
de los modelos en e un 16 % y un 31 % en los a aques de ans e encia de caja neg a.
Adem´as, en Wang e al. [WLC+21a] se p opone un m´e odo pa a educi la can idad
de in o maci´on innecesa ia pa a la gene aci´on de ejemplos nega i os in eg ados (IWA)
basados en g adien es: Algo i mo de a aque de pun o ini o in eg ado (IFPA) y Algo i mo
de a aque de uni e so in eg ado (IUA). IFPA se aplica a un n´ume o p ede e minado
de pun os de pe u baci´on e IUA se aplica a un n´ume o inde e minado de pun os de
pe u baci´on pa a un ejemplo m´as con o e ido. Los expe imen os pueden e i ica que
se pueden gene a ejemplos con adic o ios con menos in e e encia y mejo elocidad de
gene aci´on en odo ipo de conjun os de da os.
3.2.2. A aques de caja neg a
A di e encia de las axonom´ıas an e io es, los a aques de caja neg a no equie en
conocimien o del modelo, su con igu aci´on o las ecnolog´ıas que lo sopo an [YHZL19].
La ´unica in o maci´on que se iene del modelo a acado es la salida que p oduce pa a una
en ada dada. El modelo de ed ad e sa ia que mejo es esul ados ha dado en es e ipo de
a aques es la es uc u a MalGAN [HT17b] que emos en la Figu a 3.3. El p ime paso en la
implemen aci´on de la ed MalGAN se ´a cons ui un clasi icado sus i u o, es e clasi icado
se ´a en enado con mues as de un da ase p e iamen e e ique ado po el clasi icado de
caja neg a. El obje i o es log a que el clasi icado sus i u o consiga clona los esul ados
de la caja neg a. Cuando se log e es o se puede ealiza la ans e encia de conocimien o
al gene ado u ilizando la misma es uc u a de ed GAN que se ha is o en el es o de
ejemplos.
Figu a 3.3: Es uc u a MalGAN [HT17b]
En el abajo [LSX22] se u iliza ambi´en una GAN pa a ealizaa un a aque de caja
neg a a un IDS. Hoy en d´ıa, algunas soluciones pe mi en el uso de algo i mos de IA
20 Cap´
ı ulo 3. Es ado del A e
pa a ealiza a eas c ´ı icas, como de ec a malwa e en una o ganizaci´on. Es e ipo de
soluciones son las m´as ulne ables, po lo que las mues as de malwa e modi icadas se
conside an mues as ´alidas. En [HT17a], se p opone un algo i mo pa a gene a ejemplos
secuenciales an ag´onicos pa a a aca sis emas basados en RNN, la ed gene a i a se basa
en un modelo secuencia po secuencia, y el RNN p oxy co espondien e al RNN de la
´ıc ima se en ena u ilizando Gumbel-So max sob e las mues as ap oximadas gene adas.
Po lo an o, la mayo ´ıa de las mues as maliciosas gene adas po ecomendaciones no
pueden se de ec adas po algo i mos basados en RNN.
Adem´as, Zhao e al. [GZL+21] p opuso a aques de caja neg a en algo i mos de de ecci´on
de ´a ico de ed basados en ML sospechosos. Es a p opues a, al igual que las an e io es,
se basa en la comp ensi´on de pa ones en la gene aci´on de im´agenes e IDS al ex ende
el algo i mo BIM con un m´e odo de eemplazo de pa ones ap endido obje i amen e
u ilizando los conjun os de da os KDD99 y CSE-CIC-IDS2018. Las mues as gene adas
po la he amien a emi en de ecci´on de e asi´on de pa ´on obje i o.
3.2.3. A aques de caja g is
A di e encia de los dos an e io es, los a aques de caja g is en enan un modelo gene a i o
con la in enci´on de gene a mues as ad e sa ias asumiendo que se iene acceso al
modelo a acado an solo du an e la ase de en enamien o [XZJL21]. La me odolog´ıa de
en enamien o es simila a la de los a aques de caja neg a pe o, al ene acceso al modelo
a acado du an e el en enamien o no es necesa io manda le an as consul as.
La en ajas del a aque de caja g is incluyen: mayo e iciencia de iempo, la no asunci´on del
conocimien o del modelo a acado du an e la ase de a aque y son m´as ´aciles de in eg a
en la de ensa de a aques ad e sa ios.
3.3. A aques de En enenamien o
Los a aques de en enenamien o en el ap endizaje au om´a ico buscan manipula el conjun o
de en enamien o de mane a que el modelo esul an e pie da p ecisi´on. Es os a aques
ienen dos obje i os p incipales que son deg ada la p ecisi´on del modelo y c ea una
pue a ase a en el modelo.
Hay dos mane as de en enena el conjun o de en enamien o:
La p ime a consis e en e ique a mal cie os da os pa a que el modelo ap enda
in o maci´on e ´onea, lo que a su ez a ec a la on e a de decisi´on y p oduce
p edicciones inco ec as.
La segunda es median e la c eaci´on de da os con usos, donde el a acan e c ea da os
3.3. A aques de En enenamien o 21
con ca ac e ´ıs icas especiales que el modelo ap ende a explo a , lo que puede pe mi i
al a acan e accede al modelo de o ma no au o izada.
3.3.1. Ejemplo de un A aque de En enenamien o
Un ejemplo de uso del a aque de en enenamien o a los da os de un ap endizaje colabo a i o
u ilizando una GAN que apa ece en [ZCW+19] se expone a con inuaci´on.
3.3.2. Funcionamien o del Ap endizaje Colabo a i o
Pa a en ende es e ejemplo de a aque p ime o es necesa io sabe en que consis e
el ap endizaje colabo a i o. Sin in e cambia expl´ıci amen e mues as de da os, el
ap endizaje ede ado in en a en ena un algo i mo de AA, como las Redes Neu onales
P o undas (RNP), en nume osos conjun os de da os locales p esen es en nodos locales.
En el ap endizaje colabo a i o, los usua ios solo ca gan g adien es gene ados po los
da os y modelos de en enamien o locales, lo que educe el iesgo de il aci´on de la
p i acidad. Adem´as, en el ap endizaje colabo a i o, los modelos globales en el lado del
se ido compa en la misma es uc u a con los modelos locales del clien e, lo que pe mi e
que los usua ios conse en el con ol sob e sus da os. En cada i e aci´on, los usua ios
desca ga ´an los pa ´ame os y el modelo global del lado del se ido y luego en ena ´an
el modelo con los conjun os de da os locales en cada clien e. Los g adien es ca gados se
p omedia ´an y acumula ´an en el modelo global ac ual, lo que pe mi i ´a que el modelo
mejo e con cada i e aci´on.
3.3.3. Ejecuci´on del A aque
El a acan e iene como obje i o co ompe el modelo global en la ase de en enamien o
haci´endose pasa po un pa icipan e benigno y enga˜na al modelo global pa a clasi ica
inco ec amen e las en adas co ec as como la e ique a inco ec a obje i o en la e apa de
in e encia.
El p oceso pa a en enena los da os po pa e de un a acan e es el siguien e, u ilizando
una a qui ec u a GAN en el p ocedimien o de ap endizaje colabo a i o, el a acan e gene a
mues as simila es a las de o os pa icipan es benignos y las inse a en los conjun os de
da os locales de en enamien o. Es as mues as es ´an en enenadas y se les ha asignado
la e ique a inco ec a. El modelo local se en ena con es os da os en enenados, lo que
da luga a una ac ualizaci´on local en enenada. Despu´es de que se hace el p omedio del
modelo en el lado del se ido , los esul ados de p edicci´on en algunas en adas de los
pa icipan es benignos cambian a las clases elegidas po el a acan e.
Pa a lle a a cabo es e a aque, se deben segui los siguien es pasos:
28 Cap´
ı ulo 4. Dise˜
no e Implemen aci´
on
Se iene po an o ya el IDS en enado y lis o pa a ecibi nue os ejemplos y clasi ica los.
En el Cap´ı ulo 5de expe imen os y esul ados se analiza el e o del IDS seg´un las m´e icas
habi uales.
4.4. Red Gene a i a Ad e sa ia pa a A aca un Sis ema de
De ecci´on de In usos
En es a secci´on se desc ibe la implemen aci´on de la GAN con el obje i o de a aca el IDS
de la secci´on an e io . El a aque a a se de caja neg a, es deci , la GAN a a ene como
´unica in o maci´on sob e el IDS su salida y a a a a de ap ende de ella. El abajo se
lle ´o a cabo de nue o en o o no ebook de Google Colab. En ´el, se impo a la pa e del
conjun o de da os que co esponde a la GAN y que p e iamen e se hab´ıa gua dado en
un a chi o .cs y el modelo ya en enado de IDS median e la uncionalidad de la lib e ´ıa
pickle.
4.4.1. P ep ocesamien o del Conjun o de Da os
Como se mos ´o an e io men e se ealiz´o la di isi´on del conjun o de da os de en enamien o
ex a´ıdo de NLS-KDD una ez codi icado las a iables ca eg´o icas y eliminado las m´as
co eladas. Aho a, como en ena una GAN es un p oceso la go y cos oso se di idi ´a el
conjun o de da os en subconjun os seg´un el ipo de a aque y o o conjun o pa a ´a ico
benigno. A con inuaci´on se sepa an los subconjun os en o os di e en es X ipo a aque e
Y ipo a aque y ambi´en o o conjun o pa a el ´a ico no mal de la misma o ma que se
mos ´o pa a el clasi icado . En los expe imen os se ealiza ´a el en enamien o de la ed
GAN ´unicamen e con los da os de a aques DoS y se usa ´an ambi´en el ´a ico no mal pa a
ealiza la p edicci´on con el IDS y compa a con la p edicci´on de los da os ad e sa ios. Se
ealiz´o la no malizaci´on y algunos ajus es pa a que el ama˜no de los conjun os de da os
sea el ´op imo pa a el en enamien o de la GAN.
4.4.2. Desa ollo de la Red Gene a i a Ad e sa ia
La es uc u a de la ed GAN p opues a y su en enamien o se p esen an en las siguien es
secciones.
4.4.2.1. Es uc u a
Como se sabe, la implemen aci´on de la GAN incluye un gene ado y un disc iminado .
El gene ado es esponsable de gene a los ejemplos ad e sa ios a pa i de ec o es de
uido y de los da os en s´ı. En es e caso, se ha de inido una unci´on llamada build gene a o

4.4. Red Gene a i a Ad e sa ia pa a A aca un Sis ema de De ecci´
on de
In usos 29
que cons uye un gene ado b´asico con es capas densas y dos capas de no malizaci´on po
lo es empleando las uncionalidades Dense yBa chNo maliza ion de la lib e ´ıa Ke as. Es e
gene ado oma como en ada un enso de o ma (124,) y p oduce un enso de salida
de o ma (115,) que es el ama˜no que deben de ene los da os ya que el ´a ico iene 115
ca ac e ´ıs icas en el conjun o de da os p ocesado.
La p ime a capa del gene ado es una capa densa con 124 unidades de en ada y una
unci´on de ac i aci´on lineal ec i icada (ReLU) con una pendien e nega i a de 0.2. A
con inuaci´on, se ag ega una capa de no malizaci´on po lo es con un ac o de momen o de
0.8 pa a mejo a la es abilidad y la elocidad de con e gencia de la ed. Pos e io men e,
se ag egan dos capas densas m´as, cada una con una unci´on de ac i aci´on ReLU con una
pendien e nega i a de 0.2 y una capa de no malizaci´on po lo es con el mismo ac o de
momen o que la capa an e io . Finalmen e, se ag ega una ´ul ima capa de ac i aci´on ReLU
con una pendien e nega i a de 0.2.
En el C´odigo 4.1 se obse a el c´odigo de la unci´on build gene a o . Pa a el disc iminado
es una unci´on simila .
1de build_gene a o ():
2model = ke as . Sequen ial ()
3model .add ( ke as . laye s . Dense (124 , inpu _shape =(124 ,) ))
4model .add ( ke as . laye s . Ba chNo maliza ion ( momen um = 0.8) )
5model .add ( ke as . laye s . LeakyReLU (0.2) )
6
7model .add ( ke as . laye s . Dense (119) )
8model .add ( ke as . laye s . Ba chNo maliza ion ( momen um = 0.8) )
9model .add ( ke as . laye s . LeakyReLU (0.2) )
10
11 model .add ( ke as . laye s . Dense (115) )
12 model .add ( ke as . laye s . LeakyReLU (0.2) )
13
14 model . summa y ()
15 e u n model
C´odigo 4.1: C´odigo de build gene a o .
A con inuaci´on se ealiza la con igu aci´on del disc iminado que es el esponsable de
dis ingui en e ´a ico eal y also. La unci´on build disc imina o de ine la a qui ec u a
b´asica del disc iminado , que incluye cua o capas densas, es capas de no malizaci´on po
lo es y una capa de ac i aci´on so max.
El disc iminado oma como en ada un enso de o ma (115,), que ep esen a una
ins ancia de ´a ico, y p oduce una salida unidimensional que ep esen a la p obabilidad
de que la imagen sea eal o sin ´e ica. Po an o, la p ime a capa es una capa densa con
115 unidades de en ada y una unci´on de ac i aci´on ReLU, seguida de una capa de
30 Cap´
ı ulo 4. Dise˜
no e Implemen aci´
on
no malizaci´on po lo es con un ac o de momen o de 0.8. A con inuaci´on, se ag ega una
capa de ac i aci´on ReLU con una pendien e nega i a de 0.2 y o a capa de no malizaci´on
po lo es con el mismo ac o de momen o que la capa an e io . Luego se ag egan dos capas
densas m´as, cada una con una unci´on de ac i aci´on ReLU y una capa de no malizaci´on
po lo es con el mismo ac o de momen o. Finalmen e, se ag ega una capa densa con una
unci´on de ac i aci´on so max, que se u iliza pa a p oduci una salida unidimensional que
ep esen a la p obabilidad de que la imagen sea eal o no.
Pa a ambos modelos se u iliza una llamada a la unci´on summa y que imp ime una
ep esen aci´on g ´a ica del modelo y una desc ipci´on de sus pa ´ame os. Es o pe mi e ene
una isi´on gene al de la a qui ec u a del gene ado y disc iminado y de sus alo es de los
pa ´ame os u ilizados.
Pa a c ea ambos componen es de la GAN se u iliza la unci´on
c ea eIDSGANDOScomponen s que de uel e el gene ado , el disc iminado y el
modelo GAN comple o. El disc iminado se compila con una la unci´on de p´e dida
spa se ca ego ical c ossen opy, el op imizado sgd y la m´e ica de p ecisi´on. El
disc iminado se congela en es e pun o, lo que signi ica que sus pesos no se ac ualiza ´an
du an e el en enamien o.
El modelo GAN se c ea combinando el gene ado y el disc iminado .Es e iene como
en ada el enso de uido y como salida la clasi icaci´on del ´a ico gene ado como eal
o also po el disc iminado . El modelo se compila con la misma unci´on de p´e dida,
o imizado m´e ica que el disc iminado .
4.4.2.2. En enamien o
Pa a en ena la GAN se u iliza el IDS en enado. El obje i o es minimiza la p´e dida
del gene ado mien as se maximiza la del disc iminado . Pa a ello, se gene a ´an ejemplos
ad e sa ios con uido en el gene ado , se clasi ican jun o a los da os eales en el IDS, y
se en ena el disc iminado eniendo en cuen a esos da os pa a que ap enda a dis ingui
en e eal y also.
Se ealiza la de inici´on de dos unciones auxilia es. La unci´on ge Ad e sa ialSample ecibe
como en ada los da os o iginales de a aque, gene a un ec o de uido uni o memen e
dis ibuido con alo es en e 0 y 1 de o ma (9,) y los conca ena. Se obse a su c´odigo en
el C´odigo 4.2. Se ealiza es o pa a cada ins ancia de los da os de a aque. Po o o lado,
la unci´on ge Ba ch se enca ga de ob ene un lo e de da os a pa i de un conjun o de
da os, el ama˜no del lo e y el momen o del algo i mo en el que se encuen a. Se ealiza el
en enamien o po lo es ya que se ha descubie o que el modelo se en ena m´as ´apido y
se equie e menos memo ia.
1de ge Ad e sa ialSample(X_a ack):
4.4. Red Gene a i a Ad e sa ia pa a A aca un Sis ema de De ecci´
on de
In usos 31
2ba ch = []
3 o sample in X_a ack:
4noise = np . andom . uni o m (0 ,1 ,(9 ,))
5ba ch . append (np . conca ena e (( sample , noise )))
6 e u n np . a ay ( ba ch )
C´odigo 4.2: C´odigo de ge Ad e sa ialSample.
Se de ine la unci´on que a a lle a a cabo el en enamien o en s´ı de la ed. Es a es
ainIDSGAN y ecibe el gene ado , el disc iminado , el modelo GAN, el modelo del IDS,
los da os de en enamien o de a aque y no males y los pasos que se dan en cada ´epoca del
bucle del algo i mo. Es os pasos se calculan eniendo en cuen a el ama˜no elegido de los
lo es. El en enamien o consis e en un bucle po ´epocas con o o bucle in e no de los pasos
po cada lo e. En cada uno de ellos se ealizan las siguien es ope aciones que se enume an
a con inuaci´on y que se obse a el c´odigo que lo implemen a en el C´odigo 4.3:
1. Se ob iene el lo e de da os de a aque co espondien e al paso ac ual median e el uso
de ge Ba ch.
2. Se cons uye la mues a ad e sa ia del lo e median e el uso de ge Ad e sa ialSample.
3. Se u iliza la unci´on p edic del gene ado pa a gene a el ´a ico malicioso ad e sa io.
4. Se ecupe an de nue o los da os eales del a aque median e ge Ba ch.
5. Se ealiza la clasi icaci´on de los da os eales y los alsos u ilizando el p edic del IDS.
6. Se ma ca el disc iminado como en enable y lo se en ena basandose en los esul ados
del IDS.
7. Se ac ualizan los pa ´ame os del disc iminado y se ma ca una ez mas como no
en enable.
8. Es gene a de la mues a ad e sa ia y se en ena el gene ado el gene ado a a ´es
del modelo GAN.
9. Y po ul imo se ac ualizan los pa ´ame os del gene ado .
1de ainIDSGAN ( gene a o , disc imina o ,gan ,ids_model ,
2X_ ain_a ack , X_ a ic_ ain , s eps_pe _epoch ):
3 o epoch in ange (epochs):
4 o s ep in ange ( s eps_pe _epoch ):
5
6X_a ack = ge Ba ch (ba ch_size ,s ep , X_ ain_a ack )
7ad e sa ial_ba ch = ge Ad e sa ialSample ( X_a ack )
8X_ ake = gene a o . p edic ( ad e sa ial_ba ch ) . ound ( decimals = 4)
32 Cap´
ı ulo 4. Dise˜
no e Implemen aci´
on
9
10 X_ eal = ge Ba ch ( ba ch_size ,s ep , X_ a ic_ ain )
11
12 d_ a ge _ eal = ids_model . p edic ( X_ eal )
13 d_ a ge _ ake = ids_model . p edic ( X_ ake )
14
15 disc imina o . ainable = T ue
16
17 d_loss_ eal = disc imina o . ain_on_ba ch ( X_ eal , d_ a ge _ eal )
18 d_loss_ ake = disc imina o . ain_on_ba ch ( X_ ake , d_ a ge _ ake )
19 d_loss = 0.5* np. add ( d_loss_ eal , d_loss_ ake )
20
21 disc imina o . ainable = False
22
23 ad e sa ial_ba ch = ge Ad e sa ialSample ( X_a ack = X_a ack )
24 g_loss = gan. ain_on_ba ch ( ad e sa ial_ba ch , no mal_ alues )
25
26 p in ( ’ Epoch : { epoch } Disc imina o Loss : { d_loss }
27 Gene a o Loss : { g_loss } ’)
C´odigo 4.3: C´odigo de ainIDSGAN.
El en enamien o se lle ´o a cabo con 15 ´epocas y ama˜no de lo e 38 pa a que el ama˜no
de los da os uese di isible po ese n´ume o.
4.5. S´ın esis de A aques Dis ibuidos de Denegaci´on de
Se icio U ilizando Redes Ad e sa ias Gene a i as
Tabula es
Con el obje i o de consegui enga˜na a una ed neu onal que de ec a a aques DoS de los
que se habl´o en la secci´on 2.6, se decidi´o ealiza a aques de DDoS usando una GAN abula
en el IDS. Pa a ealiza es os se u iliza ´an a ios concep os que ienen ya explicados y
jun o con el c´odigo en [HHAE22] y que se in oducen en las secciones 2.7 y2.8.
4.5.1. Ejecuci´on del c´odigo
Pa a empeza a ejecu a es e p oyec o p ime o se ins ala una dis ibuci´on de Linux en el
o denado y se ealiza la con igu aci´on base del en o no. Despu´es se ealiza la ins alaci´on
de Conda ya que es uno de los equisi os necesa ios pa a la ejecuci´on de Make ile, den o
del cual hay a ias opciones, a noso os nos an a in e esa dos una que c ea el en o no de
ejecuci´on en conda y o a que ins ala una lis a de eque imien os. Se ealiza la ejecuci´on del
en o no po que pa a lanza el p oyec o y despu´es se ins alan los eque imien os den o del
en o no. Con es o e minado se ins ala Ka ka pa a ello hay que ins ala Docke y ejecu a
4.5. S´
ın esis de A aques Dis ibuidos de Denegaci´
on de Se icio U ilizando
Redes Ad e sa ias Gene a i as Tabula es 33
el Sc ip que iene en el p oyec o pa a ins ala Ka ka. En es e pun o se puede ejecu a
el a ack y el consume pa a gene a el ´a ico de ed con la GAN abula y ambi´en si se
ejecu a el se puede obse a que es a p ediciendo y e si es posible con undi la o no.

Cap´ı ulo 5
Expe imen os y Resul ados
En es e cap´ı ulo se ealiza ´a el an´alisis de los expe imen os ealizados a lo la go del abajo
y los esul ados. Pa a comenza , analiza emos en la secci´on 5.1 el e o del IDS en enado
en el Cap´ı ulo 4median e alidaci´on c uzada u ilizando di e en es m´e icas. En la siguien e
secci´on 5.2 se discu i ´an los esul ados ob enidos al u iliza la GAN implemen ada.
5.1. An´alisis del E o come ido po el Sis ema de De ecci´on
de In usos
Pa a medi el e o en p oblemas de clasi icaci´on, se deben compa a los esul ados
ob enidos po el modelo p opues o con los esul ados obse ados en el conjun o de da os.
Pa a ello se u ilizan di e en es m´e icas de las cuales se calcula an dos. Pa a explica las
se supone que el clasi icado es bina io, y se in uye que clasi ica un da o de ´a ico o
como no mal o como a aque. Se llaman Ve dade os Posi i os (VP) a los da os no males
clasi icados co ec amen e como la no males. Los Ve dade os Nega i os (VN) son los
clasi icados como a aque y que son a aque. As´ı, se llaman Falsos Posi i os (FP) a los
clasi icados como no males siendo a aques y Falsos Nega i os (FN) a los clasi icados como
a aque siendo no males. La m´e icas son las siguien es:
Exhaus i idad o ecall en ingl´es. Es la Tasa de Ve dade os Posi i os (TVP):
Exhaus i idad =V P
V P +F N =V P
P(5.1)
Exac i ud o accu acy en ingl´es. Es una medida buena muy u ilizada:
Exac i ud =V P +V N
V P +V N +F P +F N =V P
P(5.2)
P ecisi´on o Valo P edic i o Posi i o (VPP):
35
36 Cap´
ı ulo 5. Expe imen os y Resul ados
P ecisi´on =V P
V P +F P (5.3)
Medida F1. Realiza una media a m´onica en e la p ecisi´on y la exhaus i idad
F1=2∗V P P ∗T V P
V P P +T V P =2∗V P
2∗V P +F P +F N (5.4)
U ilizando la lib e ´ıa me ics de sklea n se puede calcula las di e en es m´e icas de e o
de el clasi icado u ilizando alidaci´on c uzada. Realizando alidaci´on c uzada en 10 pa es
a iando la p o undidad del ´a bol y se puede obse a que el e o disminu´ıa al aumen a
la p o undidad de o ma muy exage ada has a p o undidad 8. Es o es l´ogico ya que a m´as
p o undidad del ´a bol, m´as p egun as se hacen y m´as ca ac e ´ıs icas de los da os se ienen
en cuen a pudiendo clasi ica mejo . Calculando las m´e icas con p o undidad del ´a bol
8, de o ma ´op ima como se mues a en el Cap´ı ulo 4y ealizando alidaci´on c uzada en
10 pa es se ob u ie on los siguien es medias ponde adas de las m´e icas edondeando a
cua o alo es decimales:
1sco ing_me ics = [’p ecision_weigh ed ’,’ ecall_weigh ed ’,’ 1_weigh ed’]
2
3cl _op = DecisionT eeClassi ie ( c i e ion ="en opy", max_dep h =8,
4min_samples_spli =4 , andom_s a e =333)
5
6
7sco es = c oss_ alida e ( cl _op , X_ ain , Y_ ain ,
8sco ing = sco ing_me ics , c =10 , e u n_ ain_sco e = False )
9
10 p in (’PPM:’,np .mean ( sco es [ ’ es _p ecision_weigh ed’]))
11 p in (’EPM:’,np .mean ( sco es [ ’ es _ ecall_weigh ed’]))
12 p in (’F1 PM:’,np. mean ( sco es [ ’ es _ 1_weigh ed’]))
C´odigo 5.1: Ex accion de M´e icas de E o
P ecisi´on media ponde ada: 0,9879.
Exhaus i idad media ponde ada: 0,9882.
F1 media ponde ada: 0.9880.
En odas las m´e icas se ob iene un e o muy peque˜no lo que signi ica que el clasi icado
e ique a co ec amen e la mayo pa e del ´a ico con undi´endose de o ma muy a a
habiendo sido en enado con el conjun o de da os de p ueba.
5.2. An´
alisis de Resul ados de la Red Gene a i a Ad e sa ia 37
5.2. An´alisis de Resul ados de la Red Gene a i a Ad e sa ia
El en enamien o de la GAN se lle ´o a cabo pa a gene a ejemplos ad e sa ios ´unicamen e
en el caso de a aques DoS pa a simpli ica ya que el iempo de en enamien o es muy
la go. A con inuaci´on se ob iene la exac i ud al hace p edic con el IDS u ilizando el
conjun o de da os de p ueba o iginal o pasado po la GAN en enada pa a ob ene un
conjun o de da os de p ueba ad e sa ios. Con es a m´e ica es posible calcula el n´ume o
de acie os del modelo espec o a la can idad o al. Tambi´en se u iliza con usion ma ix
y Con usionMa ixDisplay pa a c ea ma ices de con usi´on y pode isualiza mejo los
esul ados.
En la ma iz de la Figu a 5.1 se mues an los esul ados de hace p edic con el IDS con
el conjun o de da os de p ueba pa a el a aque DoS e ique ados como 1. El a ico benigno
es ´a e ique ado como 0. La m´e ica de exac i ud es del 73.59 %, que no es muy al a pe o se
obse a que la mayo ´ıa de los allos son Falsos Posi i os, es deci , ´a ico benigno clasi icado
como malo, lo cual no supond ´ıa iesgo a la segu idad. El modelo acie a 12636 de 17171
p edicciones en el conjun o de p ueba.
Figu a 5.1: Ma iz de con usi´on sob e el conjun o de p ueba.
En la Figu a 5.2 se mues a la ma iz de con usi´on as hace p edic con los da os
gene ados po la GAN. La exac i ud ha bajado a un 55.84 % po lo que ya se puede
deduci que la GAN ha su ido e ec o al hace alla al IDS. Si se obse a la ma iz, 7404
44 Cap´
ı ulo 7. Conclusiones y T abajo Fu u o
Sin emba go, se ha ealizado el p oyec o con unos pa ´ame os muy conc e os y pa a un
a aque espec´ı ico, adem´as de que hay muchas o as o mas de gene a ejemplos ad e sa ios
como se ha is o. Es po ello que nues o abajo pod ´ıa ene a ias mejo as que
eque i ´ıan de mejo es medios y m´as iempo pa a ealiza las pe o que se ese an como
posible abajo u u o en la siguien e secci´on.
7.2. T abajo Fu u o
Como posibles es udios u u os pueden se˜nala se los siguien es:
Analiza los esul ados con o os ipos de a aques u o os conjun os de
da os: la ed GAN de es e abajo ue en enada con da os de ´a ico no mal y del
a aque DoS. Un a ance in e esan e se ´ıa en ena la con o o ipo de a aques como
po ejemplo los que con o man el p opio conjun o de da os usado en es e abajo
(Use o Roo , Roo o Local y P obing).
U iliza m´
as ´
epocas en el en enamien o de la ed: en el caso de ene m´as
iempo o un o denado con m´as ecu sos, se pod ´ıa en ena la misma ed GAN
u ilizando un n´ume o mayo de ´epocas. Es o debe ´ıa minimizaa en cada ´epoca a´un
m´as la p´e dida del gene ado y maximiza la del disc iminado que es el obje i o del
en enamien o de la GAN. Segu amen e se ob end ´ıan mejo es esul ados.
P oba nues a ed con o os algo imos de Machine Lea ning y con o os
conjun os de da os: en es e abajo se ha a acado a un IDS basado en ´a boles de
decisi´on pe o se pod ´ıa p oba el endimien o an e o os algo i mos y ealiza una
compa a i a an o del endimien o del IDS como de la GAN a la ho a de enga˜na lo.
Adem´as, se pod ´ıa p oba el uncionamien o u ilizando o os conjun os de da os,
an o de ´a ico como de cualquie o a cosa.
In oduci mejo as en la ed GAN: se pod ´ıan u iliza o os pa ´ame os o
incluso o as es uc u as en las capas del gene ado y del disc iminado . Cambia
las lib e ias u ilizadas pa a compa a cuales ob ienen mejo es esul ados se ´ıa o a
posibilidad. Tambi´en se pod ´ıa expe imen a con mejo as de las p opias GAN ya
es udiadas como po ejemplo las Wasse ein GAN.
En ena el algo i mo de ML con los da os ad e sa ios: se ha p obado que mejo a el
endimien o del algo i mo an e a aques ad e sa ios si se en ena. Se pod ´ıa po an o
in en a en ena nues o IDS con los da os alsos pa a que ap endiese a dis ingui los.

Cap´ı ulo 8
In oduc ion
8.1. Mo i a ion
Nowadays , A i icial In elligence (AI) is one o he ields o compu e science wi h
he mos de elopmen and in es men globally. Ad ances a e enabling he c ea ion o
a mul i ude o use ul ools o humans in many di e en con ex s. These include uses
o A i icial In elligence (AI) o secu i y in o he ields such as malwa e classi ica ion
o malicious ne wo k a ic de ec ion. Howe e , AI also has ulne abili ies and can be
subjec o a acks ha dis up i s p ope unc ioning. Ad e sa ial a acks a e a majo
conce n when i comes o AI secu i y, as hey can ool Machine Lea ning algo i hms in
di e en ways. Ian Good ellow p oposed Gene a i e Ad e sa ial Ne wo ks (GAN) in 2014
in his pape [GPAM+20]. These a e he mos s udied and used way o ca y ou ad e sa ial
a acks. In his wo k we will ocus on he s udy o ulne abili ies and secu i y o Machine
Lea ning algo i hms by in es iga ing and hen expe imen ing wi h a acks ha a e he
o de o he day in he e e -g owing wo ld o AI. Fo his pu pose, we will implemen a
GAN ne wo k ha we will use o pe o m an ad e sa ial a ack agains a ML algo i hm.
8.2. Con ex
This Final Deg ee P ojec is pa o a esea ch p ojec en i led Pla o m o Analysis
o Resilien and Secu e So wa e - LAZARUS, app o ed by he Eu opean Commission
wi hin he Ho izon F amewo k P og amme (HORIZON-CL3-2021-CS-01) unde g an
ag eemen numbe 101070303 and in which he GASS G oup o he Uni e sidad
Complu ense de Mad id is aking pa (G upo de Analisis, Segu idad y Sis emas,
h ps://gass. ucm.es, g oup 910623 o he ca alogue o esea ch g oups ecognised by
he UCM). In addi ion o he Complu ense Uni e si y o Mad id, he ollowing en i ies
pa icipa e in LAZARUS: A hena Resea ch Cen e - ARC (G eece), The Uni e si y
45
46 Cap´
ı ulo 8. In oduc ion
o Padua (I aly), In o end Inno a ions Company Limi ed (Cyp us), Da a Cen ic
Se ices SRL (Romania), Luxembou g Ins i u e o Science and Technology (Luxembou g),
Mo i ianEOOD (Bulga ia), Bina e Oy (Finland), APWG Eu opean Union Founda ion
(Spain), Maggioli Spa (I alia).
You can ind mo e in o ma ion he e:
h ps://co dis.eu opa.eu/p ojec /id/101070303
h ps://laza us-he.eu
8.3. Objec o he In es iga ion
The aim o ou wo k is o ca y ou a s udy and esea ch on AI secu i y, ocusing
on ad e sa ial a acks and mo e speci ically on Gene a i e Ad e sa ial Ne wo ks (GAN).
A e ha ing a solid base o knowledge on he subjec , we will y o design and implemen
a GAN ha is able o ool some ML algo i hm. The aim is o ob ain an e icien
implemen a ion and o es i in di e en ways.
8.4. Wo kplan
The de elopmen o his wo k has been ca ied ou in h ee phases which a e desc ibed
bewow and hey can be seen in Figu e 8.1:
1. Resea ch:
We s a ed he wo k doing a gene al mee ing in o de o explain he s a ing poin o
he wo k, he objec i es we e achie e and he knowledge ha would be needed. A e
his, weekly mee ings we e a anged o moni o he p og ess o he esea ch and o
esol e any doub s ha migh a ise. Ano he eason o a anging hese mee ings was
o explain basic concep s abou he di e en ields co e ed by his wo k, which will
be discussed in he ollowing sec ions. This phase s a ed in Sep embe 2022. Du ing
he i s ou mon hs, a pe iod o adap a ion o he wo k con ex and acquisi ion o
he necessa y knowledge o s a he u he de elopmen was ca ied ou . Fo his
pu pose, we ook cou ses on di e en s ields and we ead basic a icles. Each membe
o he g oup made summa ies and p esen a ions o he a icles hey esea ched each
week in o de o g adually build up a common knowledge eposi o y o he wo k on
Google D i e and o p og ess oge he owa ds a common goal. By he las mon h o
esea ch, he eam had a s ong enough ounda ion o s a hinking abou e ising
code and hinking abou he de elopmen s age. The esea ch i sel con inued o be
ca ied ou s eadily by eading a icles wi h linked code o benchma k and obse e
implemen a ions be o e s a ing ou own.
8.5. S u u e o he Wo k 47
2. De elopmen :
Once we had enough knowledge o s a c ea ing a solid e sion o he p oyec ,
we decided o use less ime on esea ch and o begin he code o ou p oposal. As
we men ioned be o e, esea hc did no s op, i jus ook a less impo ance, bu we
s ill sea ched in o ma ion abou concep s ha we needed du ing he de elopemen .
The e o e, du ing his phase, ad anced concep s o he Py hon p og amming
language and lib a ies necessa y o he implemen a ion we e in es iga ed. Besides,
di e en p oposals on Gene a i e Ad e sa ial Ne wo ks we e s udied. Du ing his
phase, di e en da ase s we e p ocessed o be e unde s and hem and he necessa y
unc ionali ies o ca y ou he p ojec we e implemen ed. I was in his phase when
we decided ha we would use ou implemen a ion o he GAN o a ack an In usion
De ec ion Sys em (IDS). This was implemen ed using a Machine Lea ning algo i hm
and p ocessing a speci ic da ase .
3. Expe imen a ion: Once p o o ypes o he ini ial idea began o be p oduced, he
expe imen a ion p ocess began, in which he eam analysed he esul s ob ained and
d ew conclusions. I should be no ed ha he de elopmen phase did no cease du ing
he expe imen a ion phase, as he model was cons an ly compa ed wi h o he s and
modi ied o op imisa ion.
Figu a 8.1: P ojec Gan Cha .
8.5. S u u e o he Wo k
The es o he wo k is o ganised in 6 chap e s in Spanish and 2 in English wi h he
ollowing s uc u e:
Chap e 2in oduces some concep s ha a e elemen a y o unde s and he
de elopmen o he wo k. We in oduce he basics o Machine Lea ning (ML), Deep
Lea ning (DL), secu i y and he main objec o ou wo k: GANs.
Chap e 3is a compila ion o wo ks ela ed o he subjec o ou s udy, ocusing on
he di e en exis ing ad e sa ial h ea s and gi ing examples o a icles ha ca y ou
ad e sa ial a acks.
Chap e 4de elops he me hodology o he wo k, explaining he phases o he
48 Cap´
ı ulo 8. In oduc ion
implemen a ions ca ied ou in ou wo k and how hey we e done.
Chap e 6p esen s he pe sonal con ibu ions o each membe o he g oup in his
wo k.
Chap e 5desc ibes he expe imen s ca ied ou o e alua e he e ec i eness o he
GAN implemen ed and de eloped in Chap e 4and p esen s he esul s ob ained.
Chap e 7shows he main conclusions o his wo k and he u u e lines o esea ch.
Chap e 9is he English ansla ions o Conclusions.
Cap´ı ulo 9
Conclusions and Fu u e Wo k
9.1. Conclusions
A i icial In elligence is nowadays o g ea impo ance in almos all a eas o li e.
Companies use AI algo i hms o a mul i ude o hings, bu one o he mos impo an uses
is in he implemen a ion o In usion De ec ion Sys ems o IDS. IDSs a e an impo an
pa o secu i y in many espec s as hey ha e he unc ion o ale ing in case hey
pe cei e suspicious a ic on he ne wo k. Tha is why a ailu e in hem can lead o
se ious consequences such as, o example, alling ic im o a Denial o Se ice a ack.
This pape has s udied he ulne abili ies o Machine Lea ning algo i hms wi hin AI.
Fo his pu pose, an in es iga ion o he di e en ad e sa ial a acks and AI h ea s has
been ca ied ou . In pa icula , i has in es iga ed GANs and se he goal o implemen ing
and expe imen ing wi h one. I was decided o implemen an IDS bo h because o i s
impo ance and because i is an example o eal-li e use o ML ha can be es ed using
ad e sa ial a acks. The e o e, he mos widely used ne wo k a ic da ase , NLS-KDD,
has been s udied and p ocessed, p epa ing i o a co ec aining o he IDS and he GAN.
An IDS has been implemen ed using decision ees as an example o an ML algo i hm,
al hough ano he algo i hm could ha e been used and he di e ences in he esul s and
which ones su e mo e o less om he a ack could ha e been in es iga ed. A GAN has
been implemen ed and ained o ool he IDS by modi ying malicious a ic da a and
using he IDS p edic ions in he disc imina o ea ing i as a black-box a ack whe e
hose p edic ions a e he only hing we know abou he IDS as a acke s. In pa icula ,
i has been possible o pass o DoS a ack a ic as benign a ic wi h e y signi ican
esul s in ha wi h he modi ied da a, he IDS is p ac ically unable o de ec DoS- ela ed
a ic.
Howe e , we ha e done he p ojec wi h e y speci ic pa ame e s and o a speci ic
a ack, and he e a e many o he ways o gene a e ad e sa ial examples as we ha e seen.
49

50 Cap´
ı ulo 9. Conclusions and Fu u e Wo k
Tha is why ou wo k could ha e se e al imp o emen s ha will equi e mo e means and
ime o ca y hem ou , bu we lea e hem as possible u u e wo k in he nex sec ion.
9.2. Fu u e Wo k
As possible u u e wo k, we iden i y he ollowing ones:
Analyse he esul s wi h o he ypes o a acks o o he da ase s: he GAN o ou
wo k was ained wi h da a om no mal a ic and he DoS a ack. An in e es ing
ad ance would be o ain i wi h o he ypes o a acks such as hose ha make up
he da ase used in his wo k (Use o Roo , Roo o Local and P obing).
Use mo e epochs in he aining o he ne wo k: in he case o mo e ime o a
compu e wi h mo e esou ces, he same GAN ne wo k could be ained using a
la ge numbe o epochs. This should minimise a each epoch he loss o he gene a o
and maximise he loss o he disc imina o , which is he goal o GAN aining. Su ely,
we would ob ain be e esul s
Tes ou ne wo k wi h o he Machine Lea ning algo i hms and wi h o he da ase s:
in ou wo k we ha e a acked an IDS based on decision ees, bu we could es he
pe o mance agains o he algo i hms and compa e bo h he pe o mance o he IDS
and he GAN when i comes o chea ing. In addi ion, pe o mance could be es ed
using o he da ase s, bo h a ic and o he kind o da a.
Imp o emen s o he GAN ne wo k: o he pa ame e s o e en o he s uc u es could
be used in he gene a o and disc imina o laye s. Ano he possibili y would be o
change he lib a ies used o compa e which ones gi e be e esul s. Wo could also
expe imen wi h imp o emen s o he GANs al eady s udied, such as he Wasse ein
GANs.
T ain he ML algo i hm wi h ad e sa ial da a: i has been p o en o imp o e he
pe o mance o he algo i hm agains ad e sa ial a acks i i is ained. We could
he e o e y o ain ou IDS wi h he alse da a so ha i lea ns o dis inguish
hem.
Bibliog a ´ıa
[BIM23] Gene a e Un a ge ed and Ta ge ed Ad e sa ial Examples o Image
Classi ica ion. h ps://es.ma hwo ks.com/help/deeplea ning/ug/
gene a e-ad e sa ial-examples.h ml, Ap il 2023.
[DT23] ´
A boles de decisi´on. h ps://www.ibm.com/es-es/ opics/decision- ees, May
2023.
[FGS23] Ad e sa ial a acks wi h FGSM (Fas G adien Sign
Me hod). h ps://pyimagesea ch.com/2021/03/01/
ad e sa ial-a acks-wi h- gsm- as -g adien -sign-me hod/, Ap il 2023.
[GPAM+20] Ian Good ellow, Jean Pouge -Abadie, Mehdi Mi za, Bing Xu, Da id Wa de-Fa ley,
She jil Ozai , Aa on Cou ille, and Yoshua Bengio. Gene a i e ad e sa ial ne wo ks.
Communica ions o he ACM, 63(11):139–144, 2020.
[GZL+21] Sensen Guo, Jinxiong Zhao, Xiaoyu Li, Junhong Duan, Dejun Mu, and Xiao Jing.
A black-box a ack me hod agains machine-lea ning-based anomaly ne wo k low
de ec ion models. Secu i y and Communica ion Ne wo ks, 2021:1–13, 2021.
[HGMH+00] Jos´e Ram´on Hile a Gonz´alez, V´ıc o Jos´e Ma ´ınez He nando, e al. Redes neu onales
a i iciales: undamen os, modelos y aplicaciones. 2000.
[HHAE22] Abdelmageed Ahmed Hassan, Mohamed Sayed Hussein, Ahmed Sheha a
AboMous a a, and Sa ah Hossam Elmowa y. Syn hesis o ad e sa ial ddos a acks
using abula gene a i e ad e sa ial ne wo ks, 2022.
[HT17a] Weiwei Hu and Ying Tan. Black-box a acks agains nn based malwa e de ec ion
algo i hms, 2017.
[HT17b] Weiwei Hu and Ying Tan. Gene a ing Ad e sa ial Malwa e Examples o Black-Box
A acks Based on GAN. CoRR, abs/1702.05983, 2017.
[IAKMS19] Olakunle Ibi oye, Rana Abou-Khamis, Ash a Ma awy, and M Omai Sha iq. The
Th ea o Ad e sa ial A acks on Machine Lea ning in Ne wo k Secu i y–A Su ey.
a Xi p ep in a Xi :1911.02621, 2019.
[IDS23] Qu´e es un IDS o In usion De ec ion Sys em. h ps://www.cla ei.es/blog/
que-es-un-ids-o-in usion-de ec ion-sys em/, May 2023.
[KGB16] Alexey Ku akin, Ian Good ellow, and Samy Bengio. Ad e sa ial machine lea ning a
scale. a Xi p ep in a Xi :1611.01236, 2016.
51
52 BIBLIOGRAF´
IA
[LBH15] Yann LeCun, Y. Bengio, and Geo ey Hin on. Deep Lea ning. Na u e, 521:436–44,
05 2015.
[LLY+22] Zewen Li, Fan Liu, Wenjie Yang, Shouheng Peng, and Jun Zhou. A Su ey
o Con olu ional Neu al Ne wo ks: Analysis, Applica ions, and P ospec s. IEEE
T ansac ions on Neu al Ne wo ks and Lea ning Sys ems, 33(12):6999–7019, 2022.
[LSX22] Zilong Lin, Yong Shi, and Zhi Xue. Idsgan: Gene a i e ad e sa ial ne wo ks o
a ack gene a ion agains in usion de ec ion. In Ad ances in Knowledge Disco e y
and Da a Mining: 26 h Paci ic-Asia Con e ence, PAKDD 2022, Chengdu, China,
May 16–19, 2022, P oceedings, Pa III, pages 79–91. Sp inge , 2022.
[ML123] Wha is Machine Lea ning? h ps://www.geeks o geeks.o g/
ml-machine-lea ning/, Ma ch 2023.
[ML222] ¿Qu´e es el ans e lea ning? h ps://da ascien es .com/es/
que-es-el- ans e -lea ning, Janua y 2022.
[NLS23] NSL-KDD da ase . h ps://www.unb.ca/cic/da ase s/nsl.h ml, May 2023.
[SBS+17] Hojja Salehinejad, Julianne Baa be, Sha an Sanka , Joseph Ba e , E ol Colak,
and Shah okh Valaee. Recen Ad ances in Recu en Neu al Ne wo ks. A Xi ,
abs/1801.01078, 2017.
[SM17] Su anjana Saman a and Sameep Meh a. Towa ds c a ing ex ad e sa ial samples.
a Xi p ep in a Xi :1707.02812, 2017.
[SZS+13] Ch is ian Szegedy, Wojciech Za emba, Ilya Su ske e , Joan B una, Dumi u E han,
Ian Good ellow, and Rob Fe gus. In iguing p ope ies o neu al ne wo ks. a Xi
p ep in a Xi :1312.6199, 2013.
[WLC+21a] Yixiang Wang, Jiqiang Liu, Xiaolin Chang, Jelena Miˇsi´c, and Vojisla B. Miˇsi´c. Iwa:
In eg a ed g adien -based whi e-box a acks o ooling deep neu al ne wo ks. In .
J. In ell. Sys ., 37(7):4253–4276, oc 2021.
[WLC+21b] Yixiang Wang, Jiqiang Liu, Xiaolin Chang, Jianhua Wang, and Rica do J. Rod ´ıguez.
Di-aa: An in e p e able whi e-box a ack o ooling deep neu al ne wo ks, 2021.
[XZJL21] Ying Xu, Xu Zhong, An onio Jimeno-Yepes, and Jey Han Lau. G ey-box ad e sa ial
a ack and de ence o sen imen classi ica ion. CoRR, abs/2103.11576, 2021.
[YHZL19] Xiaoyong Yuan, Pan He, Qile Zhu, and Xiaolin Li. Ad e sa ial examples: A acks
and de enses o deep lea ning. IEEE ansac ions on neu al ne wo ks and lea ning
sys ems, 30(9):2805–2824, 2019.
[ZCW+19] Jiale Zhang, Junjun Chen, Di Wu, Bing Chen, and Shui Yu. Poisoning a ack
in ede a ed lea ning using gene a i e ad e sa ial ne s. In 2019 18 h IEEE
In e na ional Con e ence On T us , Secu i y And P i acy In Compu ing And
Communica ions/13 h IEEE In e na ional Con e ence On Big Da a Science And
Enginee ing (T us Com/BigDa aSE), pages 374–380, 2019.
[ZDS17] Zhengli Zhao, Dhee u Dua, and Samee Singh. Gene a ing na u al ad e sa ial
examples. a Xi p ep in a Xi :1710.11342, 2017.
BIBLIOGRAF´
IA 53
[ZYJ+19] Hongyang Zhang, Yaodong Yu, Jian ao Jiao, E ic P. Xing, Lau en El Ghaoui,
and Michael I. Jo dan. Theo e ically p incipled ade-o be ween obus ness and
accu acy, 2019.