Ataques a un Sistema de Detecci ́on de Intrusiones mediante Redes Generativas Adversarias

A aques a un Sis ema de De ecci´on de In usiones median e Redes Gene a i as Ad e sa ias A acks on an In usion De ec ion Sys em by Ad e sa y Gene a i e Ne wo ks TRABAJO FIN DE GRADO GRADO EN INGENIER´ IA INFORM ´ ATICA CURSO 2022–2023 Ai o Es eban N´u˜nez Robe o Po illo To es Ma cos Ma u e Fe n´andez Di ec o es Luis Ja ie Ga c´ıa Villalba Luis Albe o Ma ´ınez He n´andez Depa amen o de Ingenie ´ıa del So wa e e In eligencia A i icial Facul ad de In o m´a ica Uni e sidad Complu ense de Mad id Mad id, Junio de 2023 Ag adecimien os A nues os di ec o es del abajo y a odas las pe sonas del G upo de An´alisis, Segu idad y Sis emas de la Uni e sidad Complu ense de Mad id que nos han ayudado y explicado cualquie duda en odo momen o. En especial a Luis Albe o Ma ´ınez He n´andez que ha es ado disponible pa a noso os odo es e iempo y nos ha esuel o los p oblemas que en´ıamos an o en las euniones como en ho a ios di e en es. iii ´ Indice Gene al ´ Indice de Figu as IX ´ Indice de Tablas XI Lis a de Ac ´ onimos XV Abs ac XVII Resumen XIX 1. In oducci´ on 1 1.1. Mo i aci´on .................................... 1 1.2. Con ex o ..................................... 1 1.3. Obje o de la In es igaci´on ............................ 2 1.4. Plan de T abajo ................................. 2 1.5. Es uc u a del T abajo .............................. 4 2. Ma co Te´ o ico 5 2.1. Ap endizaje Au om´a ico ............................. 5 2.1.1. ´ A boles de decisi´on ............................ 6 2.2. Ap endizaje P o undo .............................. 7 2.2.1. Redes neu onales a i iciales ....................... 7 2.2.2. Redes neu onales con olucionales .................... 8 2.2.3. Redes neu onales ecu en es ...................... 9 2.3. Cibe segu idad .................................. 10 i ´ INDICE GENERAL 2.4. Segu idad en In eligencia A i icial ....................... 11 2.5. Redes Gene a i as Ad e sa ias ......................... 11 2.5.1. A aque Ad e sa io a un Clasi icado de Malwa e ........... 12 2.6. A aque de Denegaci´on de Se icio ....................... 13 2.7. Redes Gene a i as Ad e sa ias Tabula es ................... 13 2.8. Ka ka ....................................... 14 2.9. Sis ema de De ecci´on de In usos basado en Ap endizaje Au om´a ico . . . . 14 3. Es ado del A e 15 3.1. Modelo de Amenaza Ad e sa ia ......................... 15 3.1.1. Ejemplos Ad e sa ios .......................... 16 3.1.2. Clasi icaci´on de Amenazas Ad e sa ias ................. 17 3.2. Clasi icaci´on de A aques Seg´un el Conocimien o del A acan e ........ 18 3.2.1. A aques de caja blanca ......................... 18 3.2.2. A aques de caja neg a .......................... 19 3.2.3. A aques de caja g is ........................... 20 3.3. A aques de En enenamien o ........................... 20 3.3.1. Ejemplo de un A aque de En enenamien o .............. 21 3.3.2. Funcionamien o del Ap endizaje Colabo a i o ............. 21 3.3.3. Ejecuci´on del A aque ........................... 21 3.4. A aques de E asi´on ................................ 22 4. Dise˜ no e Implemen aci´ on 23 4.1. Conjun o de da os y P ep ocesamien o ..................... 23 4.2. Componen es del Sis ema ............................ 25 4.3. Implemen aci´on del Sis ema de De ecci´on de In usos y me odolog´ıa . . . . 26 4.3.1. En enamien o .............................. 26 4.4. Red Gene a i a Ad e sa ia pa a A aca un Sis ema de De ecci´on de In usos 28 4.4.1. P ep ocesamien o del Conjun o de Da os ............... 28 4.4.2. Desa ollo de la Red Gene a i a Ad e sa ia .............. 28 4.4.2.1. Es uc u a ........................... 28 ´ INDICE GENERAL ii 4.4.2.2. En enamien o ......................... 30 4.5. S´ın esis de A aques Dis ibuidos de Denegaci´on de Se icio U ilizando Redes Ad e sa ias Gene a i as Tabula es ................... 32 4.5.1. Ejecuci´on del c´odigo ........................... 32 5. Expe imen os y Resul ados 35 5.1. An´alisis del E o come ido po el Sis ema de De ecci´on de In usos . . . . 35 5.2. An´alisis de Resul ados de la Red Gene a i a Ad e sa ia ........... 37 6. Con ibuciones 39 6.1. Ai o Es eban N´u˜nez ............................... 39 6.2. Robe o Po illo To es ............................. 40 6.3. Ma cos Ma u e Fe n´andez ............................ 41 7. Conclusiones y T abajo Fu u o 43 7.1. Conclusiones ................................... 43 7.2. T abajo Fu u o .................................. 44 8. In oduc ion 45 8.1. Mo i a ion .................................... 45 8.2. Con ex ...................................... 45 8.3. Objec o he In es iga ion ........................... 46 8.4. Wo kplan ..................................... 46 8.5. S u u e o he Wo k ............................... 47 9. Conclusions and Fu u e Wo k 49 9.1. Conclusions .................................... 49 9.2. Fu u e Wo k ................................... 50 Bibliog a ´ ıa 51 ´ Indice de Figu as 1.1. Diag ama de Gan del P oyec o. ........................ 3 2.1. Pe cep ´on simple [HGMH+00]. ......................... 8 2.2. Pe cep ´on mul icapa [HGMH+00]. ....................... 8 2.3. P ocedimien o b´asico de una ed neu onal con olucional [LLY+22]. ..... 9 2.4. Red neu onal ecu en e de es capas [SBS+17]. ............... 10 2.5. Es uc u a b´asica de una Gene a i e Ad e sa ial Ne wo ks (GAN). ..... 12 3.1. A aque de e asi´on ................................ 18 3.2. A aque de en enenamien o ............................ 18 3.3. Es uc u a MalGAN [HT17b] .......................... 19 4.1. Mapa de calo de co elaci´on en e las p incipales ca ac e ´ıs icas del conjun o de da os. ................................ 25 4.2. Es uc u a con los componen es del sis ema. .................. 26 4.3. Cu a de ap endizaje del ´a bol a iando el pa ´ame o min samples spli .. . 27 4.4. ´ A bol de decisi´on del IDS. ............................ 27 5.1. Ma iz de con usi´on sob e el conjun o de p ueba. ............... 37 5.2. Ma iz de con usi´on sob e el conjun o de p ueba ad e sa io. ......... 38 8.1. P ojec Gan Cha . ............................... 47 ix Abs ac The a i icial in elligence is expe iencing a boom in he socie y, he powe o hese algo i hms is g owing and new applica ions a e cons an ly appea ing: image classi ie s, oice ecognize s, cha bo s, e c. A i icial in elligence, like all o he b anches o compu e science, mus be conce ned abou he secu i y o i s algo i hms and da a p ocessing. This wo k is an analysis o ad e sa ial a acks, which use he ools o a i icial in elligence agains i sel . I a model can be ained wi h da a o de ec pa e ns and make p edic ions i can also be ained o gene a e da a ha can alsi y hese p edic ions. Th oughou his p ojec di e en ways o pe o ming ad e sa ial a acks a e analyzed ocusing mainly on a acking malwa e classi ie s. In addi ion, an example implemen a ion o an ad e sa ial a ack on an in usion de ec ion sys em is gi en and he esul s will be analyzed. Keywo ds: Ad e sa ial A ack, Ad e sa ial Ne wo k, A i icial In elligence, Deep Lea ning, Gene a i e Malwa e, Machine Lea ning, Neu al Ne wo k. x ii Resumen La in eligencia a i icial es ´a expe imen ando un ue e impac o en la sociedad, la po encia de es os algo i mos no pa a c ece y no pa an de apa ece nue as aplicaciones: clasi icado es de im´agenes, econocedo es de oz, cha bo s, e c. La in eligencia a i icial, como el es o de amas de la in o m´a ica, debe p eocupa se po la segu idad de sus algo i mos y del a amien o de da os. Es e abajo es un an´alisis de los a aques ad e sa ios, los cuales u ilizan las he amien as de la in eligencia a i icial con a s´ı misma. Si un modelo puede en ena se con da os pa a de ec a pa ones y hace p edicciones ambi´en se puede en ena pa a gene a da os que puedan alsea es as p edicciones. A lo la go de es e p oyec o se analizan dis in as o mas de ealiza a aques ad e sa ios cen ´andose p incipalmen e en a aques a clasi icado es de so wa e malicioso. Adem´as se da un ejemplo de implemen aci´on de a aque ad e sa io a un sis ema de de ecci´on de in usos del que se analiza ´an los esul ados. Palab as cla e: Ap endizaje P o undo, Ap endizaje Au om´a ico, A aque Ad e sa io, Red Gene a i a Ad e sa ia, Malwa e, Redes Neu onales, In eligencia A i icial. xix Cap´ı ulo 1 In oducci´on 1.1. Mo i aci´on En la ac ualidad, la In eligencia A i icial (IA) es uno de los campos de la in o m´a ica con m´as desa ollo e in e siones a ni el global. Los a ances es ´an pe mi iendo c ea mul i ud de he amien as ´u iles pa a el se humano en con ex os muy di e en es. En e ellas se encuen an los usos de la IA pa a la segu idad de o os campos como po ejemplo clasi icado es de malwa e o de ec o es de ´a ico malicioso en edes. Sin emba go, la IA ambi´en iene ulne abilidades y puede ecibi a aques que pe u ben su co ec o uncionamien o. Los a aques ad e sa ios son la mayo p eocupaci´on si se habla de segu idad en IA pues o que pueden enga˜na de di e en es mane as a algo i mos de Machine Lea ning (ML) en e o as cosas. En en 2014, Ian Good ellow p opuso las Redes Gene a i as Ad e sa ias conocidas en ingl´es como Gene a i e Ad e sa ial Ne wo ks (GAN) en su abajo [GPAM+20]. Es as son a d´ıa de hoy, la o ma m´as es udiada y u ilizada pa a ealiza a aques ad e sa ios. Es e abajo se cen a a en el es udio de las ulne abilidades y de la segu idad de los algo i mos de ML median e la in es igaci´on y pos e io expe imen aci´on de a aques que es ´an a la o den del d´ıa en el mundo cada ez m´as g ande de la IA. Pa a ello se lle a ´a a cabo la implemen aci´on de una ed GAN que se u iliza a pa a ealiza un a aque ad e sa io con a alg´un algo i mo de ML. 1.2. Con ex o El p esen e T abajo Fin de G ado se enma ca den o de un p oyec o de in es igaci´on i ulado Pla o m o Analysis o Resilien and Secu e So wa e – LAZARUS, ap obado po la Comisi´on Eu opea den o del P og ama Ma co Ho izon e (con oca o ia HORIZON-CL3-2021-CS-01) en i ud del acue do de sub enci´on n´ume o 101070303 y 1 2Cap´ ı ulo 1. In oducci´ on en el que pa icipa el G upo GASS de la Uni e sidad Complu ense de Mad id (G upo de An´alisis, Segu idad y Sis emas, h ps://gass.ucm.es, g upo 910623 del ca ´alogo de g upos de in es igaci´on econocidos po la UCM). Adem´as de la Uni e sidad Complu ense de Mad id pa icipan en LAZARUS las siguien es en idades: A hena Resea ch Cen e – ARC (G ecia), The Uni e si y o Padua (I alia), In o end Inno a ions Company Limi ed (Chip e), Da a Cen ic Se ices SRL (Ruman´ıa), Luxembou g Ins i u e o Science and Technology (Luxembu go), Mo i ian EOOD (Bulga ia), Bina e Oy (Finlandia), Fundaci´on APWG Eu opean Union Founda ion (Espa˜na), Maggioli Spa (I alia). Tienen m´as in o maci´on en: h ps://co dis.eu opa.eu/p ojec /id/101070303 h ps://laza us-he.eu 1.3. Obje o de la In es igaci´on El obje i o de es e abajo es ealiza un es udio e in es igaci´on sob e la segu idad en la IA, cen ´andose en los a aques ad e sa ios y m´as en conc e o en las Redes Gene a i as Ad e sa ias o en ingl´es Gene a i e Ad e sa ial Ne wo ks (GAN). T as ene una base s´olida de conocimien os sob e el ema, se a a ´a de dise˜na e implemen a una GAN que sea capaz de enga˜na a alg´un algo i mo de ML. El obje i o es ob ene una implemen aci´on e icien e y p oba la de di e en es mane as. 1.4. Plan de T abajo El desa ollo de es e abajo se ha ealizado en es ases dis ibuidas seg´un el diag ama de Gan de la Figu a 1.1 y desc i as a con inuaci´on: 1. In es igaci´ on: Pa a comenza , median e la ealizaci´on de una euni´on gene al, se explic´o el pun o inicial o de pa ida del p oyec o as´ı como los obje i os p incipales y los conocimien os que se iban a necesi a pa a lle a los a cabo. Pos e io men e, se aco d´o euni se semanalmen e con la idea de ealiza un seguimien o de los a ances y p og eso en la in es igaci´on y pa a esol e las posibles dudas que pudiesen su gi . O a az´on po la cual se conce a on dichas euniones ue pa a pode desa olla y a a concep os b´asicos sob e los dis in os emas o campos que concie ne es e abajo, los cuales se ´an a ados en los siguien es apa ados. Es a ase comenz´o a mediados de sep iemb e de 2022. Du an e los p ime os cua o meses hubo que adap a se al con ex o del 1.4. Plan de T abajo 3 abajo y ue necesa io adqui i conocimien os pa a da pie al pos e io desa ollo. Pa a ello, se ealiza on cu sos sob e di e en es emas elacionados y lec u as de a ´ıculos que e an e e encias base del abajo. Cada in eg an e del g upo ealizaba es´umenes y p esen aciones de los a ´ıculos sob e los que in es igaba cada semana pa a ealiza poco a poco un eposi o io de conocimien o com´un sob e el abajo en Google D i e y pa a a anza conjun amen e hacia un obje i o com´un. En el ´ul imo mes de in es igaci´on, el equipo ya en´ıa una base lo su icien emen e ue e como pa a empeza a plan ea se a e isa c´odigo y pensa en la e apa de desa ollo. La in es igaci´on en s´ı se segu´ıa lle ando a cabo cons an emen e median e la lec u a de a ´ıculos con c´odigo inculado pa a e e encia se y obse a implemen aciones an es de comenza con la p opia. 2. Desa ollo: En el momen o en el que se ubie on su icien es conocimien os, se aco d´o dedica menos iempo a la in es igaci´on y empeza a codi ica la p opues a pa a elabo a una e si´on s´olida del p oyec o. La ase de in es igaci´on, como ya se ha se˜nalado, con inu´o pe o pas´o a un segundo plano, ya que se in es ig´o sob e nociones conc e as que su gie on du an e el desa ollo. Po ello, en es a ase se es udia on p incipios a anzados del lenguaje de p og amaci´on Py hon y de lib e ´ıas necesa ias pa a la implemen aci´on. Se es udia on di e en es p opues as sob e edes GAN. Du an e es a ase se p ocesa on di e en es conjun os de da os pa a en ende los mejo y se implemen a on las uncionalidades necesa ias pa a lle a a cabo el p oyec o. Fue en es a ase donde se decidi´o que se u iliza ´ıa nues a implemen aci´on de la GAN pa a a aca un Sis ema de De ecci´on de In usos (IDS, del ingl´es In usion De ec ion Sys em). Se ealiz´o la implemen aci´on de es e median e un algo i mo de ML y p ocesando un conjun o de da os espec´ı ico. 3. Expe imen aci´ on: Una ez que se empeza on a ab ica los p ime os p o o ipos del concep o, se puso en ma cha el p oceso de expe imen aci´on. Du an e es e iempo, el equipo analiz´o los esul ados y lleg´o a cie as conclusiones. Cabe menciona que el modelo se compa ´o con inuamen e con o os y se op imiz´o du an e la ase de expe imen aci´on, con inuando as´ı el p oceso de desa ollo. Figu a 1.1: Diag ama de Gan del P oyec o. 4Cap´ ı ulo 1. In oducci´ on 1.5. Es uc u a del T abajo El p esen e abajo es ´a di idido en 8 cap´ı ulos de los cuales 6 cap´ı ulos es ´an en cas ellano y 2 en ingl´es. Seguidamen e se p esen a su es uc u a: El Cap´ı ulo 2se ealiza una in oducci´on de los concep os base pa a comp ende el desa ollo del abajo. Se in oducen bases de Ap endizaje Au om´a ico (AA),Ap endizaje P o undo (AP), segu idad y el obje o p incipal de nues o abajo: las GAN. Tambi´en se apo a alg´un ejemplo de a aque ad e sa io. El Cap´ı ulo 3se ealiza una ecopilaci´on de abajos elacionados con el ema de es udio, cen ada en las di e en es amenazas ad e sa ias exis en es y se p oponen ejemplos de a ´ıculos que ealizan a aques ad e sa ios. En el Cap´ı ulo 4se desa olla la me odolog´ıa y dise˜no del abajo, explicando la ases que u ie on las implemen aciones ealizadas pa a lle a a cabo es e abajo y c´omo se ealiza on. El Cap´ı ulo 5desc ibe los expe imen os ealizados pa a e alua la e ec i idad la GAN implemen ada y desa ollada en el cap´ı ulo 4y p esen a los esul ados ob enidos. El Cap´ı ulo 6p esen a las con ibuciones pe sonales de cada miemb o del g upo en es e abajo. El Cap´ı ulo 7mues a conclusiones ex a´ıdas en es e abajo y las posibles u u as in es igaciones. Los Cap´ı ulos 8y9son las aducciones al ingl´es de la In oducci´on y de las Conclusiones. Cap´ı ulo 2 Ma co Te´o ico En es e cap´ı ulo se explica el con ex o en el que se basa la in es igaci´on de es e T abajo Fin de G ado. En el pun o 2.1, se expone una peque˜na base sob e concep os de Ap endizaje Au om´a ico p o undizando el los ´a boles de decisi´on y en el pun o 2.2 sob e Ap endizaje P o undo. A con inuaci´on, en la secci´on 2.3 se in oducen concep os impo an es sob e segu idad de in o maci´on y en la 2.4 se p o undiza ´a en segu idad en in eligencia a i icial in oduciendo los a aques ad e sa ios. En la secci´on 2.5 se p esen an las GAN como concep o cla e del abajo. Po ´ul imo se an a explica concep os impo an es que se an a u iliza a lo la go del abajo como son los a aques DoS en la secci´on 2.6, las GAN abula es en la 2.7, la lib e ´ıa Ka ka en la 2.8 y po ´ul imo los IDS en la secci´on 2.9. 2.1. Ap endizaje Au om´a ico Machine Lea ning es la aducci´on en ingl´es de Ap endizaje Au om´a ico (AA), una ama de la IA en la que los sis emas in o m´a icos u ilizan cie os algo i mos que les apo an la capacidad de ap ende y adap a se a nue os da os sin necesidad de in e enci´on humana [ML123]. As´ı, a pa i de los da os de en ada, el sis ema es capaz de da una espues a a p oblemas de clasi icaci´on, eg esi´on, ecomendaciones e c. El ML es ´a es echamen e elacionado con la mine ´ıa de da os ya que los algo i mos mejo an su endimien o a medida que se en enan con nue os da os. Tambi´en es ´a elacionado con la es ad´ıs ica ya que se emplean modelos es ad´ıs icos y p obabil´ıs icos a la ho a ealiza p edicciones. Seg´un la a ea que se quie a ealiza y los da os disponibles pa a el en enamien o de los modelos necesa ios pa a cub i la, los algo i mos de ML se di iden en es ipos de ap endizaje: Ap endizaje supe isado: se le suminis a al sis ema da os ya clasi icados po el se humano. El algo i mo a a ´a de descub i las elaciones en e los da os con el obje i o de ob ene p edicciones pa a nue as en adas. Es e ipo de ap endizaje se 5 12 Cap´ ı ulo 2. Ma co Te´ o ico Pa a una mejo comp ensi´on del las GAN, en la Figu a 2.5 se obse a una ed neu onal que ecibe o og a ´ıas y decide pa a cada ejemplo si se a a de una o o de un ga o o de o a cosa, es e se ´a nues o disc iminado . A la en ada y salida del disc iminado se conec a una ed gene a i a que in oduzca al e aciones en las mues as a ando de p oduci un allo en el esul ado del disc iminado . Figu a 2.5: Es uc u a b´asica de una GAN. El esul ado de es e modelo desemboca en un a aque ad e sa io, en caso de ´exi o el gene ado p opo ciona ´a mues as ad e sa ias capaces de enga˜na al disc iminado y po an o a o os modelos de ML como un clasi icado como se e en la siguien e subsecci´on con un ejemplo de a aque a un clasi icado de malwa e. 2.5.1. A aque Ad e sa io a un Clasi icado de Malwa e Realiza un a aque ad e sa io a un clasi icado que a a un conjun o de da os de so wa e a˜nade la p oblem´a ica de al e a un iche o ejecu able sin deja lo inse ible. Al momen o de gene a un ejemplo ad e sa io nos in e esa que la mues a siga siendo un so wa e uncional adem´as de enga˜na al clasi icado . La en ada del gene ado cons a de un iche o de malwa e en o ma de un ec o ca ac e ´ıs ico mde ama˜no My de un ec o de uido z. El ec o mes bina io y cada d´ıgi o implica la exis encia de una ca ac e ´ıs ica. zes un ec o de ama˜no Zdonde Zes un hipe pa ´ame o del modelo. La unci´on de zes pe mi i al gene ado p oduci a ios ejemplos ad e sa ios pa a un solo ec o ca ac e ´ıs ico. El gene ado consis e en una ed neu onal eed o wa d mul icapa que ecibe y de uel e un ec o ca ac e ´ıs ico. La ´ul ima capa de la ed iene Mneu onas con la unci´on de ac i aci´on sigmoide, con es o se consigue que la salida de la ed Θ sean Mca ac e ´ıs icas con alo es en e 0 y 1. Despu´es se aplica una no malizaci´on bina ia a la salida pa a ob ene un ec o de unos y ce os, a es e ec o se le llama a Θ0. Pa a e i a deja el malwa e inse ible se a˜nade alguna ca ac e ´ıs ica i ele an e, nunca desecha una ca ac e ´ıs ica que es u iese en el ec o de en ada. Pa a es e in se aplica el ope ado OR l´ogico bi a bi , as´ı solo se a˜nadi ´an los unos de Θ0que no es ´en ya en m, al ec o esul an e de es a ope aci´on se le llama a m0(m0=m|Θ0). La na u aleza bina ia del ec o m0no pe mi e la p opagaci´on hacia a ´as del e o has a el 2.6. A aque de Denegaci´ on de Se icio 13 gene ado . Se de ine una unci´on Gque pe mi a al gene ado accede a la in o maci´on del g adien e del de ec o sus i u o en cada i e aci´on del en enamien o. Es ´a unci´on aplica ´a la unci´on max bi a bi en e my Θ, los bi s a 1 de mse man end ´an in ac os y el es o de bi s se modi ica ´an en unci´on del g adien e. G(m, z) = max(m, Θ). La unci´on de pe dida del gene ado se ´a in e sa a la del clasi icado sus i u o, de es a o ma, a medida que el clasi icado sus i u o aya ap endiendo a clona al clasi icado de caja neg a, el gene ado he eda ´a el conocimien o pa a gene a ec o es malignos que el clasi icado de caja neg a no pueda e ique a como Malwa e. 2.6. A aque de Denegaci´on de Se icio Un a aque DoS es un ipo de a aque cibe n´e ico cuyo obje i o es sa u a un sis ema, ed o se icio en l´ınea, con el in de impedi el acceso o uso po pa e de usua ios leg´ı imos. Du an e un a aque DoS, los pe pe ado es emplean una ed de m´ul iples disposi i os comp ome idos pa a en ia una g an can idad de ´a ico also o solici udes maliciosas hacia el obje i o deseado. Es os disposi i os comp ome idos pueden inclui compu ado as, se ido es u o os disposi i os conec ados a In e ne p e iamen e in ec ados con malwa e y con olados po el a acan e. El obje i o del a aque consis e en sob eca ga el sis ema obje i o con un olumen excesi o de ´a ico o solici udes, lo cual ago a los ecu sos del sis ema, ales como el ancho de banda de la ed, la capacidad de p ocesamien o o las conexiones disponibles. Como esul ado, el sis ema obje i o se uel e inaccesible o expe imen a un endimien o deg adado de mane a signi ica i a, lo que impide a los usua ios leg´ı imos u iliza lo no malmen e. 2.7. Redes Gene a i as Ad e sa ias Tabula es Las GAN abula es son un ipo de modelo ad e sa io u ilizado pa a gene a da os abula es de o ma sin ´e ica. Es e en oque se basa en las GAN, las cuales es ´an compues as como sabemos po dos edes neu onales: el gene ado y el disc iminado , que compi en en e s´ı. En el con ex o de da os abula es, que son conjun os de da os es uc u ados en o ma de ablas con ilas y columnas, las GAN abula es se u ilizan pa a c ea nue as mues as de da os simila es al conjun o de da os o iginal. Es as edes esul an especialmen e ´u iles cuando se p e ende man ene la es uc u a y las elaciones en e las di e en es ca ac e ´ıs icas p esen es en los da os abula es. El gene ado en una GAN abula ecibe una en ada alea o ia llamada uido la en e y la ans o ma en una mues a de da os 14 Cap´ ı ulo 2. Ma co Te´ o ico abula es sin ´e icos. Po o o lado, el disc iminado e al´ua si una mues a es eal o sin ´e ica. Ambas edes se en enan de mane a ad e sa ia: el gene ado in en a enga˜na al disc iminado gene ando mues as m´as ealis as, mien as que el disc iminado busca dis ingui en e mues as eales y gene adas. Du an e el p oceso de en enamien o, el gene ado y el disc iminado se mejo an con inuamen e mien as compi en en e s´ı. Idealmen e, al inal del en enamien o, el gene ado es capaz de gene a mues as que esul an indis inguibles pa a el disc iminado . 2.8. Ka ka Ka ka es una biblio eca en Py hon que implemen a un consumido y p oduc o pa a Apache Ka ka, un sis ema de mensaje ´ıa dis ibuida. Ka ka es una pla a o ma de ansmisi´on de da os de al o endimien o y baja la encia u ilizada pa a en ia da os en iempo eal en e aplicaciones y sis emas dis ibuidos. La biblio eca Ka ka b inda una in e az ´acil de usa pa a in e ac ua con cl´us e es de Ka ka desde Py hon. Pe mi e a los desa ollado es esc ibi aplicaciones de consumido es y p oduc o es que en ´ıan y eciben mensajes a a ´es de emas de Ka ka. Algunas ca ac e ´ıs icas des acadas de Ka ka incluyen: 1. P oduc o : Pe mi e c ea un p oduc o en Py hon pa a en ia mensajes a los emas de Ka ka. Es o posibili a la publicaci´on de da os en iempo eal pa a que o os consumido es los p ocesen. 2. Consumido :Ka ka ambi´en pe mi e c ea consumido es en Py hon que se susc iben a los emas de Ka ka y eciben mensajes en iempo eal. Los consumido es pueden p ocesa y analiza los da os en iados po los p oduc o es. 2.9. Sis ema de De ecci´on de In usos basado en Ap endizaje Au om´a ico Un IDS es un so wa e de segu idad cuya unci´on es de ec a accesos no au o izados en un sis ema o una ed de o denado es, y en base a ello, gene a alg´un ipo de ale a o log pa a que pos e io men e pueda se ges ionado po el adminis ado de sis emas co espondien e [IDS23]. Su obje i o p incipal po an o es e isa y clasi ica el ´a ico de ed como no mal o malicioso. As´ı, ML es de g an u ilidad pa a clasi ica el ´a ico bas´andose en las ca ac e ´ıs icas del mismo [LSX22]. Los ´a boles de decisi´on son uno de los posibles algo i mos u ilizados pa a implemen a los. Cap´ı ulo 3 Es ado del A e En la ac ualidad, hay di e sos es udios sob e las m´ul iples amenazas ad e sa ias y abajos en los que se ponen a p ueba y se analizan me odolog´ıas y obje i os muy di e en es. En la secci´on 3.1 se habla ´a del modelo de amenaza ad e sa io ac ual analizando a ´ıculos en los que se exponen o mas de c ea ejemplos ad e sa ios en con ex os a iados y dando una clasi icaci´on de los a aques ad e sa ios seg´un di e en es ca ac e ´ıs icas. En la secci´on 3.2 se habla a sob e los a aques ad e sa ios seg´un el conocimien o del a acan e en oc´andose ya en el pun o de is a de en ena una GAN. A con inuaci´on se en a aques de en enenamien o en la secci´on 3.3 y a aques de e asi´on en la secci´on 3.4. 3.1. Modelo de Amenaza Ad e sa ia Un componen e cla e del an´alisis de segu idad de los sis emas o componen es de un sis ema es el modelado de amenazas. Los obje i os p incipales de es e es es ablece obje i os de segu idad median e la iden i icaci´on de amenazas y po enciales ulne abilidades pe mi iendo desa olla pol´ı icas pa a p e eni o minimiza el impac o de dichas amenazas en los sis emas. Es a e apa pe mi e maximiza la segu idad de un sis ema. Los modelos de ML su en ulne abilidades an e a aques ad e sa ios. En conc e o, en el ´ambi o de segu idad de ed se ealizan muchos m´as a aques que en o os campos debido a la na u aleza de las aplicaciones p opias de es e campo como de ecci´on de malwa e, in usos o il ado de spam. En [IAKMS19] se p esen a una axonom´ıa pa a gene a a aques ad e sa ios con a un modelo de ML implemen ado en pla a o mas de segu idad que supe isan el ´a ico en la ed. Adem´as se p esen an dos en oques de clasi icaci´on pa a los a aques ad e sa ios sugi iendo algunas de ensas pa a es os a aques. 15 16 Cap´ ı ulo 3. Es ado del A e 3.1.1. Ejemplos Ad e sa ios El p ime es udio en el que se habla de concep os elacionados con los ejemplos ad e sa ios es [SZS+13]. En ´el se a gumen a que una peque˜na pe u baci´on en la o ma de una en ada cuidadosamen e elabo ada pod´ıa con undi a una ed neu onal de DL. En ese a ´ıculo hacen p uebas con im´agenes y hay muchos es udios que in es igan ese campo. Los ejemplos ad e sa ios son el componen e p incipal de los a aques ad e sa ios y consis e en una en ada pe u bada de un algo i mo de ML. Sea po ejemplo en un da ase conc e o con ca ac e ´ıs icas xy con e ique as clasi icadas y, se a a de ob ene un ejemplo ˜x=x+δ, siendo δla pe u baci´on, que sea p ´ac icamen e indis inguible de xpe o que sea clasi icado con una e ique a dis in a a y. Si se llama cal clasi icado , se busca una pe u baci´on peque˜na al que c(x)6=c(˜x). Es os ejemplos ad e sa ios se c ean usando m´e odos de op imizaci´on que buscan la m´ınima pe u baci´on que maximice la unci´on de p´e dida de la ed neu onal. Como se ha mencionado, en es e abajo se an a gene a ejemplos ad e sa ios median e el uso de una GAN. Sin emba go, hay muchos o os m´e odos in e esan es pa a c ea los. A con inuaci´on se enume an algunos de ellos. En [KGB16] se exponen a ios m´e odos pa a gene a los en ocados a da ase s de im´agenes y a˜naden ´o mulas ma em´a icas pa a explica lo. En [IAKMS19] se enume an con una explicaci´on b e e. M´ e odo del G adien e de Signo R´ apido del ingl´ es Fas G adien Sign Me hod (FGSM): es un m´e odo simple y compu acionalmen e e icien e compa ado con o os m´e odos pa a gene a ejemplos ad e sa ios. Los ejemplos se c ean calculando la p´e dida de la p op agaci´on hacia delan e, a con inuaci´on el g adien e espec o a la en ada y modi icando los da os en la di ecci´on de los g adien es que maximiza la p´e dida [FGS23]. M´ e odo I e a i o b´ asico o Basic I e a i e Me hod (BIM): ealiza el c´alculo del g adien e en mul iples i e aciones. Es o esuel e el p oblema de o os m´e odos como el FGSM de asumi que pueden in oduci se los ejemplos di ec amen e en el modelo de ap endizaje au om´a ico. Es o dis a mucho de se p ´ac ico, ya que la mayo ´ıa de los a acan es a lo hacen a a ´es de disposi i os como senso es. Hay a ian es de es e m´e odo escogiendo la clase menos p obable p edicha po la ed pa a aplica el BIM [BIM23]. A aque basado en el Jacobiano y Mapa de A enci´ on o Jacobian-based Saliency Map A ack (JSMA): se usa una ma iz jacobiana de la en ada pa a encon a las ca ac e ´ıs icas que m´as a ec an a la salida. El a aque ad e sa io se gene a a˜nadiendo peque˜nas pe u baciones bas´andose en esas ca ac e ´ıs icas. Tambi´en hay o os abajos que se en ocan en gene a ejemplos ad e sa ios pe o sob e 3.1. Modelo de Amenaza Ad e sa ia 17 da os dis in os a im´agenes. En [ZDS17] se expone que las pe u baciones a menudo no son na u ales, no ienen signi icado sem´an ico y no son aplicables a dominios complicados como el lenguaje y se p opone un ma co pa a gene a ejemplos con adic o ios na u ales y legibles que se encuen an en la a iedad de da os. En [SM17] se a a la gene aci´on de ejemplos ad e sa ios en ex os con un algo i mo que modi ica la en ada o iginal ( eemplazando, inse ando y qui ando palab as del ex o). 3.1.2. Clasi icaci´on de Amenazas Ad e sa ias Den o del modelo de amenaza ad e sa ia, en [IAKMS19] se conside an di e en es ipos de a aque eniendo en cuen a el conocimien o del a acan e, sus obje i os, el momen o del a aque, la ecuencia con la que se ac ualiza u op imiza el ejemplo y la alsi icaci´on del a aque. Seguidamen e se da una explicaci´on b e e de odo ello: Conocimien o del a acan e: a la ho a de a aca , no solo hay que conoce la unci´on que cumple el modelo que se quie e a aca , su implemen aci´on o el ipo de da os de en ada sino que adem´as se debe ene en cuen a el conocimien o que el a acan e iene sob e la a qui ec u a y la implemen aci´on del modelo. Se explica la clasi icaci´on m´as de alladamen e en la secci´on 3.2 y en ocado a las GAN. Obje i o del a acan e: a aques di igidos o a aques de iabilidad. Los p ime os buscan induci una p edicci´on espec´ı ica y de ini i a en el modelo de ML mien as que los segundos buscan maximiza el e o come ido en la p edicci´on. Momen o del a aque: a aques de e asi´on en e a a aques de en enenamien o. En la e asi´on, ambi´en conocidos como a aques explo a o ios o a aques a iempo de decisi´on, el a acan e p e ende con undi la decisi´on del modelo de ap endizaje au om´a ico despu´es de que se haya ap endido como se mues a en la Figu a 3.1. En la Secci´on 3.4 lo e emos con m´as de alle. Es o con as a con los a aques de en enenamien o que implica co upci´on ad e sa ia de los da os de en enamien o an es del en enamien o pa a induci una p edicci´on e ´onea del modo de ap endizaje como se mues a en la Figu a 3.2. P o undiza emos sob e ellos en la Secci´on 3.3. F ecuencia: ocasiones en la que el ejemplo ad e sa io es ac ualizado u op imizado. En los one-sho se ealiza una ez. En los i e a i os se ealiza a ias eces, mejo ando el endimien o pe o ag andando el cos e. Falsi icaci´ on: los alsos posi i os hacen que se clasi ique mal un ejemplo ad e sa io nega i o como uno posi i o como po ejemplo un ma wa e clasi icado como benigno y un also nega i o al e ´es. 18 Cap´ ı ulo 3. Es ado del A e Figu a 3.1: A aque de e asi´on Figu a 3.2: A aque de en enenamien o 3.2. Clasi icaci´on de A aques Seg´un el Conocimien o del A acan e A pa i de aho a se pone el oco en las edes GAN que se in oduje on en el Cap´ı ulo 2 y se a a desa olla la clasi icaci´on de los a aques ad e sa ios seg´un el conocimien o del a acan e. A pa e de la unci´on que cumple el modelo que se quie e a aca , su implemen aci´on o el ipo de da os de en ada, se debe ene en cuen a el conocimien o que un a acan e iene sob e la a qui ec u a y la implemen aci´on del modelo. El gene ado necesi a ob ene conocimien o del modelo que se es ´a a acando pa a p oduci los ejemplos ad e sa ios. Es a puede se una a ea se complica a medida que se iene menos in o maci´on sob e la a qui ec u a, los pa ´ame os de en enamien o y los pesos esul an es del modelo a acado. En es e pa adigma se pueden di idi los a aques ad e sa ios en es ca ego ´ıas p incipales: los a aques de caja neg a, de caja g is y de caja blanca. 3.2.1. A aques de caja blanca En es e ipo de a aque, el pe pe ado iene un conocimien o comple o del modelo de des ino, incluidos los da os de en enamien o, la es uc u a y los pa ´ame os. Pa a log a la alla del modelo, un a acan e debe es udia su compo amien o y comp ende las ulne abilidades del modelo, po ejemplo, qu´e da os de en ada p oducen una salida alsa. Conociendo oda es a in o maci´on es mucho m´as sencillo decidi la implemen aci´on pa a el gene ado y la ans e encia de conocimien o [ML222] desde el clasi icado . Es e ipo de a aques es ampliamen e u ilizado. En [WLC+21b] p opusie on un a aque 3.2. Clasi icaci´ on de A aques Seg´ un el Conocimien o del A acan e 19 ad e sa io de caja blanca que pe mi e ealiza a aques de modelos de ML con pe u baciones su iles y se ompen modelos de en enamien o ad e sa io TRADES [ZYJ+19] con la asa de ´exi o m´as al a. Los a aques gene ados log an educi la p ecisi´on de los modelos en e un 16 % y un 31 % en los a aques de ans e encia de caja neg a. Adem´as, en Wang e al. [WLC+21a] se p opone un m´e odo pa a educi la can idad de in o maci´on innecesa ia pa a la gene aci´on de ejemplos nega i os in eg ados (IWA) basados en g adien es: Algo i mo de a aque de pun o ini o in eg ado (IFPA) y Algo i mo de a aque de uni e so in eg ado (IUA). IFPA se aplica a un n´ume o p ede e minado de pun os de pe u baci´on e IUA se aplica a un n´ume o inde e minado de pun os de pe u baci´on pa a un ejemplo m´as con o e ido. Los expe imen os pueden e i ica que se pueden gene a ejemplos con adic o ios con menos in e e encia y mejo elocidad de gene aci´on en odo ipo de conjun os de da os. 3.2.2. A aques de caja neg a A di e encia de las axonom´ıas an e io es, los a aques de caja neg a no equie en conocimien o del modelo, su con igu aci´on o las ecnolog´ıas que lo sopo an [YHZL19]. La ´unica in o maci´on que se iene del modelo a acado es la salida que p oduce pa a una en ada dada. El modelo de ed ad e sa ia que mejo es esul ados ha dado en es e ipo de a aques es la es uc u a MalGAN [HT17b] que emos en la Figu a 3.3. El p ime paso en la implemen aci´on de la ed MalGAN se ´a cons ui un clasi icado sus i u o, es e clasi icado se ´a en enado con mues as de un da ase p e iamen e e ique ado po el clasi icado de caja neg a. El obje i o es log a que el clasi icado sus i u o consiga clona los esul ados de la caja neg a. Cuando se log e es o se puede ealiza la ans e encia de conocimien o al gene ado u ilizando la misma es uc u a de ed GAN que se ha is o en el es o de ejemplos. Figu a 3.3: Es uc u a MalGAN [HT17b] En el abajo [LSX22] se u iliza ambi´en una GAN pa a ealizaa un a aque de caja neg a a un IDS. Hoy en d´ıa, algunas soluciones pe mi en el uso de algo i mos de IA 20 Cap´ ı ulo 3. Es ado del A e pa a ealiza a eas c ´ı icas, como de ec a malwa e en una o ganizaci´on. Es e ipo de soluciones son las m´as ulne ables, po lo que las mues as de malwa e modi icadas se conside an mues as ´alidas. En [HT17a], se p opone un algo i mo pa a gene a ejemplos secuenciales an ag´onicos pa a a aca sis emas basados en RNN, la ed gene a i a se basa en un modelo secuencia po secuencia, y el RNN p oxy co espondien e al RNN de la ´ıc ima se en ena u ilizando Gumbel-So max sob e las mues as ap oximadas gene adas. Po lo an o, la mayo ´ıa de las mues as maliciosas gene adas po ecomendaciones no pueden se de ec adas po algo i mos basados en RNN. Adem´as, Zhao e al. [GZL+21] p opuso a aques de caja neg a en algo i mos de de ecci´on de ´a ico de ed basados en ML sospechosos. Es a p opues a, al igual que las an e io es, se basa en la comp ensi´on de pa ones en la gene aci´on de im´agenes e IDS al ex ende el algo i mo BIM con un m´e odo de eemplazo de pa ones ap endido obje i amen e u ilizando los conjun os de da os KDD99 y CSE-CIC-IDS2018. Las mues as gene adas po la he amien a emi en de ecci´on de e asi´on de pa ´on obje i o. 3.2.3. A aques de caja g is A di e encia de los dos an e io es, los a aques de caja g is en enan un modelo gene a i o con la in enci´on de gene a mues as ad e sa ias asumiendo que se iene acceso al modelo a acado an solo du an e la ase de en enamien o [XZJL21]. La me odolog´ıa de en enamien o es simila a la de los a aques de caja neg a pe o, al ene acceso al modelo a acado du an e el en enamien o no es necesa io manda le an as consul as. La en ajas del a aque de caja g is incluyen: mayo e iciencia de iempo, la no asunci´on del conocimien o del modelo a acado du an e la ase de a aque y son m´as ´aciles de in eg a en la de ensa de a aques ad e sa ios. 3.3. A aques de En enenamien o Los a aques de en enenamien o en el ap endizaje au om´a ico buscan manipula el conjun o de en enamien o de mane a que el modelo esul an e pie da p ecisi´on. Es os a aques ienen dos obje i os p incipales que son deg ada la p ecisi´on del modelo y c ea una pue a ase a en el modelo. Hay dos mane as de en enena el conjun o de en enamien o: La p ime a consis e en e ique a mal cie os da os pa a que el modelo ap enda in o maci´on e ´onea, lo que a su ez a ec a la on e a de decisi´on y p oduce p edicciones inco ec as. La segunda es median e la c eaci´on de da os con usos, donde el a acan e c ea da os 3.3. A aques de En enenamien o 21 con ca ac e ´ıs icas especiales que el modelo ap ende a explo a , lo que puede pe mi i al a acan e accede al modelo de o ma no au o izada. 3.3.1. Ejemplo de un A aque de En enenamien o Un ejemplo de uso del a aque de en enenamien o a los da os de un ap endizaje colabo a i o u ilizando una GAN que apa ece en [ZCW+19] se expone a con inuaci´on. 3.3.2. Funcionamien o del Ap endizaje Colabo a i o Pa a en ende es e ejemplo de a aque p ime o es necesa io sabe en que consis e el ap endizaje colabo a i o. Sin in e cambia expl´ıci amen e mues as de da os, el ap endizaje ede ado in en a en ena un algo i mo de AA, como las Redes Neu onales P o undas (RNP), en nume osos conjun os de da os locales p esen es en nodos locales. En el ap endizaje colabo a i o, los usua ios solo ca gan g adien es gene ados po los da os y modelos de en enamien o locales, lo que educe el iesgo de il aci´on de la p i acidad. Adem´as, en el ap endizaje colabo a i o, los modelos globales en el lado del se ido compa en la misma es uc u a con los modelos locales del clien e, lo que pe mi e que los usua ios conse en el con ol sob e sus da os. En cada i e aci´on, los usua ios desca ga ´an los pa ´ame os y el modelo global del lado del se ido y luego en ena ´an el modelo con los conjun os de da os locales en cada clien e. Los g adien es ca gados se p omedia ´an y acumula ´an en el modelo global ac ual, lo que pe mi i ´a que el modelo mejo e con cada i e aci´on. 3.3.3. Ejecuci´on del A aque El a acan e iene como obje i o co ompe el modelo global en la ase de en enamien o haci´endose pasa po un pa icipan e benigno y enga˜na al modelo global pa a clasi ica inco ec amen e las en adas co ec as como la e ique a inco ec a obje i o en la e apa de in e encia. El p oceso pa a en enena los da os po pa e de un a acan e es el siguien e, u ilizando una a qui ec u a GAN en el p ocedimien o de ap endizaje colabo a i o, el a acan e gene a mues as simila es a las de o os pa icipan es benignos y las inse a en los conjun os de da os locales de en enamien o. Es as mues as es ´an en enenadas y se les ha asignado la e ique a inco ec a. El modelo local se en ena con es os da os en enenados, lo que da luga a una ac ualizaci´on local en enenada. Despu´es de que se hace el p omedio del modelo en el lado del se ido , los esul ados de p edicci´on en algunas en adas de los pa icipan es benignos cambian a las clases elegidas po el a acan e. Pa a lle a a cabo es e a aque, se deben segui los siguien es pasos: 28 Cap´ ı ulo 4. Dise˜ no e Implemen aci´ on Se iene po an o ya el IDS en enado y lis o pa a ecibi nue os ejemplos y clasi ica los. En el Cap´ı ulo 5de expe imen os y esul ados se analiza el e o del IDS seg´un las m´e icas habi uales. 4.4. Red Gene a i a Ad e sa ia pa a A aca un Sis ema de De ecci´on de In usos En es a secci´on se desc ibe la implemen aci´on de la GAN con el obje i o de a aca el IDS de la secci´on an e io . El a aque a a se de caja neg a, es deci , la GAN a a ene como ´unica in o maci´on sob e el IDS su salida y a a a a de ap ende de ella. El abajo se lle ´o a cabo de nue o en o o no ebook de Google Colab. En ´el, se impo a la pa e del conjun o de da os que co esponde a la GAN y que p e iamen e se hab´ıa gua dado en un a chi o .cs y el modelo ya en enado de IDS median e la uncionalidad de la lib e ´ıa pickle. 4.4.1. P ep ocesamien o del Conjun o de Da os Como se mos ´o an e io men e se ealiz´o la di isi´on del conjun o de da os de en enamien o ex a´ıdo de NLS-KDD una ez codi icado las a iables ca eg´o icas y eliminado las m´as co eladas. Aho a, como en ena una GAN es un p oceso la go y cos oso se di idi ´a el conjun o de da os en subconjun os seg´un el ipo de a aque y o o conjun o pa a ´a ico benigno. A con inuaci´on se sepa an los subconjun os en o os di e en es X ipo a aque e Y ipo a aque y ambi´en o o conjun o pa a el ´a ico no mal de la misma o ma que se mos ´o pa a el clasi icado . En los expe imen os se ealiza ´a el en enamien o de la ed GAN ´unicamen e con los da os de a aques DoS y se usa ´an ambi´en el ´a ico no mal pa a ealiza la p edicci´on con el IDS y compa a con la p edicci´on de los da os ad e sa ios. Se ealiz´o la no malizaci´on y algunos ajus es pa a que el ama˜no de los conjun os de da os sea el ´op imo pa a el en enamien o de la GAN. 4.4.2. Desa ollo de la Red Gene a i a Ad e sa ia La es uc u a de la ed GAN p opues a y su en enamien o se p esen an en las siguien es secciones. 4.4.2.1. Es uc u a Como se sabe, la implemen aci´on de la GAN incluye un gene ado y un disc iminado . El gene ado es esponsable de gene a los ejemplos ad e sa ios a pa i de ec o es de uido y de los da os en s´ı. En es e caso, se ha de inido una unci´on llamada build gene a o 4.4. Red Gene a i a Ad e sa ia pa a A aca un Sis ema de De ecci´ on de In usos 29 que cons uye un gene ado b´asico con es capas densas y dos capas de no malizaci´on po lo es empleando las uncionalidades Dense yBa chNo maliza ion de la lib e ´ıa Ke as. Es e gene ado oma como en ada un enso de o ma (124,) y p oduce un enso de salida de o ma (115,) que es el ama˜no que deben de ene los da os ya que el ´a ico iene 115 ca ac e ´ıs icas en el conjun o de da os p ocesado. La p ime a capa del gene ado es una capa densa con 124 unidades de en ada y una unci´on de ac i aci´on lineal ec i icada (ReLU) con una pendien e nega i a de 0.2. A con inuaci´on, se ag ega una capa de no malizaci´on po lo es con un ac o de momen o de 0.8 pa a mejo a la es abilidad y la elocidad de con e gencia de la ed. Pos e io men e, se ag egan dos capas densas m´as, cada una con una unci´on de ac i aci´on ReLU con una pendien e nega i a de 0.2 y una capa de no malizaci´on po lo es con el mismo ac o de momen o que la capa an e io . Finalmen e, se ag ega una ´ul ima capa de ac i aci´on ReLU con una pendien e nega i a de 0.2. En el C´odigo 4.1 se obse a el c´odigo de la unci´on build gene a o . Pa a el disc iminado es una unci´on simila . 1de build_gene a o (): 2model = ke as . Sequen ial () 3model .add ( ke as . laye s . Dense (124 , inpu _shape =(124 ,) )) 4model .add ( ke as . laye s . Ba chNo maliza ion ( momen um = 0.8) ) 5model .add ( ke as . laye s . LeakyReLU (0.2) ) 6 7model .add ( ke as . laye s . Dense (119) ) 8model .add ( ke as . laye s . Ba chNo maliza ion ( momen um = 0.8) ) 9model .add ( ke as . laye s . LeakyReLU (0.2) ) 10 11 model .add ( ke as . laye s . Dense (115) ) 12 model .add ( ke as . laye s . LeakyReLU (0.2) ) 13 14 model . summa y () 15 e u n model C´odigo 4.1: C´odigo de build gene a o . A con inuaci´on se ealiza la con igu aci´on del disc iminado que es el esponsable de dis ingui en e ´a ico eal y also. La unci´on build disc imina o de ine la a qui ec u a b´asica del disc iminado , que incluye cua o capas densas, es capas de no malizaci´on po lo es y una capa de ac i aci´on so max. El disc iminado oma como en ada un enso de o ma (115,), que ep esen a una ins ancia de ´a ico, y p oduce una salida unidimensional que ep esen a la p obabilidad de que la imagen sea eal o sin ´e ica. Po an o, la p ime a capa es una capa densa con 115 unidades de en ada y una unci´on de ac i aci´on ReLU, seguida de una capa de 30 Cap´ ı ulo 4. Dise˜ no e Implemen aci´ on no malizaci´on po lo es con un ac o de momen o de 0.8. A con inuaci´on, se ag ega una capa de ac i aci´on ReLU con una pendien e nega i a de 0.2 y o a capa de no malizaci´on po lo es con el mismo ac o de momen o que la capa an e io . Luego se ag egan dos capas densas m´as, cada una con una unci´on de ac i aci´on ReLU y una capa de no malizaci´on po lo es con el mismo ac o de momen o. Finalmen e, se ag ega una capa densa con una unci´on de ac i aci´on so max, que se u iliza pa a p oduci una salida unidimensional que ep esen a la p obabilidad de que la imagen sea eal o no. Pa a ambos modelos se u iliza una llamada a la unci´on summa y que imp ime una ep esen aci´on g ´a ica del modelo y una desc ipci´on de sus pa ´ame os. Es o pe mi e ene una isi´on gene al de la a qui ec u a del gene ado y disc iminado y de sus alo es de los pa ´ame os u ilizados. Pa a c ea ambos componen es de la GAN se u iliza la unci´on c ea eIDSGANDOScomponen s que de uel e el gene ado , el disc iminado y el modelo GAN comple o. El disc iminado se compila con una la unci´on de p´e dida spa se ca ego ical c ossen opy, el op imizado sgd y la m´e ica de p ecisi´on. El disc iminado se congela en es e pun o, lo que signi ica que sus pesos no se ac ualiza ´an du an e el en enamien o. El modelo GAN se c ea combinando el gene ado y el disc iminado .Es e iene como en ada el enso de uido y como salida la clasi icaci´on del ´a ico gene ado como eal o also po el disc iminado . El modelo se compila con la misma unci´on de p´e dida, o imizado m´e ica que el disc iminado . 4.4.2.2. En enamien o Pa a en ena la GAN se u iliza el IDS en enado. El obje i o es minimiza la p´e dida del gene ado mien as se maximiza la del disc iminado . Pa a ello, se gene a ´an ejemplos ad e sa ios con uido en el gene ado , se clasi ican jun o a los da os eales en el IDS, y se en ena el disc iminado eniendo en cuen a esos da os pa a que ap enda a dis ingui en e eal y also. Se ealiza la de inici´on de dos unciones auxilia es. La unci´on ge Ad e sa ialSample ecibe como en ada los da os o iginales de a aque, gene a un ec o de uido uni o memen e dis ibuido con alo es en e 0 y 1 de o ma (9,) y los conca ena. Se obse a su c´odigo en el C´odigo 4.2. Se ealiza es o pa a cada ins ancia de los da os de a aque. Po o o lado, la unci´on ge Ba ch se enca ga de ob ene un lo e de da os a pa i de un conjun o de da os, el ama˜no del lo e y el momen o del algo i mo en el que se encuen a. Se ealiza el en enamien o po lo es ya que se ha descubie o que el modelo se en ena m´as ´apido y se equie e menos memo ia. 1de ge Ad e sa ialSample(X_a ack): 4.4. Red Gene a i a Ad e sa ia pa a A aca un Sis ema de De ecci´ on de In usos 31 2ba ch = [] 3 o sample in X_a ack: 4noise = np . andom . uni o m (0 ,1 ,(9 ,)) 5ba ch . append (np . conca ena e (( sample , noise ))) 6 e u n np . a ay ( ba ch ) C´odigo 4.2: C´odigo de ge Ad e sa ialSample. Se de ine la unci´on que a a lle a a cabo el en enamien o en s´ı de la ed. Es a es ainIDSGAN y ecibe el gene ado , el disc iminado , el modelo GAN, el modelo del IDS, los da os de en enamien o de a aque y no males y los pasos que se dan en cada ´epoca del bucle del algo i mo. Es os pasos se calculan eniendo en cuen a el ama˜no elegido de los lo es. El en enamien o consis e en un bucle po ´epocas con o o bucle in e no de los pasos po cada lo e. En cada uno de ellos se ealizan las siguien es ope aciones que se enume an a con inuaci´on y que se obse a el c´odigo que lo implemen a en el C´odigo 4.3: 1. Se ob iene el lo e de da os de a aque co espondien e al paso ac ual median e el uso de ge Ba ch. 2. Se cons uye la mues a ad e sa ia del lo e median e el uso de ge Ad e sa ialSample. 3. Se u iliza la unci´on p edic del gene ado pa a gene a el ´a ico malicioso ad e sa io. 4. Se ecupe an de nue o los da os eales del a aque median e ge Ba ch. 5. Se ealiza la clasi icaci´on de los da os eales y los alsos u ilizando el p edic del IDS. 6. Se ma ca el disc iminado como en enable y lo se en ena basandose en los esul ados del IDS. 7. Se ac ualizan los pa ´ame os del disc iminado y se ma ca una ez mas como no en enable. 8. Es gene a de la mues a ad e sa ia y se en ena el gene ado el gene ado a a ´es del modelo GAN. 9. Y po ul imo se ac ualizan los pa ´ame os del gene ado . 1de ainIDSGAN ( gene a o , disc imina o ,gan ,ids_model , 2X_ ain_a ack , X_ a ic_ ain , s eps_pe _epoch ): 3 o epoch in ange (epochs): 4 o s ep in ange ( s eps_pe _epoch ): 5 6X_a ack = ge Ba ch (ba ch_size ,s ep , X_ ain_a ack ) 7ad e sa ial_ba ch = ge Ad e sa ialSample ( X_a ack ) 8X_ ake = gene a o . p edic ( ad e sa ial_ba ch ) . ound ( decimals = 4) 32 Cap´ ı ulo 4. Dise˜ no e Implemen aci´ on 9 10 X_ eal = ge Ba ch ( ba ch_size ,s ep , X_ a ic_ ain ) 11 12 d_ a ge _ eal = ids_model . p edic ( X_ eal ) 13 d_ a ge _ ake = ids_model . p edic ( X_ ake ) 14 15 disc imina o . ainable = T ue 16 17 d_loss_ eal = disc imina o . ain_on_ba ch ( X_ eal , d_ a ge _ eal ) 18 d_loss_ ake = disc imina o . ain_on_ba ch ( X_ ake , d_ a ge _ ake ) 19 d_loss = 0.5* np. add ( d_loss_ eal , d_loss_ ake ) 20 21 disc imina o . ainable = False 22 23 ad e sa ial_ba ch = ge Ad e sa ialSample ( X_a ack = X_a ack ) 24 g_loss = gan. ain_on_ba ch ( ad e sa ial_ba ch , no mal_ alues ) 25 26 p in ( ’ Epoch : { epoch } Disc imina o Loss : { d_loss } 27 Gene a o Loss : { g_loss } ’) C´odigo 4.3: C´odigo de ainIDSGAN. El en enamien o se lle ´o a cabo con 15 ´epocas y ama˜no de lo e 38 pa a que el ama˜no de los da os uese di isible po ese n´ume o. 4.5. S´ın esis de A aques Dis ibuidos de Denegaci´on de Se icio U ilizando Redes Ad e sa ias Gene a i as Tabula es Con el obje i o de consegui enga˜na a una ed neu onal que de ec a a aques DoS de los que se habl´o en la secci´on 2.6, se decidi´o ealiza a aques de DDoS usando una GAN abula en el IDS. Pa a ealiza es os se u iliza ´an a ios concep os que ienen ya explicados y jun o con el c´odigo en [HHAE22] y que se in oducen en las secciones 2.7 y2.8. 4.5.1. Ejecuci´on del c´odigo Pa a empeza a ejecu a es e p oyec o p ime o se ins ala una dis ibuci´on de Linux en el o denado y se ealiza la con igu aci´on base del en o no. Despu´es se ealiza la ins alaci´on de Conda ya que es uno de los equisi os necesa ios pa a la ejecuci´on de Make ile, den o del cual hay a ias opciones, a noso os nos an a in e esa dos una que c ea el en o no de ejecuci´on en conda y o a que ins ala una lis a de eque imien os. Se ealiza la ejecuci´on del en o no po que pa a lanza el p oyec o y despu´es se ins alan los eque imien os den o del en o no. Con es o e minado se ins ala Ka ka pa a ello hay que ins ala Docke y ejecu a 4.5. S´ ın esis de A aques Dis ibuidos de Denegaci´ on de Se icio U ilizando Redes Ad e sa ias Gene a i as Tabula es 33 el Sc ip que iene en el p oyec o pa a ins ala Ka ka. En es e pun o se puede ejecu a el a ack y el consume pa a gene a el ´a ico de ed con la GAN abula y ambi´en si se ejecu a el se puede obse a que es a p ediciendo y e si es posible con undi la o no. Cap´ı ulo 5 Expe imen os y Resul ados En es e cap´ı ulo se ealiza ´a el an´alisis de los expe imen os ealizados a lo la go del abajo y los esul ados. Pa a comenza , analiza emos en la secci´on 5.1 el e o del IDS en enado en el Cap´ı ulo 4median e alidaci´on c uzada u ilizando di e en es m´e icas. En la siguien e secci´on 5.2 se discu i ´an los esul ados ob enidos al u iliza la GAN implemen ada. 5.1. An´alisis del E o come ido po el Sis ema de De ecci´on de In usos Pa a medi el e o en p oblemas de clasi icaci´on, se deben compa a los esul ados ob enidos po el modelo p opues o con los esul ados obse ados en el conjun o de da os. Pa a ello se u ilizan di e en es m´e icas de las cuales se calcula an dos. Pa a explica las se supone que el clasi icado es bina io, y se in uye que clasi ica un da o de ´a ico o como no mal o como a aque. Se llaman Ve dade os Posi i os (VP) a los da os no males clasi icados co ec amen e como la no males. Los Ve dade os Nega i os (VN) son los clasi icados como a aque y que son a aque. As´ı, se llaman Falsos Posi i os (FP) a los clasi icados como no males siendo a aques y Falsos Nega i os (FN) a los clasi icados como a aque siendo no males. La m´e icas son las siguien es: Exhaus i idad o ecall en ingl´es. Es la Tasa de Ve dade os Posi i os (TVP): Exhaus i idad =V P V P +F N =V P P(5.1) Exac i ud o accu acy en ingl´es. Es una medida buena muy u ilizada: Exac i ud =V P +V N V P +V N +F P +F N =V P P(5.2) P ecisi´on o Valo P edic i o Posi i o (VPP): 35 36 Cap´ ı ulo 5. Expe imen os y Resul ados P ecisi´on =V P V P +F P (5.3) Medida F1. Realiza una media a m´onica en e la p ecisi´on y la exhaus i idad F1=2∗V P P ∗T V P V P P +T V P =2∗V P 2∗V P +F P +F N (5.4) U ilizando la lib e ´ıa me ics de sklea n se puede calcula las di e en es m´e icas de e o de el clasi icado u ilizando alidaci´on c uzada. Realizando alidaci´on c uzada en 10 pa es a iando la p o undidad del ´a bol y se puede obse a que el e o disminu´ıa al aumen a la p o undidad de o ma muy exage ada has a p o undidad 8. Es o es l´ogico ya que a m´as p o undidad del ´a bol, m´as p egun as se hacen y m´as ca ac e ´ıs icas de los da os se ienen en cuen a pudiendo clasi ica mejo . Calculando las m´e icas con p o undidad del ´a bol 8, de o ma ´op ima como se mues a en el Cap´ı ulo 4y ealizando alidaci´on c uzada en 10 pa es se ob u ie on los siguien es medias ponde adas de las m´e icas edondeando a cua o alo es decimales: 1sco ing_me ics = [’p ecision_weigh ed ’,’ ecall_weigh ed ’,’ 1_weigh ed’] 2 3cl _op = DecisionT eeClassi ie ( c i e ion ="en opy", max_dep h =8, 4min_samples_spli =4 , andom_s a e =333) 5 6 7sco es = c oss_ alida e ( cl _op , X_ ain , Y_ ain , 8sco ing = sco ing_me ics , c =10 , e u n_ ain_sco e = False ) 9 10 p in (’PPM:’,np .mean ( sco es [ ’ es _p ecision_weigh ed’])) 11 p in (’EPM:’,np .mean ( sco es [ ’ es _ ecall_weigh ed’])) 12 p in (’F1 PM:’,np. mean ( sco es [ ’ es _ 1_weigh ed’])) C´odigo 5.1: Ex accion de M´e icas de E o P ecisi´on media ponde ada: 0,9879. Exhaus i idad media ponde ada: 0,9882. F1 media ponde ada: 0.9880. En odas las m´e icas se ob iene un e o muy peque˜no lo que signi ica que el clasi icado e ique a co ec amen e la mayo pa e del ´a ico con undi´endose de o ma muy a a habiendo sido en enado con el conjun o de da os de p ueba. 5.2. An´ alisis de Resul ados de la Red Gene a i a Ad e sa ia 37 5.2. An´alisis de Resul ados de la Red Gene a i a Ad e sa ia El en enamien o de la GAN se lle ´o a cabo pa a gene a ejemplos ad e sa ios ´unicamen e en el caso de a aques DoS pa a simpli ica ya que el iempo de en enamien o es muy la go. A con inuaci´on se ob iene la exac i ud al hace p edic con el IDS u ilizando el conjun o de da os de p ueba o iginal o pasado po la GAN en enada pa a ob ene un conjun o de da os de p ueba ad e sa ios. Con es a m´e ica es posible calcula el n´ume o de acie os del modelo espec o a la can idad o al. Tambi´en se u iliza con usion ma ix y Con usionMa ixDisplay pa a c ea ma ices de con usi´on y pode isualiza mejo los esul ados. En la ma iz de la Figu a 5.1 se mues an los esul ados de hace p edic con el IDS con el conjun o de da os de p ueba pa a el a aque DoS e ique ados como 1. El a ico benigno es ´a e ique ado como 0. La m´e ica de exac i ud es del 73.59 %, que no es muy al a pe o se obse a que la mayo ´ıa de los allos son Falsos Posi i os, es deci , ´a ico benigno clasi icado como malo, lo cual no supond ´ıa iesgo a la segu idad. El modelo acie a 12636 de 17171 p edicciones en el conjun o de p ueba. Figu a 5.1: Ma iz de con usi´on sob e el conjun o de p ueba. En la Figu a 5.2 se mues a la ma iz de con usi´on as hace p edic con los da os gene ados po la GAN. La exac i ud ha bajado a un 55.84 % po lo que ya se puede deduci que la GAN ha su ido e ec o al hace alla al IDS. Si se obse a la ma iz, 7404 44 Cap´ ı ulo 7. Conclusiones y T abajo Fu u o Sin emba go, se ha ealizado el p oyec o con unos pa ´ame os muy conc e os y pa a un a aque espec´ı ico, adem´as de que hay muchas o as o mas de gene a ejemplos ad e sa ios como se ha is o. Es po ello que nues o abajo pod ´ıa ene a ias mejo as que eque i ´ıan de mejo es medios y m´as iempo pa a ealiza las pe o que se ese an como posible abajo u u o en la siguien e secci´on. 7.2. T abajo Fu u o Como posibles es udios u u os pueden se˜nala se los siguien es: Analiza los esul ados con o os ipos de a aques u o os conjun os de da os: la ed GAN de es e abajo ue en enada con da os de ´a ico no mal y del a aque DoS. Un a ance in e esan e se ´ıa en ena la con o o ipo de a aques como po ejemplo los que con o man el p opio conjun o de da os usado en es e abajo (Use o Roo , Roo o Local y P obing). U iliza m´ as ´ epocas en el en enamien o de la ed: en el caso de ene m´as iempo o un o denado con m´as ecu sos, se pod ´ıa en ena la misma ed GAN u ilizando un n´ume o mayo de ´epocas. Es o debe ´ıa minimizaa en cada ´epoca a´un m´as la p´e dida del gene ado y maximiza la del disc iminado que es el obje i o del en enamien o de la GAN. Segu amen e se ob end ´ıan mejo es esul ados. P oba nues a ed con o os algo imos de Machine Lea ning y con o os conjun os de da os: en es e abajo se ha a acado a un IDS basado en ´a boles de decisi´on pe o se pod ´ıa p oba el endimien o an e o os algo i mos y ealiza una compa a i a an o del endimien o del IDS como de la GAN a la ho a de enga˜na lo. Adem´as, se pod ´ıa p oba el uncionamien o u ilizando o os conjun os de da os, an o de ´a ico como de cualquie o a cosa. In oduci mejo as en la ed GAN: se pod ´ıan u iliza o os pa ´ame os o incluso o as es uc u as en las capas del gene ado y del disc iminado . Cambia las lib e ias u ilizadas pa a compa a cuales ob ienen mejo es esul ados se ´ıa o a posibilidad. Tambi´en se pod ´ıa expe imen a con mejo as de las p opias GAN ya es udiadas como po ejemplo las Wasse ein GAN. En ena el algo i mo de ML con los da os ad e sa ios: se ha p obado que mejo a el endimien o del algo i mo an e a aques ad e sa ios si se en ena. Se pod ´ıa po an o in en a en ena nues o IDS con los da os alsos pa a que ap endiese a dis ingui los. Cap´ı ulo 8 In oduc ion 8.1. Mo i a ion Nowadays , A i icial In elligence (AI) is one o he ields o compu e science wi h he mos de elopmen and in es men globally. Ad ances a e enabling he c ea ion o a mul i ude o use ul ools o humans in many di e en con ex s. These include uses o A i icial In elligence (AI) o secu i y in o he ields such as malwa e classi ica ion o malicious ne wo k a ic de ec ion. Howe e , AI also has ulne abili ies and can be subjec o a acks ha dis up i s p ope unc ioning. Ad e sa ial a acks a e a majo conce n when i comes o AI secu i y, as hey can ool Machine Lea ning algo i hms in di e en ways. Ian Good ellow p oposed Gene a i e Ad e sa ial Ne wo ks (GAN) in 2014 in his pape [GPAM+20]. These a e he mos s udied and used way o ca y ou ad e sa ial a acks. In his wo k we will ocus on he s udy o ulne abili ies and secu i y o Machine Lea ning algo i hms by in es iga ing and hen expe imen ing wi h a acks ha a e he o de o he day in he e e -g owing wo ld o AI. Fo his pu pose, we will implemen a GAN ne wo k ha we will use o pe o m an ad e sa ial a ack agains a ML algo i hm. 8.2. Con ex This Final Deg ee P ojec is pa o a esea ch p ojec en i led Pla o m o Analysis o Resilien and Secu e So wa e - LAZARUS, app o ed by he Eu opean Commission wi hin he Ho izon F amewo k P og amme (HORIZON-CL3-2021-CS-01) unde g an ag eemen numbe 101070303 and in which he GASS G oup o he Uni e sidad Complu ense de Mad id is aking pa (G upo de Analisis, Segu idad y Sis emas, h ps://gass. ucm.es, g oup 910623 o he ca alogue o esea ch g oups ecognised by he UCM). In addi ion o he Complu ense Uni e si y o Mad id, he ollowing en i ies pa icipa e in LAZARUS: A hena Resea ch Cen e - ARC (G eece), The Uni e si y 45 46 Cap´ ı ulo 8. In oduc ion o Padua (I aly), In o end Inno a ions Company Limi ed (Cyp us), Da a Cen ic Se ices SRL (Romania), Luxembou g Ins i u e o Science and Technology (Luxembou g), Mo i ianEOOD (Bulga ia), Bina e Oy (Finland), APWG Eu opean Union Founda ion (Spain), Maggioli Spa (I alia). You can ind mo e in o ma ion he e: h ps://co dis.eu opa.eu/p ojec /id/101070303 h ps://laza us-he.eu 8.3. Objec o he In es iga ion The aim o ou wo k is o ca y ou a s udy and esea ch on AI secu i y, ocusing on ad e sa ial a acks and mo e speci ically on Gene a i e Ad e sa ial Ne wo ks (GAN). A e ha ing a solid base o knowledge on he subjec , we will y o design and implemen a GAN ha is able o ool some ML algo i hm. The aim is o ob ain an e icien implemen a ion and o es i in di e en ways. 8.4. Wo kplan The de elopmen o his wo k has been ca ied ou in h ee phases which a e desc ibed bewow and hey can be seen in Figu e 8.1: 1. Resea ch: We s a ed he wo k doing a gene al mee ing in o de o explain he s a ing poin o he wo k, he objec i es we e achie e and he knowledge ha would be needed. A e his, weekly mee ings we e a anged o moni o he p og ess o he esea ch and o esol e any doub s ha migh a ise. Ano he eason o a anging hese mee ings was o explain basic concep s abou he di e en ields co e ed by his wo k, which will be discussed in he ollowing sec ions. This phase s a ed in Sep embe 2022. Du ing he i s ou mon hs, a pe iod o adap a ion o he wo k con ex and acquisi ion o he necessa y knowledge o s a he u he de elopmen was ca ied ou . Fo his pu pose, we ook cou ses on di e en s ields and we ead basic a icles. Each membe o he g oup made summa ies and p esen a ions o he a icles hey esea ched each week in o de o g adually build up a common knowledge eposi o y o he wo k on Google D i e and o p og ess oge he owa ds a common goal. By he las mon h o esea ch, he eam had a s ong enough ounda ion o s a hinking abou e ising code and hinking abou he de elopmen s age. The esea ch i sel con inued o be ca ied ou s eadily by eading a icles wi h linked code o benchma k and obse e implemen a ions be o e s a ing ou own. 8.5. S u u e o he Wo k 47 2. De elopmen : Once we had enough knowledge o s a c ea ing a solid e sion o he p oyec , we decided o use less ime on esea ch and o begin he code o ou p oposal. As we men ioned be o e, esea hc did no s op, i jus ook a less impo ance, bu we s ill sea ched in o ma ion abou concep s ha we needed du ing he de elopemen . The e o e, du ing his phase, ad anced concep s o he Py hon p og amming language and lib a ies necessa y o he implemen a ion we e in es iga ed. Besides, di e en p oposals on Gene a i e Ad e sa ial Ne wo ks we e s udied. Du ing his phase, di e en da ase s we e p ocessed o be e unde s and hem and he necessa y unc ionali ies o ca y ou he p ojec we e implemen ed. I was in his phase when we decided ha we would use ou implemen a ion o he GAN o a ack an In usion De ec ion Sys em (IDS). This was implemen ed using a Machine Lea ning algo i hm and p ocessing a speci ic da ase . 3. Expe imen a ion: Once p o o ypes o he ini ial idea began o be p oduced, he expe imen a ion p ocess began, in which he eam analysed he esul s ob ained and d ew conclusions. I should be no ed ha he de elopmen phase did no cease du ing he expe imen a ion phase, as he model was cons an ly compa ed wi h o he s and modi ied o op imisa ion. Figu a 8.1: P ojec Gan Cha . 8.5. S u u e o he Wo k The es o he wo k is o ganised in 6 chap e s in Spanish and 2 in English wi h he ollowing s uc u e: Chap e 2in oduces some concep s ha a e elemen a y o unde s and he de elopmen o he wo k. We in oduce he basics o Machine Lea ning (ML), Deep Lea ning (DL), secu i y and he main objec o ou wo k: GANs. Chap e 3is a compila ion o wo ks ela ed o he subjec o ou s udy, ocusing on he di e en exis ing ad e sa ial h ea s and gi ing examples o a icles ha ca y ou ad e sa ial a acks. Chap e 4de elops he me hodology o he wo k, explaining he phases o he 48 Cap´ ı ulo 8. In oduc ion implemen a ions ca ied ou in ou wo k and how hey we e done. Chap e 6p esen s he pe sonal con ibu ions o each membe o he g oup in his wo k. Chap e 5desc ibes he expe imen s ca ied ou o e alua e he e ec i eness o he GAN implemen ed and de eloped in Chap e 4and p esen s he esul s ob ained. Chap e 7shows he main conclusions o his wo k and he u u e lines o esea ch. Chap e 9is he English ansla ions o Conclusions. Cap´ı ulo 9 Conclusions and Fu u e Wo k 9.1. Conclusions A i icial In elligence is nowadays o g ea impo ance in almos all a eas o li e. Companies use AI algo i hms o a mul i ude o hings, bu one o he mos impo an uses is in he implemen a ion o In usion De ec ion Sys ems o IDS. IDSs a e an impo an pa o secu i y in many espec s as hey ha e he unc ion o ale ing in case hey pe cei e suspicious a ic on he ne wo k. Tha is why a ailu e in hem can lead o se ious consequences such as, o example, alling ic im o a Denial o Se ice a ack. This pape has s udied he ulne abili ies o Machine Lea ning algo i hms wi hin AI. Fo his pu pose, an in es iga ion o he di e en ad e sa ial a acks and AI h ea s has been ca ied ou . In pa icula , i has in es iga ed GANs and se he goal o implemen ing and expe imen ing wi h one. I was decided o implemen an IDS bo h because o i s impo ance and because i is an example o eal-li e use o ML ha can be es ed using ad e sa ial a acks. The e o e, he mos widely used ne wo k a ic da ase , NLS-KDD, has been s udied and p ocessed, p epa ing i o a co ec aining o he IDS and he GAN. An IDS has been implemen ed using decision ees as an example o an ML algo i hm, al hough ano he algo i hm could ha e been used and he di e ences in he esul s and which ones su e mo e o less om he a ack could ha e been in es iga ed. A GAN has been implemen ed and ained o ool he IDS by modi ying malicious a ic da a and using he IDS p edic ions in he disc imina o ea ing i as a black-box a ack whe e hose p edic ions a e he only hing we know abou he IDS as a acke s. In pa icula , i has been possible o pass o DoS a ack a ic as benign a ic wi h e y signi ican esul s in ha wi h he modi ied da a, he IDS is p ac ically unable o de ec DoS- ela ed a ic. Howe e , we ha e done he p ojec wi h e y speci ic pa ame e s and o a speci ic a ack, and he e a e many o he ways o gene a e ad e sa ial examples as we ha e seen. 49 50 Cap´ ı ulo 9. Conclusions and Fu u e Wo k Tha is why ou wo k could ha e se e al imp o emen s ha will equi e mo e means and ime o ca y hem ou , bu we lea e hem as possible u u e wo k in he nex sec ion. 9.2. Fu u e Wo k As possible u u e wo k, we iden i y he ollowing ones: Analyse he esul s wi h o he ypes o a acks o o he da ase s: he GAN o ou wo k was ained wi h da a om no mal a ic and he DoS a ack. An in e es ing ad ance would be o ain i wi h o he ypes o a acks such as hose ha make up he da ase used in his wo k (Use o Roo , Roo o Local and P obing). Use mo e epochs in he aining o he ne wo k: in he case o mo e ime o a compu e wi h mo e esou ces, he same GAN ne wo k could be ained using a la ge numbe o epochs. This should minimise a each epoch he loss o he gene a o and maximise he loss o he disc imina o , which is he goal o GAN aining. Su ely, we would ob ain be e esul s Tes ou ne wo k wi h o he Machine Lea ning algo i hms and wi h o he da ase s: in ou wo k we ha e a acked an IDS based on decision ees, bu we could es he pe o mance agains o he algo i hms and compa e bo h he pe o mance o he IDS and he GAN when i comes o chea ing. In addi ion, pe o mance could be es ed using o he da ase s, bo h a ic and o he kind o da a. Imp o emen s o he GAN ne wo k: o he pa ame e s o e en o he s uc u es could be used in he gene a o and disc imina o laye s. Ano he possibili y would be o change he lib a ies used o compa e which ones gi e be e esul s. Wo could also expe imen wi h imp o emen s o he GANs al eady s udied, such as he Wasse ein GANs. T ain he ML algo i hm wi h ad e sa ial da a: i has been p o en o imp o e he pe o mance o he algo i hm agains ad e sa ial a acks i i is ained. We could he e o e y o ain ou IDS wi h he alse da a so ha i lea ns o dis inguish hem. Bibliog a ´ıa [BIM23] Gene a e Un a ge ed and Ta ge ed Ad e sa ial Examples o Image Classi ica ion. h ps://es.ma hwo ks.com/help/deeplea ning/ug/ gene a e-ad e sa ial-examples.h ml, Ap il 2023. [DT23] ´ A boles de decisi´on. h ps://www.ibm.com/es-es/ opics/decision- ees, May 2023. [FGS23] Ad e sa ial a acks wi h FGSM (Fas G adien Sign Me hod). h ps://pyimagesea ch.com/2021/03/01/ ad e sa ial-a acks-wi h- gsm- as -g adien -sign-me hod/, Ap il 2023. [GPAM+20] Ian Good ellow, Jean Pouge -Abadie, Mehdi Mi za, Bing Xu, Da id Wa de-Fa ley, She jil Ozai , Aa on Cou ille, and Yoshua Bengio. Gene a i e ad e sa ial ne wo ks. Communica ions o he ACM, 63(11):139–144, 2020. [GZL+21] Sensen Guo, Jinxiong Zhao, Xiaoyu Li, Junhong Duan, Dejun Mu, and Xiao Jing. A black-box a ack me hod agains machine-lea ning-based anomaly ne wo k low de ec ion models. Secu i y and Communica ion Ne wo ks, 2021:1–13, 2021. [HGMH+00] Jos´e Ram´on Hile a Gonz´alez, V´ıc o Jos´e Ma ´ınez He nando, e al. Redes neu onales a i iciales: undamen os, modelos y aplicaciones. 2000. [HHAE22] Abdelmageed Ahmed Hassan, Mohamed Sayed Hussein, Ahmed Sheha a AboMous a a, and Sa ah Hossam Elmowa y. Syn hesis o ad e sa ial ddos a acks using abula gene a i e ad e sa ial ne wo ks, 2022. [HT17a] Weiwei Hu and Ying Tan. Black-box a acks agains nn based malwa e de ec ion algo i hms, 2017. [HT17b] Weiwei Hu and Ying Tan. Gene a ing Ad e sa ial Malwa e Examples o Black-Box A acks Based on GAN. CoRR, abs/1702.05983, 2017. [IAKMS19] Olakunle Ibi oye, Rana Abou-Khamis, Ash a Ma awy, and M Omai Sha iq. The Th ea o Ad e sa ial A acks on Machine Lea ning in Ne wo k Secu i y–A Su ey. a Xi p ep in a Xi :1911.02621, 2019. [IDS23] Qu´e es un IDS o In usion De ec ion Sys em. h ps://www.cla ei.es/blog/ que-es-un-ids-o-in usion-de ec ion-sys em/, May 2023. [KGB16] Alexey Ku akin, Ian Good ellow, and Samy Bengio. Ad e sa ial machine lea ning a scale. a Xi p ep in a Xi :1611.01236, 2016. 51 52 BIBLIOGRAF´ IA [LBH15] Yann LeCun, Y. Bengio, and Geo ey Hin on. Deep Lea ning. Na u e, 521:436–44, 05 2015. [LLY+22] Zewen Li, Fan Liu, Wenjie Yang, Shouheng Peng, and Jun Zhou. A Su ey o Con olu ional Neu al Ne wo ks: Analysis, Applica ions, and P ospec s. IEEE T ansac ions on Neu al Ne wo ks and Lea ning Sys ems, 33(12):6999–7019, 2022. [LSX22] Zilong Lin, Yong Shi, and Zhi Xue. Idsgan: Gene a i e ad e sa ial ne wo ks o a ack gene a ion agains in usion de ec ion. In Ad ances in Knowledge Disco e y and Da a Mining: 26 h Paci ic-Asia Con e ence, PAKDD 2022, Chengdu, China, May 16–19, 2022, P oceedings, Pa III, pages 79–91. Sp inge , 2022. [ML123] Wha is Machine Lea ning? h ps://www.geeks o geeks.o g/ ml-machine-lea ning/, Ma ch 2023. [ML222] ¿Qu´e es el ans e lea ning? h ps://da ascien es .com/es/ que-es-el- ans e -lea ning, Janua y 2022. [NLS23] NSL-KDD da ase . h ps://www.unb.ca/cic/da ase s/nsl.h ml, May 2023. [SBS+17] Hojja Salehinejad, Julianne Baa be, Sha an Sanka , Joseph Ba e , E ol Colak, and Shah okh Valaee. Recen Ad ances in Recu en Neu al Ne wo ks. A Xi , abs/1801.01078, 2017. [SM17] Su anjana Saman a and Sameep Meh a. Towa ds c a ing ex ad e sa ial samples. a Xi p ep in a Xi :1707.02812, 2017. [SZS+13] Ch is ian Szegedy, Wojciech Za emba, Ilya Su ske e , Joan B una, Dumi u E han, Ian Good ellow, and Rob Fe gus. In iguing p ope ies o neu al ne wo ks. a Xi p ep in a Xi :1312.6199, 2013. [WLC+21a] Yixiang Wang, Jiqiang Liu, Xiaolin Chang, Jelena Miˇsi´c, and Vojisla B. Miˇsi´c. Iwa: In eg a ed g adien -based whi e-box a acks o ooling deep neu al ne wo ks. In . J. In ell. Sys ., 37(7):4253–4276, oc 2021. [WLC+21b] Yixiang Wang, Jiqiang Liu, Xiaolin Chang, Jianhua Wang, and Rica do J. Rod ´ıguez. Di-aa: An in e p e able whi e-box a ack o ooling deep neu al ne wo ks, 2021. [XZJL21] Ying Xu, Xu Zhong, An onio Jimeno-Yepes, and Jey Han Lau. G ey-box ad e sa ial a ack and de ence o sen imen classi ica ion. CoRR, abs/2103.11576, 2021. [YHZL19] Xiaoyong Yuan, Pan He, Qile Zhu, and Xiaolin Li. Ad e sa ial examples: A acks and de enses o deep lea ning. IEEE ansac ions on neu al ne wo ks and lea ning sys ems, 30(9):2805–2824, 2019. [ZCW+19] Jiale Zhang, Junjun Chen, Di Wu, Bing Chen, and Shui Yu. Poisoning a ack in ede a ed lea ning using gene a i e ad e sa ial ne s. In 2019 18 h IEEE In e na ional Con e ence On T us , Secu i y And P i acy In Compu ing And Communica ions/13 h IEEE In e na ional Con e ence On Big Da a Science And Enginee ing (T us Com/BigDa aSE), pages 374–380, 2019. [ZDS17] Zhengli Zhao, Dhee u Dua, and Samee Singh. Gene a ing na u al ad e sa ial examples. a Xi p ep in a Xi :1710.11342, 2017. BIBLIOGRAF´ IA 53 [ZYJ+19] Hongyang Zhang, Yaodong Yu, Jian ao Jiao, E ic P. Xing, Lau en El Ghaoui, and Michael I. Jo dan. Theo e ically p incipled ade-o be ween obus ness and accu acy, 2019.