Explicabilidad aplicada a ciberseguridad en sistemas autónomos: un enfoque basado en LLMs para la detección forense de amenazas

Explicabilidad aplicada a cibe segu idad en sis emas au ´ onomos: Un en oque basado en LLMs pa a la de ecci´ on o ense de amenazas Da id Sob ´ ın-Hidalgo G upo de Rob´ o ica, Uni e sidad de Le´ on Campus de Vegazana s/n, 24071 Le´ on, Espa˜ na [email p o ec ed] I ene Gonz´ alez-Fe n´ andez G upo de Rob´ o ica, Uni e sidad de Le´ on Campus de Vegazana s/n, 24071 Le´ on, Espa˜ na [email p o ec ed] Miguel ´ Angel Gonz´ alez-San ama a G upo de Rob´ o ica, Uni e sidad de Le´ on Campus de Vegazana s/n, 24071 Le´ on, Espa˜ na [email p o ec ed] Ad i´ an Campazas-Vega G upo de Rob´ o ica, Uni e sidad de Le´ on Campus de Vegazana s/n, 24071 Le´ on, Espa˜ na [email p o ec ed] ´ Angel Manuel Gue e o-Higue as G upo de Rob´ o ica, Uni e sidad de Le´ on Campus de Vegazana s/n, 24071 Le´ on, Espa˜ na [email p o ec ed] F ancisco Ja ie Rod ´ ıguez-Le a G upo de Rob´ o ica, Uni e sidad de Le´ on Campus de Vegazana s/n, 24071 Le´ on, Espa˜ na [email p o ec ed] Vicen e Ma ell´ an-Oli e a G upo de Rob´ o ica, Uni e sidad de Le´ on Campus de Vegazana s/n, 24071 Le´ on, Espa˜ na [email p o ec ed] Resumen—En un mundo donde la in e acci´ on en e humanos y sis emas ob´ o icos es cada ez m´ as ecuen e, la cibe segu idad se uel e impe a i a pa a sal agua da la in eg idad de ambos. Es undamen al es ablece medidas de segu idad obus as que p o ejan a los humanos an e posibles acciden es o cibe a aques que pueda su i un sis ema ob´ o ico. Sin emba go, as un suceso inespe ado, ya sea p o ocado po el mal uncionamien o del sis ema o po la in luencia de un ac o malicioso, debe se posible explica lo sucedido. En es e a ´ ıculo se p opone combi- na el campo de la explicabilidad con el de la cibe segu idad, explo ando as´ ı el po encial de un sis ema de explicabilidad en ob´ o ica basado en LLMs como he amien a o ense. Pa a ello, se ha ealizado un a aque de denegaci´ on de se icio sob e el con olado de un obo m´ o il y, pos e io men e, se han anali- zado los logs gene ados a a ´ es del sis ema de explicabilidad p opues o. Los esul ados ob enidos demues an que es e sis ema es capaz de de ec a la p esencia de una po encial amenaza que a ec a al compo amien o del obo . Index Te ms—Rob´ o ica, Explicabilidad, Cibe segu idad, An´ alisis o ense, ROS 2, LLM Tipo de con ibuci´ on: In es igaci´ on o iginal I. INTRODUCCI´ ON Debido al ´ apido a ance de la ecnolog´ ıa en gene al, an o a ni el de ha dwa e c´ omo de so wa e, y de la in eligencia a i icial en pa icula , el mundo es ´ a a a esando una e a ca- ac e izada po una impo an e endencia a la in o ma izaci´ on y a la au oma izaci´ on de a eas. La ob´ o ica asume un papel p o agonis a en es e aspec o. La inco po aci´ on de obo s en el mundo eal es algo cada ez m´ as com´ un, que aba ca desde el uso de obo s cama e os has a la inclusi´ on de obo s ci ujanos. Todos es os sis emas deben hace en e a los desa ´ ıos cl´ asicos de la cibe segu idad y odos ellos son ´ ıc imas po enciales de cibe a aques. Son muchos los ipos de obo s que pueden llama la a enci´ on de un agen e malicioso cuyas acciones pueden e- ne g a es consecuencias. Algunos ejemplos son los obo s indus iales u ilizados en ´ ab icas, los coches au ´ onomos o los ya ci ados obo s ci ujanos. A di e encia de un a a- que sob e un sis ema in o m´ a ico, la al e aci´ on maliciosa del compo amien o de un sis ema ob´ o ico puede conlle a p´ e didas ma e iales y, en el peo de los casos, p o oca ´ ıc imas humanas. Es po es a az´ on que, en pa icula , odos aquellos obo s que in e ac ´ uen de una o ma u o a con humanos ( ama de la ob´ o ica conocida c´ omo in e acci´ on humano- obo o HRI po sus siglas en ingl´ es) deben de in eg a medidas de segu idad obus as. Dichas medidas deben p o ege a los humanos de cualquie acciden e que pudie a ocu i , ya sea debido al mal uncionamien o pun ual del obo o a la acci´ on de un cibe a acan e. Sin emba go, no siemp e es posible e i a es as si uaciones de iesgo y, a´ un e i ´ andose, esul a necesa ia la ealizaci´ on de es udios a pos e io i que ienen c´ omo obje i o desen a˜ na la na u aleza del inciden e. Conoce lo ocu ido du an e un acciden e o un a aque es una in o maci´ on undamen al, pues pe mi e a ibui espon- sabilidades, de ec a e o es y soluciona po enciales aguje os de segu idad. Adem´ as, oda es a in o maci´ on con ibuye a e o za los sis emas an e nue os a aques, e i ando de es a mane a que se pueda epe i un cibe inciden e. JNIC 2024 ISBN:978-84-09-62140-8 644 El p esen e abajo se cen a en el an´ alisis o ense de incidencias en obo s, u ilizando un sis ema de explicabilidad basado en LLMs pa a de ec a in usiones. La explicabilidad puede en ende se c´ omo la capacidad de un sis ema au ´ onomo o in eligen e de explica sus p opias decisiones. Es e campo de es udio iene un ue e impac o en el mundo de la in eligencia a i icial (eXplainable A i icial In elligence o XAI [1]), d´ onde se han ealizado una g an a iedad de es udios po pa e de la comunidad cien ´ ı ica. Sin emba go, la explicabilidad no solo a ec a a modelos de ap endizaje, sino ambi´ en a odo sis ema que abaje de o ma au ´ onoma, c´ omo es el caso de los obo s sociales o de se icio. La a ian e de la explicabilidad que se aplica al mundo ob´ o ico se conoce c´ omo eXplainable Au onomous Robo s (XAR) [2], y es desde es a a ian e desde la que se abo da ´ a el plan eamien o del p esen e abajo. El compo - amien o de un obo es complejo, lo cual hace c ece en complejidad el p oblema de o ece explicaciones sob e dicho compo amien o. La capacidad de au oexplicaci´ on en sis emas au ´ onomos no solo es de in e ´ es pa a la comunidad in es igado a, sino que en la ´ ul ima d´ ecada se ha comenzado a econoce la impo ancia de la explicabilidad en documen os legales, al y c´ omo se ecoge en el Reglamen o (UE) 2016/679 del Pa lamen o Eu opeo y del Consejo, de 27 de ab il de 2016, ela i o a la p o ecci´ on de las pe sonas ´ ısicas en lo que espec a al a amien o de da os pe sonales y a la lib e ci culaci´ on de es os da os”[3]; documen o en el que se abo dan los de echos que ienen los ciudadanos espec o a las decisiones omadas po un sis ema in eligen e que a ec an de o ma pe sonal al ciudadano en cues i´ on. En su Conside ando 71 se ecoge la siguien e ci a: ”[...] de echo a ob ene in e enci´ on humana, a ex- p esa su pun o de is a, a ecibi una explicaci´ on de la decisi´ on omada despu´ es de al e aluaci´ on y a impugna la decisi´ on.” Teniendo en cuen a la p esencia de la explicabilidad en e- glamen os o iciales queda pa en e la necesidad la en e de que los sis emas au ´ onomos inco po en sis emas de explicabilidad. Sin emba go, ¿puede ap o echa se dicho sis ema pa a mejo a la segu idad del obo ? Lo cie o es que un sis ema de explicabilidad obus o no solo debe ´ ıa cen a se en gene a una explicaci´ on de lo sucedido, sino que ambi´ en debe ´ ıa p es a a enci´ on a odos los da os ele an es que el obo p o- duce du an e su compo amien o y que pos e io men e pod ´ ıan u iliza se pa a gene a una explicaci´ on y se˜ nala el o igen de un compo amien o o p oblema. A es e aspec o se le conoce c´ omo azabilidad o accoun abili y en ingl´ es. La azabilidad es ´ a muy elacionada con el p oceso de selecci´ on de los da os, es deci , decidi qu´ e da os gua da y c´ omo gua da los. Po lo an o un sis ema que inco po e an o capacidades de azabilidad c´ omo de gene aci´ on de explicaciones puede se una po encial he amien a pa a analiza compo amien os an´ omalos en obo s, acili ando a eas c´ omo el an´ alisis o ense ealizado as un inciden e. El obje i o p incipal de es e abajo es, po an o, comp o- ba la capacidad de un sis ema de explicabilidad, dise˜ nado p e iamen e, pa a de ec a compo amien os an´ omalos en un obo m´ o il u ilizando los logs gene ados po el sis ema. Pa a ello, el sis ema de explicabilidad u ilizado en la p esen e in es igaci´ on es a compues o po un manage de di´ alogo basado en un La ge Language Model (LLM), cuyo obje i o es el de in e p e a los logs del obo y gene a explicaciones sob e lo sucedido. De es a o ma un usua io, eje ciendo el ol de un analis a o ense, puede ealiza p egun as al sis ema de explicabilidad e i ando de es a o ma ene que analiza una g an can idad de egis os almacenados en el sis ema. Conc e amen e, es e abajo se ha desplegado sob e sis emas ob´ o icos que inco po an ROS 2 [4] (Robo Ope a ing Sys em 2), es el middlewa e m´ as popula izado a la ho a de cons ui aplicaciones ob´ o icas. ROS 2 cuen a con su p opio sis ema de log, el cual se ha u ilizado pa a egis a la in o maci´ on ele an e pa a el pos e io an´ alisis del compo amien o del obo . El a ´ ıculo se es uc u a de la siguien e mane a: en la Sec- ci´ on II se ealiza un b e e an´ alisis de los abajos elacionados e e en es al uso de LLMs pa a cibe segu idad, as´ ı c´ omo de los p incipales p oblemas de cibe segu idad en ROS 2. En la Secci´ on III se p esen an los ma e iales empleados y se de ine el expe imen o ealizado. En la Secci´ on IV se ecogen y discu en los esul ados ob enidos a pa i del expe imen o. Po ´ ul imo, en la Secci´ on V se exponen las conclusiones y los abajos u u os. II. TRABAJOS RELACIONADOS En es a secci´ on se explo an algunos de los abajos ela- cionados con la in es igaci´ on ealizada. El p incipal en oque de la explicabilidad den o del ´ ambi o de la cibe segu idad es la de p opo ciona explicaciones sob e las espues as p opo cionadas po di e en es aplicaciones de segu idad que uncionan de o ma au ´ onoma (median e el uso de Machine Lea ning (ML) y Deep Lea ning (DL) p incipalmen e), c´ omo po ejemplo los sis emas de de ecci´ on de in usiones [5]. Sin emba go, el plan eamien o de es a in es igaci´ on adica en el uso de un sis ema de explicabilidad in eg ado en un obo pa a ealiza an´ alisis o ense sob e el mismo. Debido a que una pa e conside able de la implemen aci´ on del sis ema de explicabilidad se co esponde con uso de LLMs se ha decidido analiza algunos de los abajos p esen es en la li e a u a que abo dan la elaci´ on en e es os modelos y la cibe segu idad. Tambi´ en se ha buscado analiza el es ado ac ual a ni el de segu idad en el mundo de ob´ o ica, en conc e o en ROS 2, una cues i´ on necesa ia a la ho a de comp ende cuales son las amenazas m´ as comunes pa a es e ipo de sis emas. II-A. Cibe segu idad y La ge Language Models En p ime luga , con el obje i o de conoce el es ado del a e espec o a las implicaciones de los LLMs en el mundo de la cibe segu idad, se han consul ado algunas e isiones de li e a u a que abo dan el ema. El a˜ no 2022 ue un momen o de g an impo ancia pa a el mundo de la in eligencia a i icial, debido al c ecien e in e ´ es en los modelos de lenguaje. Desde en onces, los LLMs han man enido la ine cia y ac ualmen e sus capacidades e in luencia siguen c eciendo. En [6] se explo a la his o ia y el eco ido de algunos de los LLMs m´ as popula es, as´ ı c´ omo la elaci´ on de es os con la cibe de ensa desde una pe spec i a que explo a el uso malicioso de LLMs. Explicabilidad aplicada a cibe segu idad en sis emas au ´onomos: Un en oque basado en LLMs pa a la de ecci´on o ense de amenazas 645 En [7] se abo dan dos en oques. Los au o es es udian po un lado las ulne abilidades que puede p esen a un LLM. Es as gene almen e consis en en ´ ecnicas de bypassing las cuales a an de modi ica la en ada del modelo ( ambi´ en conocida c´ omo p omp ) pa a e i a las limi aciones del modelo, po ejemplo pa a o za lo a gene a c´ odigo malicioso. Los au o es ambi´ en demues an que pueden ealiza se a aques de inyec- ci´ on de p omp pa a ob ene in o maci´ on delicada del modelo. Finalmen e, analizando los LLM desde una pe spec i a o ensi- a, los au o es explo an una se ie de a aques que pod ´ ıan e se bene iciados po el uso de un modelo de lenguaje. Debido a su des acable capacidad pa a gene a ex o, algunos de los a a- ques m´ as in luenciados po LLMs son: a aques de ingenie ´ ıa social, a aques de phishing, y la gene aci´ on de ansomwa e y o o ipo de malwa e. De o ma simila al a ´ ıculo an e io , en [8] los au o es analizan las ulne abilidades po enciales que p esen an los LLMs p io izando los a aques ipo backdoo . Pa a el p op´ osi o de es e a ´ ıculo, el aspec o m´ as impo an e es el de la cibe de ensa, es deci c´ omo u iliza los modelos de lenguaje pa a a o ece los mecanismos de de ensa de los sis emas ob´ o icos. En [7] y [9] se des aca la capacidad de p ocesamien o de lenguaje na u al de los LLMs, la cual se con ie e en una he amien a de g an u ilidad a la ho a de analiza c´ odigo uen e pa a busca ulne abilidades y soluciona las. La gene aci´ on de in o mes ambi´ en es una a ea en la que es e ipo de modelos des acan de mane a no able. La capacidad de ges iona can idades de da os g andes y azona sob e dichos da os es una de las acul ades de los LLMs que pueden apo a un eno me alo al p oceso del an´ alisis o ense, lo cual es de un ele ado in e ´ es pa a el p op´ osi o de es e a ´ ıculo. Siguiendo es a l´ ınea, los au o es de [7] decla an: ”Cha GPT can p ocess la ge olumes o log da a and e icien ly de ec anomalies o secu i y issues wi hin access logs.” O a p opues a di e en e se puede encon a en [10] d´ onde los au o es comp ueban la capacidad de Cha GPT-4.0 [11] pa a gene a es de segu idad. Llegando a ob ene esul ados que supe an a algunas de las he amien as m´ as popula izadas. Los au o es ambi´ en des acan la necesidad de p o ee al LLM con un p omp adecuado que cub a el espec i o dominio de conocimien o, necesa io pa a p opo ciona espues as cohe- en es. Po o o lado, ambi´ en han su gido abajos c´ omo el ea- lizado en [12], en el cual p oponen un nue o modelo de lenguaje (Secu eBERT) basado en BERT [13] y o ien ado a p ocesamien o de ex os del ´ ambi o de la cibe segu idad. La mayo pa e de la li e a u a asume los LLMs c´ omo una he amien a des inada a acele a a eas y mejo a el endimien o humano. Sin emba go, a´ un eniendo en cuen a el inc e´ ıble po encial de los LLMs, la comunidad in es igado a pa ece llega a un acue do a la ho a de concebi los LLMs c´ omo un asis en e e icaz pa a los p o esionales de la cibe - segu idad, pe o de ninguna mane a c´ omo una he amien a au om´ a ica independien e del usua io humano. II-B. Cibe segu idad en ROS 2 Respec o a la segu idad en la ob´ o ica y en conc e o en ROS 2, uno de los p oblemas cl´ asicos del popula middlewa e es la escasa segu idad en sus comunicaciones. Si bien ROS 2 mejo ´ o es e aspec o al inco po a uncionalidades de c ip- og a ´ ıa, es as es ´ an desac i adas po de ec o y su ac i aci´ on puede a ec a al endimien o de los sis emas debido a la ca ga de p ocesamien o adicional que a˜ naden al compo amien o del obo , al y c´ omo exponen los au o es de [14]. O o incon enien e pa a la secu izaci´ on de ROS 2, es que muchos de los equipos ob´ o icos oda ´ ıa implemen an in e namen e ROS y en muchas ocasiones la mig aci´ on a ROS 2 depende del ab ican e de cada obo . Es o p o oca que pa a pode abaja con ROS 2 se deban u iliza b idges, unos componen es so wa e que pe mi en aduci los mensajes en e ROS y ROS 2, y ice e sa. Es a capa adicional en las comunicaciones puede p o oca nue os aguje os de segu idad. Pese a que la mig aci´ on a ROS 2 ha dejado algunos de los a aques cl´ asicos obsole os al cambia la capa de anspo e (en ROS 2 se pasa a u iliza DDS en luga de TCPROS), la nue a e si´ on oda ´ ıa no es ´ a lib e de ulne abilidades, algunas de ellas he edadas de su an e io e si´ on. En [15] los au o es p oponen dos he amien as pa a ealiza pen es ing en aplicaciones cons uidas en ROS y p oponen dos he amien- as: ROSPen y Roschaos, que pe mi en analiza y manipula dichas aplicaciones. En el ci ado abajo pueden ad e i se al- gunos de los a aques m´ as popula es en ROS, c´ omo a aques de denegaci´ on de se icio (DoS) o a aques basados en iolaci´ on de la in eg idad y p i acidad de las comunicaciones, c´ omo los del ipo man-in- he-middle (MITM). O o ejemplo de los allos de segu idad de ROS, que pe mi en in e cep a y manipula la comunicaci´ on en e los nodos de ROS, se ecoge en [16], d´ onde los au o es exponen las ulne abilidades en el p o ocolo de comunicaciones a a ´ es de un a aque MITM. El pelig o subyacen e a la ausencia de m´ e odos c ip og a i- cos en ROS o a la incapacidad de aplica los en sis emas con- c e os se puede ap ecia en [17] d´ onde los au o es demues an la posibilidad de cap u a los mensajes in e cambiados po los nodos den o de una ed u ilizando he amien as c´ omo Wi esha k. O o de los a aques a los que las aplicaciones cons uidas sob e ROS son m´ as suscep ibles es la denegaci´ on de se icio, al y c´ omo se ha indicado p e iamen e. En [18] se ecoge un an´ alisis sob e es e ipo de a aques di igidos a obo s eleope ados. Es a misma si uaci´ on es la que se ha elegido pa a di igi el expe imen o plan eado en el p esen e abajo. III. M´ ETODOS Y MATERIALES El p esen e abajo explo a la posibilidad de que un sis ema de explicabilidad in eg ado en un sis ema ob´ o ico pueda se u ilizado ambi´ en pa a acili a y acele a a eas elacionadas con el an´ alisis o ense ealizado despu´ es de un inciden e. Pa a abo da es e p oblema se ha pa ido de un sis ema de explicabilidad basado en LLMs, p e iamen e implemen ado en [19]. Dicho sis ema ap o echa las al as capacidades de es a ecnolog´ ıa a la ho a de ealiza a eas elacionadas con el p ocesamien o del lenguaje na u al, pa a analiza g andes conjun os de logs que se han gene ado du an e el compo a- mien o del obo . D. Sob ´ın Hidalgo, I. Gonz´alez Fe n´andez, M. A. Gonz´alez San ama a, A. Campazas Vega, A. M. Gue e o Higue as, F. J. Rod ´ıguez Le a and V. Ma ell´an Oli e a 646 III-A. Ma e iales A la ho a de ealiza el expe imen o que gu´ ıa la p esen e in es igaci´ on se han empleado una se ie de ecu sos y ma- e iales, an o so wa e c´ omo ha dwa e. Dichos ma e iales se enume an a con inuaci´ on. ROS 2. Tan o el obo c´ omo los componen es so wa e desa ollados pa a el expe imen o es ´ an cons u´ ıdos so- b e ROS, en conc e o sob e ROS 2 Humble, la ´ ul ima dis ibuci´ on de ROS 2 es able. Langchain [20]. Una lib e ´ ıa que acili a el desa ollo de aplicaciones basadas en LLMs. Tambi´ en o ece la posibilidad de implemen a el m´ e odo RAG de una o ma sencilla. Limine i y/M7-7b-GGUF. Modelo enca gado de p o- cesa la p egun a del usua io y los logs m´ as ele an es, pa a gene a una explicaci´ on Mixedb ead-ai/mxbai-embed-la ge- 1. Modelo enca - gado de gene a los embbedings de cada uno de los logs ecibidos a a ´ es del opic / osou . La in es igaci´ on se ha lle ado a cabo sob e sis emas ob´ o icos cons u´ ıdos en ROS 2. El uncionamien o b´ asico de ROS 2 es el de un modelo Publishe -Subsc ibe , en el cual la comunicaci´ on se ealiza a a ´ es de componen es so wa e denominados Nodos que in e cambian mensajes a a ´ es de canales de in o maci´ on llamados opics. La en aja de es e ipo de comunicaci´ on es la acilidad con la que pueden moni o iza los mensajes in e cambiados. Toda la in o maci´ on que llega a los opics, ya sea la publicada po los senso es del obo o la des inada a con ola sus ac uado es, puede egis a se. El sis ema de explicabilidad u ilizado pa a la p esen e in es igaci´ on ap o echa es e egis o de mensajes y a a de azona lo que ha sucedido. Su uncionamien o consis e en u iliza los mensajes que han sido en iados al opic / osou (log p incipal de ROS 2) c´ omo con ex o pa a el LLM enca gado de gene a las explicaciones. Sin emba go, la can idad de mensajes publicados en / osou puede supone un con ex o demasiado g ande pa a el sis ema, y p o oca que los azonamien os no sean cohe en es ni p ecisos. Pa a ello se cons uye un con ex o m´ as educido a pa i de odos los mensajes egis ados. Es e con ex o se co esponde con los logs m´ as ele an es pa a cons ui una explicaci´ on conc e a. Es e nue o con ex o se consigue a a ´ es del m´ e odo Re ie al Aumen ed Gene a o (RAG) [21] y empleando una base de da os de ec o es pa a almacena los logs. En la Figu a 1 se ilus a el uncionamien o del sis ema de explicabilidad jun o al m´ e odo RAG. Figu a 1. Funcionamien o del sis ema de explicabilidad d´ onde se mues a el m´ e odo RAG. Imagen ex a´ ıda de [19]. En lo e e en e a los modelos u ilizados, es os han sido ob enidos a a ´ es de Hugging Face. Pa a ambos modelos se ha enido en conside aci´ on su posici´ on de sus espec i os leade boa ds en Hugging Face; [22] pa a el modelo de expli- cabilidad y [23] pa a el modelo enca gado e los embbedings. O as ca ac e ´ ıs icas in luyen es en la elecci´ on han sido el ama˜ no del modelo y su quan izaci´ on. Po o a pa e, el expe imen o se ha ealizado empleando un obo eal na egando median e eleope aci´ on po un apa - amen o simulado. El obo u ilizado ha sido TIAGo, un obo manipulado m´ o il ab icado po Pal Robo ics. Po o o lado, en la Figu a 2, jun o al ci ado obo , se mues a el en o no en el que se ha ealizado el expe imen o, una es bed ce i icada po la Eu opean Robo ics League (ERL): Leon@Home1. Figu a 2. Imagen de la es bed u ilizada jun o al obo TIAGo. El en o no consis e en un apa amen o simulado. III-B. M´ e odos A con inuaci´ on se de alla el expe imen o ealizado jun o con el a aque seleccionado pa a e alua el sis ema de expli- cabilidad. III-B1. Dise˜ no del expe imen o: El expe imen o plan- eado pa a la p esen e in es igaci´ on consis e en analiza el compo amien o de un obo eleope ado. Pa a ello se ha de- sa ollado un nodo de ROS 2 que moni o iza cons an emen e la ac i idad de un opic, calculando los Hz a los que se es ´ a publicando en dicho opic e imp imiendo una aza en / osou en caso de que la asa de publicaci´ on c ezca o disminuya de mane a signi ica i a. El con ex o del expe imen o es, po an o, el siguien e. Un usua io eleope a un obo de se icio a a ´ es de un mando o con olado emo o pa a hace lo eco e un espacio eal (un apa amen o en el caso del p esen e expe imen o). El con olado publica mensajes en el opic /inpu joy/cmd el. Los opics /cmd el es ´ an adicionalmen e elacionados con la na egaci´ on, pues se u ilizan pa a in e cambia mensajes sob e el mo imien o del obo . Es os mensajes son del ipo /geome y msgs/Twis que ienen el o ma o p esen ado en el Lis ado 1. # This exp esses eloci y in ee space b oken in o i s linea and angula pa s. Vec o 3 linea 1Se puede consul a la in o maci´ on e e en e a la es bed a a ´ es de su p´ agina web: h ps:// obo ica.unileon.es/index.php? i le=Tes bed Explicabilidad aplicada a cibe segu idad en sis emas au ´onomos: Un en oque basado en LLMs pa a la de ecci´on o ense de amenazas 647 loa 64 x loa 64 y loa 64 z Vec o 3 angula loa 64 x loa 64 y loa 64 z Lis ing 1. Es uc u a de un mensaje ipo Twis El sis ema de explicabilidad se susc ibe a / osou , d´ onde el nodo enca gado de moni o iza la asa de publicaci´ on de /cmd el publica ´ a los cambios ele an es. A pa i de es e pun o el sis ema oma ´ a c´ omo con ex o los logs gene ados du an e la eleope aci´ on. Una ez inalizada la ac i idad del obo . El usua io se ´ a capaz de ealiza p egun as al sis ema pa a conoce lo que ha ocu ido. El expe imen o ha consis ido en dos ejecuciones. En cada una de ellas el obje i o del eleope ado es lle a al obo de un pun o a o o den o del apa amen o, siendo es os pun os siemp e los mismos. La u a seguida po el obo se mues a en la Figu a 3. Figu a 3. Plano del apa amen o simulado en el que se ep esen a la u a seguida po el obo median e una lecha oja. El c´ ı culo e de ep esen a el pun o de inicio de la na egaci´ on, mien as que el c´ ı culo ojo mues a el pun o de des ino. Du an e la ejecuci´ on 2 se ha simulado un a aque de denegaci´ on de se icio du an e la na egaci´ on, a a ´ es de la publicaci´ on adicional de mensajes en el opic que con ola el mo imien o del obo . Las dis in as ejecuciones ealizadas se enume an a con inuaci´ on: E1 El obo comple a la na egaci´ on sin que se p oduzca ning´ un a aque. E2 El obo su e un a aque con una asa de publicaci´ on muy supe io a la no mal (500 Hz). Los da os gene ados du an e la ealizaci´ on de las p uebas se han g abado median e Rosbags, un o ma o de da os de ROS que pe mi e almacena los mensajes in e cambiados du an e la ejecuci´ on del compo amien o del obo . Los Rosbags ob enidos se han analizado a pos e io i u ili- zando el sis ema de explicabilidad dise˜ nado pa a ROS. Emu- lando un posible an´ alisis o ense, el Rosbag se ha ep oducido y los mensajes gene ados en el opic / osou han sido cap u- ados y p ocesados po el LLM. El sis ema de explicabilidad u ilizado unciona c´ omo un m´ anage de di´ alogo en e el usua io y el LLM, po lo an o pa a ob ene una explicaci´ on de lo sucedido, el usua io debe ealiza una p egun a al modelo. Las p egun as ealizadas cons i uyen pa e del p omp del LLM y su exp esi´ on y es uc u a son undamen ales pa a pode ob ene esul ados cohe en es. El sis ema de explicabilidad debe ´ a, de es a o ma, espon- de a la misma p egun a pa a ambas ejecuciones. La p egun a es ablecida pa a comp oba el uncionamien o del sis ema ha sido o mulada en ingl´ es pa a un mejo p ocesamien o po pa e del LLM. Dicha p egun a se ha p esen ado de la siguien e o ma: P egun a 1: Do you obse e any p oblems in he cmd el? I so, could i be a cybe a ack, and wha ype o cybe a ack? Adem´ as de la p egun a es necesa io es ablece una plan illa pa a el p omp (p omp empla e), que pe mi e da cie as indicaciones y con ex o al modelo. La plan illa u ilizada se ecoge en el Lis ado 2. "You a e an explainabili y AI ool o ROS 2 mobile obo s. " "You goal is o de ec possible cybe a acks. " "You ha e o de ec anomalous beha io wi hin he obo ’s da a. " "You ha e o in e p e he obo ’s da a paying a en ion o he publica ion a es o cmd_ el, ha is be ween 8.0Hz and 23.0Hz. n n" "Rele an da a: n" "{logs} n n" "USER: " "Gi en he con ex in o ma ion and no p io knowledge, answe he que y: {ques ion} n" "ASSISTANT:" Lis ing 2. P omp empla e u ilizada pa a el LLM El p omp inal que se i ´ a c´ omo en ada del LLM es ´ a cons u´ ıdo median e la combinaci´ on de la plan illa, la p e- gun a del usua io y los 10 egis os m´ as ele an es ob enidos median e el m´ e odo RAG. Los logs ecogen la ecuencia de publicaci´ on del opic /cmd el; la plan illa es ablece que el sis ema debe compo a se c´ omo un Sis ema de De ecci´ on de In usiones (IDS) e indica el ango de ecuencias de publi- caci´ on espe ado du an e una ejecuci´ on no mal del obo . Po ´ ul imo, en la p egun a se insis e en el an´ alisis del opic. Toda es a in o maci´ on es necesa ia pa a que el LLM pueda p oduci una espues a azonable, debido al impac o que el con ex o y la e bosidad de los da os ienen en el compo amien o del modelo. III-B2. A aque de denegaci´ on de se icio: Se ha decidido e alua las capacidades del sis ema desc i o median e la simulaci´ on de un a aque de denegaci´ on de se icio. La az´ on as la selecci´ on de es e ipo de a aque es que debido al uncionamien o de las comunicaciones de ROS 2, esul a sencillo inunda un opic con mensajes maliciosos que al e en el uncionamien o del obo . Debido a que el con ola del obo seleccionado pa a el expe imen o iene una asa de publicaci´ on de 10 Hz, es posible sa u a el opic publicando mensajes a una asa muy supe io de, po ejemplo, 500 Hz. La in o maci´ on que el supues o a acan e publica ´ a en el opic se ´ an mensajes del ipo Twis , de inido p e iamen e, pe o con un alo de 0 en cada una de sus componen es ( elocidad lineal y angula ). Es o p o oca ´ a que los mensajes del con olado se pie dan y el obo se de enga. En la Figu a D. Sob ´ın Hidalgo, I. Gonz´alez Fe n´andez, M. A. Gonz´alez San ama a, A. Campazas Vega, A. M. Gue e o Higue as, F. J. Rod ´ıguez Le a and V. Ma ell´an Oli e a 648 4 se ilus a la comunicaci´ on del obo con el eleope ado a a ´ es de ROS 2, y la in e enci´ on del a acan e. Figu a 4. A aque de denegaci´ on de se icio sob e un obo m´ o il. Los Nodos de ROS 2 se ep esen an con c´ ı culos y los opics con cuad ados. La comunicaci´ on no mal es ´ a ep esen ada po lechas azules, mien as que la comunicaci´ on maliciosa se ep esen a con una lecha oja. El LLM que se emplea ´ a pa a in e p e a y explica los da os equie e una in o maci´ on conc e a. En es e pun o la e bosidad de los logs adop a un papel undamen al a la ho a de ob ene buenas explicaciones. Es a es la az´ on po la que se ha necesi ado desa olla un nodo que se enca gue de moni o iza los Hz, ya que es a in o maci´ on puede se ´ u il a la ho a de decidi si el compo amien o que se es ´ a isualizando en un opic es co ec o o an´ omalo. IV. RESULTADOS Y DISCUSI ´ ON En es a secci´ on se p esen an y analizan los esul ados ob enidos du an e el expe imen o. Pa a cada una de las dos ejecuciones ealizadas se han ecogido la salida mos ada po el nodo de moni o izaci´ on, y los pa es p egun as- espues as ela i os a la explicaci´ on gene ada po el sis ema. Adem´ as en la Tabla I se mues a in o maci´ on ela i a a los osbags gene ados. Tabla I INFORMACI ´ ON DE LOS osbags DE LAS DIFERENTES EJECUCIONES. INCLUYE EL N ´ UMERO TOTAL DE MENSAJES REGISTRADOS,LA DURACI ´ ON DE LA EJECUCI´ ON Y EL TAMA ˜ NO DEL osbag. ID Ejecuci´ on Nº Mensajes Du aci´ on (s) Tama˜ no (MB) E1 7120 75.6 6.6 E2 10355 40.2 3.5 IV-A. Ejecuci´ on 1 En la Ejecuci´ on 1 el obo na ega (median e la eleope a- ci´ on de un usua io humano) sin ning´ un inciden e. Las azas gene adas po el nodo enca gado de moni o iza el opic /cmd el se ecogen en el Lis ado 3. A e age publica ion a e o cmd_ el: 9.00Hz. A e age publica ion a e o cmd_ el: 9.14Hz. A e age publica ion a e o cmd_ el: 9.50Hz. A e age publica ion a e o cmd_ el: 12.00Hz. A e age publica ion a e o cmd_ el: 12.86Hz. A e age publica ion a e o cmd_ el: 14.22Hz. A e age publica ion a e o cmd_ el: 19.56Hz. A e age publica ion a e o cmd_ el: 19.54Hz. A e age publica ion a e o cmd_ el: 20.67Hz. A e age publica ion a e o cmd_ el: 20.93Hz. A e age publica ion a e o cmd_ el: 21.73Hz. A e age publica ion a e o cmd_ el: 21.73Hz. A e age publica ion a e o cmd_ el: 22.39Hz. A e age publica ion a e o cmd_ el: 21.47Hz. A e age publica ion a e o cmd_ el: 20.62Hz. A e age publica ion a e o cmd_ el: 20.01Hz. A e age publica ion a e o cmd_ el: 20.01Hz. A e age publica ion a e o cmd_ el: 20.01Hz. Lis ing 3. F ecuencia de publicaci´ on du an e la Ejecuci´ on 1 En el Lis ado 6 se ecoge la p egun a del usua io y la espues a del LLM a a ´ es de un se icio de ROS 2. $ os2 se ice call /ques ion explicabili y_msgs/s /Ques ion "{ques ion: ’Do you obse e any p oblem in he cmd_ el? I so, could i be a cybe a ack, and wha ype o cybe a ack?’}" esponse: explicabili y_msgs.s .Ques ion_Response(answe =" Based on he p o ided da a alone, ocusing solely on he publica ion a es o cmd_ el wi hin he expec ed ange o 8.0Hz o 23.0Hz, he e do no appea o be any ob ious anomalies o signs o a cybe a ack. The a es luc ua e na u ally, bu hey emain wi hin he accep able ange. Howe e , i ’s impo an o no e ha a comp ehensi e analysis would equi e mo e con ex and a b oade se o me ics o accu a ely de ec po en ial cybe secu i y h ea s.") Lis ing 4. Explicaci´ on gene ada po el LLM El ´ ıdeo que mues a la ejecuci´ on de es e expe imen o se encuen a disponible en h ps://www.you ube.com/wa ch? = o 5Jwoh Q. IV-B. Ejecuci´ on 2 En la Ejecuci´ on 2 se p oduce un a aque de denegaci´ on de se icio, inundando de da os el opic /cmd el, mien as el obo es ´ a siendo eleope ado. Es e a aque p o oca que el obo se de enga, igno ando las ins ucciones de su con o- lado humano. En es e caso, las azas gene adas po el nodo moni o izado se mues an en el Lis ado 5. A e age publica ion a e o cmd_ el: 8.50Hz. A e age publica ion a e o cmd_ el: 8.57Hz. A e age publica ion a e o cmd_ el: 10.25Hz. A e age publica ion a e o cmd_ el: 11.41Hz. A e age publica ion a e o cmd_ el: 12.23Hz. A e age publica ion a e o cmd_ el: 36.32Hz. A e age publica ion a e o cmd_ el: 96.57Hz. A e age publica ion a e o cmd_ el: 146.37Hz. A e age publica ion a e o cmd_ el: 170.00Hz. A e age publica ion a e o cmd_ el: 170.00Hz. Lis ing 5. F ecuencia de publicaci´ on du an e la Ejecuci´ on 1 De nue o, la p egun a del usua io y la espues a del LLM se ecogen en el Lis ado 6. $ os2 se ice call /ques ion explicabili y_msgs/s /Ques ion "{ques ion: ’Do you obse e any p oblem in he cmd_ el? I so, could i be a cybe a ack, and wha ype o cybe a ack?’}" esponse: explicabili y_msgs.s .Ques ion_Response(answe =" In he p o ided da a, he e a e signi ican spikes in he a e age publica ion a es o cmd_ el, which exceed he expec ed ange o 8.0 Hz o 23.0Hz. A 1710853730.8051765, he a e jumps o 36.32Hz, and om 1710853735.805152 o 1710853745.805236, he a es a e abno mally high, eaching up o 170.00Hz. While hese ex eme luc ua ions migh indica e a p oblem wi h he sys em, i ’s c ucial o no e ha solely based on his da a, we canno de ini i ely conclude i as a cybe a ack. Anomalous beha io could be due o a ious easons, including so wa e gli ches o miscon igu a ions. To de e mine i i ’s a Explicabilidad aplicada a cibe segu idad en sis emas au ´onomos: Un en oque basado en LLMs pa a la de ecci´on o ense de amenazas 649 cybe a ack, mo e con ex and e idence would be necessa y. I con i med as a malicious ac , one migh specula e a Denial o Se ice (DoS) a ack o a manipula ion a emp o comp omise he obo ’s con ol, bu u he in es iga ion is equi ed o a conclusi e assessmen .") Lis ing 6. Explicaci´ on gene ada po el LLM El ´ ıdeo que mues a la ejecuci´ on de es e expe imen o se encuen a disponible en h ps://www.you ube.com/wa ch? = LSVOb0mBxPE. IV-C. Discusi´ on El p incipal in e ´ es del p esen e abajo es analiza las es- pues as gene adas po el sis ema de explicabilidad pa a alo a si su uso puede se bene icioso pa a un an´ alisis o ense. Si analizamos el p ime caso, ecogido en los Lis ados 3 y 4 se puede obse a c´ omo el modelo conside a los logs den o del compo amien o no mal. Es de g an impo ancia ene en cuen a el con ex o que se le p opo ciona al LLM an es de la ejecuci´ on, en es e caso indic´ andole los angos en e los que debe ´ ıa oscila la ecuencia de publicaci´ on pa a conside a se no mal. Po o o lado, des acan los esul ados ob enidos pa a la segunda ejecuci´ on, que se co esponde con una inundaci´ on del opic de mo imien o del obo , y que se p esen a en los Lis ados 5 y 6. En es a ejecuci´ on, el sis ema iden i ica co ec- amen e los inc emen os en las ecuencias de publicaci´ on del opic conside ando incluso las ma cas de iempo asociadas a las di e en es azas. El sis ema indica que la ecuencia de publicaci´ on llega a se ”ano malmen e ele ada, alcanzado los 170Hz”. A la ho a de asocia los logs gene ados du an e la ejecuci´ on con un posible a aque, el sis ema in ie e de o ma exi osa que se a a de un a aque DoS pa a comp ome e el con ol del obo . En ambas ejecuciones el sis ema exp esa la necesidad de que la si uaci´ on sea es udiada po un expe o humano, dejando cla o que su espues a no es de ini i a. Es necesa io des aca es e compo amien o ya que es ´ a alineado con la in enci´ on o iginal del abajo en la cual se p opone el uso de es e ipo de ecnolog´ ıa c´ omo un complemen o al analis a, pe o nunca c´ omo una sus i uci´ on. El obje i o inal, del sis ema es, po an o, el de acele a el p oceso de an´ alisis o ense. Si se obse an los esul ados ecogidos en la Tabla I, se puede obse a que pa a ejecuciones con una du aci´ on de ap oximadamen e un minu o pueden llega a gene a se una can idad de logs muy ele ada, lo cual aumen a la complejidad a la ho a de se analizados po un expe o humano. En la ejecuci´ on 1 se gene a on 7120 mensajes. En la ejecuci´ on 2, po su pa e, se gene a on un o al de 10355. Como se puede obse a , el sis ema es capaz de ad e i una posible amenaza y o ien a al analis a a la ho a de comenza a es udia los da os. V. CONCLUSI´ ON La p esencia de sis emas ob´ o icos en la sociedad ha aumen ado exponencialmen e en los ´ ul imos a˜ nos. Es e nue o pa adigma plan ea impo an es e os a ni el de segu idad. La con i encia en e humanos y obo s c ea la necesidad de que es os sis emas sean cibe n´ e icamen e segu os. Po o o lado, es necesa io conoce que e en os es ´ an ocu iendo en el p opio obo , es deci que los sis emas posean capacidades pa a explica su compo amien o. Es a capacidad puede se u ilizada pa a de ec a un posible compo amien o an´ omalo del sis ema, pe o ambi´ en pa a de ec a cibe a aques sob e el obo . En es e abajo se ha p esen ado un mecanismo que de- mues a el po encial de un sis ema de explicabilidad basado en LLMs pa a se u ilizado c´ omo he amien a complemen a ia a la ho a de ealiza a eas de an´ alisis o ense en sis emas ob´ o icos. Los esul ados ob enidos mues an la capacidad de es e ipo de sis emas de in e i lo ocu ido du an e un cibe a aque, mejo ando as´ ı la comp ensi´ on del mismo y minimizando exponencialmen e la can idad de iempo que necesi a emplea un analis a o ense a la ho a de analiza los da os gene ados po el sis ema. Po un lado, a a´ ız de las conclusiones ob enidas en es e a ´ ıculo, se plan ea amplia el abajo aqu´ ı p esen ado pa a comp oba su alidez a la ho a de en en a se a o os ipos de a aque com´ unmen e ealizados sob e obo s, c´ omo po ejemplo la in e e encia de las comunicaciones a a´ ız de un a aque del ipo man-in- he-middle [24]. Po o o lado, en es e a ´ ıculo se ha plan eado el uso, c´ omo he amien a o ense, de un sis ema de explicabilidad p e iamen e inco po ado en un obo . Sin emba go, en un u u o se plan ea modi ica dicho sis ema, pa a amplia su uncionalidad y pode cons ui un sis ema de ale as sob e posibles incidencias en iempo eal. De es a mane a el sis ema no se cen a ´ a´ unicamen e en gene a explicaciones sino que ambi´ en end ´ a uncionalidades p opias de un IDS. AGRADECIMIENTOS Es e abajo ha sido pa cialmen e inanciado po el Plan de Recupe aci´ on, T ans o maci´ on y Resiliencia, inanciado po la Uni´ on Eu opea (Nex Gene a ion) g acias al p oyec o TES- CAC (T azabilidad y Explicabilidad en Sis emas Au ´ onomos pa a la mejo a de la Cibe segu idad) concedido po INCIBE a la Uni e sidad de Le´ on. Es e abajo ha sido inanciado po EDMAR: G an PID2021-126592OB-C21 inanciado po MCIN/AEI/10.13039/501100011033. Da id Sob ´ ın Hidalgo ag adece una beca pa a inancia sus es udios de doc o ado p opo cionada po la Uni e sidad de Le´ on. REFERENCIAS [1] F. K. Doˇ silo i´ c, M. B ˇ ci´ c, and N. Hlupi´ c, “Explainable a i icial in elli- gence: A su ey,” in 2018 41s In e na ional Con en ion on In o ma ion and Communica ion Technology, Elec onics and Mic oelec onics (MI- PRO), 2018, pp. 0210–0215. [2] T. Sakai and T. Nagai, “Explainable au onomous obo s: a su ey and pe spec i e,” Ad anced Robo ics, ol. 36, no. 5-6, pp. 219–238, 2022. [Online]. A ailable: h ps://doi.o g/10.1080/01691864.2022.2029720 [3] U. Eu opea, “Reglamen o (ue) 2016/679 del pa lamen o eu opeo y del consejo de 27 de ab il de 2016 ela i o a la p o ecci´ on de las pe sonas ´ ısicas en lo que espec a al a amien o de da os pe sonales ya la lib e ci culaci´ on de es os da os y po el que se de oga la di ec i a 95/46/ce ( eglamen o gene al de p o ecci´ on de da os)( ex o pe inen e a e ec os del eee),” 2021. [4] S. Macenski, T. Foo e, B. Ge key, C. Lalance e, and W. Woodall, “Robo ope a ing sys em 2: Design, a chi ec u e, and uses in he wild,” Science Robo ics, ol. 7, no. 66, p. eabm6074, 2022. [Online]. A aila- ble: h ps://www.science.o g/doi/abs/10.1126/sci obo ics.abm6074 [5] N. Capuano, G. Fenza, V. Loia, and C. S anzione, “Explainable a i icial in elligence in cybe secu i y: A su ey,” IEEE Access, ol. 10, pp. 93 575–93 600, 2022. D. Sob ´ın Hidalgo, I. Gonz´alez Fe n´andez, M. A. Gonz´alez San ama a, A. Campazas Vega, A. M. Gue e o Higue as, F. J. Rod ´ıguez Le a and V. Ma ell´an Oli e a 650 [6] A. Kucha a y, Z. Schillaci, L. Ma ´ echal, M. W¨ u sch, L. Dolamic, R. Sa- bonnadie e, D. P. Da id, A. Me moud, and V. Lende s, “Fundamen als o gene a i e la ge language models and pe spec i es in cybe -de ense,” 2023. [7] M. Gup a, C. Aki i, K. A yal, E. Pa ke , and L. P aha aj, “F om cha gp o h ea gp : Impac o gene a i e ai in cybe secu i y and p i acy,” IEEE Access, ol. 11, pp. 80218–80245, 2023. [8] H. Li, Y. Chen, J. Luo, Y. Kang, X. Zhang, Q. Hu, C. Chan, and Y. Song, “P i acy in la ge language models: A acks, de enses and u u e di ec ions,” 2023. [9] F. N. Mo lagh, M. Hajizadeh, M. Majd, P. Naja i, F. Cheng, and C. Meinel, “La ge language models in cybe secu i y: S a e-o - he-a ,” a Xi p ep in a Xi :2402.00891, 2024. [10] Y. Zhang, W. Song, Z. Ji, Dan eng, Yao, and N. Meng, “How well does LLM gene a e secu i y es s?” a Xi e-p in s, p. a Xi :2310.00710, Oc . 2023. [11] OpenAI, “Gp -4 echnical epo ,” 2024. [12] E. Aghaei, X. Niu, W. Shadid, and E. Al-Shae , “Secu ebe : A domain- speci ic language model o cybe secu i y,” in Secu i y and P i acy in Communica ion Ne wo ks, F. Li, K. Liang, Z. Lin, and S. K. Ka sikas, Eds. Cham: Sp inge Na u e Swi ze land, 2023, pp. 39–56. [13] J. De lin, M.-W. Chang, K. Lee, and K. Tou ano a, “Be : P e- aining o deep bidi ec ional ans o me s o language unde s anding,” 2019. [14] J. Kim, J. M. Sme eka, C. Cheung, S. Nepal, and M. G oble , “Secu i y and pe o mance conside a ions in os 2: A balancing ac ,” a Xi p ep in a Xi :1809.09566, 2018. [15] B. Diebe , R. Whi e, S. Tau e , B. B eiling, G. Caiazza, H. Ch is ensen, and A. Co esi, “Pene a ion es ing os,” Robo Ope a ing Sys em (ROS) The Comple e Re e ence (Volume 4), pp. 183–225, 2020. [16] R. R. Teixei a, I. P. Mau ell, and P. L. D ews, “Secu i y on os: analy- zing and exploi ing ulne abili ies o os-based sys ems,” in 2020 La in Ame ican Robo ics Symposium (LARS), 2020 B azilian Symposium on Robo ics (SBR) and 2020 Wo kshop on Robo ics in Educa ion (WRE), 2020, pp. 1–6. [17] J. McClean, C. S ull, C. Fa a , and D. Masca enas, “A p elimina y cybe -physical secu i y assessmen o he obo ope a ing sys em ( os),” in Unmanned sys ems echnology x , ol. 8741. SPIE, 2013, pp. 341– 348. [18] T. Bonaci, J. Yan, J. He on, T. Kohno, and H. J. Chizeck, “Expe imen al analysis o denial-o -se ice a acks on eleope a ed obo ic sys ems,” in P oceedings o he ACM/IEEE six h in e na ional con e ence on cybe - physical sys ems, 2015, pp. 11–20. [19] D. Sob ´ ın-Hidalgo, M. A. Gonz´ alez-San ama a, ´ Angel M. Gue e o- Higue as, F. J. Rod ´ ıguez-Le a, and V. Ma ell´ an-Oli e a, “Explaining au onomy: Enhancing human- obo in e ac ion h ough explana ion ge- ne a ion wi h la ge language models,” 2024. [20] H. Chase, “LangChain,” Oc . 2022. [Online]. A ailable: h ps: //gi hub.com/langchain-ai/langchain [21] Y. Gao, Y. Xiong, X. Gao, K. Jia, J. Pan, Y. Bi, Y. Dai, J. Sun, Q. Guo, M. Wang, and H. Wang, “Re ie al-augmen ed gene a ion o la ge language models: A su ey,” 2024. [22] E. Beeching, C. Fou ie , N. Habib, S. Han, N. Lambe , N. Rajani, O. Sanse ie o, L. Tuns all, and T. Wol , “Open llm leade boa d,” 2023. [Online]. A ailable: {h ps://hugging ace.co/spaces/HuggingFaceH4/ open llm leade boa d} [23] N. Muennigho , N. Tazi, L. Magne, and N. Reime s, “M eb: Massi e ex embedding benchma k,” a Xi p ep in a Xi :2210.07316, 2022. [Online]. A ailable: h ps://a xi .o g/abs/2210.07316 [24] A. M. D´ ıez, A. C. Vega, B. J. de Cas o, C. ´ A. Apa icio, I. S. C. Ma ´ ınez, and ´ A. M. G. Higue as, “E aluaci´ on de la segu idad en el obo cuad ´ upedo a1 de uni ee obo ics,” in Ac as de las VIII Jo nadas Nacionales de In es igaci´ on en Cibe segu idad: Vigo, 21 a 23 de junio de 2023. Uni e sidade de Vigo, 2023, pp. 133–138. Explicabilidad aplicada a cibe segu idad en sis emas au ´onomos: Un en oque basado en LLMs pa a la de ecci´on o ense de amenazas 651