Explicabilidad aplicada a cibe segu idad en
sis emas au ´
onomos: Un en oque basado en LLMs
pa a la de ecci´
on o ense de amenazas
Da id Sob ´
ın-Hidalgo
G upo de Rob´
o ica, Uni e sidad de Le´
on
Campus de Vegazana s/n, 24071 Le´
on, Espa˜
na
[email p o ec ed]
I ene Gonz´
alez-Fe n´
andez
G upo de Rob´
o ica, Uni e sidad de Le´
on
Campus de Vegazana s/n, 24071 Le´
on, Espa˜
na
[email p o ec ed]
Miguel ´
Angel Gonz´
alez-San ama a
G upo de Rob´
o ica, Uni e sidad de Le´
on
Campus de Vegazana s/n, 24071 Le´
on, Espa˜
na
[email p o ec ed]
Ad i´
an Campazas-Vega
G upo de Rob´
o ica, Uni e sidad de Le´
on
Campus de Vegazana s/n, 24071 Le´
on, Espa˜
na
[email p o ec ed]
´
Angel Manuel Gue e o-Higue as
G upo de Rob´
o ica, Uni e sidad de Le´
on
Campus de Vegazana s/n, 24071 Le´
on, Espa˜
na
[email p o ec ed]
F ancisco Ja ie Rod ´
ıguez-Le a
G upo de Rob´
o ica, Uni e sidad de Le´
on
Campus de Vegazana s/n, 24071 Le´
on, Espa˜
na
[email p o ec ed]
Vicen e Ma ell´
an-Oli e a
G upo de Rob´
o ica, Uni e sidad de Le´
on
Campus de Vegazana s/n, 24071 Le´
on, Espa˜
na
[email p o ec ed]
Resumen—En un mundo donde la in e acci´
on en e humanos
y sis emas ob´
o icos es cada ez m´
as ecuen e, la cibe segu idad
se uel e impe a i a pa a sal agua da la in eg idad de ambos.
Es undamen al es ablece medidas de segu idad obus as que
p o ejan a los humanos an e posibles acciden es o cibe a aques
que pueda su i un sis ema ob´
o ico. Sin emba go, as un
suceso inespe ado, ya sea p o ocado po el mal uncionamien o
del sis ema o po la in luencia de un ac o malicioso, debe se
posible explica lo sucedido. En es e a ´
ıculo se p opone combi-
na el campo de la explicabilidad con el de la cibe segu idad,
explo ando as´
ı el po encial de un sis ema de explicabilidad en
ob´
o ica basado en LLMs como he amien a o ense. Pa a ello,
se ha ealizado un a aque de denegaci´
on de se icio sob e el
con olado de un obo m´
o il y, pos e io men e, se han anali-
zado los logs gene ados a a ´
es del sis ema de explicabilidad
p opues o. Los esul ados ob enidos demues an que es e sis ema
es capaz de de ec a la p esencia de una po encial amenaza que
a ec a al compo amien o del obo .
Index Te ms—Rob´
o ica, Explicabilidad, Cibe segu idad,
An´
alisis o ense, ROS 2, LLM
Tipo de con ibuci´
on: In es igaci´
on o iginal
I. INTRODUCCI´
ON
Debido al ´
apido a ance de la ecnolog´
ıa en gene al, an o
a ni el de ha dwa e c´
omo de so wa e, y de la in eligencia
a i icial en pa icula , el mundo es ´
a a a esando una e a ca-
ac e izada po una impo an e endencia a la in o ma izaci´
on
y a la au oma izaci´
on de a eas. La ob´
o ica asume un papel
p o agonis a en es e aspec o. La inco po aci´
on de obo s en el
mundo eal es algo cada ez m´
as com´
un, que aba ca desde el
uso de obo s cama e os has a la inclusi´
on de obo s ci ujanos.
Todos es os sis emas deben hace en e a los desa ´
ıos cl´
asicos
de la cibe segu idad y odos ellos son ´
ıc imas po enciales de
cibe a aques.
Son muchos los ipos de obo s que pueden llama la
a enci´
on de un agen e malicioso cuyas acciones pueden e-
ne g a es consecuencias. Algunos ejemplos son los obo s
indus iales u ilizados en ´
ab icas, los coches au ´
onomos o
los ya ci ados obo s ci ujanos. A di e encia de un a a-
que sob e un sis ema in o m´
a ico, la al e aci´
on maliciosa
del compo amien o de un sis ema ob´
o ico puede conlle a
p´
e didas ma e iales y, en el peo de los casos, p o oca
´
ıc imas humanas. Es po es a az´
on que, en pa icula , odos
aquellos obo s que in e ac ´
uen de una o ma u o a con
humanos ( ama de la ob´
o ica conocida c´
omo in e acci´
on
humano- obo o HRI po sus siglas en ingl´
es) deben de
in eg a medidas de segu idad obus as. Dichas medidas deben
p o ege a los humanos de cualquie acciden e que pudie a
ocu i , ya sea debido al mal uncionamien o pun ual del obo
o a la acci´
on de un cibe a acan e. Sin emba go, no siemp e
es posible e i a es as si uaciones de iesgo y, a´
un e i ´
andose,
esul a necesa ia la ealizaci´
on de es udios a pos e io i que
ienen c´
omo obje i o desen a˜
na la na u aleza del inciden e.
Conoce lo ocu ido du an e un acciden e o un a aque es
una in o maci´
on undamen al, pues pe mi e a ibui espon-
sabilidades, de ec a e o es y soluciona po enciales aguje os
de segu idad. Adem´
as, oda es a in o maci´
on con ibuye a
e o za los sis emas an e nue os a aques, e i ando de es a
mane a que se pueda epe i un cibe inciden e.
JNIC 2024
ISBN:978-84-09-62140-8 644
El p esen e abajo se cen a en el an´
alisis o ense de
incidencias en obo s, u ilizando un sis ema de explicabilidad
basado en LLMs pa a de ec a in usiones.
La explicabilidad puede en ende se c´
omo la capacidad de
un sis ema au ´
onomo o in eligen e de explica sus p opias
decisiones. Es e campo de es udio iene un ue e impac o en
el mundo de la in eligencia a i icial (eXplainable A i icial
In elligence o XAI [1]), d´
onde se han ealizado una g an
a iedad de es udios po pa e de la comunidad cien ´
ı ica.
Sin emba go, la explicabilidad no solo a ec a a modelos
de ap endizaje, sino ambi´
en a odo sis ema que abaje de
o ma au ´
onoma, c´
omo es el caso de los obo s sociales o
de se icio. La a ian e de la explicabilidad que se aplica
al mundo ob´
o ico se conoce c´
omo eXplainable Au onomous
Robo s (XAR) [2], y es desde es a a ian e desde la que se
abo da ´
a el plan eamien o del p esen e abajo. El compo -
amien o de un obo es complejo, lo cual hace c ece en
complejidad el p oblema de o ece explicaciones sob e dicho
compo amien o.
La capacidad de au oexplicaci´
on en sis emas au ´
onomos no
solo es de in e ´
es pa a la comunidad in es igado a, sino que en
la ´
ul ima d´
ecada se ha comenzado a econoce la impo ancia
de la explicabilidad en documen os legales, al y c´
omo se
ecoge en el Reglamen o (UE) 2016/679 del Pa lamen o
Eu opeo y del Consejo, de 27 de ab il de 2016, ela i o a
la p o ecci´
on de las pe sonas ´
ısicas en lo que espec a al
a amien o de da os pe sonales y a la lib e ci culaci´
on de
es os da os”[3]; documen o en el que se abo dan los de echos
que ienen los ciudadanos espec o a las decisiones omadas
po un sis ema in eligen e que a ec an de o ma pe sonal al
ciudadano en cues i´
on. En su Conside ando 71 se ecoge la
siguien e ci a:
”[...] de echo a ob ene in e enci´
on humana, a ex-
p esa su pun o de is a, a ecibi una explicaci´
on
de la decisi´
on omada despu´
es de al e aluaci´
on
y a impugna la decisi´
on.”
Teniendo en cuen a la p esencia de la explicabilidad en e-
glamen os o iciales queda pa en e la necesidad la en e de que
los sis emas au ´
onomos inco po en sis emas de explicabilidad.
Sin emba go, ¿puede ap o echa se dicho sis ema pa a
mejo a la segu idad del obo ? Lo cie o es que un sis ema
de explicabilidad obus o no solo debe ´
ıa cen a se en gene a
una explicaci´
on de lo sucedido, sino que ambi´
en debe ´
ıa
p es a a enci´
on a odos los da os ele an es que el obo p o-
duce du an e su compo amien o y que pos e io men e pod ´
ıan
u iliza se pa a gene a una explicaci´
on y se˜
nala el o igen de
un compo amien o o p oblema. A es e aspec o se le conoce
c´
omo azabilidad o accoun abili y en ingl´
es. La azabilidad
es ´
a muy elacionada con el p oceso de selecci´
on de los
da os, es deci , decidi qu´
e da os gua da y c´
omo gua da los.
Po lo an o un sis ema que inco po e an o capacidades
de azabilidad c´
omo de gene aci´
on de explicaciones puede
se una po encial he amien a pa a analiza compo amien os
an´
omalos en obo s, acili ando a eas c´
omo el an´
alisis o ense
ealizado as un inciden e.
El obje i o p incipal de es e abajo es, po an o, comp o-
ba la capacidad de un sis ema de explicabilidad, dise˜
nado
p e iamen e, pa a de ec a compo amien os an´
omalos en
un obo m´
o il u ilizando los logs gene ados po el sis ema.
Pa a ello, el sis ema de explicabilidad u ilizado en la p esen e
in es igaci´
on es a compues o po un manage de di´
alogo
basado en un La ge Language Model (LLM), cuyo obje i o
es el de in e p e a los logs del obo y gene a explicaciones
sob e lo sucedido. De es a o ma un usua io, eje ciendo el
ol de un analis a o ense, puede ealiza p egun as al sis ema
de explicabilidad e i ando de es a o ma ene que analiza
una g an can idad de egis os almacenados en el sis ema.
Conc e amen e, es e abajo se ha desplegado sob e sis emas
ob´
o icos que inco po an ROS 2 [4] (Robo Ope a ing Sys em
2), es el middlewa e m´
as popula izado a la ho a de cons ui
aplicaciones ob´
o icas. ROS 2 cuen a con su p opio sis ema
de log, el cual se ha u ilizado pa a egis a la in o maci´
on
ele an e pa a el pos e io an´
alisis del compo amien o del
obo .
El a ´
ıculo se es uc u a de la siguien e mane a: en la Sec-
ci´
on II se ealiza un b e e an´
alisis de los abajos elacionados
e e en es al uso de LLMs pa a cibe segu idad, as´
ı c´
omo de
los p incipales p oblemas de cibe segu idad en ROS 2. En
la Secci´
on III se p esen an los ma e iales empleados y se
de ine el expe imen o ealizado. En la Secci´
on IV se ecogen
y discu en los esul ados ob enidos a pa i del expe imen o.
Po ´
ul imo, en la Secci´
on V se exponen las conclusiones y
los abajos u u os.
II. TRABAJOS RELACIONADOS
En es a secci´
on se explo an algunos de los abajos ela-
cionados con la in es igaci´
on ealizada. El p incipal en oque
de la explicabilidad den o del ´
ambi o de la cibe segu idad
es la de p opo ciona explicaciones sob e las espues as
p opo cionadas po di e en es aplicaciones de segu idad que
uncionan de o ma au ´
onoma (median e el uso de Machine
Lea ning (ML) y Deep Lea ning (DL) p incipalmen e), c´
omo
po ejemplo los sis emas de de ecci´
on de in usiones [5]. Sin
emba go, el plan eamien o de es a in es igaci´
on adica en el
uso de un sis ema de explicabilidad in eg ado en un obo pa a
ealiza an´
alisis o ense sob e el mismo.
Debido a que una pa e conside able de la implemen aci´
on
del sis ema de explicabilidad se co esponde con uso de LLMs
se ha decidido analiza algunos de los abajos p esen es en
la li e a u a que abo dan la elaci´
on en e es os modelos y
la cibe segu idad. Tambi´
en se ha buscado analiza el es ado
ac ual a ni el de segu idad en el mundo de ob´
o ica, en
conc e o en ROS 2, una cues i´
on necesa ia a la ho a de
comp ende cuales son las amenazas m´
as comunes pa a es e
ipo de sis emas.
II-A. Cibe segu idad y La ge Language Models
En p ime luga , con el obje i o de conoce el es ado del
a e espec o a las implicaciones de los LLMs en el mundo
de la cibe segu idad, se han consul ado algunas e isiones de
li e a u a que abo dan el ema. El a˜
no 2022 ue un momen o
de g an impo ancia pa a el mundo de la in eligencia a i icial,
debido al c ecien e in e ´
es en los modelos de lenguaje. Desde
en onces, los LLMs han man enido la ine cia y ac ualmen e
sus capacidades e in luencia siguen c eciendo. En [6] se
explo a la his o ia y el eco ido de algunos de los LLMs m´
as
popula es, as´
ı c´
omo la elaci´
on de es os con la cibe de ensa
desde una pe spec i a que explo a el uso malicioso de LLMs.
Explicabilidad aplicada a cibe segu idad en sis emas au ´onomos: Un en oque basado en
LLMs pa a la de ecci´on o ense de amenazas
645
En [7] se abo dan dos en oques. Los au o es es udian po un
lado las ulne abilidades que puede p esen a un LLM. Es as
gene almen e consis en en ´
ecnicas de bypassing las cuales
a an de modi ica la en ada del modelo ( ambi´
en conocida
c´
omo p omp ) pa a e i a las limi aciones del modelo, po
ejemplo pa a o za lo a gene a c´
odigo malicioso. Los au o es
ambi´
en demues an que pueden ealiza se a aques de inyec-
ci´
on de p omp pa a ob ene in o maci´
on delicada del modelo.
Finalmen e, analizando los LLM desde una pe spec i a o ensi-
a, los au o es explo an una se ie de a aques que pod ´
ıan e se
bene iciados po el uso de un modelo de lenguaje. Debido a
su des acable capacidad pa a gene a ex o, algunos de los a a-
ques m´
as in luenciados po LLMs son: a aques de ingenie ´
ıa
social, a aques de phishing, y la gene aci´
on de ansomwa e y
o o ipo de malwa e. De o ma simila al a ´
ıculo an e io , en
[8] los au o es analizan las ulne abilidades po enciales que
p esen an los LLMs p io izando los a aques ipo backdoo .
Pa a el p op´
osi o de es e a ´
ıculo, el aspec o m´
as impo an e
es el de la cibe de ensa, es deci c´
omo u iliza los modelos
de lenguaje pa a a o ece los mecanismos de de ensa de
los sis emas ob´
o icos. En [7] y [9] se des aca la capacidad
de p ocesamien o de lenguaje na u al de los LLMs, la cual
se con ie e en una he amien a de g an u ilidad a la ho a
de analiza c´
odigo uen e pa a busca ulne abilidades y
soluciona las. La gene aci´
on de in o mes ambi´
en es una a ea
en la que es e ipo de modelos des acan de mane a no able.
La capacidad de ges iona can idades de da os g andes y
azona sob e dichos da os es una de las acul ades de los
LLMs que pueden apo a un eno me alo al p oceso del
an´
alisis o ense, lo cual es de un ele ado in e ´
es pa a el
p op´
osi o de es e a ´
ıculo. Siguiendo es a l´
ınea, los au o es
de [7] decla an:
”Cha GPT can p ocess la ge olumes o log da a
and e icien ly de ec anomalies o secu i y issues
wi hin access logs.”
O a p opues a di e en e se puede encon a en [10] d´
onde
los au o es comp ueban la capacidad de Cha GPT-4.0 [11]
pa a gene a es de segu idad. Llegando a ob ene esul ados
que supe an a algunas de las he amien as m´
as popula izadas.
Los au o es ambi´
en des acan la necesidad de p o ee al LLM
con un p omp adecuado que cub a el espec i o dominio de
conocimien o, necesa io pa a p opo ciona espues as cohe-
en es.
Po o o lado, ambi´
en han su gido abajos c´
omo el ea-
lizado en [12], en el cual p oponen un nue o modelo de
lenguaje (Secu eBERT) basado en BERT [13] y o ien ado a
p ocesamien o de ex os del ´
ambi o de la cibe segu idad.
La mayo pa e de la li e a u a asume los LLMs c´
omo
una he amien a des inada a acele a a eas y mejo a el
endimien o humano. Sin emba go, a´
un eniendo en cuen a el
inc e´
ıble po encial de los LLMs, la comunidad in es igado a
pa ece llega a un acue do a la ho a de concebi los LLMs
c´
omo un asis en e e icaz pa a los p o esionales de la cibe -
segu idad, pe o de ninguna mane a c´
omo una he amien a
au om´
a ica independien e del usua io humano.
II-B. Cibe segu idad en ROS 2
Respec o a la segu idad en la ob´
o ica y en conc e o en
ROS 2, uno de los p oblemas cl´
asicos del popula middlewa e
es la escasa segu idad en sus comunicaciones. Si bien ROS
2 mejo ´
o es e aspec o al inco po a uncionalidades de c ip-
og a ´
ıa, es as es ´
an desac i adas po de ec o y su ac i aci´
on
puede a ec a al endimien o de los sis emas debido a la ca ga
de p ocesamien o adicional que a˜
naden al compo amien o
del obo , al y c´
omo exponen los au o es de [14]. O o
incon enien e pa a la secu izaci´
on de ROS 2, es que muchos
de los equipos ob´
o icos oda ´
ıa implemen an in e namen e
ROS y en muchas ocasiones la mig aci´
on a ROS 2 depende del
ab ican e de cada obo . Es o p o oca que pa a pode abaja
con ROS 2 se deban u iliza b idges, unos componen es
so wa e que pe mi en aduci los mensajes en e ROS y ROS
2, y ice e sa. Es a capa adicional en las comunicaciones
puede p o oca nue os aguje os de segu idad.
Pese a que la mig aci´
on a ROS 2 ha dejado algunos de los
a aques cl´
asicos obsole os al cambia la capa de anspo e
(en ROS 2 se pasa a u iliza DDS en luga de TCPROS),
la nue a e si´
on oda ´
ıa no es ´
a lib e de ulne abilidades,
algunas de ellas he edadas de su an e io e si´
on. En [15] los
au o es p oponen dos he amien as pa a ealiza pen es ing en
aplicaciones cons uidas en ROS y p oponen dos he amien-
as: ROSPen y Roschaos, que pe mi en analiza y manipula
dichas aplicaciones. En el ci ado abajo pueden ad e i se al-
gunos de los a aques m´
as popula es en ROS, c´
omo a aques de
denegaci´
on de se icio (DoS) o a aques basados en iolaci´
on
de la in eg idad y p i acidad de las comunicaciones, c´
omo los
del ipo man-in- he-middle (MITM).
O o ejemplo de los allos de segu idad de ROS, que
pe mi en in e cep a y manipula la comunicaci´
on en e los
nodos de ROS, se ecoge en [16], d´
onde los au o es exponen
las ulne abilidades en el p o ocolo de comunicaciones a
a ´
es de un a aque MITM.
El pelig o subyacen e a la ausencia de m´
e odos c ip og a i-
cos en ROS o a la incapacidad de aplica los en sis emas con-
c e os se puede ap ecia en [17] d´
onde los au o es demues an
la posibilidad de cap u a los mensajes in e cambiados po
los nodos den o de una ed u ilizando he amien as c´
omo
Wi esha k. O o de los a aques a los que las aplicaciones
cons uidas sob e ROS son m´
as suscep ibles es la denegaci´
on
de se icio, al y c´
omo se ha indicado p e iamen e. En [18]
se ecoge un an´
alisis sob e es e ipo de a aques di igidos a
obo s eleope ados. Es a misma si uaci´
on es la que se ha
elegido pa a di igi el expe imen o plan eado en el p esen e
abajo.
III. M´
ETODOS Y MATERIALES
El p esen e abajo explo a la posibilidad de que un sis ema
de explicabilidad in eg ado en un sis ema ob´
o ico pueda se
u ilizado ambi´
en pa a acili a y acele a a eas elacionadas
con el an´
alisis o ense ealizado despu´
es de un inciden e.
Pa a abo da es e p oblema se ha pa ido de un sis ema de
explicabilidad basado en LLMs, p e iamen e implemen ado
en [19]. Dicho sis ema ap o echa las al as capacidades de
es a ecnolog´
ıa a la ho a de ealiza a eas elacionadas con
el p ocesamien o del lenguaje na u al, pa a analiza g andes
conjun os de logs que se han gene ado du an e el compo a-
mien o del obo .
D. Sob ´ın Hidalgo, I. Gonz´alez Fe n´andez, M. A. Gonz´alez San ama a, A. Campazas Vega,
A. M. Gue e o Higue as, F. J. Rod ´ıguez Le a and V. Ma ell´an Oli e a
646
III-A. Ma e iales
A la ho a de ealiza el expe imen o que gu´
ıa la p esen e
in es igaci´
on se han empleado una se ie de ecu sos y ma-
e iales, an o so wa e c´
omo ha dwa e. Dichos ma e iales se
enume an a con inuaci´
on.
ROS 2. Tan o el obo c´
omo los componen es so wa e
desa ollados pa a el expe imen o es ´
an cons u´
ıdos so-
b e ROS, en conc e o sob e ROS 2 Humble, la ´
ul ima
dis ibuci´
on de ROS 2 es able.
Langchain [20]. Una lib e ´
ıa que acili a el desa ollo
de aplicaciones basadas en LLMs. Tambi´
en o ece la
posibilidad de implemen a el m´
e odo RAG de una o ma
sencilla.
Limine i y/M7-7b-GGUF. Modelo enca gado de p o-
cesa la p egun a del usua io y los logs m´
as ele an es,
pa a gene a una explicaci´
on
Mixedb ead-ai/mxbai-embed-la ge- 1. Modelo enca -
gado de gene a los embbedings de cada uno de los logs
ecibidos a a ´
es del opic / osou .
La in es igaci´
on se ha lle ado a cabo sob e sis emas
ob´
o icos cons u´
ıdos en ROS 2. El uncionamien o b´
asico
de ROS 2 es el de un modelo Publishe -Subsc ibe , en
el cual la comunicaci´
on se ealiza a a ´
es de componen es
so wa e denominados Nodos que in e cambian mensajes a
a ´
es de canales de in o maci´
on llamados opics. La en aja
de es e ipo de comunicaci´
on es la acilidad con la que pueden
moni o iza los mensajes in e cambiados. Toda la in o maci´
on
que llega a los opics, ya sea la publicada po los senso es
del obo o la des inada a con ola sus ac uado es, puede
egis a se.
El sis ema de explicabilidad u ilizado pa a la p esen e
in es igaci´
on ap o echa es e egis o de mensajes y a a
de azona lo que ha sucedido. Su uncionamien o consis e
en u iliza los mensajes que han sido en iados al opic
/ osou (log p incipal de ROS 2) c´
omo con ex o pa a el
LLM enca gado de gene a las explicaciones. Sin emba go,
la can idad de mensajes publicados en / osou puede supone
un con ex o demasiado g ande pa a el sis ema, y p o oca que
los azonamien os no sean cohe en es ni p ecisos. Pa a ello
se cons uye un con ex o m´
as educido a pa i de odos los
mensajes egis ados. Es e con ex o se co esponde con los
logs m´
as ele an es pa a cons ui una explicaci´
on conc e a.
Es e nue o con ex o se consigue a a ´
es del m´
e odo Re ie al
Aumen ed Gene a o (RAG) [21] y empleando una base de
da os de ec o es pa a almacena los logs. En la Figu a 1 se
ilus a el uncionamien o del sis ema de explicabilidad jun o
al m´
e odo RAG.
Figu a 1. Funcionamien o del sis ema de explicabilidad d´
onde se mues a el
m´
e odo RAG. Imagen ex a´
ıda de [19].
En lo e e en e a los modelos u ilizados, es os han sido
ob enidos a a ´
es de Hugging Face. Pa a ambos modelos
se ha enido en conside aci´
on su posici´
on de sus espec i os
leade boa ds en Hugging Face; [22] pa a el modelo de expli-
cabilidad y [23] pa a el modelo enca gado e los embbedings.
O as ca ac e ´
ıs icas in luyen es en la elecci´
on han sido el
ama˜
no del modelo y su quan izaci´
on.
Po o a pa e, el expe imen o se ha ealizado empleando
un obo eal na egando median e eleope aci´
on po un apa -
amen o simulado. El obo u ilizado ha sido TIAGo, un obo
manipulado m´
o il ab icado po Pal Robo ics. Po o o lado,
en la Figu a 2, jun o al ci ado obo , se mues a el en o no en
el que se ha ealizado el expe imen o, una es bed ce i icada
po la Eu opean Robo ics League (ERL): Leon@Home1.
Figu a 2. Imagen de la es bed u ilizada jun o al obo TIAGo. El en o no
consis e en un apa amen o simulado.
III-B. M´
e odos
A con inuaci´
on se de alla el expe imen o ealizado jun o
con el a aque seleccionado pa a e alua el sis ema de expli-
cabilidad.
III-B1. Dise˜
no del expe imen o: El expe imen o plan-
eado pa a la p esen e in es igaci´
on consis e en analiza el
compo amien o de un obo eleope ado. Pa a ello se ha de-
sa ollado un nodo de ROS 2 que moni o iza cons an emen e
la ac i idad de un opic, calculando los Hz a los que se es ´
a
publicando en dicho opic e imp imiendo una aza en / osou
en caso de que la asa de publicaci´
on c ezca o disminuya de
mane a signi ica i a.
El con ex o del expe imen o es, po an o, el siguien e. Un
usua io eleope a un obo de se icio a a ´
es de un mando
o con olado emo o pa a hace lo eco e un espacio eal
(un apa amen o en el caso del p esen e expe imen o). El
con olado publica mensajes en el opic /inpu joy/cmd el.
Los opics /cmd el es ´
an adicionalmen e elacionados con
la na egaci´
on, pues se u ilizan pa a in e cambia mensajes
sob e el mo imien o del obo . Es os mensajes son del ipo
/geome y msgs/Twis que ienen el o ma o p esen ado en el
Lis ado 1.
# This exp esses eloci y in ee space b oken in o
i s linea and angula pa s.
Vec o 3 linea
1Se puede consul a la in o maci´
on e e en e a la es bed a a ´
es de su
p´
agina web: h ps:// obo ica.unileon.es/index.php? i le=Tes bed
Explicabilidad aplicada a cibe segu idad en sis emas au ´onomos: Un en oque basado en
LLMs pa a la de ecci´on o ense de amenazas
647
loa 64 x
loa 64 y
loa 64 z
Vec o 3 angula
loa 64 x
loa 64 y
loa 64 z
Lis ing 1. Es uc u a de un mensaje ipo Twis
El sis ema de explicabilidad se susc ibe a / osou , d´
onde
el nodo enca gado de moni o iza la asa de publicaci´
on de
/cmd el publica ´
a los cambios ele an es. A pa i de es e
pun o el sis ema oma ´
a c´
omo con ex o los logs gene ados
du an e la eleope aci´
on. Una ez inalizada la ac i idad del
obo . El usua io se ´
a capaz de ealiza p egun as al sis ema
pa a conoce lo que ha ocu ido.
El expe imen o ha consis ido en dos ejecuciones. En cada
una de ellas el obje i o del eleope ado es lle a al obo de
un pun o a o o den o del apa amen o, siendo es os pun os
siemp e los mismos. La u a seguida po el obo se mues a
en la Figu a 3.
Figu a 3. Plano del apa amen o simulado en el que se ep esen a la u a
seguida po el obo median e una lecha oja. El c´
ı culo e de ep esen a
el pun o de inicio de la na egaci´
on, mien as que el c´
ı culo ojo mues a el
pun o de des ino.
Du an e la ejecuci´
on 2 se ha simulado un a aque de
denegaci´
on de se icio du an e la na egaci´
on, a a ´
es de la
publicaci´
on adicional de mensajes en el opic que con ola el
mo imien o del obo . Las dis in as ejecuciones ealizadas se
enume an a con inuaci´
on:
E1 El obo comple a la na egaci´
on sin que se p oduzca
ning´
un a aque.
E2 El obo su e un a aque con una asa de publicaci´
on
muy supe io a la no mal (500 Hz).
Los da os gene ados du an e la ealizaci´
on de las p uebas se
han g abado median e Rosbags, un o ma o de da os de ROS
que pe mi e almacena los mensajes in e cambiados du an e
la ejecuci´
on del compo amien o del obo .
Los Rosbags ob enidos se han analizado a pos e io i u ili-
zando el sis ema de explicabilidad dise˜
nado pa a ROS. Emu-
lando un posible an´
alisis o ense, el Rosbag se ha ep oducido
y los mensajes gene ados en el opic / osou han sido cap u-
ados y p ocesados po el LLM. El sis ema de explicabilidad
u ilizado unciona c´
omo un m´
anage de di´
alogo en e el
usua io y el LLM, po lo an o pa a ob ene una explicaci´
on de
lo sucedido, el usua io debe ealiza una p egun a al modelo.
Las p egun as ealizadas cons i uyen pa e del p omp del
LLM y su exp esi´
on y es uc u a son undamen ales pa a
pode ob ene esul ados cohe en es.
El sis ema de explicabilidad debe ´
a, de es a o ma, espon-
de a la misma p egun a pa a ambas ejecuciones. La p egun a
es ablecida pa a comp oba el uncionamien o del sis ema
ha sido o mulada en ingl´
es pa a un mejo p ocesamien o
po pa e del LLM. Dicha p egun a se ha p esen ado de la
siguien e o ma:
P egun a 1: Do you obse e any p oblems in he cmd el?
I so, could i be a cybe a ack, and wha ype o cybe a ack?
Adem´
as de la p egun a es necesa io es ablece una plan illa
pa a el p omp (p omp empla e), que pe mi e da cie as
indicaciones y con ex o al modelo. La plan illa u ilizada se
ecoge en el Lis ado 2.
"You a e an explainabili y AI ool o ROS 2 mobile
obo s. "
"You goal is o de ec possible cybe a acks. "
"You ha e o de ec anomalous beha io wi hin he
obo ’s da a. "
"You ha e o in e p e he obo ’s da a paying
a en ion o he publica ion a es o cmd_ el,
ha is be ween 8.0Hz and 23.0Hz. n n"
"Rele an da a: n"
"{logs} n n"
"USER: "
"Gi en he con ex in o ma ion and no p io
knowledge, answe he que y: {ques ion} n"
"ASSISTANT:"
Lis ing 2. P omp empla e u ilizada pa a el LLM
El p omp inal que se i ´
a c´
omo en ada del LLM es ´
a
cons u´
ıdo median e la combinaci´
on de la plan illa, la p e-
gun a del usua io y los 10 egis os m´
as ele an es ob enidos
median e el m´
e odo RAG. Los logs ecogen la ecuencia de
publicaci´
on del opic /cmd el; la plan illa es ablece que el
sis ema debe compo a se c´
omo un Sis ema de De ecci´
on de
In usiones (IDS) e indica el ango de ecuencias de publi-
caci´
on espe ado du an e una ejecuci´
on no mal del obo . Po
´
ul imo, en la p egun a se insis e en el an´
alisis del opic. Toda
es a in o maci´
on es necesa ia pa a que el LLM pueda p oduci
una espues a azonable, debido al impac o que el con ex o y
la e bosidad de los da os ienen en el compo amien o del
modelo.
III-B2. A aque de denegaci´
on de se icio: Se ha decidido
e alua las capacidades del sis ema desc i o median e la
simulaci´
on de un a aque de denegaci´
on de se icio. La az´
on
as la selecci´
on de es e ipo de a aque es que debido al
uncionamien o de las comunicaciones de ROS 2, esul a
sencillo inunda un opic con mensajes maliciosos que al e en
el uncionamien o del obo . Debido a que el con ola del
obo seleccionado pa a el expe imen o iene una asa de
publicaci´
on de 10 Hz, es posible sa u a el opic publicando
mensajes a una asa muy supe io de, po ejemplo, 500 Hz.
La in o maci´
on que el supues o a acan e publica ´
a en el
opic se ´
an mensajes del ipo Twis , de inido p e iamen e,
pe o con un alo de 0 en cada una de sus componen es
( elocidad lineal y angula ). Es o p o oca ´
a que los mensajes
del con olado se pie dan y el obo se de enga. En la Figu a
D. Sob ´ın Hidalgo, I. Gonz´alez Fe n´andez, M. A. Gonz´alez San ama a, A. Campazas Vega,
A. M. Gue e o Higue as, F. J. Rod ´ıguez Le a and V. Ma ell´an Oli e a
648

4 se ilus a la comunicaci´
on del obo con el eleope ado a
a ´
es de ROS 2, y la in e enci´
on del a acan e.
Figu a 4. A aque de denegaci´
on de se icio sob e un obo m´
o il. Los
Nodos de ROS 2 se ep esen an con c´
ı culos y los opics con cuad ados.
La comunicaci´
on no mal es ´
a ep esen ada po lechas azules, mien as que
la comunicaci´
on maliciosa se ep esen a con una lecha oja.
El LLM que se emplea ´
a pa a in e p e a y explica los
da os equie e una in o maci´
on conc e a. En es e pun o la
e bosidad de los logs adop a un papel undamen al a la
ho a de ob ene buenas explicaciones. Es a es la az´
on po la
que se ha necesi ado desa olla un nodo que se enca gue de
moni o iza los Hz, ya que es a in o maci´
on puede se ´
u il a la
ho a de decidi si el compo amien o que se es ´
a isualizando
en un opic es co ec o o an´
omalo.
IV. RESULTADOS Y DISCUSI ´
ON
En es a secci´
on se p esen an y analizan los esul ados
ob enidos du an e el expe imen o. Pa a cada una de las dos
ejecuciones ealizadas se han ecogido la salida mos ada po
el nodo de moni o izaci´
on, y los pa es p egun as- espues as
ela i os a la explicaci´
on gene ada po el sis ema. Adem´
as
en la Tabla I se mues a in o maci´
on ela i a a los osbags
gene ados.
Tabla I
INFORMACI ´
ON DE LOS osbags DE LAS DIFERENTES EJECUCIONES.
INCLUYE EL N ´
UMERO TOTAL DE MENSAJES REGISTRADOS,LA DURACI ´
ON
DE LA EJECUCI´
ON Y EL TAMA ˜
NO DEL osbag.
ID Ejecuci´
on Nº Mensajes Du aci´
on (s) Tama˜
no (MB)
E1 7120 75.6 6.6
E2 10355 40.2 3.5
IV-A. Ejecuci´
on 1
En la Ejecuci´
on 1 el obo na ega (median e la eleope a-
ci´
on de un usua io humano) sin ning´
un inciden e. Las azas
gene adas po el nodo enca gado de moni o iza el opic
/cmd el se ecogen en el Lis ado 3.
A e age publica ion a e o cmd_ el: 9.00Hz.
A e age publica ion a e o cmd_ el: 9.14Hz.
A e age publica ion a e o cmd_ el: 9.50Hz.
A e age publica ion a e o cmd_ el: 12.00Hz.
A e age publica ion a e o cmd_ el: 12.86Hz.
A e age publica ion a e o cmd_ el: 14.22Hz.
A e age publica ion a e o cmd_ el: 19.56Hz.
A e age publica ion a e o cmd_ el: 19.54Hz.
A e age publica ion a e o cmd_ el: 20.67Hz.
A e age publica ion a e o cmd_ el: 20.93Hz.
A e age publica ion a e o cmd_ el: 21.73Hz.
A e age publica ion a e o cmd_ el: 21.73Hz.
A e age publica ion a e o cmd_ el: 22.39Hz.
A e age publica ion a e o cmd_ el: 21.47Hz.
A e age publica ion a e o cmd_ el: 20.62Hz.
A e age publica ion a e o cmd_ el: 20.01Hz.
A e age publica ion a e o cmd_ el: 20.01Hz.
A e age publica ion a e o cmd_ el: 20.01Hz.
Lis ing 3. F ecuencia de publicaci´
on du an e la Ejecuci´
on 1
En el Lis ado 6 se ecoge la p egun a del usua io y la
espues a del LLM a a ´
es de un se icio de ROS 2.
$ os2 se ice call /ques ion explicabili y_msgs/s
/Ques ion "{ques ion: ’Do you obse e any
p oblem in he cmd_ el? I so, could i be a
cybe a ack, and wha ype o cybe a ack?’}"
esponse:
explicabili y_msgs.s .Ques ion_Response(answe ="
Based on he p o ided da a alone, ocusing
solely on he publica ion a es o cmd_ el
wi hin he expec ed ange o 8.0Hz o 23.0Hz,
he e do no appea o be any ob ious anomalies
o signs o a cybe a ack. The a es luc ua e
na u ally, bu hey emain wi hin he
accep able ange. Howe e , i ’s impo an o
no e ha a comp ehensi e analysis would
equi e mo e con ex and a b oade se o
me ics o accu a ely de ec po en ial
cybe secu i y h ea s.")
Lis ing 4. Explicaci´
on gene ada po el LLM
El ´
ıdeo que mues a la ejecuci´
on de es e expe imen o se
encuen a disponible en h ps://www.you ube.com/wa ch? =
o 5Jwoh Q.
IV-B. Ejecuci´
on 2
En la Ejecuci´
on 2 se p oduce un a aque de denegaci´
on de
se icio, inundando de da os el opic /cmd el, mien as el
obo es ´
a siendo eleope ado. Es e a aque p o oca que el
obo se de enga, igno ando las ins ucciones de su con o-
lado humano. En es e caso, las azas gene adas po el nodo
moni o izado se mues an en el Lis ado 5.
A e age publica ion a e o cmd_ el: 8.50Hz.
A e age publica ion a e o cmd_ el: 8.57Hz.
A e age publica ion a e o cmd_ el: 10.25Hz.
A e age publica ion a e o cmd_ el: 11.41Hz.
A e age publica ion a e o cmd_ el: 12.23Hz.
A e age publica ion a e o cmd_ el: 36.32Hz.
A e age publica ion a e o cmd_ el: 96.57Hz.
A e age publica ion a e o cmd_ el: 146.37Hz.
A e age publica ion a e o cmd_ el: 170.00Hz.
A e age publica ion a e o cmd_ el: 170.00Hz.
Lis ing 5. F ecuencia de publicaci´
on du an e la Ejecuci´
on 1
De nue o, la p egun a del usua io y la espues a del LLM
se ecogen en el Lis ado 6.
$ os2 se ice call /ques ion explicabili y_msgs/s
/Ques ion "{ques ion: ’Do you obse e any
p oblem in he cmd_ el? I so, could i be a
cybe a ack, and wha ype o cybe a ack?’}"
esponse:
explicabili y_msgs.s .Ques ion_Response(answe =" In
he p o ided da a, he e a e signi ican
spikes in he a e age publica ion a es o
cmd_ el, which exceed he expec ed ange o 8.0
Hz o 23.0Hz. A 1710853730.8051765, he a e
jumps o 36.32Hz, and om 1710853735.805152 o
1710853745.805236, he a es a e abno mally
high, eaching up o 170.00Hz. While hese
ex eme luc ua ions migh indica e a p oblem
wi h he sys em, i ’s c ucial o no e ha
solely based on his da a, we canno
de ini i ely conclude i as a cybe a ack.
Anomalous beha io could be due o a ious
easons, including so wa e gli ches o
miscon igu a ions. To de e mine i i ’s a
Explicabilidad aplicada a cibe segu idad en sis emas au ´onomos: Un en oque basado en
LLMs pa a la de ecci´on o ense de amenazas
649
cybe a ack, mo e con ex and e idence would be
necessa y. I con i med as a malicious ac ,
one migh specula e a Denial o Se ice (DoS)
a ack o a manipula ion a emp o comp omise
he obo ’s con ol, bu u he in es iga ion
is equi ed o a conclusi e assessmen .")
Lis ing 6. Explicaci´
on gene ada po el LLM
El ´
ıdeo que mues a la ejecuci´
on de es e expe imen o se
encuen a disponible en h ps://www.you ube.com/wa ch? =
LSVOb0mBxPE.
IV-C. Discusi´
on
El p incipal in e ´
es del p esen e abajo es analiza las es-
pues as gene adas po el sis ema de explicabilidad pa a alo a
si su uso puede se bene icioso pa a un an´
alisis o ense. Si
analizamos el p ime caso, ecogido en los Lis ados 3 y 4
se puede obse a c´
omo el modelo conside a los logs den o
del compo amien o no mal. Es de g an impo ancia ene en
cuen a el con ex o que se le p opo ciona al LLM an es de la
ejecuci´
on, en es e caso indic´
andole los angos en e los que
debe ´
ıa oscila la ecuencia de publicaci´
on pa a conside a se
no mal.
Po o o lado, des acan los esul ados ob enidos pa a la
segunda ejecuci´
on, que se co esponde con una inundaci´
on
del opic de mo imien o del obo , y que se p esen a en los
Lis ados 5 y 6. En es a ejecuci´
on, el sis ema iden i ica co ec-
amen e los inc emen os en las ecuencias de publicaci´
on del
opic conside ando incluso las ma cas de iempo asociadas a
las di e en es azas. El sis ema indica que la ecuencia de
publicaci´
on llega a se ”ano malmen e ele ada, alcanzado los
170Hz”. A la ho a de asocia los logs gene ados du an e la
ejecuci´
on con un posible a aque, el sis ema in ie e de o ma
exi osa que se a a de un a aque DoS pa a comp ome e el
con ol del obo .
En ambas ejecuciones el sis ema exp esa la necesidad de
que la si uaci´
on sea es udiada po un expe o humano, dejando
cla o que su espues a no es de ini i a. Es necesa io des aca
es e compo amien o ya que es ´
a alineado con la in enci´
on
o iginal del abajo en la cual se p opone el uso de es e
ipo de ecnolog´
ıa c´
omo un complemen o al analis a, pe o
nunca c´
omo una sus i uci´
on. El obje i o inal, del sis ema
es, po an o, el de acele a el p oceso de an´
alisis o ense.
Si se obse an los esul ados ecogidos en la Tabla I, se
puede obse a que pa a ejecuciones con una du aci´
on de
ap oximadamen e un minu o pueden llega a gene a se una
can idad de logs muy ele ada, lo cual aumen a la complejidad
a la ho a de se analizados po un expe o humano. En la
ejecuci´
on 1 se gene a on 7120 mensajes. En la ejecuci´
on 2,
po su pa e, se gene a on un o al de 10355. Como se puede
obse a , el sis ema es capaz de ad e i una posible amenaza
y o ien a al analis a a la ho a de comenza a es udia los
da os.
V. CONCLUSI´
ON
La p esencia de sis emas ob´
o icos en la sociedad ha
aumen ado exponencialmen e en los ´
ul imos a˜
nos. Es e nue o
pa adigma plan ea impo an es e os a ni el de segu idad.
La con i encia en e humanos y obo s c ea la necesidad de
que es os sis emas sean cibe n´
e icamen e segu os. Po o o
lado, es necesa io conoce que e en os es ´
an ocu iendo en
el p opio obo , es deci que los sis emas posean capacidades
pa a explica su compo amien o. Es a capacidad puede se
u ilizada pa a de ec a un posible compo amien o an´
omalo
del sis ema, pe o ambi´
en pa a de ec a cibe a aques sob e el
obo .
En es e abajo se ha p esen ado un mecanismo que de-
mues a el po encial de un sis ema de explicabilidad basado
en LLMs pa a se u ilizado c´
omo he amien a complemen a ia
a la ho a de ealiza a eas de an´
alisis o ense en sis emas
ob´
o icos. Los esul ados ob enidos mues an la capacidad
de es e ipo de sis emas de in e i lo ocu ido du an e un
cibe a aque, mejo ando as´
ı la comp ensi´
on del mismo y
minimizando exponencialmen e la can idad de iempo que
necesi a emplea un analis a o ense a la ho a de analiza los
da os gene ados po el sis ema.
Po un lado, a a´
ız de las conclusiones ob enidas en es e
a ´
ıculo, se plan ea amplia el abajo aqu´
ı p esen ado pa a
comp oba su alidez a la ho a de en en a se a o os ipos
de a aque com´
unmen e ealizados sob e obo s, c´
omo po
ejemplo la in e e encia de las comunicaciones a a´
ız de un
a aque del ipo man-in- he-middle [24]. Po o o lado, en es e
a ´
ıculo se ha plan eado el uso, c´
omo he amien a o ense,
de un sis ema de explicabilidad p e iamen e inco po ado en
un obo . Sin emba go, en un u u o se plan ea modi ica
dicho sis ema, pa a amplia su uncionalidad y pode cons ui
un sis ema de ale as sob e posibles incidencias en iempo
eal. De es a mane a el sis ema no se cen a ´
a´
unicamen e en
gene a explicaciones sino que ambi´
en end ´
a uncionalidades
p opias de un IDS.
AGRADECIMIENTOS
Es e abajo ha sido pa cialmen e inanciado po el Plan de
Recupe aci´
on, T ans o maci´
on y Resiliencia, inanciado po
la Uni´
on Eu opea (Nex Gene a ion) g acias al p oyec o TES-
CAC (T azabilidad y Explicabilidad en Sis emas Au ´
onomos
pa a la mejo a de la Cibe segu idad) concedido po INCIBE
a la Uni e sidad de Le´
on.
Es e abajo ha sido inanciado po EDMAR:
G an PID2021-126592OB-C21 inanciado po
MCIN/AEI/10.13039/501100011033.
Da id Sob ´
ın Hidalgo ag adece una beca pa a inancia sus
es udios de doc o ado p opo cionada po la Uni e sidad de
Le´
on.
REFERENCIAS
[1] F. K. Doˇ
silo i´
c, M. B ˇ
ci´
c, and N. Hlupi´
c, “Explainable a i icial in elli-
gence: A su ey,” in 2018 41s In e na ional Con en ion on In o ma ion
and Communica ion Technology, Elec onics and Mic oelec onics (MI-
PRO), 2018, pp. 0210–0215.
[2] T. Sakai and T. Nagai, “Explainable au onomous obo s: a su ey and
pe spec i e,” Ad anced Robo ics, ol. 36, no. 5-6, pp. 219–238, 2022.
[Online]. A ailable: h ps://doi.o g/10.1080/01691864.2022.2029720
[3] U. Eu opea, “Reglamen o (ue) 2016/679 del pa lamen o eu opeo y del
consejo de 27 de ab il de 2016 ela i o a la p o ecci´
on de las pe sonas
´
ısicas en lo que espec a al a amien o de da os pe sonales ya la lib e
ci culaci´
on de es os da os y po el que se de oga la di ec i a 95/46/ce
( eglamen o gene al de p o ecci´
on de da os)( ex o pe inen e a e ec os
del eee),” 2021.
[4] S. Macenski, T. Foo e, B. Ge key, C. Lalance e, and W. Woodall,
“Robo ope a ing sys em 2: Design, a chi ec u e, and uses in he wild,”
Science Robo ics, ol. 7, no. 66, p. eabm6074, 2022. [Online]. A aila-
ble: h ps://www.science.o g/doi/abs/10.1126/sci obo ics.abm6074
[5] N. Capuano, G. Fenza, V. Loia, and C. S anzione, “Explainable a i icial
in elligence in cybe secu i y: A su ey,” IEEE Access, ol. 10, pp.
93 575–93 600, 2022.
D. Sob ´ın Hidalgo, I. Gonz´alez Fe n´andez, M. A. Gonz´alez San ama a, A. Campazas Vega,
A. M. Gue e o Higue as, F. J. Rod ´ıguez Le a and V. Ma ell´an Oli e a
650
[6] A. Kucha a y, Z. Schillaci, L. Ma ´
echal, M. W¨
u sch, L. Dolamic, R. Sa-
bonnadie e, D. P. Da id, A. Me moud, and V. Lende s, “Fundamen als
o gene a i e la ge language models and pe spec i es in cybe -de ense,”
2023.
[7] M. Gup a, C. Aki i, K. A yal, E. Pa ke , and L. P aha aj, “F om cha gp
o h ea gp : Impac o gene a i e ai in cybe secu i y and p i acy,” IEEE
Access, ol. 11, pp. 80218–80245, 2023.
[8] H. Li, Y. Chen, J. Luo, Y. Kang, X. Zhang, Q. Hu, C. Chan, and
Y. Song, “P i acy in la ge language models: A acks, de enses and
u u e di ec ions,” 2023.
[9] F. N. Mo lagh, M. Hajizadeh, M. Majd, P. Naja i, F. Cheng, and
C. Meinel, “La ge language models in cybe secu i y: S a e-o - he-a ,”
a Xi p ep in a Xi :2402.00891, 2024.
[10] Y. Zhang, W. Song, Z. Ji, Dan eng, Yao, and N. Meng, “How well does
LLM gene a e secu i y es s?” a Xi e-p in s, p. a Xi :2310.00710, Oc .
2023.
[11] OpenAI, “Gp -4 echnical epo ,” 2024.
[12] E. Aghaei, X. Niu, W. Shadid, and E. Al-Shae , “Secu ebe : A domain-
speci ic language model o cybe secu i y,” in Secu i y and P i acy in
Communica ion Ne wo ks, F. Li, K. Liang, Z. Lin, and S. K. Ka sikas,
Eds. Cham: Sp inge Na u e Swi ze land, 2023, pp. 39–56.
[13] J. De lin, M.-W. Chang, K. Lee, and K. Tou ano a, “Be : P e- aining
o deep bidi ec ional ans o me s o language unde s anding,” 2019.
[14] J. Kim, J. M. Sme eka, C. Cheung, S. Nepal, and M. G oble , “Secu i y
and pe o mance conside a ions in os 2: A balancing ac ,” a Xi
p ep in a Xi :1809.09566, 2018.
[15] B. Diebe , R. Whi e, S. Tau e , B. B eiling, G. Caiazza, H. Ch is ensen,
and A. Co esi, “Pene a ion es ing os,” Robo Ope a ing Sys em (ROS)
The Comple e Re e ence (Volume 4), pp. 183–225, 2020.
[16] R. R. Teixei a, I. P. Mau ell, and P. L. D ews, “Secu i y on os: analy-
zing and exploi ing ulne abili ies o os-based sys ems,” in 2020 La in
Ame ican Robo ics Symposium (LARS), 2020 B azilian Symposium on
Robo ics (SBR) and 2020 Wo kshop on Robo ics in Educa ion (WRE),
2020, pp. 1–6.
[17] J. McClean, C. S ull, C. Fa a , and D. Masca enas, “A p elimina y
cybe -physical secu i y assessmen o he obo ope a ing sys em ( os),”
in Unmanned sys ems echnology x , ol. 8741. SPIE, 2013, pp. 341–
348.
[18] T. Bonaci, J. Yan, J. He on, T. Kohno, and H. J. Chizeck, “Expe imen al
analysis o denial-o -se ice a acks on eleope a ed obo ic sys ems,” in
P oceedings o he ACM/IEEE six h in e na ional con e ence on cybe -
physical sys ems, 2015, pp. 11–20.
[19] D. Sob ´
ın-Hidalgo, M. A. Gonz´
alez-San ama a, ´
Angel M. Gue e o-
Higue as, F. J. Rod ´
ıguez-Le a, and V. Ma ell´
an-Oli e a, “Explaining
au onomy: Enhancing human- obo in e ac ion h ough explana ion ge-
ne a ion wi h la ge language models,” 2024.
[20] H. Chase, “LangChain,” Oc . 2022. [Online]. A ailable: h ps:
//gi hub.com/langchain-ai/langchain
[21] Y. Gao, Y. Xiong, X. Gao, K. Jia, J. Pan, Y. Bi, Y. Dai, J. Sun, Q. Guo,
M. Wang, and H. Wang, “Re ie al-augmen ed gene a ion o la ge
language models: A su ey,” 2024.
[22] E. Beeching, C. Fou ie , N. Habib, S. Han, N. Lambe , N. Rajani,
O. Sanse ie o, L. Tuns all, and T. Wol , “Open llm leade boa d,” 2023.
[Online]. A ailable: {h ps://hugging ace.co/spaces/HuggingFaceH4/
open llm leade boa d}
[23] N. Muennigho , N. Tazi, L. Magne, and N. Reime s, “M eb: Massi e
ex embedding benchma k,” a Xi p ep in a Xi :2210.07316, 2022.
[Online]. A ailable: h ps://a xi .o g/abs/2210.07316
[24] A. M. D´
ıez, A. C. Vega, B. J. de Cas o, C. ´
A. Apa icio, I. S. C.
Ma ´
ınez, and ´
A. M. G. Higue as, “E aluaci´
on de la segu idad en el
obo cuad ´
upedo a1 de uni ee obo ics,” in Ac as de las VIII Jo nadas
Nacionales de In es igaci´
on en Cibe segu idad: Vigo, 21 a 23 de junio
de 2023. Uni e sidade de Vigo, 2023, pp. 133–138.
Explicabilidad aplicada a cibe segu idad en sis emas au ´onomos: Un en oque basado en
LLMs pa a la de ecci´on o ense de amenazas
651