REVISTA DE ESTUDIOS EUROPEOS, 85 (2025): 588-619
ISSN 2530-9854
La aplicación de la In eligencia A i icial en los con oles
de las on e as ex e io es de la Unión Eu opea:
Regulación y desa íos
The Applica ion o A i icial In elligence in he Ex e nal
Bo de Con ols o he Eu opean Union: Regula ion and
Challenges
SANDRA ALONSO TOMÉ
Uni e sidad de Bu gos
[email p o ec ed]
ORCID: 0000-0002-1645-8265
Recibido: 9/07/2024. Acep ado: 14/12/2024.
Cómo ci a : Alonso Tomé, Sand a, “La aplicación de la in eligencia a i icial en los
con oles de las on e as ex e io es de la Unión Eu opea: Regulación y desa íos”, Re is a
de Es udios Eu opeos 85 (2025): 588-619.
A ículo de acceso abie o dis ibuida bajo una Licencia C ea i e Commons A ibución
4.0 In e nacional (CC-BY 4.0)
DOI: h ps://doi.o g/10.24197/ ee.85.2025.588-619
Resumen: La in eg ación de la In eligencia A i icial (IA) en los con oles on e izos de la Unión
Eu opea (UE) ha gene ado un in enso deba e sob e sus implicaciones ecnológicas, é icas y
legales. Es e a ículo explo a cómo se es á u ilizando la IA en la ges ión de las on e as ex e io es
de la UE, examinando los dilemas é icos, los de echos humanos y el ma co legal y egula o io
asociados con su implemen ación. En úl ima ins ancia, busca omen a una e lexión sob e cómo
abo da los e os de la IA con un en oque é ico que p io ice el espe o po la dignidad y los
de echos de cada indi iduo.
Palab as cla e: on e as de la Unión Eu opea; nue as ecnologías en el con ol on e izo; ley de
in eligencia a i icial; egulación é ica de la in eligencia a i icial; excelencia ecnológica.
Abs ac : The in eg a ion o A i icial In elligence (AI) in o he bo de con ols o he Eu opean
Union (EU) has spa ked in ense deba e ega ding i s echnological, e hical, and legal implica ions.
This a icle explo es how AI is being used in managing he EU's ex e nal bo de s, examining he
e hical dilemmas, human igh s, and legal and egula o y amewo k associa ed wi h i s
implemen a ion. Ul ima ely, i aims o os e e lec ion on add essing he challenges o AI wi h an
e hical app oach ha p io i izes espec o he digni y and igh s o e e y indi idual.
Keywo ds: bo de s o he Eu opean Union; new echnologies in bo de con ol; a i icial
in elligence ac ; e hical egula ion o a i icial in elligence; echnological excellence.
La aplicación de la in eligencia a i icial en los con oles de las on e as… 589
REVISTA DE ESTUDIOS EUROPEOS, 85 (2025): 588-619
ISSN 2530-9854
INTRODUCCIÓN
La in eg ación de la In eligencia A i icial (IA) ha ans o mado
nues a in e acción con el mundo, y uno de los ámbi os más c í icos de es a
e olución es el con ol on e izo. En un con ex o donde la Unión Eu opea
(UE) debe ges iona sus on e as ex e io es en medio de la mo ilidad
humana y amenazas de segu idad, la IA p ome e mejo a la e iciencia y
segu idad. No obs an e, es e a ance ecnológico plan ea dilemas
impo an es, como equilib a la segu idad con el espe o a los de echos
undamen ales en la ges ión mig a o ia.
La implemen ación de la IA en con oles on e izos plan ea
cues iones é icas y de alo es, especialmen e en lo e e en e a la
manipulación de g andes olúmenes de da os pe sonales. La UE se
es ue za po es ablece un ma co egula o io que a monice la inno ación
ecnológica con los p incipios de jus icia y dignidad humana. La ges ión y
p ocesamien o de da os en es e con ex o conlle a iesgos po enciales pa a
la p i acidad y los de echos undamen ales, lo que hace que ambos
aspec os es én es echamen e inculados.
El deba e sob e la IA en igilancia y con ol on e izo esal a
p eocupaciones sob e p i acidad, au onomía y disc iminación. Aunque se
pe sigue la impa cialidad y p ecisión ecnológica, exis e el iesgo de
pe pe ua p ejuicios. El desa ío adica en ga an iza que la IA si a al bien
común sin comp ome e la p i acidad ni la dignidad de las pe sonas.
La e ec i idad de la IA en segu idad on e iza debe encon a un
equilib io con la p o ección de las libe ades ci iles, e i ando una sociedad
de igilancia. Es e equilib io equie e un ma co legal lexible, capaz de
e oluciona con la ecnología pa a p o ege los de echos undamen ales y
omen a una inno ación segu a y é ica. Es e deba e aba ca la
implemen ación ecnológica y el u u o de la sociedad, en busca de
a moniza segu idad y e iciencia con jus icia y equidad.
Es e a ículo explo a la aplicación de la IA en los con oles on e izos
de la UE, en en ando las in e secciones en e ecnología, é ica y
legislación. Abo damos cues iones como el uso de la IA pa a mejo a la
segu idad sin comp ome e los de echos humanos, la p epa ación del
ma co legisla i o de la UE an e la in eg ación de la IA en los con oles
on e izos, y las di ec ices necesa ias pa a una implemen ación
esponsable.
Se p e ende, en p ime luga , e isa el ma co legal que ige el uso de
la IA en los con oles on e izos de la UE. En segundo luga , e alua los
590 Sand a Alonso Tomé
REVISTA DE ESTUDIOS EUROPEOS, 85 (2025): 588-619
ISSN 2530-9854
desa íos y opo unidades que su gen de su implemen ación, e elando la
complejidad inhe en e a es as soluciones. Po úl imo, se examina án los
sis emas y agencias ac uales de la UE pa a en ende cómo se es á
u ilizando la IA en la ealidad, in i ando a una e lexión p o unda sob e el
impac o de es as ecnologías en la sociedad.
1. MARCO LEGAL EN MATERIA DE INTELIGENCIA ARTIFICIAL DE LA
UNIÓN EUROPEA
El de echo de i ado de la UE, en es a ma e ia, ha sido p olí ico. Desde
la e us a Comunicación de la Comisión en el sec o de la in o má ica, de
5 de junio de 1985
1
, has a el ac ual Reglamen o de In eligencia A i icial
(UE) 2024/1689, de 13 de junio de 2024 po el que se es ablecen no mas
a monizadas en ma e ia de in eligencia a i icial (Ley de In eligencia
A i icial)
2
. En aquella Comunicación en la que ya se encuen a la génesis
de es as nue as ecnologías y de la IA, pueden iden i ica se muchas
p ác icas hoy habi uales. En ella se hablaba de:
“p oyec os en los siguien es campos: Telein o má ica, en pa icula :
ges ión de sis emas dis ibuidos, ac o es humanos en sis emas de
elein o má ica, comunicación g upal en sis emas de mensajes dis ibuidos,
mecanismos de segu idad pa a sis emas de elein o má ica, écnicas de
desc ipción o mal pa a p o ocolos y se icios, bases de da os dis ibuidas,
écnicas de i ma elec ónica; e IA y econocimien o de pa ones, en
pa icula : eo ía y écnicas básicas pa a la IA, diseño, uso e impac o de
sis emas basados en IA, econocimien o de pa ones basado en
conocimien o”
3
.
1
Comisión Eu opea, Comunicación de la Comisión en el sec o de la in o má ica:
con oca o ia de p opues as de p oyec os de coope ación en ma e ia de in es igación
básica en los ámbi os de la elein o má ica, la in eligencia a i icial y el econocimien o
de o mas, de 5 de junio de 1985 (DO C 137 de 5.6.1985, p. 3).
2
Reglamen o (UE) 2024/1689 del Pa lamen o Eu opeo y del Consejo, de 13 de junio de
2024, po el que se es ablecen no mas a monizadas en ma e ia de in eligencia a i icial y
po el que se modi ican los Reglamen os (CE) 300/2008, (UE) 167/2013, (UE) 168/2013,
(UE) 2018/858, (UE) 2018/1139 y (UE) 2019/2144 y las Di ec i as 2014/90/UE, (UE)
2016/797 y (UE) 2020/1828, (DO L 2024/1689, 12.7.2024).
3
Comisión Eu opea, Comunicación de la Comisión en el sec o de la in o má ica..., op.
ci ., p. 3.
La aplicación de la in eligencia a i icial en los con oles de las on e as… 591
REVISTA DE ESTUDIOS EUROPEOS, 85 (2025): 588-619
ISSN 2530-9854
En 1995 se ap obó la Di ec i a 95/46/CE de 24 de oc ub e de 1995
4
.
La Di ec i a, de ogada desde 2018 po el Reglamen o Gene al de
P o ección de Da os
5
(RGPD) ue una no ma cla e en su momen o pa a el
manejo de da os pe sonales, aplicable an o a sis emas au oma izados
como a egis os en papel, pe o dejaba ue a usos pu amen e pe sonales o
domés icos, y ámbi os como la segu idad nacional. Es a Di ec i a des acó
po sub aya la necesidad de p o ege los da os con a accesos o usos
indebidos, p omo iendo un a amien o segu o y esponsable. Es o incluía
a isa a las au o idades compe en es sob e cualquie ac i idad de
p ocesamien o y anima a la c eación de guías de buenas p ác icas. Pa a
que la in o mación c uza a las on e as, se exigía un ni el de segu idad
especí ico y adecuado. Así, la Di ec i a sen ó las bases pa a una e a de
mayo anspa encia y cuidado en el a amien o de la in o mación
pe sonal, e lejando un comp omiso con la p o ección de la p i acidad y
los de echos indi iduales
6
.
El ac ual RGPD, ap obado en 2018, ha ans o mado la mane a en que
se manejan los da os pe sonales, b indando un mayo con ol y segu idad
a las pe sonas. Aho a, se pe mi e una mejo ges ión de cómo se u ilizan los
da os, an o po pa e de emp esas como po en idades públicas, con la
excepción de los casos policiales que se igen po o a no ma i a
7
. Es e
Reglamen o e ue za los de echos de acceso y sup esión de da os y acili a
la ans e encia de in o mación pe sonal en e se icios de mane a
sencilla. Si los da os es án en iesgo, el RGPD asegu a que se in o me a
las pe sonas a ec adas, aumen ando la con ianza en los se icios
u ilizados. Además, se es ablecen au o idades independien es enca gadas
4
Di ec i a 95/46/CE del Pa lamen o Eu opeo y del Consejo, de 24 de oc ub e de 1995,
ela i a a la p o ección de las pe sonas ísicas en lo que espec a al a amien o de da os
pe sonales y a la lib e ci culación de es os da os (DO L 281, de 23.11.1995, p. 31-50).
5
Reglamen o (UE) 2016/679 del Pa lamen o Eu opeo y del Consejo, de 27 de ab il de
2016, ela i o a la p o ección de las pe sonas ísicas en lo que espec a al a amien o de
da os pe sonales y a la lib e ci culación de es os da os y po el que se de oga la Di ec i a
95/46/CE, (DO L 119, de 4.5.2016, p. 1-88).
6
Eu -Lex, Sín esis del documen o La Di ec i a 95/46/CE, <h ps://eu -
lex.eu opa.eu/legal-con en /ES/LSU/?u i=celex:31995L0046>,(Consul ado 15.3.2024).
7
Di ec i a (UE) 2016/680 del Pa lamen o Eu opeo y del Consejo, de 27 de ab il de 2016,
ela i a a la p o ección de las pe sonas ísicas en lo que espec a al a amien o de da os
pe sonales po pa e de las au o idades compe en es pa a ines de p e ención,
in es igación, de ección o enjuiciamien o de in acciones penales o de ejecución de
sanciones penales, y a la lib e ci culación de dichos da os y po la que se de oga la
Decisión Ma co 2008/977/JAI del Consejo, (DO L 119, de 4.5.2016, p. 89-131).
592 Sand a Alonso Tomé
REVISTA DE ESTUDIOS EUROPEOS, 85 (2025): 588-619
ISSN 2530-9854
de supe isa el cumplimien o de es as no mas. Es a medida, que o ma
pa e de una ac ualización más amplia en la UE, busca no solo el
c ecimien o económico digi al sino ambién p o ege la p i acidad y los
de echos de las pe sonas, y ep esen a un equilib io en e el
ap o echamien o de la ecnología y la p ese ación de los alo es
undamen ales
8
. En mi opinión, aunque el RGPD ha sido un g an paso
hacia la p o ección de los de echos undamen ales en elación con los da os
pe sonales, c eemos que es e ma co egulado puede queda se co o en e
a los nue os desa íos que plan ea la IA. La capacidad de es a ecnología
pa a p ocesa g andes olúmenes de da os y oma decisiones
au oma izadas in oduce iesgos adicionales que, a nues o juicio,
equie en una egulación más especí ica, especialmen e en lo que espe a
a la anspa encia y la posible apa ición de sesgos en los algo i mos.
La legislación en el ámbi o de la IA ha expe imen ado un no able
a ance en los úl imos años, e lejando el comp omiso de la UE con la
ans o mación digi al. Aunque el RGPD y su p edeceso a ue on c uciales
en ese ámbi o pa a pone un pun o de in lexión en la p o ección de los
da os pe sonales, o man pa e de un ma co mucho más amplio que incluye
inicia i as como la Agenda Digi al pa a Eu opa y la Es a egia pa a el
Me cado Único Digi al. Recien emen e, la UE ha lanzado la Década
Digi al
9
, cen ada en cua o pun os cla e pa a la ans o mación digi al
has a 2030. Es as polí icas se impulsan median e la co inanciación de
p oyec os plu inacionales en e Coope ación Eu opea en Ciencia y
Tecnología (COST)
10
y la UE.
En 2016, se p esen ó po pa e de la Comisión Eu opea el denominado
paque e de “Sma Bo de s”, que incluye una se ie de medidas ales como
la c eación del Sis ema de En ada y Salida (SES) y las consiguien es
modi icaciones al Código de Schengen
11
. Es as acciones enían como
8
Eu -Lex, Sín esis del documen o Reglamen o (UE) 2016/679, < h ps://eu -
lex.eu opa.eu/legal-con en /ES/LSU/?u i=celex:32016R0679>, (Consul ado 15.3.2024).
9
Comisión Eu opea, Comunicación de la Comisión al Pa lamen o Eu opeo, al Consejo,
al Comi é Económico y Social Eu opeo y al Comi é de las Regiones: B újula Digi al
2030: el en oque de Eu opa pa a el Decenio Digi al, B uselas, 9.3.2021 (COM(2021)
118).
10
COST, se es ableció en 1971, juega un papel c ucial como una de las edes
in e gube namen ales más in luyen es que p omue en la coope ación en in es igación
cien í ica y écnica en Eu opa.
11
Reglamen o (UE) 2017/2225 del Pa lamen o Eu opeo y del Consejo, de 30 de
no iemb e de 2017, po el que se modi ica el Reglamen o (UE) 2016/399 en lo que
La aplicación de la in eligencia a i icial en los con oles de las on e as… 593
REVISTA DE ESTUDIOS EUROPEOS, 85 (2025): 588-619
ISSN 2530-9854
obje i o mejo a la ges ión de las on e as ex e io es de los EEMM
(EEMM), comba i la mig ación i egula y p opo ciona in o mación
sob e los nacionales de e ce os Es ados que exceden los pe íodos de
es ancia pe mi idos
12
.
Además, la Comisión Eu opea ha apoyado el desa ollo de la IA como
he amien a cla e pa a la e olución es a égica de Eu opa y la Agenda
ecológica y digi al, buscando a moniza y es ablece un ma co eu opeo.
Aunque alo amos es e es ue zo, c eemos que la no ma i a debe ía se
más lexible pa a adap a se a los ápidos cambios ecnológicos,
especialmen e en elación con iesgos como la p i acidad y la
disc iminación algo í mica.
El uso de IA en las on e as de la UE pa a la iden i icación de
pe sonas, aunque adecuado pa a la segu idad in e na, plan ea desa íos en
los de echos undamen ales. Se han u ilizado ecnologías digi ales,
incluidas la IA y da os biomé icos, pa a moni o ea a mig an es y
solici an es de asilo, con un en oque que a eces iende más hacia la
c iminalización y el obs áculo de su en ada. En consecuencia, se han
gene ado si uaciones en las que el uso de es as ecnologías puede da como
esul ado la iolación de de echos undamen ales econocidos po
ins umen os in e nacionales, como la Ca a de De echos Fundamen ales
de la UE o la Con ención Eu opea de De echos Humanos
13
. En nues a
opinión, aunque las es icciones sob e el uso de la iden i icación
biomé ica y el en oque come cial de la IA plan ean algunos desa íos sob e
la e ec i idad de la no ma i a, c eo i memen e que deben busca se o mas
de asegu a que la IA aplicada al con ol on e izo uncione de mane a
e icien e . Conside amos que es a ecnología iene un g an po encial pa a
mejo a la segu idad en las on e as, y su implemen ación adecuada
pod ía se una he amien a e dade amen e ú il pa a ges iona los lujos
mig a o ios y ga an iza la segu idad in e na sin comp ome e los de echos
undamen ales.
espec a a la u ilización del Sis ema de En adas y Salidas (DO L 327, de 9.12.2017, p. 1-
19).
12
Eu -Lex, Sín esis del documen o: F on e as in eligen es: Sis ema de En adas y Salidas
de la Unión Eu opea, < h ps://eu -lex.eu opa.eu/legal-
con en /ES/LSU/?u i=CELEX:32017R2225 >, (Consul ado 18.3.2024).
13
A ello Ma inez, M., (2023). “EU Bo de s and Po en ial Con lic s be ween New
Technologies and Human Righ s”. Peace & Secu i y – Paix e Sécu i é In e na ionales,
n.º 11, p. 2-5.
594 Sand a Alonso Tomé
REVISTA DE ESTUDIOS EUROPEOS, 85 (2025): 588-619
ISSN 2530-9854
Desde 2017, las ins i uciones de la UE han in ensi icado sus es ue zos
pa a egula la IA, pasando de cen a se solo en sis emas y agencias de
segu idad y con ol. Es as acciones incluyen la adopción de decla aciones,
in o mes de expe os, hojas de u a, lib os blancos y p opues as
egula o ias. El obje i o es e i a una si uación simila a la de In e ne ,
cuya egulación se es á abo dando décadas después de su uso gene alizado.
En el con ex o de la IA, se p omue e una isión “hecha en Eu opa”,
undamen ada en un en oque é ico des inado a sal agua da los de echos
undamen ales y el impe io de la ley, mien as se abaja en es ablece un
ma co no ma i o cla o que omen e el desa ollo ecnológico en oda la
UE
14
. Es amos de acue do con es e en oque, pe o nues a expec a i a sob e
la egulación de la IA pasa po adap a la a los p incipios y de echos
humanos, sin es ingi o limi a su a ance. C eo que es posible cons ui
un ma co é ico obus o que p o eja los de echos undamen ales, al mismo
iempo que se omen a la inno ación y el c ecimien o ecnológico en la
egión.
En ab il de 2021, se p esen a on po pa e de la Comisión Eu opea una
se ie de medidas sob e IA, que incluyen una Comunicación des inada a
omen a un en oque eu opeo en es e ámbi o, una p opues a pa a es ablece
un ma co egula o io sob e IA y su co espondien e e aluación de
impac o
15
, así como una e isión del Plan Coo dinado de IA jun o con los
EEMM de la UE. Con ello, como indica Tegan Cohen, se dio “un paso
signi ica i o hacia la imposición de es icciones legales, p oponiendo un
nue o égimen legal sui gene is pa a los sis emas de AI”
16
. Es e paso hacia
una egulación especí ica es, en mi opinión, c ucial pa a e i a un acío
no ma i o que pod ía gene a ince idumb e an o pa a los desa ollado es
14
Co ino Hueso, L., (2021), “La Unión Eu opea a a egula la in eligencia a i icial pa a
oda una gene ación ecnológica y humana”. Bole ines del Obse a o io Ju ídico
Ae oespacial, n.º 1, mayo, p. 68-69.
15
Comisión Eu opea (2021), Commission s a wo king documen impac assessmen ,
Accompanying he P oposal o a Regula ion o he Eu opean Pa liamen and o he
Council, laying down ha monised ules on a i icial in elligence (a i icial in elligence
ac ) and amending ce ain union legisla i e ac s, de 21 de ab il, (COM (2021) 206 inal),
p. 48-58, que e alúan los desa íos legales y las iolaciones de de echos undamen ales
asociados con la IA, señalando la al a de e idencia sólida debido a la escasez de da os y
mecanismos de moni o eo. Se p opone una e aluación inicial del iesgo de los sis emas
de IA y se des aca la necesidad de equisi os cla os pa a los sis emas de IA de al o iesgo,
sin obs aculiza la inno ación.
16
Cohen, T., (2023), “Regula ing Manipula i e A i icial In elligence”, SCRIPTed: A
Jou nal o Law, Technology and Socie y, Vol. 20, n.º 1, eb e o, p. 203-242, esp. p. 205.
La aplicación de la in eligencia a i icial en los con oles de las on e as… 595
REVISTA DE ESTUDIOS EUROPEOS, 85 (2025): 588-619
ISSN 2530-9854
como pa a los usua ios. En opinión de An onio Es ella, la Comisión
p e ende sob e odo “inc emen a la con ianza en el uso de la IA”
17
.
Es amos de acue do con es e en oque, pues la con ianza en la IA se á cla e
pa a su adopción gene alizada y pa a que los ciudadanos se sien an segu os
espec o a su uso. Sin emba go, c eemos que es necesa io segui igilando
que es as egulaciones no limi en el po encial de inno ación.
En conc e o, y a nues o modo de e , debe ema ca se, po lo que
aquí in e esa, que es a e isión se en oca en:
“Acele a las in e siones en ecnologías de IA pa a impulsa una
ecupe ación económica y social esilien e, con la ayuda de la adopción de
nue as soluciones digi ales, implemen a plena y ápidamen e es a egias y
p og amas de IA pa a ga an iza que la UE maximice las en ajas de se un
adop an e emp ano y alinea la polí ica de IA pa a elimina la agmen ación
y abo da los desa íos globales”
18
.
Conside amos que, si bien es e en oque p agmá ico es esencial,
ambién debemos ene cuidado de no sob ees ima la capacidad de la IA
pa a soluciona odos los p oblemas sociales o económicos. Es necesa io
man ene un en oque equilib ado que no sac i ique la segu idad y los
de echos en a as del c ecimien o económico.
Además, el 18 de ene o de 2024, se adop ó la Comunicación
In eligencia A i icial en la Comisión Eu opea (AI@EC)
19
, donde se
delinea on es a egias pa a mejo a las p opias capacidades de la Comisión
en el ámbi o de la IA. Se sub ayó la impo ancia de u iliza es as
ecnologías de mane a segu a, anspa en e y cen ada en el se humano.
Es as di ec ices mo i a on a la Comisión a adap a se in e namen e,
17
Po lo que, con cohe encia, en su es udio analiza la cues ión de la con ianza y la AI,
dando espues a a una se ie de in e ogan es elacionados con ellas. Es ella, An onio
(2023), “T us in A i icial In elligence: Analysis o he Eu opean Commission P oposal
o a Regula ion o A i icial In elligence”, Indiana Jou nal o Global Legal S udies, Vol.
30, n. º 1, Win e 2023, p. 39-64, esp. p. 39.
18
Comisión Eu opea (2021), Anexos de la Comunicación de la Comisión al Pa lamen o
Eu opeo, al Consejo Eu opeo, al Consejo, al Comi é Económico y Social Eu opeo y al
Comi é de las Regiones, pa a omen a un plan eamien o eu opeo en ma e ia de
in eligencia a i icial, 21 de ab il, (COM (2021) 205 inal), esp. p. 2.
19
Comisión Eu opea (2024), Communica ion o he Commission A i icial In elligence in
he Eu opean Commission (AI@EC). A s a egic ision o os e he de elopmen and use
o law ul, sa e and us wo hy. A i icial In elligence sys ems in he Eu opean
Commission, 24 de ene o, (C (2024) 380 inal).
596 Sand a Alonso Tomé
REVISTA DE ESTUDIOS EUROPEOS, 85 (2025): 588-619
ISSN 2530-9854
inno a y adop a la IA desde sus inicios pa a es ablece un es ánda de
buenas p ác icas. De hecho, dicha ins i ución ya ha empezado a
implemen a la IA en a ios depa amen os, con p oyec os adicionales en
desa ollo. Po ejemplo, se u ilizan sis emas de IA como eT ansla ion y
eSumma y pa a p opo ciona se icios de aducción au omá icos y
esúmenes de documen os en las 24 lenguas o iciales de la UE.
Po o a pa e, la Comisión c eó la O icina Eu opea de IA
20
. La
O icina, in oducida en el Reglamen o (UE) 2024/1689 del Pa lamen o
Eu opeo y del Consejo, de 13 de junio de 2024, en el a . 55b, supe isa á
los a ances en los modelos de IA y desempeña á un papel cla e en la
in es igación, p uebas y aplicación del Reglamen o
21
. Pa a p epa a se pa a
la implemen ación del Reglamen o de IA, la Decisión en ó en igo de
mane a u gen e el 21 de eb e o de 2024, suje a a e isión as la adopción
del Reglamen o, igen e desde el 1 de agos o de 2024 y que se á
comple amen e aplicable a pa i del 2 de agos o de 2026. La O icina es a á
bajo la au o idad de la Comisión y se á pa e de la es uc u a adminis a i a
de la Di ección Gene al de Redes de Comunicación, Con enidos y
Tecnología, suje a a su plan anual de ges ión
22
.
En odo caso, el p incipal obje i o de la Es a egia Eu opea de IA es
si ua a la UE como un cen o de excelencia mundial en el ámbi o de la IA.
Es e p opósi o no solo aba ca el impulso de in es igaciones y desa ollos
de angua dia, sino ambién el omen o de capacidades indus iales sólidas
en IA en oda Eu opa.
20
Comisión Eu opea, Decisión de la Comisión de 24 de ene o de 2024 po la que se
es ablece la O icina Eu opea de In eligencia A i icial, B uselas, 24 de ene o de 2024,
(C (2024) 390 inal).
21
Véase Ga cía And ade, P. (2023), “Tackling Mig a ion Ex e nally Th ough he EU
Common Fo eign and Secu i y Policy: A Ques ion o Legal Basis”, Eu opean Pape s,
Vol. 8, No. 2, pp. 959-984, que analiza la o ma en que la UE abo da la mig ación a a és
de la Polí ica Común de Segu idad y De ensa y sus implicaciones legales. Concluye que
la elección de la base legal pa a es as ope aciones es c ucial, ya que a ec a la delimi ación
de compe encias en e la PCSD y el Espacio de Libe ad, Segu idad y Jus icia (ELSJ) de
la UE, in luyendo en aspec os como la oma de decisiones y la p o ección judicial, además
de la segu idad ju ídica.
22
B. Fe nández, C., (2024), “La Comisión c ea la O icina de In eligencia A i icial, jun o
con un paque e de medidas pa a omen a la inno ación en ma e ia de IA”, dia io la ley,
en <h ps://dia iolaley.laleynex .es/dll/2024/02/02/la-comision-c ea-la-o icina-de-
in eligencia-a i icial-jun o-con-un-paque e-de-medidas-pa a- omen a -la-inno acion-
en-ma e ia-de-ia>, (Consul ado 30.3.2024).
La aplicación de la in eligencia a i icial en los con oles de las on e as… 603
REVISTA DE ESTUDIOS EUROPEOS, 85 (2025): 588-619
ISSN 2530-9854
deba e con inuo sob e soluciones ecnológicas y legisla i as que log en un
equilib io en e la segu idad on e iza y la p o ección de la p i acidad y
los de echos indi iduales. Po ejemplo, el desa ollo de ecnologías de IA
que minimicen la ecopilación o el almacenamien o de da os sensibles y
mejo en la segu idad de los da os, jun o con la implemen ación de
egulaciones más es ic as sob e el uso de la IA en con ex os on e izos,
pod ía ma ca el camino hacia un con ol on e izo más é ico y
esponsable. Es e en oque in eg al asegu a á que los a ances se lle en a
cabo espe ando los de echos undamen ales y la dignidad de odas las
pe sonas
38
.
Además, en elación con los de echos humanos, el uso de la IA en el
con ol on e izo susci a p o undas dudas sob e la p o ección del de echo
a la lib e ci culación y la p i acidad. Las decisiones au oma izadas en los
c uces on e izos, sin las debidas p o ecciones, pueden ulne a es os
de echos, pa icula men e cuando los sis emas mani ies an sesgos o
disc iminación hacia cie os g upos. La al a de anspa encia en el
uncionamien o de es os sis emas de IA
39
di icul a la comp ensión de sus
c i e ios y la de e minación de esponsabilidades an e posibles e o es o
acciones injus as, limi ando la endición de cuen as y es ingiendo la
capacidad de impugna decisiones conside adas injus as o
disc imina o ias.
Los sesgos cons i uyen un desa ío pa icula men e g a e en los sis emas
de econocimien o acial, ya que pueden in lui de mane a signi ica i a en
38
P esno Line a, M. Á., (2022), De echos undamen ales e in eligencia a i icial,
Ma cial Pons, Mad id, p. 37.
39
Véase, po ejemplo, STG de 15 de diciemb e de 2021, Pa ick B eye c. REA, as. T-
158/19 (ECLI:EU:T:2021:902), esp. apdo. 1-8. El caso se e ie e a la solici ud de acceso
a documen os p esen ada po el S . Pa ick B eye , en i ud del Reglamen o (CE)
1049/2001, sob e documen os elacionados con el p oyec o iBo de C l, inanciado bajo
el p og ama Ho izon e 2020. La Agencia Ejecu i a de In es igación denegó el acceso
o al o pa cial a a ios documen os, in ocando la p o ección de da os pe sonales y los
in e eses come ciales del conso cio. El T ibunal Gene al anuló pa cialmen e la decisión
de la REA, o denando que se conceda acceso pa cial a cie os documen os, como el
documen o D 2.1 (In o me de análisis de equisi os), que desc ibía p ocedimien os de
igilancia on e iza ya de dominio público. Sin emba go, denegó el acceso comple o a
documen os como el documen o D 8.1 (Plan de Ges ión de la Calidad), que con enía
in o mación de allada sob e la o ganización in e na del conso cio y p ocedimien os
écnicos, cuya di ulgación pod ía pe judica los in e eses come ciales de los
pa icipan es.
604 Sand a Alonso Tomé
REVISTA DE ESTUDIOS EUROPEOS, 85 (2025): 588-619
ISSN 2530-9854
la jus icia y e icacia de los con oles on e izos
40
. Po ejemplo, los
p ejuicios es e eo ipados pueden p o oca e o es de iden i icación y
disc iminación hacia de e minados g upos é nicos o de géne o
41
. Además,
la al a de ep esen a i idad en los da os de en enamien o o los sesgos de
mues eo pueden comp ome e la capacidad del sis ema pa a econoce
co ec amen e a indi iduos de di e sas poblaciones, mien as que las
limi aciones écnicas pueden conduci a in e p e aciones inco ec as de las
ca ac e ís icas aciales. Es c ucial abo da el sesgo algo í mico, que pod ía
esul a en decisiones o acciones injus as sob e quién puede o no c uza la
on e a. Ges iona es os sesgos y p o ege los da os u ilizados po los
sis emas du an e el desa ollo e implemen ación de ecnologías de
econocimien o acial en con ex os on e izos es esencial pa a ga an iza
una aplicación jus a y equi a i a de es as he amien as
42
.
Además, los e os o desa íos de la IA, p esen an no solo una e ien e
en lo que espec a a los de echos undamen ales, sino que como señala
Mon e o Zendejas hay que sub aya la u gencia de conciencia sob e el
impac o de la IA en la con i encia humana y la necesidad de ma cos
40
Cse na oni, R. (2018). “Cons uc ing he EU’s high- ech bo de s: FRONTEX and dual-
use d ones o bo de managemen ”, Eu opean Secu i y, Vol. 27, n.º2, p. 175-200, sob e
la es a egia de la UE pa a implemen a d ones en la ges ión de on e as, y ace ca de
como es as ecnologías es án no malizando un égimen de exclusión y mili a izando la
igilancia on e iza.
41
El Comi é de los De echos del Niño de la ONU ha condenado a España en a ias
ocasiones, des acando los años 2020 y 2023, po u iliza p ocedimien os inadecuados pa a
de e mina la edad de los MENAs. En algunos casos, las au o idades igno a on
documen os o iciales y se basa on en p uebas médicas como adiog a ías óseas, o la
nega i a a hace se es as ya que pueden se inexac as. Además, el Comi é señaló que las
decisiones omadas po las au o idades españolas es u ie on in luenciadas po p ejuicios
es e eo ipados, lo que esul ó en la expulsión de meno es bajo la p esunción de que e an
adul os, ulne ando de echos undamen ales como la iden idad, la p o ección especial y
la p esunción de mino ía de edad, éase en es e sen ido y como ejemplo: Eu opa P ess.
(2019, 26 de junio). “Comi é de De echos del Niño de la ONU condena a España po
decla a mayo es de edad a 2 'menas' pese a ene documen os”, Eu opa P ess online en
<h ps://www.eu opap ess.es>, (Consul ado 11.09.2024); Pla a o ma de In ancia. (n.d.).
Dic ámenes condena o ios del Comi é de De echos del Niño con a España, (Consul ado
11.09.2024). Véase más p o undamen e en Solanes Co ella, Á., y He nández Mo eno, N.
(2022). “El con o e ido p ocedimien o de e minación de la edad: la necesidad de una
e o ma legal a pa i de los dic ámenes del Comi é de De echos del Niño”, Re is a de
Es udios Eu opeos, n.º 80, p. 273-290.
42
Mullane, M., (2019): “La eliminación de los sesgos en los algo i mos”. La e is a de
la no malización española, n.º 11, en < h ps:// e is a.une.o g/11/la-eliminacion-de-los-
sesgos-en-los-algo i mos.h ml >, (Consul ado 26.02.24).
La aplicación de la in eligencia a i icial en los con oles de las on e as… 605
REVISTA DE ESTUDIOS EUROPEOS, 85 (2025): 588-619
ISSN 2530-9854
legales que asegu en los de echos humanos en e a la cibe c iminalización
y o os desa íos digi ales, a gumen ando que en e a es e pano ama se
deben ga an iza ma cos legales que asegu en la igencia del de echo
humano a la libe ad, la igualdad, y la jus icia
43
. A nues o pa ece , la
egulación de la IA debe ene siemp e como obje i o úl imo p ese a la
dignidad humana y la equidad, asegu ando p ime o que los a ances
ecnológicos se p oduzcan y que es os, se implemen en de mane a jus a y
espe uosa con los de echos indi iduales. En es e sen ido, conside amos
que la IA en el con ol on e izo debe a anza hacia un modelo de jus icia
digi al, donde la ecnología si a pa a p o ege y no pa a ulne a los
de echos de las pe sonas.
3. SISTEMAS DE IA EN LA GESTIÓN DE FRONTERAS EN LA
UNIÓN EUROPEA: CONSIDERACIONES SOBRE EL ESPACIO
DE LIBERTAD, SEGURIDAD Y JUSTICIA
La pe cepción gene alizada de la IA a menudo se cen a en
aplicaciones como el econocimien o acial, los sis emas de ap endizaje
au omá ico y los d ones p og amados. Sin emba go, es c ucial admi i que
las ecnologías implemen adas en las on e as aba can un espec o mucho
más amplio. Es as ecnologías no solo comp enden los concep os más
adicionales de IA mencionados p e iamen e, sino que ambién incluyen
la ges ión de da os biomé icos y el uso de edes sociales, demos ando la
di e sidad y complejidad de las he amien as empleadas en la ges ión
on e iza. En el con ex o de la UE, la inco po ación de la IA en las
on e as no ha sido un p oceso b usco, sino g adual, con pequeños pe o
decisi os pasos que han e olucionado signi ica i amen e la segu idad
on e iza en las úl imas décadas
44
. Va ios sis emas de IA y ecnologías
con e gen en el Espacio de Libe ad, Segu idad y Jus icia (ELSJ),
43
Mon e o Zendejas, D. (2023). “Hacia un de echo cuán ico puni i o en e al enómeno
del zombi digi al”, De ecom, 35, 1-18.
44
Véase Ga cía And ade, P., (2018), “EU ex e nal compe ences in he ield o mig a ion:
How o ac ex e nally when hinking in e nally”, Common Ma ke Law Re iew, Vol. 55,
nº. 1, p. 157-200, sob e las ías de acción que la UE u iliza pa a ges iona la mig ación,
más allá del eje cicio di ec o de sus compe encias ex e nas, en e las que des acan el uso
de la polí ica de coope ación al desa ollo y los pode es de la PESC pa a alcanza
obje i os de ges ión mig a o ia, de o ma g adual.
606 Sand a Alonso Tomé
REVISTA DE ESTUDIOS EUROPEOS, 85 (2025): 588-619
ISSN 2530-9854
desempeñando un papel c ucial en la ges ión de las on e as ex e io es y
la segu idad gene al de la UE
45
.
En e los sis emas implemen ados se encuen a el Sis ema de
In o mación de Schengen (SIS)
46
. El SIS es una he amien a cla e pa a el
con ol y la ges ión de on e as en la UE, acili ando el in e cambio de
in o mación en e las au o idades de los países miemb os pa a man ene la
segu idad y ges iona la mig ación. Pe mi e a las au o idades accede y
compa i ale as sob e pe sonas y obje os que pueden ep esen a una
amenaza pa a la segu idad pública o que se encuen an en si uaciones
i egula es. El SIS cons a de un sis ema cen al adminis ado po la
Agencia eu-LISA y sis emas nacionales en cada país, conec ados a a és
de una ed i ual segu a. Las no mas del SIS dic an que las desc ipciones
sean empo ales y e isadas egula men e, y que el uso de da os
biomé icos es é suje o a no ma i as de la UE y de echos undamen ales
47
.
Solo el país emiso puede modi ica los da os en el SIS, y se pueden añadi
45
San os Va a, J., (2015), “The ex e nal ac i i ies o AFSJ agencies: The weakness o
democ a ic and judicial con ols”, Eu opean Fo eign A ai s Re iew, ol. 20, n.º 1, sob e
la necesidad de con ol polí ico y judicial debido a su impac o en los de echos
undamen ales de las agencias, y señala la al a de a ención al ma co ju ídico y polí ico
de es as ac i idades en las di ec ices es a égicas del ELSJ.
46
Son es los eglamen os que dan o ma y e ue zan el Sis ema de In o mación
Schengen: Reglamen o (UE) 2018/1860 sob e la u ilización del Sis ema de In o mación
de Schengen pa a el e o no de nacionales de e ce os países en si uación i egula .
Reglamen o (UE) 2018/1861 ela i o al es ablecimien o, uncionamien o y u ilización del
Sis ema de In o mación de Schengen en el ámbi o de las inspecciones on e izas, po el
que se modi ica el Con enio de aplicación del Acue do de Schengen. Reglamen o (UE)
2018/1862 ela i o al es ablecimien o, uncionamien o y u ilización del Sis ema de
In o mación de Schengen en el ámbi o de la coope ación policial y de la coope ación
judicial en ma e ia penal.
47
Véase San os Va a, J., Ga cía And ade, P., & Molná , T. (2023). “The Ex e nalisa ion
o EU Mig a ion Policies in Ligh o EU Cons i u ional P inciples and Values:
Reconciling he I econcilable? An In oduc ion o he Special Sec ion”. Eu opean
Pape s, Vol. 8, n.º 2, p. 901-904, el a ículo concluye que las p ác icas de ex e nalización
a menudo se ealizan a expensas de la p o ección de los de echos humanos y la
anspa encia, plan eando desa íos signi ica i os pa a la legi imidad de la UE. Además,
des aca la c ecien e endencia a la in o malización en la coope ación con e ce os países,
lo que complica la supe isión judicial y la endición de cuen as. Sub aya además, la
necesidad de desa olla mecanismos adecuados pa a p o ege los de echos
undamen ales en ope aciones ex a e i o iales y se plan ea la posible esponsabilidad de
los EEMM bajo el de echo in e nacional en casos de coope ación que esul en en
iolaciones de de echos humanos.
La aplicación de la in eligencia a i icial en los con oles de las on e as… 607
REVISTA DE ESTUDIOS EUROPEOS, 85 (2025): 588-619
ISSN 2530-9854
indicaciones pa a señala la no acción en e i o io de un país bajo cie as
condiciones
48
.
El VIS
49
p omue e el in e cambio de da os sob e isados Schengen
de co a du ación, e o zando la polí ica común de isados y la
coope ación consula en e Es ados.
El SES
50
egis a median e documen os de iaje biomé icos, la
en ada y salida de nacionales de e ce os países, asis iendo en la
p e ención, de ección e in es igación de deli os de e o ismo y o os
deli os g a es.
El Sis ema Eu opeo de Compa ación de Imp esiones Dac ila es de los
Solici an es de Asilo (Eu odac)
51
, po su pa e, se des aca como una base
de da os biomé ica esencial pa a la UE, pues acumula las imp esiones
dac ila es de los solici an es de asilo, así como de los nacionales de
e ce os países. La unción p imo dial de Eu odac es acili a a los EEMM
la a ea de de e mina quién es esponsable de analiza una solici ud de
asilo, de al mane a que si un solici an e se desplaza a o o EM pod á se
econducido al Es ado en el que ue on omadas sus huellas. Se e i an así
duplicidades de solici udes o esoluciones con adic o ias.
En úl imo luga , el Sis ema Eu opeo de In o mación y Au o ización
de Viajes (SEIAV o ETIAS, po sus siglas en inglés)
52
es un sis ema
cen alizado que con ibuye a iden i ica iesgos elacionados con la
inmig ación i egula y la segu idad. Consis e en un sis ema de
au o izaciones, que ecoge de mane a digi alizada oda la in o mación
básica de los nacionales de e ce os países que no equie en isado pa a
48
Eu -Lex, Sín esis del documen o: Re ue zo del Sis ema de In o mación de Schengen,
<h ps://eu -lex.eu opa.eu/ES/legal-con en /summa y/a-s eng hened-schengen-
in o ma ion-sys em.h ml>, (Consul ado 30.3.2024).
49
Reglamen o (CE) 767/2008 sob e el Sis ema de In o mación de Visados y el
in e cambio de da os sob e isados de co a du ación en e los Es ados miemb os.
50
Son dos los eglamen os que dan o ma al SES: Reglamen o (UE) 2017/2226 po el que
se es ablece un Sis ema de En adas y Salidas pa a egis a los da os de los nacionales de
e ce os países que c ucen las on e as ex e io es de la Unión Eu opea y el Reglamen o
(UE) 2017/2225 po el que se modi ica el Código de on e as Schengen en lo que
espec a a la u ilización del Sis ema de En adas y Salidas.
51
Reglamen o (UE) 603/2013 ela i o a Eu odac, la base de da os dac iloscópicos de los
solici an es de asilo de la Unión Eu opea pa a compa a sus imp esiones dac ila es.
52
De inido po dos eglamen os: Reglamen o (UE) 2018/1240: es ablecimien o de un
Sis ema Eu opeo de In o mación y Au o ización de Viajes y el Reglamen o (UE)
2018/1241: modi icación del Reglamen o (UE) 2016/794 con obje o de es ablece el
Sis ema Eu opeo de In o mación y Au o ización de Viajes .
608 Sand a Alonso Tomé
REVISTA DE ESTUDIOS EUROPEOS, 85 (2025): 588-619
ISSN 2530-9854
en a en el espacio Schengen
53
. Aunque el ETIAS aún no es á
comple amen e ope a i o, plan ea impo an es cues iones sob e el p oceso
de oma de decisiones au oma izadas en el con ol on e izo. El sis ema
e alua á au omá icamen e las solici udes basándose en la in e ope abilidad
de da os, iden i icando posibles iesgos de segu idad y mig ación i egula .
Sin emba go, es o plan ea in e ogan es sob e la anspa encia de las
decisiones y los mecanismos de ecu so disponibles pa a las pe sonas a las
que se les niegue la en ada. La implemen ación de ETIAS se á una p ueba
cla e pa a equilib a la segu idad y el espe o a los de echos undamen ales
en el con ex o de la ges ión de on e as
54
.
Es e amplio espec o de aplicaciones y sis emas demues a el papel
undamen al de la IA y las ecnologías asociadas en la mode nización y el
o alecimien o de la segu idad on e iza en la UE. La in eg ación
so is icada y mul i acé ica de es as he amien as en las es a egias de
ges ión on e iza esal a su impo ancia c í ica.
Además de es os sis emas, la segu idad on e iza de la UE ecibe el
apoyo esencial de dos agencias p incipales: Gua dia Eu opea de F on e as
y Cos as (F on ex)
55
y la Agencia de la UE pa a la Ges ión Ope a i a de
Sis emas In o má icos de G an Escala (eu-LISA)
56
. F on ex, c eada pa a
asis i a los EEMM de la UE y a los asociados en la ges ión de sus on e as
ex e io es, p omue e el in e cambio de in o mación, la o mación y la
in es igación, y desempeña una g an labo en el ámbi o on e izo, a pesa
53
Ma ín A ibas, J. J., (2020), Ins i uciones y De echo de la Unión Eu opea, Cizu
Meno , Thomson Reu e s A anzadi, p. 488; Véase A ias Fe nández, G. (2014), “Las
on e as in eligen es en la Unión Eu opea”, Re is a Gene al de De echo Eu opeo, n.º
32, p. 1, sob e el á ico de pasaje os en los ae opue os de la UE y la necesidad de
mode niza los p ocedimien os de con ol on e izo.
54
Véase A ce Jiménez, C. (2023). “Las nue as ecnologías en las polí icas mig a o ias y
de con ol de on e as españolas y eu opeas. Un e o pa a la igencia de los de echos
undamen ales”, Es udios de Deus o: e is a de De echo Público,, Vol. 71, n.º 2, p. 15-
49, sob e el impac o de las nue as ecnologías en las polí icas mig a o ias y de con ol de
on e as an o en España como en la UE. Des aca cómo la c ecien e u ilización de
he amien as ecnológicas ha añadido nue os e os pa a la igencia de los de echos
undamen ales de los mig an es y hace hincapié en la necesidad de con igu a un ma co
polí ico-ju ídico que espe e es os de echos a lo la go del p oceso mig a o io,
p oponiendo al e na i as pa a una aplicación “ i uosa” de es as ecnologías en la
gobe nanza de la mo ilidad humana.
55
Reglamen o (UE) 2019/1896 sob e la Gua dia Eu opea de F on e as y Cos as.
56
Reglamen o (UE) 2018/1726 ela i o a la Agencia de la Unión Eu opea pa a la Ges ión
Ope a i a de Sis emas In o má icos de G an Magni ud en el Espacio de Libe ad,
Segu idad y Jus icia
La aplicación de la in eligencia a i icial en los con oles de las on e as… 609
REVISTA DE ESTUDIOS EUROPEOS, 85 (2025): 588-619
ISSN 2530-9854
de las c í icas ecibidas po su e icacia du an e las c isis mig a o ias
57
. Po
o o lado, eu-LISA se enca ga de la ges ión ope a i a de sis emas cla e
como el SIS, el VIS y Eu odac, p opo cionando el ma co necesa io pa a
asegu a la e icacia de es os sis emas y colabo ando es echamen e con los
EEMM, ins i uciones eu opeas y o os en es de la UE
58
.
Es e amplio espec o de aplicaciones y sis emas e idencia el papel
undamen al de la IA y las ecnologías asociadas en la mode nización y el
o alecimien o de la segu idad on e iza en la UE, que se mani ies a sob e
odo en la ges ión masi a de da os pe sonales, median e su ecopilación
po medios de documen os biomé icos de iaje. De ás de odos los
sis emas de co ejo de huellas dac ila es o de da os biomé icos, hay una
amplia ed de IA enca gada de sis ema iza la in o mación, co eja la y
emi i un esul ado. La IA pe mi e analiza g andes olúmenes de da os
biomé icos con apidez y p ecisión, aumen ando la e iciencia en la
iden i icación de pe sonas y en la de ección de posibles iesgos de
segu idad. Sin emba go, el uso de IA en es e con ex o plan ea a ios
desa íos, como la necesidad de ga an iza la p ecisión y la equidad en los
p ocesos de iden i icación. Los algo i mos deben se diseñados y
en enados pa a minimiza e o es, como las alsas coincidencias o los
sesgos que pod ían a ec a desp opo cionadamen e a cie os g upos.
Además, el uso de IA en la oma de decisiones au oma izadas debe se
anspa en e y es a suje o a supe isión, pe mi iendo que las pe sonas
puedan cues iona y apela las decisiones omadas po el sis ema. El
desa ollo y la implemen ación de es as ecnologías deben equilib a la
e iciencia y la segu idad con la p o ección de los de echos undamen ales.
Calduch Ce e a, en elación con la segu idad y de ensa en las
on e as, des aca una e lexión sob e la dis inción en e compe encias de
de ensa (segu idad ex e io ) y segu idad in e io , di e enciadas desde el
T a ado de Maas ich . Señala que la lucha con a la c iminalidad
57
Véase Fe nández Rojo, D. (2017), “Reglamen o 2016/1624: De F on ex a la Gua dia
Eu opea de F on e as y Cos as”, Re is a Gene al de De echo Eu opeo, 41, p. 223-251,
que concluye que la nue a agencia F on ex no implica una comple a in eg ación del
con ol y la igilancia de on e as a ni el eu opeo y que el mecanismo de denuncia
in oducido no ep esen a una ex ensión de la esponsabilidad p opo cional al e ue zo de
sus a eas y compe encias; Véase Acos a Sánchez, M. A. (2016), “La nue a Gua dia
Eu opea de F on e as y Cos as: una necesa ia e olución de F on ex”, Documen o de
Opinión IEEE, 108/2016, sob e los mecanismos de p o eccion de los de echos
undamen ales y la capacidad ope a i a de la nue a agencia.
58
Ma ín A ibas, J. J., (2020). Ins i uciones y De echo… op. ci . p. 489.
610 Sand a Alonso Tomé
REVISTA DE ESTUDIOS EUROPEOS, 85 (2025): 588-619
ISSN 2530-9854
in e nacional y el e o ismo yihadis a, equie en nue os ins umen os de
coope ación en polí ica an i e o is a pa a es ablece una on e a de
segu idad in aeu opea e in e nacional e icaz
59
. Es innegable que en la
on e a debe desplega se oda una in aes uc u a de coope ación
ans on e iza pa a hace en e a la amenaza e o is a, pe o ambién a los
lujos de inmig ación i egula , de delincuencia o ganizada, o cualquie
o o iesgo que pueda su gi .
España, jun o con la UE en el ámbi o de los in en os po la egulación
de la IA, como señala Rod íguez Ca dona, ha es ado ac i amen e
in oluc ada en el diálogo y desa ollo de un ma co egula o io pa a la IA
desde 2012, po ejemplo, con el P oyec o Robolaw
60
61
. Cie o es que,
como señala Rod íguez Ca dona, la UE y España han abajado
ac i amen e en la c eación de un “ecosis ema de con ianza” pa a acili a
el desa ollo segu o y iable de la IA, lo que incluye es ue zos pa a de ini
una legislación especí ica sob e la ma e ia, econoce la necesidad de
nue os p ocedimien os de e aluación de iesgos, y conside a equisi os
de supe isión humana. Me ece la pena menciona la Es a egia Nacional
de IA (ENIA)
62
de España que e leja un comp omiso con la inno ación y
59
Calduch Ce e a, Ra ael, (2008), “Las F on e as Ex e io es de la Unión Eu opea”, Las
F on e as Ex e io es de la Unión Eu opea, p. 9-18.
60
“Regula ing eme ging obo ic echnologies in Eu ope: Robo ics acing law and e hics»
(ROBOLAW), se undamen a en la cues iones ju ídicas y é icas que p esen an las
ecnologías obó icas eme gen es, e aluando si el ma co legal y no ma i o exis en e es
adecuado dada la e olución ecnológica ac ual”, en
<h ps://co dis.eu opa.eu/a icle/id/92136- he-laws-and-e hics-o - obo ics/es>,
(Consul ado 2.4.2024)
61
Como inciso, hay que hace una b e e e e encia al ámbi o de la obó ica, que excede
en cie o modo de la IA en la ges ión on e iza, pe o donde las nue as ecnologías y en
especial la IA se en en an ambién a los de echos undamen ales, ya no desde el pun o
de is a de la in imidad sino desde el ámbi o de la pe sonalidad del se humano, éase
O ego Ruiz, M., (2021), “In eligencia a i icial y pe sonalidad. Los humanoides”, en
Azuaje Pi ela, M., Con e as Vásquez, P., (coo ds.), In eligencia a i icial y de echo:
desa íos y pe spec i as, p. 39-56. Véase ambién Lean Lau, P., (2019), “The Ex ension
o Legal Pe sonhood in A i icial In elligence”, Re is a de Bioé ica y De echo:
publicación del Más e en bioé ica y de echo, nº. 46, p. 47-66, que abo da las
implicaciones é icas, legales y sociales de a la u ilización de IA en los obo s humanoides
sociales basados. El p incipal dilema explo ado es la expansión del concep o de pe sona
ju ídica y la a ibución de espues as legales adecuadas pa a gobe na la p oli e ación
u u a de sis emas de IA, especialmen e en elación con los obo s humanoides sociales.
62
“La ENIA es uno de los ejes de la Agenda España Digi al 2026 y uno de los
componen es del Plan de Recupe ación, T ans o mación y Resiliencia de la economía
española y iene como obje i o p opo ciona un ma co de e e encia pa a el desa ollo de
La aplicación de la in eligencia a i icial en los con oles de las on e as… 611
REVISTA DE ESTUDIOS EUROPEOS, 85 (2025): 588-619
ISSN 2530-9854
la in eg ación de la IA en la economía y la sociedad, sub ayando la
impo ancia de la in es igación, el desa ollo y la aplicación é ica de la
IA
63
.
Po su pa e, Machín P ie o, en su análisis sob e la implemen ación de
la IA en el ámbi o de la segu idad a a és de Eu opa, des aca la ele ancia
de la inno ación ecnológica como un elemen o c ucial conc e amen e
pa a el Minis e io del In e io de España, pe o en gene al pa a odos los
EEMM. El aumen o exponencial de la in o mación a p ocesa en
segu idad, impulsado po nue as o mas de c iminalidad y la expansión de
In e ne , ha hecho esencial la digi alización y el acceso a g andes
olúmenes de da os. Es o, en su opinión y en la nues a, sub aya la
impo ancia de desa olla y aplica nue as ecnologías, como la IA, pa a
mejo a la segu idad pública y la e icacia de las ue zas y cue pos de
segu idad del Es ado. Y es que el comp omiso con el desa ollo de la IA y
su aplicación en el ámbi o de la segu idad no solo mejo a las capacidades
ope a i as de las ue zas de segu idad, sino que ambién e ue za la
p o ección de los de echos y la segu idad de los ciudadanos eu opeos. La
e olución de la IA, po an o, se p esen a como una he amien a es a égica
indispensable pa a la mode nización y e ec i idad de las ope aciones de
segu idad en Eu opa
64
. Al in y al cabo, c eemos que, pa e del éxi o de los
a ances a lo la go de la his o ia no solo adica en p o ege se de ellos, sino
ambién en sabe in eg a los y do a los de mecanismos que los hagan ú iles
y segu os. No solo se debe habla de los iesgos de la IA, cuando ni siquie a
se alcanza a comp ende su e dade o po encial, sino que ambién debe ía
plan ea se la posibilidad de que la IA que se quie e u iliza pa a hace más
segu as las on e as o de e minados sis emas, pueda usa se igualmen e
pa a hace se más segu a a sí misma.
O o iesgo que a eces se pasa po al o, no adica p ecisamen e en la
IA pe se, sino que, como analizan Lau en Ch zano ski y S ephane
una IA inclusi a, sos enible y cen ada en la ciudadanía” en Minis e io pa a la
T ans o mación Digi al y la Función Pública, Enia, en < h ps://po al.mineco.gob.es/es-
es/digi alizacionIA/Paginas/ENIA.aspx>, (Consul ado 2.4.2024).
63
Rod íguez Ca dona, M. M. (2023). “Los in en os de egulación de la In eligencia
A i icial: De echo Compa ado en e España, Pue o Rico y Es ados Unidos”, De ecom,
35, 1-19.
64
Machín P ie o, R., (2023), “An eceden es pa a la implan ación de la IA en segu idad a
a és de Eu opa. La inno ación ecnológica como ac o cla e pa a el Minis e io del
In e io ”, Logos Gua dia Ci il: Re is a Cien í ica del Cen o Uni e si a io de la Gua dia
Ci il, n.º 1, p. 125-154.
612 Sand a Alonso Tomé
REVISTA DE ESTUDIOS EUROPEOS, 85 (2025): 588-619
ISSN 2530-9854
Mo ie , la IA se e ige en un ac o ans o mado undamen al, pe o
conlle a el iesgo de la dependencia de ecnologías ex anje as,
especialmen e de las g andes po encias como EE.UU. y China. Es a
dependencia plan ea iesgos ob ios pa a la sobe anía nacional y la
p o ección de las libe ades undamen ales, lo que equie e una e lexión
p o unda sob e cómo equilib a la inno ación con la segu idad nacional
65
.
Un ema especialmen e comp ome ido y que queda p ác icamen e
p osc i o en el Reglamen o (UE) 2024/1689 del Pa lamen o Eu opeo y del
Consejo, sal o en casos excepcionales y pa a uso policial, es el
econocimien o acial. Bus aman e Ca izosa des aca que la
implemen ación de un sis ema de econocimien o acial pa a mejo a las
in es igaciones policiales, puede se posi i o si se hace de o ma
balanceada espe ando su e icacia y la p o ección de los de echos
undamen ales. La posi i idad adica en su capacidad pa a unciona de
mane a pasi a, sin el conocimien o o consen imien o del suje o. Ese
desconocimien o es un pun o cla e, pues el sis ema pe mi e in oduci la
imagen de una pe sona de in e és y compa a la con imágenes cap u adas
en iempo eal, egis ando y ale ando sob e coincidencias. Es e en oque
se basa en ecnologías biomé icas a anzadas y p og amas in o má icos
que analizan ca ac e ís icas aciales especí icas pa a iden i ica pe sonas.
Aunque el econocimien o acial puede o ece una he amien a pode osa
en la lucha con a el c imen, es ob io que conlle a igualmen e
conside aciones nega i as impo an es sob e la p o ección de los de echos
undamen ales y la p i acidad
66
.
La u ilización de da os biomé icos en el con ol on e izo es esencial,
pe o in oduce desa íos écnicos, legales y é icos signi ica i os. La
biome ía incula el cue po humano con la iden idad de la pe sona,
gene ando p eocupaciones ace ca de la p i acidad y la é ica de su uso.
65
Ch zano ski, Lau en y Mo ie , S ephane, (2023), “La dico omía de los usos de la
in eligencia a i icial en segu idad nacional”, Logos Gua dia Ci il: Re is a Cien í ica del
Cen o Uni e si a io de la Gua dia Ci il, n.º 1, p. 327-346.
66
Bus aman e Ca izosa, R., (2023), “Implemen ación de un Sis ema de Reconocimien o
Facial aplicado a In es igaciones Policiales”, Logos Gua dia Ci il: Re is a Cien í ica del
Cen o Uni e si a io de la Gua dia Ci il, n.º 1, p. 195-214.
La aplicación de la in eligencia a i icial en los con oles de las on e as… 619
REVISTA DE ESTUDIOS EUROPEOS, 85 (2025): 588-619
ISSN 2530-9854
Solanes Co ella, Á. (2023), “La noción de on e a y sus unciones en el
pensamien o de Ja ie de Lucas”, Cuade nos Elec ónicos de
Filoso ía del De echo, n.º 49, pp. 251-262.
Solanes Co ella, Á., y He nández Mo eno, N. (2022). “El con o e ido
p ocedimien o de e minación de la edad: la necesidad de una e o ma
legal a pa i de los dic ámenes del Comi é de De echos del Niño”,
Re is a de Es udios Eu opeos, n.º 80, p. 273-290.
Téllez Ca ajal, E., (2022), “De echos humanos ¿Lími e pa a la
in eligencia a i icial?”, El de echo en la enc ucijada ecnológica:
Es udios sob e de echos undamen ales, nue as ecnologías e
in eligencia a i icial, Cesa Villegas Delgado (ed. li .), Pila Ma ín
Ríos (ed. li .), p. 391-415.
Tuse Va ela, D., (2024), “Mapa del u u o legisla i o de la in eligencia
a i icial en Eu opa (2024-2027)”, Economis & Ju is .
