151
CAPÍTULO 5
LA DIFÍCIL CONVIVENCIA ENTRE
LA INTELIGENCIA ARTIFICIAL Y
LOS DERECHOS FUNDAMENTALES:
LA TECNOLOGÍA DEEPFAKE
Inmaculada Jiménez-Cas ellanos Balles e os
P o eso a Asociada de De echo Cons i ucional
Uni e sidad de Se illa
Uni e sidad CEU Fe nando III1
Suma io: 1. INTRODUCCIÓN. 2. LA TECNOLOGÍA DEEPFAKE. 3. LOS DEEP-
FAKES COMO MANIFESTACIÓN DE LA LIBERTAD DE EXPRESIÓN Y DE LA
LIBERTAD DE CREACIÓN ARTÍSTICA. 4. EFECTOS NEGATIVOS DE ESTA TEC-
NOLOGÍA. 4.1. Las libe ades in o ma i as y el de echo undamen al de pa -
icipación polí ica. 4.2. El de echo undamen al a la u ela judicial e ec i a.
4.3. El de echo undamen al a la p opia imagen. 4.4 Los de echos undamen a-
les al hono , a la in eg idad mo al y a no su i disc iminación. 4.5. El de echo
undamen al a la p o ección de da os pe sonales. 5. MEDIDAS LEGISLATIVAS.
6. A MODO DE CONCLUSIÓN. 7. BIBLIOGRAFÍA.
1. In oducción
En el espacio i ual, la c ecien e expansión de las pla a o mas digi ales,
como las edes sociales, han ans o mado la mane a en que nos comunica-
1 Es e ex o si ió de base pa a la comunicación p esen ada en las IV Jo nadas In e naciona-
les sob e In eligencia A i icial y P o ección de da os o ganizadas po la Facul ad de De e-
cho, de la Uni e sidad Nacional de Educación a Dis ancia (UNED), Uni e sidad de Gi ona y
Uni e sidad de Alme ía. Es e a ículo se enma ca en el p oyec o de in es igación: «E icien-
cia ecnológica, dignidad y de echos humanos. ¿Quo adis, humanidad, en la e a de la IA?»
den o de la Con oca o ia de Ayudas a P oyec os de In es igación en Líneas Es a égicas
Iden i a ias CEU 2024-2025. En idad: Coo dinación de Uni e sidades CEU (Fundación Uni-
e si a ia San Pablo CEU) 2024-2025. Fecha esolución: 23 de ene o de 2025.
152
INTELIGENCIA ARTIFICIAL Y PROTECCIÓN DE DATOS: DESAFÍOS EN LA ERA DIGITAL
mos y han enido un p o undo impac o sob e nues os de echos undamen-
ales. Pa alelamen e, es amos asis iendo a e iginosos cambios p o ocados
po el a ance de la In eligencia A i icial (IA). El llamado cons i ucionalismo
digi al2, a di e encia del analógico, ya no es á di igido a eacciona con a la
iolación de los de echos undamen ales que p o ienen de los pode es públi-
cos, sino a ga an iza la libe ad en e a las amenazas pa a la pe sona p o-
ceden es de las g andes emp esas ecnológicas, así como, p o ege la con a
las nue as o mas de ag esión a la dignidad humana en el en o no online.
Bajo es a concepción humanis a, la é ica de la IA pe sigue ea i ma alo es
como la dignidad, la libe ad, la democ acia, la igualdad, la au onomía del
indi iduo y la jus icia en e al gobie no de un azonamien o mecánico3. En
es e sen ido, la Unión Eu opea y ambién el Consejo de Eu opa ep esen an
un ejemplo de la necesidad de implemen a nue os ma cos no ma i os que
a en de encon a un equilib io en e los bene icios de la ecnología y el
espe o a los de echos undamen ales.
Muchos son los desa íos a los que nos es amos en en ando en el mundo
i ual. Es de des aca el cambian e pano ama mediá ico, unido, po su ca ác-
e sensacionalis a, al auge del pode de la imagen como es a egia de comu-
nicación. Es as ci cuns ancias, y o as como la accesibilidad de las aplicacio-
nes, la agilidad y la g a uidad del acceso a con enido digi al, han p opiciado la
c ecien e popula idad de los deep akes. Es a ecnología es p oduc o de la IA y
supone la gene ación o manipulación de imágenes o ídeos de una pe sona,
pública o anónima, sin su consen imien o, a pa i de o os p eexis en es. El
esul ado es mani ies amen e ealis a y su na u aleza adul e ada impe cep ible
pa a el se humano. Pueden u iliza se pa a una amplia a iedad de p opósi os,
con impac os an o posi i os como nega i os en los de echos undamen ales.
En el p ime caso, es necesa io esal a sus bene icios que a a ez se en a izan
desde una pe spec i a cons i ucional4, no solo pa a la humanidad en gene al
sino ambién pa a sec o es especí icos como el en e enimien o o la in es iga-
ción, y como mani es ación de de echos an imp escindibles como la libe ad
de exp esión. La ealidad es que es a ecnología es á en odo su esplendo
po que esul a cada ez más ba a a y ácil de usa , como lo demues an las
pla a o mas pa a compa i ídeos que es án muy demandadas en e los más
jó enes. Sin emba go, no con iene ol ida que pa a el se humano se hace
di ícil dis ingui lo also de lo eal, po lo que el apogeo de los deep akes exige
edobla los es ue zos pa a gene a con ianza en es e uso de la IA. En es e
2 De G ego io, G., «The ise o digi al cons i u ionalism in he Eu opean Union In e na-
ional», In e na ional Jou nal o Cons i u ional Law, ol. 19, Issue 1, 2021, pp. 41-70.
3 AEPD, Adecuación al RGPD de a amien os que inco po an In eligencia A i icial. Una in o-
ducción, 2020, p. 7. Disponible en: h ps://www.aepd.es/guias/adecuacion- gpd-ia.pd .
4 Co ino Hueso, L., «Cómo abo da ju ídicamen e el impac o de la in eligencia a i icial en
los de echos undamen ales» en Casas Bahamonde, M.E. (di .), De echos y Tecnologías,
Fundación Ramón A eces, 2025, p. 125.
153
CAPÍTULO 5. LA DIFÍCIL CONVIVENCIA ENTRE LA INTELIGENCIA ARTIFICIAL Y LOS DERECHOS...
sen ido, exis e una c ecien e p eocupación po el empleo de es a he amien a
pa a inalidades lesi as, en conc e o, el ecu so a los deep akes como una
nue a o ma de iolencia digi al con a las muje es y las niñas. Po la impo an-
cia que han adqui ido ac ualmen e, la e isión de su egulación, que ya se ha
enido en cuen a en la Unión Eu opea y se p epa a en España, se ha con e ido
en una necesidad u gen e e ineludible.
2. La ecnología deep ake
El é mino deep ake iene su o igen en la combinación de dos exp esiones
anglosajonas: deep lea ning, ap endizaje p o undo (un conjun o de écnicas
que pe mi en a la IA ap ende a econoce o mas) y ake, also. Es e neolo-
gismo se aplica a una écnica de c eación de imágenes humanas que ap o e-
cha la IA gene a i a a a és de edes neu onales especí icas llamadas GAN
(Gene a i e Ad e sa ial Ne wo ks). Las GAN son algo i mos de ap endizaje
au omá ico que pueden analiza un conjun o de imágenes (da os) y c ea
o a nue a con un ni el de calidad simila . Es a IA des aca como uno de
los modelos gene a i os de más éxi o, especialmen e po su capacidad pa a
c ea imágenes ealis as de al a esolución5.
Los deep akes, ambién conocidos como ul a alsi icaciones, son con eni-
dos de ídeo, imagen o audio hipe ealis as, manipulados o gene ados digi-
almen e median e IA, pa a p esen a a pe sonas diciendo o haciendo algo
que, en ealidad, nunca ha ocu ido. El ealismo es al que pa a el ojo o el
oído humano es imposible ap ecia que el a chi o ha sido alseado. Ac ual-
men e, se ía necesa io un pe i aje in o má ico a anzado pa a pode de ec a
un deep ake. Nos encon amos, po an o, con dos g andes e os: po un
lado, iden i ica la ul a alsi icación y po o o, p oba su alsedad6.
Den o de su ipología exis en a ian es. Así, los «deep aces», son aquellos
que ienen como inalidad la manipulación o c eación de imágenes o ídeos
(conocidos como «deep ideo po ai s»), a pa i de o os p eexis en es en
los que se eemplaza al o iginal, c eando con enido digi al con apa iencia
de se eal; y los «deep oices», que clonan una oz conc e a, o bien la unen
a la oz eal de un indi iduo, gene ando una pis a de oz a i icial pa a que
pa ezca eal. Es os úl imos esul an más sencillos de c ea que los p ime os7.
5 Casag ande, R., Spa icchia, U., «Nue as o mas de iolencia de géne o: en e la deep eal
y la deep ake», S udia Humani a is Jou nal, n.º 1, 2025, p. 43.
6 Deep ake De ec ion Challenge, «Inno a ing o de ec deep akes and p o ec he public».
Disponible en: h ps://www.go .uk/go e nmen /case-s udies/inno a ing- o-de ec -deep-
akes-and-p o ec - he-public
7 Badiola Coca, S., «Deep akes po nog á icos y meno es. Policy B ie -El caso Almend a-
lejo», en Va ona. G (di .), Vic imología didác ica y aplicada: análisis de casos, Labo um,
2025. p. 231.
154
INTELIGENCIA ARTIFICIAL Y PROTECCIÓN DE DATOS: DESAFÍOS EN LA ERA DIGITAL
Son múl iples las posibilidades de p oducción de con enidos a a és de es a
ecnología. A modo de ejemplo podemos ci a sín esis de imágenes de ca a
nue as (no p eexis en es), suplan aciones de iden idad (in e cambiando la
ca a de una pe sona po o a), manipulación de a ibu os (edición de ca as
o e oques: colo de piel, pelo, ojos, edad o géne o), cambios de exp esión
( ec eación acial), sinc onización del mo imien o de los labios con un dis-
cu so, ep oducción de mo imien os o adición de il os en iempo eal en
ideocon e encia8.
La egulación de es a ecnología se encuen a, en g an medida, den o del
ma co no ma i o de la IA lle ado a cabo po la Unión Eu opea. En el a ículo
3.60) del Reglamen o (UE) del Pa lamen o eu opeo y del Consejo de 13 de
junio de 2024 en ma e ia de in eligencia a i icial (RIA), se de ine la ul asu-
plan ación como «un con enido de imagen, audio o ídeo gene ado o mani-
pulado po una IA que se asemeja a pe sonas, obje os, luga es, en idades o
sucesos eales y que puede induci a una pe sona a pensa e óneamen e
que son au én icos o e ídicos». Es e ins umen o no ma i o adop a un en o-
que basado en el iesgo. Los deep akes se con emplan explíci amen e como
«sis emas de IA u ilizados pa a gene a o manipula con enido de imagen,
audio o ídeo», que deben cumpli cie os equisi os mínimos, especialmen e
en lo que espec a al e ique ado. A día de hoy, no se incluyen en la ca ego ía
de «al o iesgo» ni en la ca ego ía de «p ohibidos». No obs an e, al i mo de
los a ances ecnológicos, el uso de los deep akes pa a gene a con enido
noci o p obablemen e e oluciona á a un sis ema de IA de al o iesgo9.
Po su pa e el Con enio Ma co sob e IA, De echos Humanos, Democ acia
y Es ado de De echo de 17 de mayo de 2024, del Consejo de Eu opa es el p i-
me a ado in e nacional inculan e que p omue e la inno ación y es ablece
p incipios sólidos y cla os pa a el diseño, desa ollo y aplicación de sis emas
de IA en elación con los de echos humanos, la democ acia y el Es ado de
De echo. Si bien no con empla especí icamen e los deep akes, el Con enio
de IA puede desempeña pa a los Es ados no miemb os de la UE que se
adhie an al mismo, un papel no ma i o y ju ídico impo an e. Pa a la UE y sus
Es ados miemb os que a i iquen el Con enio, complemen a á al RIA y o a-
lece á la p o ección de los de echos. Po an o, es un ins umen o no ma i o,
8 Simó Sole , E., «Re os ju ídicos de i ados de la In eligencia A i icial Gene a i a. Deep-
akes con a las muje es como supues o de hecho», InD e , e is a de análisis del de echo,
n.º 2, 2023, p. 496.
9 Di ec ices de la Comisión Eu opea sob e p ác icas p ohibidas en ma e ia de in eligencia
a i icial es ablecidas po Reglamen o (UE) 2024/1689 (Ley IA) B uselas, 4.2.2025, p. 50:
«Las p ohibiciones del a ículo 5(1)(a) y (b) de la Ley de IA ienen po obje o p e eni con-
duc as noci as que puedan cons i ui o da luga a deli os, como el aude, la alsi icación,
las es a as, la coacción o la gene ación y di usión de con enido ilíci o, como el con enido
e o is a, el ma e ial de abuso sexual in an il, el discu so de odio y los deep akes sexual-
men e explíci os».
155
CAPÍTULO 5. LA DIFÍCIL CONVIVENCIA ENTRE LA INTELIGENCIA ARTIFICIAL Y LOS DERECHOS...
con capacidad de in eg ación casi cons i ucional en los o denamien os ju ídi-
cos de los Es ados pa e y cuen a con g an po encial in e p e a i o10.
3. Los deep akes como mani es ación de la libe ad
de exp esión y de la libe ad de c eación a ís ica
Son múl iples las po encialidades que es a ecnología o ece en el campo
de la cul u a, el a e11, el cine12, la p oducción audio isual, el ma ke ing, la
publicidad, la moda o la educación. Los p oduc o es cinema og á icos pue-
den, po ejemplo, median e el manejo de la oz, c ea doblajes en di e en es
idiomas o co egi e o es de p onunciación de los ac o es; y median e la
manipulación de imágenes, adap a la edad de los ac o es pa a eju enece -
los o en ejece los o incluso de ol e los a la ida. Recien emen e, un ídeo
gene ado po OmniHuman-1, ha esuci ado a Albe Eins ein, ganado del
P emio Nobel de Física en 1921. Hoy es posible escucha lo dando clases en
la uni e sidad13.
Asimismo, pueden u iliza se con el in de de ec a , p e eni , in es iga o
enjuicia deli os14 o en el campo de la in es igación y los a amien os médi-
cos15. En su mayo ía, los usos de es a écnica encuen an ac ualmen e su
luga en la indus ia del en e enimien o, con ines pa ódicos o sa í icos, p o-
ocando hila idad an e el hipo é ico supues o de que alguien exp ese o diga
algo que en si uaciones no males nunca se p oduci ía. Los an eceden es
más p óximos a los deep akes sa í icos o pa ódicos se ían las ca ica u as y
los imi ado es16. Mani es aciones po an o de las libe ades de exp esión y
c eación a ís ica econocidas en nues o o denamien o ju ídico en el a ículo
10 Co ino Hueso, L., «Cómo abo da ju ídicamen e el impac o de la in eligencia a i icial en
los de echos undamen ales», op. ci ., pp. 138-139.
11 El Sal ado Dalí Museum de San Pe e sbu go, Flo ida (USA) h ps:// hedali.o g/
12 Un ejemplo bien conocido es la película ganado a del P emio de la Academia a los Mejo-
es E ec os Visuales en 2009: El cu ioso caso de Benjamin Bu on. A lo la go de oda la
película, se u ilizan manipulaciones asis idas po compu ado a del os o del ac o B ad
Pi pa a c ea la ilusión de e e i el en ejecimien o, Pa lamen o Eu opeo, Tackling
deep akes in Eu opean Poli ics, Unidad de p ospec i a cien í ica, 2021, p. 7.
13 Agencia de No icias Cien í icas, «La IA lo hizo o a ez: Albe Eins ein uel e a la ida»,
6 de eb e o de 2025, Disponible en: h ps://agencia.unq.edu.a /?p=25812
14 Vid. Almag o Ma in, J., «T a amien o p ocesal de la p ueba del deep ake», De echo
Digi al e Inno ación, n.º 21, 2024.
15 Una muje ecupe a el habla as su i un ic us g acias a una neu op ó esis en enada
con in eligencia a i icial h ps://www. e.es/no icias/20250331/muje - ecupe a-habla-ic-
us-neu op o esis-en enada-in eligencia-a i icial/16515138.sh ml
16 Climen Galla , Ja., «Los deep akes sa í icos o pa ódicos. Análisis desde la pe spec i a
del De echo Eu opeo», Re is a Boli a iana de De echo, n.º 39, 2025, p. 58.
156
INTELIGENCIA ARTIFICIAL Y PROTECCIÓN DE DATOS: DESAFÍOS EN LA ERA DIGITAL
20 de la Cons i ución Española (CE). Así la STC 23/2010, en su FJ 5 dispone:
«En los casos en los que la ca ica u a se elabo a median e la dis o sión de la
imagen o og á ica de una pe sona, esul a e iden e que se iene a a ec a al
de echo a la p opia imagen de la pe sona ep esen ada, si bien al a ección
puede eni jus i icada po el legí imo eje cicio de la libe ad de exp esión
o, incluso, de la libe ad de c eación a ís ica. Desde el pun o de is a de la
libe ad de exp esión, la ca ica u a cons i uye, desde hace siglos, una de las
ías más ecuen es de exp esa median e la bu la y la i onía c í icas sociales
o polí icas que, en an o que elemen o de pa icipación y con ol público,
esul an inescindibles de odo sis ema democ á ico, y coadyu an a la o ma-
ción y exis encia de una ins i ución polí ica undamen al, que es la opinión
pública lib e, indisolublemen e ligada con el plu alismo polí ico, que es un
alo undamen al y un equisi o del uncionamien o del Es ado democ á-
ico». Con ecuencia, po an o, «es una o ma de exp esión a ís ica y c í-
ica social que con su con enido inhe en e de exage ación y dis o sión de la
ealidad pe sigue na u almen e la p o ocación y la agi ación»17. Cuando así
suceda, el uso manipula i o de la imagen ajena pod á cons i ui un eje cicio
legí imo del de echo a la libe ad de exp esión en la medida que con ibuya al
man enimien o de una opinión pública c í ica y plu al y que la iden i icación
de la alsedad sea ap eciable.
El Con enio eu opeo de de echos humanos (CEDH) conside a a la libe ad
a ís ica como una ex e io ización de la libe ad de exp esión (a ículo 10)18;
y el a ículo 13 de la Ca a de de echos undamen ales de la Unión Eu opea
(CDFUE) señala que las a es y la in es igación cien í ica son lib es.
Como odos los de echos undamen ales, es as libe ades no son absolu-
as. El alo que pa a la o mación de la opinión pública y lib e ci culación de
ideas puedan ene de e minados deep akes no implica que es a sea su única
inalidad. Supond án una in omisión ilegí ima en o os de echos undamen-
ales cuando su in ención sea desin o ma , engaña o denig a a la pe sona
a ec ada median e la inju ia, el insul o o la p omoción del discu so del odio.
Si bien es cie o que los lími es de la c í ica admisible se án más amplios es-
pec o de pe sonajes públicos que en elación con los pa icula es19.
4. E ec os nega i os de es a ecnología
Hoy en día, la IA se ha con e ido en una he amien a al alcance de cual-
quie a como lo demues a la p oli e ación de aplicaciones que pe mi en su
uso de mane a sencilla, ápida y g a ui a. No hacen al a conocimien os éc-
17 STEDH Ve einigung Bildende Küns le c. Aus ia, de 25 ene o de 2007, § 33.
18 El TEDH u iliza el é mino de libe ad de exp esión a ís ica. STEDH, caso Consejo Nacio-
nal de la Ju en ud de Molda ia c. República de Molda ia, de 25 de junio de 2024.
19 STEDH caso Dickinson con a Tu quía de 2 de eb e o de 2021.
157
CAPÍTULO 5. LA DIFÍCIL CONVIVENCIA ENTRE LA INTELIGENCIA ARTIFICIAL Y LOS DERECHOS...
nicos especí icos pa a el uso de es a ecnología. Desa o unadamen e, el
empleo de es as écnicas no siemp e esponde a inalidades legí imas. El
p oblema no es en sí la IA sino el uso que se hace de ella. Quien gene a la
ob a es, en ealidad, la IA —el p o eedo ecnológico—, pe o a la pe sona
ísica se le end á po au o po el me o hecho de in oduci un p omp , indi-
cándole a la máquina el esul ado deseado20. Dado el al o ni el de ealismo
que es e ipo de ecnología deep ake pe mi e alcanza , su gen iesgos pa a
los de echos undamen ales. Tal y como ecoge el conside ando 133 RIA,
es os sis emas ienen impo an es epe cusiones en la in eg idad del eco-
sis ema de la in o mación y en la con ianza en es e, haciendo su gi nue os
iesgos de desin o mación y manipulación a escala, aude, suplan ación de
iden idad y engaño a los consumido es.
4.1. Las Libe ades in o ma i as y el de echo
undamen al de pa icipación polí ica
En é minos gene ales, po an o, el p ime de echo undamen al que se
e ía a ec ado, dada la na u aleza de los deep akes, se ía el de echo a ecibi
una in o mación e az21. Es a IA se u iliza en ocasiones con el in de p o oca
desin o mación pa a induci a engaño, po lo que suponen una amenaza pa a
los sis emas democ á icos. Los deep akes pueden alsea el deba e público,
daña la epu ación de polí icos, manipula las elecciones y, en de ini i a,
lesiona el de echo de pa icipación polí ica22.
20 En es e sen ido, Climen Galla , J.A., «Los deep akes sa í icos o pa ódicos. Análisis
desde la pe spec i a del De echo Eu opeo», op. ci ., p. 50. Comúnmen e se pueden iden i-
ica cinco p incipales ac o es o pa es in oluc adas en la c eación, el uso y la di usión de
un deep ake. P ime o, la íc ima cuya iden idad, ya sea a a és de su imagen o oz puede
se suplan ada con el deep ake. Segundo, el au o quien no malmen e es la pe sona que
c ea el deep ake a a és de la ecnología disponible. Te ce o, la audiencia o el público en
gene al que puede desca ga el a chi o pa a ep oduci lo y pos e io men e compa i lo.
Po o o lado, es á el p o eedo ecnológico que es el enca gado de acili a el so wa e o
la ecnología u ilizada pa a la c eación del deep ake; y inalmen e las pla a o mas ecno-
lógicas o p o eedo es de se icios de comunicaciones a a és de los cuales se pueden
di undi los deep akes. Es impo an e des aca que los deep akes puede se c eados y
di undidos po dis in os au o es y ienen la posibilidad de i aliza se ápidamen e y en
o ma masi a a a és de dis in as pla a o mas, y dependiendo del con ex o en el que son
u ilizados, pueden causa un al o impac o y daño a íc imas que pueden es a localizadas
en di e en es países. VELASCO, C., «Deep akes como se icio. Un análisis desde la pe s-
pec i a del cibe deli o» en ARELLANO TOLEDO, W. De echo, É ica e In eligencia A i icial,
Ti an lo Blanch, 2023. p. 398.
21 Según la STC 105/1983, FJ 11, se a a de un de echo doble que se conc e a en comunica
la in o mación y ecibi la de mane a lib e en la medida en que la in o mación sea e az.
22 Rubio Nuñez, R., «El uso de la in eligencia a i icial en las campañas elec o ales y sus
e ec os democ á icos», Re is a de de echo polí ico, n.º 122, 2025.
158
INTELIGENCIA ARTIFICIAL Y PROTECCIÓN DE DATOS: DESAFÍOS EN LA ERA DIGITAL
Es amos asis iendo a un cambio en el pano ama mediá ico, pues las no i-
cias ya no son dis ibuidas únicamen e po los medios de comunicación a-
dicionales y po los p o esionales de la in o mación, sino que e olucionan
hacia un con enido gene ado po el usua io, lo que di icul a, si no impo-
sibili a, un consenso sob e códigos de conduc a é icos. Simul áneamen e,
las imágenes, especialmen e en línea, se es án con i iendo en el modo de
exp esión dominan e. Como esul ado, los deep akes pod ían ans o ma se
en una uen e impo an e de pode in o ma i o en un u u o ce cano23. An e
es o, la endencia social más p eocupan e es la apa en e e osión de la con-
ianza en las no icias y la in o mación, la con usión en e hechos y opiniones,
e incluso la p opia « e dad»24. La me a exis encia de deep akes alimen a la
descon ianza en cualquie clase de in o mación, ya sea e dade a o alsa. En
es e sen ido, de acue do con el in o me del Pa lamen o Eu opeo «Tackling
deep akes in Eu opean Poli ics», los deep akes pueden adop a di e en es
o mas. En p ime luga , pueden p esen a se como in o mación concluyen e,
de al mane a que la icción esul a ía muy di ícil de dis ingui de la eali-
dad pa a un ciudadano común. En segundo luga , la desin o mación puede
complemen a se con ma e iales deep akes pa a aumen a su po encial. Y,
po úl imo, los deep akes pueden usa se en combinación con écnicas de
mic o a ge ing polí ica. Es os deep akes di igidos pueden se especialmen e
impac an es. El mic o a ge ing es un mé odo publici a io que pe mi e a los
p oduc o es en ia deep akes pe sonalizados que impac an ue emen e
sob e una audiencia especí ica25.
En es os casos el De echo ha eaccionado es ableciendo pa a los espon-
sables del sis ema de IA unas obligaciones de anspa encia. El Pa lamen o
eu opeo, ya en una esolución de 12 de eb e o de 2019, solici aba a la Comi-
sión que ga an iza a que quienes p oduje an ma e iales alsos o ídeos sin é-
icos o cualquie o o ipo de ídeos modi icados ealis as, indica an explíci a-
men e que no se a aba de ídeos o iginales (la cu si a es nues a).
En la Unión Eu opea, el Reglamen o (UE) 2022/2065 del Pa lamen o Eu o-
peo y del Consejo de 19 de oc ub e, ela i o al me cado único de Se icios
23 Pa lamen o Eu opeo, Tackling deep akes in Eu opean Poli ics, op. ci ., 2021, p. 2
24 El ejemplo más pa adigmá ico de es e p oblema lo ela ó Rob Toews en la e is a Fo bes,
ocu ió en Gabón. Du an e la gos meses de 2018, su p esiden e, Ali Bongo, no apa e-
ció públicamen e. Los umo es sob e su es ado de salud e incluso su mue e obliga on
al gobie no a e ela que Bongo había su ido un acciden e ce eb o ascula , pe o que
es aba ecupe ándose y que da ía un discu so pa a Año Nue o. La igidez y apa en e
a i icialidad de los mo imien os del líde en el mensaje g abado ápidamen e despe a on
la psicosis de la oposición: el ídeo es also, exclama on. Una semana después, y apo-
yándose en la apa en e ace alía, una acción del Ejé ci o quiso da un golpe de Es ado en
Gabón, aunque luego ue ep imido po el p opio Bongo. El ídeo no había sido al e ado.
Disponible en: h ps://www.pe il.com/no icias/opinion/deep ake-o-el- in-de-la- ealidad-
como-la-conociamos.ph ml
25 Pa lamen o Eu opeo, Tackling deep akes in Eu opean Poli ics, op. ci ., 2021, p. 24.
159
CAPÍTULO 5. LA DIFÍCIL CONVIVENCIA ENTRE LA INTELIGENCIA ARTIFICIAL Y LOS DERECHOS...
digi ales (Digi al Se ice Ac , DSA), dispone en su a ículo 35.1K) que los
p es ado es de pla a o mas y de mo o es de búsqueda en línea de g an
amaño aplica án medidas de educción de iesgos azonables, p opo ciona-
das y e ec i as, eniendo especialmen e en cuen a sus consecuencias sob e
los de echos undamen ales (la cu si a es nues a), en e las que incluye «K)
ga an iza que un elemen o de in o mación, ya se a e de imagen, audio
o ídeo gene ado o manipulado que se asemeja no ablemen e a pe sonas,
obje os, luga es u o as en idades o sucesos exis en es y que puede induci
e óneamen e a una pe sona a pensa que son au én icos o e ídicos se dis-
inga median e indicaciones des acadas cuando se p esen e en sus in e aces
en línea, apa e de p opo ciona una uncionalidad ácil de u iliza que pe -
mi a a los des ina a ios del se icio señala dicha in o mación, (la cu si a es
nues a)26.
A su ez, el RIA, iel a la conside ación de los deep akes como sis emas de
iesgo limi ado, en el a ículo 50.4 impone a los esponsables del despliegue
de un sis ema de IA que gene e o manipule imágenes o con enidos de audio
o ídeo que cons i uyan una ul asuplan ación que hagan público que es os
con enidos o imágenes han sido gene ados o manipulados de mane a a i i-
cial. Es a obligación no se aplica á cuando la ley au o ice su uso pa a de ec-
a , p e eni , in es iga o enjuicia deli os. Cuando el con enido o me pa e
de una ob a o p og ama mani ies amen e c ea i os,sa í icos, a ís icos, de
icción o análogos, las obligaciones de anspa encia se limi a án a la obliga-
ción de hace pública la exis encia de dicho con enido gene ado o manipu-
lado a i icialmen e de una mane a adecuada que no di icul e la exhibición
o el dis u e de la ob a. El incumplimien o de dicho debe se á sancionado
según ela ículo 99.4 g) RIA. Las dudas que plan ea es a clasi icación de los
26 Pa a Gu ié ez Ga cía hab ía sido deseable que las obligaciones impues as a los p es a-
do es de se icios de in e mediación sob e los deep akes y su iden i icación hubie an sido
más exigen es pa a los mismos. La ga an ía de anspa encia eque ida po el Reglamen o
de Se icios Digi ales en elación con es e ipo de con enido no se impone a los p es ado-
es. És os debe án aplica medidas pa a la educción de los iegos que se puedan de i a
de su diseño, uncionamien o o uso, pe o en e esas medidas no es á «necesa iamen e»
la de ga an iza la anspa encia de las ul a alsi icaciones en los é minos e e idos. Es
cie o que las pla a o mas en línea pueden no es a en condiciones de conoce la enga-
ñosa na u aleza de un con enido conc e o alojado po los des ina a ios de su se icio ni
es án suje as a la obligación de moni o ización gene al de la in o mación que almacenen.
Sin emba go, debe ían, al menos, p opo ciona de mane a p ecep i a «una uncionalidad
ácil de u iliza que pe mi a a los des ina a ios del se icio señala dicha in o mación»,
an o po pa e del usua io que compa e la ul a alsi icación como po aquél o o que
de ec a azonablemen e la alsedad del con enido. Y ello, con independencia del amaño
del p es ado —no sólo los de «muy g an amaño»— y de su olun ad. Vid. Gu ié ez
Ga cía, E., In eligencia a i icial y de echos undamen ales hacia una con i encia en la e a
digi al, Colex, 2024, pp. 152-153. El Código de conduc as sob e desin o mación bajo la
DSA, que en a á en igo en julio de 2025, se á un e e en e pa a de e mina el cumpli-
mien o de la Ley de se icios digi ales po pa e de las pla a o mas. h ps://digi al-s a egy.
ec.eu opa.eu/en/lib a y/code-conduc -disin o ma ion.
166
INTELIGENCIA ARTIFICIAL Y PROTECCIÓN DE DATOS: DESAFÍOS EN LA ERA DIGITAL
a ec ada. En es os casos, cab ía el eje cicio del de echo de ec i icación en
los é minos del a ículo 85.2 de la LOPDGDD.
La CDFUE (a ículo 7) y el Con enio de Roma (a ículo 8) no lo con emplan
explíci amen e, sino den o del de echo al espe o a la ida p i ada y amilia .
Y es e úl imo exp esamen e lo econoce en el a ículo 10 como lími e a la
libe ad de exp esión.
El de echo al hono no es un concep o es á ico e inmu able, sino que, como
ha señalado el TC, es un concep o ju ídico que, aunque exp esa de modo
inmedia o la dignidad cons i ucional inhe en e a oda pe sona, depende, en
pa e, de las no mas, alo es e ideas sociales igen es en cada momen o, po
lo que compo a un ma gen de imp ecisión que ha de i se educiendo po
la conc eción judicial42. En odo caso, se a a de un de echo que «ampa a
la buena epu ación de una pe sona, p o egiéndola en e a exp esiones o
mensajes que la hagan desme ece en la conside ación ajena al i en su des-
c édi o o menosp ecio»43.
Los deep akes ambién pueden supone una in omisión ilegí ima en la
in eg idad mo al (a ículo 15 CE), po la c eación no consen ida y di usión en
línea, de ídeos o imágenes de con enido sexual que mayo i a iamen e ie-
nen a la muje como obje o. No a ec a ían al de echo undamen al a la in imi-
dad po cuan o la imagen gene ada con es a ecnología en ealidad es alsa44.
Las p ime as aplicaciones de es a ecnología su gie on pa a edi a os os
de pe sonas amosas en ídeos sexuales sin su consen imien o. Es e ipo de
abuso causa g a es daños a las íc imas, que di ícilmen e pueden pa a su
di usión. La in ención de es os deep akes suele se chan ajea , in adi la p i-
acidad, ex o siona pa a ob ene bene icios económicos (sex o sión)45 o sim-
plemen e busca ines de enganza con la consiguien e pé dida de dignidad
pa a la íc ima46. Pa a da una medida del alcance de es a ac i idad en línea,
des aquemos que casi siemp e es imposible as ea dónde se compa e es e
42 STC 46/2002, de 25 de eb e o FJ6.
43 Po odas, SSTC 185/1989, de 13 de no iemb e, F. 4; 176/1995, de 11 de diciemb e, F. 3;
180/1999, de 11 de oc ub e, F. 4; y 52/2002, de 25 de eb e o, F. 5). (STC 51/2008, de 14
de ab il [j 9], F. 3)
44 La imagen que se p o ege en el ámbi o penal (a ículo 197.1 CP) es la imagen e ídica,
quedando excluida la que es obje o de manipulación. Vid. Ja eño Leal, A. «El de echo a la
imagen ín ima y el Código Penal. La cali icación de los casos de elabo ación y di usión de
deep ake sexual», Re is a Elec ónica de Ciencia Penal y C iminología, n.º 26-09, 2024, p. 6.
45 Sex o sión u ilizando un mon aje o og á ico ealizado con in eligencia a i icial h ps://
www.incibe.es/linea-de-ayuda-en-cibe segu idad/casos- eales/sex o sion-u ilizan-
do-un-mon aje- o og a ico- ealizado-con-in eligencia-a i icial
46 En es e sen ido en el Reino Unido h ps://www.go .uk/go e nmen /news/be e -p o-
ec ion- o - ic ims- hanks- o-new-law-on-sexually-explici -deep akes. Vid. Velasco, C.
«Deep akes como se icio. Un análisis desde la pe spec i a del cibe deli o», op. ci .,
pp. 399-410.
167
CAPÍTULO 5. LA DIFÍCIL CONVIVENCIA ENTRE LA INTELIGENCIA ARTIFICIAL Y LOS DERECHOS...
con enido en las edes sociales, po que además suele se en g upos de men-
saje ía p i ada o canales ce ados, a menudo po pe sonas conocidas po las
íc imas. Un caso impac an e, po a a se de meno es de edad, es el que
ocu ió en sep iemb e de 2023, en la localidad de Almend alejo donde, más
de 20 niñas de en e 11 y 17 años ue on íc imas de es a ecnología. El Juz-
gado de Meno es de Badajoz, en sen encia de 20 de junio de 2024, conside ó
como hechos p obados que los 15 meno es de edad impu ados u iliza on
una aplicación de IA (Clo hO ) pa a manipula imágenes de o as meno es.
Así pues, a a és de las imágenes eales de los os os de las chicas ob eni-
dos de sus pe iles de las edes sociales, les supe ponían imágenes de o os
cue pos emeninos desnudos. Po ello se les decla ó esponsables de 20 deli-
os de po nog a ía in an il y 20 deli os con a la in eg idad mo al. Se a a de
un deli o de po nog a ía in an il independien emen e de que las imágenes
no sean eales y se hayan c eado con es a o con o a ecnología. Además,
se le impuso a cada uno de ellos la medida de libe ad igilada du an e un
año, eniendo como inalidad que los meno es ecibie an o mación a ec-
i o sexual, sob e uso esponsable de las ecnologías de la in o mación y la
comunicación y sensibilización en ma e ia de igualdad y géne o (a ículo 14
CE)47. Lo que implica que es os deep akes ienen una impo an e epe cusión
en la iolencia de géne o48.
4.5. De echo undamen al a la p o ección de da os
pe sonales
Técnicamen e, los mecanismos de deep ake se basan en las edes neu o-
nales del deep lea ning —Deep neu al ne wo ks— pa a el p ocesamien o de
in o mación, dado que les pe mi e analiza y almacena g andes can idades
de da os con el obje i o de ap ende las exp esiones aciales, el imb e de
oz o los ges os. Pos e io men e, los algo i mos de Deep lea ning —especial-
men e la ecnología de mapeo acial— in e p e an las ca ac e ís icas de los
da os analizados y las elaciones exis en es en e ellas, e aluando la in o -
mación ele an e y consiguiendo, po an o, in e cambia la ca a o oz de
una pe sona —en ídeo, undamen almen e— po o a con ele ado g ado de
e osimili ud49. Podemos deci , po an o, que los deep akes a ec an di ec-
amen e al de echo undamen al a la p o ección de da os pe sonales en la
medida en que la imagen y la oz son da os pe sonales que pe mi en iden i-
47 Badiola Coca, S., «Deep akes po nog á icos y meno es. Policy B ie - El caso Almend a-
lejo», op. ci ., p. 238.
48 Vid. Ba ba A eaga, C., «Deep akes sexuales: impac o, p e ención y pe spec i as de
géne o en el en o no digi al», Miguel He nandez Communica ion Jou nal, n.º 15, 2024.
49 Bello San Juan, P., «La in eligencia a i icial al se icio del c imen: Una e olución del
deep ake desde una pe spec i a c iminológica», en Fon es ad Po ales, L (di .), La jus i-
cia en la sociedad 4.0: nue os e os pa a el siglo XXI, Colex, 2023, p. 230.
168
INTELIGENCIA ARTIFICIAL Y PROTECCIÓN DE DATOS: DESAFÍOS EN LA ERA DIGITAL
ica nos y di e encia nos de los demás50. Es os usos de la IA plan ean iesgos
de suplan ación de iden idad y gene an impo an es pelig os pa a la segu i-
dad de la in o mación.
Las no mas gene ales pa a el a amien o de da os pe sonales se es a-
blecen en el Reglamen o Gene al de P o ección de Da os, Reglamen o (UE)
2016/679 del Pa lamen o Eu opeo y del Consejo, de 27 de ab il de 2016, ela-
i o a la p o ección de las pe sonas ísicas en lo que espec a al a amien o
de da os pe sonales y a la lib e ci culación de es os da os (RGPD) y en la
LOPDGD.
El é mino « a amien o de da os pe sonales» —a ículo 4.2 RGPD— es
amplio y aba ca odos los posibles usos de da os pe sonales du an e el ciclo
de ida de un deep ake. Es o iene implicaciones ele an es an o pa a los
desa ollado es de es a ecnología como pa a los c eado es de deep akes, ya
que los da os pe sonales no solo se u ilizan pa a c ea deep akes especí icos
sino ambién pa a en ena el so wa e empleado pa a su c eación.
Po an o, el RGPD se aplica al desa ollo de so wa e y aplicaciones deep-
ake, así como a la c eación y di usión de deep akes51. El RGPD es ablece
que el a amien o de da os pe sonales siemp e equie e una base de legi i-
mación. Exis en seis posibles undamen os ju ídicos pa a el a amien o de
da os pe sonales. Sin emba go, solo el «consen imien o in o mado» y los
«in e eses legí imos» son suscep ibles de se conside ados en el con ex o de
los deep akes. Cuando el c eado de es a IA alega ene un in e és legí imo
en p ocesa los da os pe sonales de alguien, como pudie a se , po ejemplo,
un deep ake i ónico que ep esen e a un pe sonaje público, pod á in oca
el eje cicio de la libe ad de exp esión con ines sa í icos o de comen a io
polí ico. Cuando no exis e un in e és legí imo, el uso de da os pe sonales
pa a la c eación y di usión de deep akes debe es a suje o al consen imien o
de las pe sonas que apa ecen en el ídeo. De con o midad con lo dispues o
en el a ículo 4.11 RGPD, se en iende po consen imien o del a ec ado oda
mani es ación de olun ad lib e, especí ica, in o mada e inequí oca po la
que es e acep a, ya sea median e una decla ación o una cla a acción a i ma-
i a, el a amien o de da os pe sonales que le concie nen52. En es os casos
se debe ob ene el consen imien o an o de la pe sona o pe sonas que apa-
ecen en el ídeo o iginal como de la pe sona o pe sonas que apa ecen en el
ídeo manipulado, ya que se p ocesan los da os pe sonales de odas ellas. El
a amien o de los da os pe sonales de un meno de edad mayo de ca o ce
años únicamen e pod á unda se en su consen imien o. El a amien o de
los da os de los meno es de ca o ce años, undado en el consen imien o,
50 G upo de T abajo del A ículo 29, Dic amen 4/2007 sob e el concep o de da os pe so-
nales, p. 8.
51 Pa lamen o Eu opeo, Tackling deep akes in Eu opean Poli ics, op. ci ., 2021, p. 38.
52 A ículo 6.1 LOPDGDD.
169
CAPÍTULO 5. LA DIFÍCIL CONVIVENCIA ENTRE LA INTELIGENCIA ARTIFICIAL Y LOS DERECHOS...
solo se á líci o si cons a el de los i ula es de la pa ia po es ad o u ela,
con el alcance que de e minen es os. El a ículo 84.1 LOPDGDD dispone con
ca ác e gene al que los pad es, mad es, u o es, cu ado es o ep esen an-
es legales p ocu a án que los meno es de edad hagan un uso equilib ado y
esponsable de los disposi i os digi ales y de los se icios de la sociedad de
la in o mación a in de ga an iza el adecuado desa ollo de su pe sonalidad
y p ese a su dignidad y sus de echos undamen ales53.
Si los c eado es de deep akes no ob ienen el consen imien o p e io, en
unción de lo que es ablece el a ículo 83.5 del RGPD y el a ículo 72 LOP-
DGDD se conside a án in acciones muy g a es, pues suponen una ulne-
ación sus ancial del p incipio de a amien o de da os pe sonales legí imo
basado en el consen imien o p e io del a ec ado y, más aún, a ándose de
meno es de edad.
En es os casos de a amien o de da os pe sonales ilíci o, el a ec ado pod á
eje ci a el de echo de sup esión de con o midad con el a ículo 17 RGPD. El
eje cicio de es e de echo sólo puede solici a lo la pe sona a ec ada, y en caso
de a a se de meno es de 14 años, sus p ogeni o es o u o es legales. P ime-
amen e, es pe inen e con ac a con quien subió el con enido solici ándole
su eliminación. An e la nega i a, es necesa io solici a el bo ado a la ed
social o el po al de ídeo en que se ha publicado el deep ake, ac edi ando la
iden idad del solici an e e indicando qué enlaces son los que con ienen los
da os que se quie en sup imi . La pla a o ma debe esol e sob e el eje cicio
del de echo de sup esión en el plazo máximo de un mes a con a desde la
ecepción de la misma54. T anscu ido ese plazo sin espues a exp esa o si
es insa is ac o ia, ya queda ía lib e la ía pa a in e pone la co espondien e
eclamación an e la Agencia Española de P o ección de Da os (AEPD), acom-
pañando la documen ación ac edi a i a de habe solici ado la sup esión an e
la en idad de que se a e.
Asimismo, las pe sonas a ec adas po los deep akes que hayan sido di un-
didos en edes sociales y se icios equi alen es end ían de echo al eje cicio
del de echo al ol ido digi al. El a ículo 94 LOPDGDD dispone que «Toda
pe sona iene de echo a que sean sup imidos los da os pe sonales que le
concie nan y que hubiesen sido acili ados po e ce os pa a su publicación
po los se icios de edes sociales y se icios de la sociedad de la in o ma-
ción equi alen es cuando uesen inadecuados, inexac os, no pe inen es, no
ac ualizados o excesi os o hubie en de enido como ales po el anscu so
del iempo, eniendo en cuen a los ines pa a los que se ecogie on o a a-
on, el iempo anscu ido y la na u aleza e in e és público de la in o mación.
Del mismo modo debe á p ocede se a la sup esión de dichos da os cuando
las ci cuns ancias pe sonales que en su caso in ocase el a ec ado e iden-
53 A ículo 92 LOPDGDD.
54 A ículo 12.3 RGPD.
170
INTELIGENCIA ARTIFICIAL Y PROTECCIÓN DE DATOS: DESAFÍOS EN LA ERA DIGITAL
ciasen la p e alencia de sus de echos sob e el man enimien o de los da os
po el se icio. Se excep úan de lo dispues o en es e apa ado los da os que
hubiesen sido acili ados po pe sonas ísicas en el eje cicio de ac i idades
pe sonales o domés icas». El de echo al ol ido espec o de da os que hubie-
sen sido acili ados al se icio po el a ec ado o po e ce os, du an e su
mino ía de edad, no equie e de ningún equisi o. El p es ado del se icio o
ed social debe á p ocede sin dilación a su sup esión po su simple solici ud.
En ales supues os, el c eado del deep ake no se pod ía acoge a la excep-
ción de ac i idad domés ica p e is a en el a ículo 2.2 c) RGPD en una ed
social donde haya limi ación de acceso y ac i idad pe sonal; y, po an o, le
se ía de aplicación la no ma i a de p o ección de da os, cuando incluya en e
sus con enidos da os pe sonales de e ce os de ca ác e sensible, como son
los de con enido sexual. De acue do con el Dic amen 5/2009 del G upo de
T abajo del a ículo 29 «los da os pe sonales sensibles sólo pueden publi-
ca se en In e ne con el consen imien o explíci o de la pe sona in e esada
o si es a misma pe sona ha hecho públicos es os da os». En es os casos,
la AEPD en 2019, ab ió lo que llamó un «canal p io i a io» pa a solici a la
e i ada exp és y u gen e de ma e ial «sensible». Es deci , o os y ídeos de
ca ác e sexual di undidos sin la au o ización de la pe sona que apa ecía en
las imágenes.
Los deep akes que ep esen an a pe sonas allecidas plan ean no solo
desa íos ju ídicos, sino ambién é icos55. El RGPD no se aplica a la p o ec-
ción de los da os pe sonales de las pe sonas allecidas, pe o los Es ados
miemb os pueden es ablece no mas especí icas al espec o56. En i ud de
la LOPDGDD, el acceso a la imagen de una pe sona allecida ges ionada po
los p es ado es de la sociedad de la in o mación co esponde a las pe sonas
inculadas al allecido, así como sus he ede os, a menos que la pe sona lo
haya p ohibido exp esamen e o así lo es ablezca una ley57. Además, el uso
de la imagen de los amilia es y amigos i os po pa e del p o eedo del
deep ake —po ejemplo, pa a el en enamien o de es a IA— ambién eque-
i ía de su consen imien o. Y el a ículo 3 de la LOPDGDD es ablece que los
he ede os o amilia es del allecido pueden eje ce los de echos de acceso,
ec i icación, sup esión y oposición al a amien o de sus da os pe sonales,
a menos que el allecido se hubiese negado exp esamen e o una ley dis-
ponga lo con a io. El esponsable del despliegue debe á hace público que
es os con enidos o imágenes han sido gene ados o manipulados de mane a
a i icial. Adicionalmen e, si el deep ake se des ina a alguna de las inalida-
des con empladas en el Anexo III RIA, pod ía se conside ado un sis ema de
55 Vid. Cucu ull Poble , T., «Vida más allá de la mue e: la legalidad de la esu ección digi-
al», Re is a de De echo Ci il, n.º 1, 2025.
56 Conside ando 27 RGPD.
57 A ículo 96 LOPDGDD.
171
CAPÍTULO 5. LA DIFÍCIL CONVIVENCIA ENTRE LA INTELIGENCIA ARTIFICIAL Y LOS DERECHOS...
IA de al o iesgo, quedando suje o a obligaciones más es ic as, incluyendo
obligaciones de anspa encia, supe isión humana, e aluación de iesgos y
e aluación de con o midad. Tal es el caso, po ejemplo, si el deep ake u iliza
da os biomé icos pa a in e i emociones.
Como hemos señalado, el RGPD o o ga a las pe sonas a ec adas po el
con enido de un deep ake ilegal el de echo de ec i icación y el de echo de
sup esión, y la AEPD es esponsable de ga an iza y hace cumpli dicha
no ma i a. Sin emba go, en el con ex o de los deep akes, la ía legal pa a
las íc imas puede se bas an e compleja. En muchos casos, les esul a á
imposible iden i ica al au o , quien a menudo ope a de o ma anónima. A
modo de ga an ía, el a ículo 84.2 LOPDGDD señala que la u ilización o di u-
sión de imágenes o in o mación pe sonal de meno es en las edes sociales
y se icios de la sociedad de la in o mación equi alen es que puedan impli-
ca una in omisión ilegí ima en sus de echos undamen ales de e mina á la
in e ención del Minis e io Fiscal, que ins a á las medidas cau ela es y de
p o ección p e is as en la Ley O gánica 1/1996, de 15 de ene o, de P o ec-
ción Ju ídica del Meno .
5. Medidas legisla i as
A ni el eu opeo, la DSA, además de las obligaciones de anspa encia pa a
los p es ado es de pla a o mas y de mo o es de búsqueda en línea de muy
g an amaño, p e é en su a ículo 16 mecanismos pa a minimiza la p opaga-
ción de deep akes noci os, pe mi iendo que cualquie pe sona ísica o en idad
no i ique a las pla a o mas en línea la p esencia en su se icio de con enidos
ilíci os. Igualmen e, es a án obligados a a ende las ó denes de ac uación
que eciban en es e sen ido de las au o idades judiciales o adminis a i as,
sin que en ellos descanse la obligación gene al de moni o ización de odo el
con enido alojado en sus se ido es. La DSA pe mi e exigi esponsabilida-
des a las pla a o mas en línea, pa icula men e las edes sociales, cuando no
ac úen con cele idad pa a e i a o bloquea el acceso al con enido ilíci o, en
cuan o engan conocimien o o consciencia de esa ilici ud. Las es icciones
di igidas a la e i ada o el bloqueo de ma e ial en línea debe án es a basa-
das en una jus i icación su icien e, con el in de e i a abusos y p omo e
la anspa encia. Como ga an ía, la medida pod á se e aluada po ó ganos
in e nos de ges ión de eclamaciones, así como po medio de la esolución
ex ajudicial de con lic os, lo que no impide el eje cicio de la u ela judicial
e ec i a an e los ibunales o dina ios. Es as medidas p e enden ga an iza la
libe ad de exp esión de los c eado es de con enido y, ambién, los de echos
undamen ales de las íc imas de con enido ilíci o median e la imposición
de obligaciones a las pla a o mas en línea sin pe juicio del econocimien o
de la libe ad de emp esa de es as que apa ece consag ada en el a ículo 16
CDFUE.
172
INTELIGENCIA ARTIFICIAL Y PROTECCIÓN DE DATOS: DESAFÍOS EN LA ERA DIGITAL
En el ámbi o nacional, el gobie no de España ha p esen ado y emi ido a
la Mesa del Cong eso de los Dipu ados el P oyec o de ley o gánica sob e la
p o ección de los meno es en los en o nos digi ales58. Con an e io idad se
habían p esen ado o as p oposiciones de ley con el obje o de lucha con a
las simulaciones de imágenes y oces de pe sonas gene adas po medio de
la IA59. Es e p oyec o de ley o gánica encuen a su undamen o cons i ucional
en el de a ículo 20.4 CE, así como en el a ículo 39 CE, que ecoge el de e-
cho a la p o ección in eg al de la in ancia. También cons i uye an eceden e
de es e p oyec o la Ley O gánica 8/2021, de 4 de junio, de p o ección in eg al
a la in ancia y la adolescencia en e a la iolencia (LOPIVI). Pa alelamen e,
es a p opues a esponde a di e en es indicado es, an o de las ins i uciones
eu opeas —la Es a egia pa a los de echos de la in ancia 2021-2024—, como
de di e en es ac o es nacionales, po ejemplo, el Ins i u o Nacional de Cibe -
segu idad (INCIBE).
El p incipal obje i o de es e p oyec o de ley es p omo e , como ecoge
la exposición de mo i os, medidas pa a ga an iza la dignidad, el espe o a
los de echos undamen ales y el in e és supe io del meno a a és de la
p o ección de la in ancia y adolescencia en en o nos digi ales. En conc e o:
el de echo a la salud ísica y men al; el de echo a la educación, en nue as
ecnologías, según su edad y g ado de madu ez; los de echos undamen a-
les a la libe ad de exp esión e in o mación y a ecibi in o mación e az; el
de echo al acceso a In e ne segu o; los de echos undamen ales al hono ,
a la in imidad, a la p opia imagen, al sec e o de las comunicaciones y a la
p o ección de da os pe sonales y el de echo undamen al a no su i disc i-
minación.
En e las medidas que p opone la no ma, encon amos di e en es ca e-
go ías. En p ime luga , medidas ecnológicas, ales como obligaciones di i-
gidas a los p o eedo es ecnológicos de in o ma en sus p oduc os de los
posibles iesgos de i ados de un uso inadecuado de las ecnologías y, de
inclui sis emas de con ol pa en al en los disposi i os digi ales.
En segundo luga , medidas educa i as, pa a el omen o de las compe en-
cias digi ales y el uso esponsable de las ecnologías.
En e ce luga , medidas e o zadas de p o ección en e a la iolencia de
géne o y sexual digi al, econociendo la condición de íc imas a los e ec os
de la Ley O gánica 1/2004, de 28 de diciemb e, de Medidas de P o ección
58 h ps://www.cong eso.es/public_o iciales/L15/CONG/BOCG/A/BOCG-15-A-52-1.PDF
59 Sob e la P oposición de Ley o gánica del G upo Pa lamen a io Suma de 13 de oc ub e de
2023 e i ada en ma zo de 2024 id. T ujillo Cab e a, C., «El de echo a la p opia imagen
(y a la oz) en e a la in eligencia a i icial», Ind e : e is a de análisis del de echo, n.º 1,
2024, pp. 94-95 y Ja eño Leal, A., «El de echo a la imagen ín ima y el Código Penal. La
cali icación de los casos de elabo ación y di usión de deep ake sexual», op. ci ., pp. 17-18.
173
CAPÍTULO 5. LA DIFÍCIL CONVIVENCIA ENTRE LA INTELIGENCIA ARTIFICIAL Y LOS DERECHOS...
In eg al con a la Violencia de Géne o y de la Ley O gánica 10/2022, de 6 de
sep iemb e, de ga an ía in eg al de la libe ad sexual, espec i amen e.
En cua o luga , medidas de ca ác e sani a io, con el obje i o de conoce
los e ec os del impac o nega i o que los con enidos digi ales lesi os ienen
pa a el bienes a ísico y emocional de los meno es.
En quin o luga , medidas di igidas al sec o público pa a omen a la cola-
bo ación público-p i ada median e acciones p oac i as y e icaces de in o -
mación y o mación sob e en o nos digi ales segu os pa a los meno es de
edad y sus amilias.
En e las medidas legisla i as incluidas en el p oyec o de ley, la p o ec-
ción de la in ancia y adolescencia en los en o nos digi ales puede eque i
la acción po pa e de las pla a o mas en línea a a és de la in e upción de
un se icio de la sociedad de la in o mación que o ezca acceso ilimi ado a
con enido g a emen e pe judicial al desa ollo ísico, men al y mo al de los
meno es de edad. Pa a ello se p opone la e o ma de la Ley O gánica del
Pode Judicial y de la Ley de la Ju isdicción Con encioso-Adminis a i a a in
de exigi au o ización judicial a las medidas de in e upción de un se icio
digi al que o ezca un acceso sin lími es a con enido noci o pa a meno es
de edad o la de e i ada de dicho con enido, pues ales es icciones pueden
llega a a ec a a de echos undamen ales como la libe ad de exp esión o el
de echo de in o mación, que deben con a con es a ga an ía.
Pa alelamen e es e p oyec o de ley econoce la necesidad de una e o ma
del Código Penal. Según su exposición de mo i os, algunos ipos delic i os
ecnológicos di igidos a la p o ección de los meno es de edad ya habían sido
ecogidos po las úl imas e o mas del Código Penal, undamen almen e a
a és de la LOPIVI, donde po p ime a ez se habla de iolencia digi al. A
a és de es a inicia i a gube namen al, p ime amen e, se inco po a la pena
de alejamien o de los en o nos i uales, que consis e en la p ohibición de
acceso o de comunicación a a és de edes sociales, o os, pla a o mas de
comunicación o cualquie o o luga en el espacio i ual, cuando el deli o se
come e en su seno.
En segundo luga , se abo da especí icamen e el a amien o penal de los
deep akes. A al in se inco po a un nue o a ículo 173 bis, que sanciona a
quienes, sin au o ización de la pe sona a ec ada y con ánimo de menosca-
ba su in eg idad mo al, di undan, exhiban o cedan su imagen co po al o
audio de oz gene ada, modi icada o ec eada median e sis emas au oma-
izados, so wa e, algo i mos, IA o cualquie o a ecnología, de modo que
pa ezca eal, simulando si uaciones de con enido sexual o g a emen e eja-
o ias. Las ul a alsi icaciones gene almen e se di unden en el cibe espacio,
con la po encialidad de pe manencia que ello implica y, además, conlle an
un aumen o de la lesi idad po la eno me di icul ad de dis ingui en e el
con enido also y el eal, debido a la p ecisión de las nue as ecnologías y
po el mayo g ado de e acidad que man enemos espec o de ma e iales
174
INTELIGENCIA ARTIFICIAL Y PROTECCIÓN DE DATOS: DESAFÍOS EN LA ERA DIGITAL
audio isuales sob e ma e iales esc i os60. Técnicamen e, según la exposición
de mo i os, se op a po la sanción de la di usión de las ul a alsi icaciones
de con enido sexual (las llamadas deep akes po nog á icas) o especialmen e
eja o io en sede de deli os con a la in eg idad mo al po que, en i ud del
p incipio de consunción, se aba ca ían los supues os de lesión de la in eg i-
dad mo al y ambién los a aques con a el hono , ya que ha de oma se en
cuen a no solo la a ec ación a la epu ación, sino ambién la cosi icación e
ins umen alización que se p oduce sob e la íc ima, gene almen e muje es
y niñas, niños y adolescen es que son a ados como obje os de consumo.
También hay que eco da que la mo i ación pa a lle a a cabo es as accio-
nes no siemp e se iden i ica con el animus iniu iandi, pues el hecho puede
debe se a o as azones como el ánimo de luc o, si dichas imágenes se u ili-
zan en páginas o aplicaciones de con enido po nog á ico.
En e ce luga , se p e é la modi icación del a ículo 186 del Código Penal,
con la inalidad de mejo a la p o ección del bien ju ídico libe ad sexual de
los meno es. Y, en cua o luga , se in oducen dis in os ipos delic i os ag a-
ados que ienen que e con el uso de iden idades alsas a a és de la
ecnología, que acili an la comisión de deli os con a las pe sonas meno es
de edad61.
En elación con el de echo undamen al a la p o ección de da os pe so-
nales se p e ende modi ica la LOPDGDD pa a ele a de ca o ce años a los
dieciséis años, la edad a pa i de la cual las pe sonas meno es de edad
pueden p es a consen imien o pa a el a amien o de sus da os pe sona-
les. Según la exposición de mo i os, se a a ía de a moniza es e equisi o
con el es ablecido po la mayo ía de los países de la Unión Eu opea, así
como con el exigido en el o denamien o ju ídico nacional pa a los meno es
de edad en o as ac i idades o conduc as. Asimismo, se p opone la e o ma
de la Ley Gene al de Comunicación Audio isual pa a impone obligaciones a
los in luence s y a las g andes pla a o mas de la comunicación, como la de
u iliza sis emas de e i icación de edad, sepa a los con enidos que puedan
inclui escenas de po nog a ía o iolencia g a ui a o es ablece enlaces a los
canales de denuncias.
60 O os ejemplos en países como Co ea del Su ; Es ados Unidos y Reino Unido: h ps://
www.xa aka.com/legislacion-y-de echos/deep akes-sexuales-no-pa a an-solo-cas i-
ga -su-dis ibucion-hay-que- ija se-pione a-ley-co ea-su
h ps://www.new al.es/deep akes-desnudos-es ados-unidos/20250321/
h ps://www.dw.com/es/ eino-unido-penaliza %C3%A1-la-c eaci%C3%B3n-de-deep-
akes-sexuales/a-71236153.
61 Exposición de mo i os del P oyec o de ley.
175
CAPÍTULO 5. LA DIFÍCIL CONVIVENCIA ENTRE LA INTELIGENCIA ARTIFICIAL Y LOS DERECHOS...
6. A modo de conclusión
Resul a imp escindible esal a la impo ancia de la dignidad humana y
del espe o a los de echos undamen ales pa a hace en e a los desa íos
ju ídicos que plan ea la IA. La Decla ación Eu opea sob e los De echos y
P incipios Digi ales pa a la Década Digi al de 23 de ene o de 2023 señala
que las pe sonas cons i uyen el núcleo de la ans o mación digi al de la
Unión Eu opea. La ecnología debe se i y bene icia a odas las pe sonas
que i en en la UE y empode a las pa a que cumplan sus aspi aciones, en
o al segu idad y espe ando plenamen e sus de echos undamen ales. Po
su pa e, el Con enio Ma co sob e IA, De echos Humanos, Democ acia y
Es ado de De echo de 17 de mayo de 2024, del Consejo de Eu opa pe si-
gue ga an iza que las ac i idades ealizadas den o del ciclo de ida de los
sis emas de IA sean plenamen e compa ibles con los de echos humanos, la
democ acia y el Es ado de De echo.
A lo la go de es as líneas hemos dado un epaso a los di e en es oles
que ocupan los suje os implicados en el ciclo de ida de los deep akes. Así,
los p oduc o es de es e con enido pueden ac ua en el eje cicio legí imo de
la libe ad de exp esión o de c eación a ís ica. No obs an e, no siemp e el
c eado de un deep ake pe sigue obje i os an encomiables como con ibui
a la o mación de una opinión pública lib e y plu al. Hemos podido comp o-
ba cómo los deep akes pueden lesiona de echos undamen ales, al p o o-
ca desin o mación po su capacidad pa a con undi a la audiencia y, sob e
odo, al e a los p ocesos democ á icos. También el sis ema judicial puede
se blanco de es a écnica con g a es consecuencias pa a la p esunción de
inocencia de la íc ima de una p ueba alsa. Dada su na u aleza de con enido
audio isual, es el de echo undamen al a la p opia imagen el p incipal a ec-
ado, sob e odo cuando se emplean los a ibu os de la imagen o la oz sin el
consen imien o de su i ula . Sin emba go, la a ención se ha cen ado en el
acceso ilimi ado y asiduo de los meno es de edad a es a ecnología, en oca-
siones con la in ención de humilla y causa e güenza pública a las íc imas.
Es as conduc as llegan a cons i ui una mani es ación de la iolencia digi al
y sexual especialmen e di igidas con a muje es y niñas. La mayo ía de es as
ul a alsi icaciones noci as emplea da os pe sonales como la imagen y la oz
sin el consen imien o de las pe sonas a ec adas y, po an o, lesionando el
de echo undamen al a la p o ección de da os pe sonales.
An e es e pano ama, esul a u gen e e inexcusable comba i , desde el
o denamien o ju ídico, el impac o nega i o de los deep akes sob e los de e-
chos undamen ales.
Una p ime a opción ha sido, desde la Unión Eu opea, la de inclui a los
deep akes en e los sis emas IA de iesgo limi ado. Sin emba go, la me a
imposición de la obligación de anspa encia esul a insu icien e, po que el
iesgo que plan ean no es solamen e p o oca desin o mación, sino que son
