1
Capí ulo 26
De echos y iesgos de las IA gene a i as y/o on e a
1
Miguel Ángel Mo eno Na a e e
P o eso Ti ula de De echo Ci il
Uni e sidad de G anada (España)
RESUMEN: La ecien e apa ición de la in eligencia a i icial gene a i a a a ene un impac o di ec o en los
de echos de los ciudadanos. Se plan ean los iesgos que es as ecnologías suponen pa a la p i acidad, la
au onomía de la olun ad y la igualdad, y se des aca el pelig o de la manipulación de la in o mación, la
disc iminación algo í mica y la ulne ación de la libe ad pe sonal. Asimismo, se sub aya la impo ancia de una
egulación ju ídica adecuada que los con emple y ga an ice un uso é ico y anspa en e de la IA. Hoy, más que
nunca, es necesa ia una unión pací ica en e Ciencia y De echo pa a a on a los desa íos de la dis upción
ecnológica, con un ma co egulado cen ado en la p o ección de los de echos undamen ales; en de ini i a, en
la pe sona como alo pe manen e.
ABSTRACT: The ecen eme gence o gene a i e a i icial in elligence will ha e a di ec impac on ci izens»
igh s. These echnologies pose isks o p i acy, au onomy o will, and equali y, highligh ing he dange s o
in o ma ion manipula ion, algo i hmic disc imina ion, and he in ingemen o pe sonal eedom. Fu he mo e,
i unde sco es he impo ance o an app op ia e legal amewo k ha add esses hese isks and ensu es he
e hical and anspa en use o AI. Today, mo e han e e , a peace ul union be ween Science and Law is necessa y
o con on he challenges and echnological dis up ion, wi h a egula o y amewo k ocused on he p o ec ion
o undamen al igh s, ul ima ely, on he indi idual as a pe manen alue.
PALABRAS CLAVE: in eligencia a i icial, de echos, iesgos.
KEYWORDS: A i icial in elligence, igh s, isks.
I. La digi alización de lo co idiano, la sociedad del da o y el in e ne del alo
Desde los años 90 del siglo pasado, In e ne cambió nues as idas. Se con i ió en la
pla a o ma habi ual de lib e ci culación de la in o mación. Desde ese iempo, en la Red ope an
pe sonas, da os y modelos de negocio. En nues a opinión, su gobie no se undamen a más
en la con ianza, que en la p o ección que dispensan las no mas ju ídicas especí icas. En
de ini i a, compa imos in o mación que a ec a a nues a es e a ju ídica y ealizamos
negocios en línea, la azón, en endemos, es po que las emp esas nos p oducen con ianza, no
po las no mas que nos p o egen; ya que in e ac uamos po hábi os, ocio, negocios o
necesidad. Los ciudadanos se han acos umb ado a la u ilización de la ecnología digi al en su
ida dia ia, a la «digi alización de lo co idiano», p oduciéndose una in e acción cons an e con
la ecnología, las emp esas y los p es ado es de se icios. Es a in e acción se aduce en una
g an p oducción de da os que son u ilizados pa a es ablece pa ones de compo amien o o
1
Es a publicación se ha elabo ado en el ma co del P oyec o de In es igación Aplicada UGR — FEDER
(C.SEJ.158.UGR23) sob e «Respues as ju ídicas a la p o ección de los meno es en la sociedad digi al: Riesgos e
in eligencia a i icial».
2
su indexación social o económica; y cuyo in es el consumo po encima de odo. Es o en el
mejo de los casos, pues exis en o os ines más pelig osos, que conlle an oda una se ie de
ac i idades con a ias a los de echos de los ciudadanos.
Ha pasado ya mucho iempo si nos e e imos a la In o má ica como Ciencia, y han sido ya
a ios los hi os que se han p oducido, especialmen e debemos e e i nos: al enómeno de la
Web 2.0, el In e ne del alo , la compu ación en la nube, el Big Da a, las ecnologías de
egis o dis ibuido (como blockchain y los c ip ocon a os), la in eligencia a i icial, el In e ne
de las cosas (IoT), la obó ica, la e olución indus ial 4.0, e c. Po ello, hoy más que nunca
necesi amos la unión pací ica en e Ciencia y De echo.
La i upción de es as ecnologías se es á p oduciendo de mane a exponencial a pa i de
los a ances signi ica i os de la ingenie ía del ha dwa e y de la ciencia compu acional; y
muchos hablan ya de ecnologías dis up i as. Es lo que se ha denominado el cambio de
modelo o pa adigma undamen al. Como expone, e i iéndose a la compu ación en la nube,
Kushida e al., hemos pasado de la compu ación de la escasez a la compu ación de la
abundancia
2
. Y es a e olución en la Ciencia es á acele ando la ans o mación de los
p oduc os, se icios y modelos de negocio, y modi icando sus ancialmen e las Tecnologías de
la In o mación y de las Comunicaciones (TICs) exis en es.
Pe o odo ello iene sus iesgos. Ya en ab il de 2016, la Re is a «In es igación y Ciencia»,
publicó un doble mani ies o que nos in o maba sob e los pelig os eales de la in eligencia
a i icial y de la au oma ización de lo co idiano. Y ue on isiona ios de la ecnología como
Musk, Ga es y Wozniak, quienes ale a on del pelig o pa a la humanidad llegándola a
compa a con las a mas nuclea es. Como señala Helbing e al., «lo indiscu ible es que el modo
de o ganiza la economía y la sociedad su i á un cambio undamen al
3
». De al mane a que
las posibilidades de negocio en la Red y las posibilidades de in e acción de los ciudadanos con
la ecnología se han mul iplicado de mane a e iden e.
Aho a bien, de odos los a ances que se es án p oduciendo, son blockchain y la
in eligencia a i icial los que p oducen o pueden p oduci mayo epe cusión en los de echos
de los ciudadanos y los que susci an mayo p oblemá ica. Pues blockchain e oluciona á las
o mas de las elaciones ju ídicas y la in eligencia a i icial a ec a á a oda la es e a ju ídica de
la pe sona y, en úl imo ex emo, nace pa a se au ónoma espec o de la olun ad humana.
Respec o a blockchain, hoy en día, a pa i de la c ip og a ía de cla e pública y de las edes
de egis o dis ibuido, es amos asis iendo a una nue a época, donde el alo y el pa imonio
digi al es un hecho. Pues pasamos de la con ianza como mo o de la ci culación de la
in o mación a la segu idad. De es a o ma, ha su gido el denominado «In e ne del alo » y la
«economía simbólica». Pues es posible ealiza ac os y negocios ju ídicos de o ma segu a a
pa i de écnicas c ip og á icas y edes descen alizadas y dis ibuidas, donde se p e ie e la
2
Kushida, K. E. Mu ay, J., and Zysman, J., «Cloud Compu ing: F om Sca ci y o Abundance». Jou nal o
Indus y, Compe i ion and T ade, Vol. 15, núm. 1, 2015, (h p://link.sp inge .com).
3
Helbing, D. e al., «Mani ies o Digi al I: ¿Democ acia digi al o con ol del compo amien o? Una llamada
pa a ga an iza el uso democ á ico de los mac oda os y de la in eligencia a i icial», Re is a In es igación y
Ciencia, Nº. 475 (2016), pp. 76-83.
3
segu idad en e a la con ianza. Como a i ma Lee, «se espe a que Blockchain sea una
ecnología cla e que pe mi a nue os p o ocolos pa a el es ablecimien o de una economía
simbólica en el u u o, que conduzca a un nue o pa adigma económico
4
». Expone Viscon i que
la economía simbólica es á p oduciendo una up u a con los modelos come ciales
adicionales, y es una ealidad hoy en día en sec o es como: las ansacciones come ciales,
de inmuebles, anspo e, come cio elec ónico en gene al, me cado de alo es, segu os,
p és amos, e c., en de ini i a, la ans e encia de alo a a és de es ánda es abie os
5
. El
In e ne del alo supone, desde el pun o de is a ju ídico, la seudonimización de las pe sonas
y la okenización de las cosas y se icios. Se a a de un sal o cuali a i o de lo eal a lo
simbólico. Pe o odo ello iene sus iesgos. Las ecnologías blockchain pueden a ec a muy
especialmen e a la libe ad, en es e caso, a la libe ad de decidi de mane a conscien e. En
de ini i a, a la libe ad de con a a y a la libe ad con ac ual, sob e odo en el ámbi o del
consumo.
De es a o ma, con la digi alización de lo co idiano, la libe ad de con a a y con ac ual
que se consag ó en la ieja Eu opa con la implan ación de las ideas de la Re olución ancesa
y que se plasmó en la codi icación del De echo ci il, desapa ece pa a con e i la olun ad
humana en inconscien e y p edecible. La igualdad de las pa es en la con a ación no exis e,
ni an siquie a, con la aplicación de la no ma i a p o ec o a de los consumido es, pues el
«cambio de pa adigma» a ec a a los de echos y libe ades más p óximos al se humano.
Y la implan ación de las ecnologías de egis o dis ibuido y el a amien o de da os, en
cuan o a su aplicación al consumo, a ec an undamen almen e a la libe ad indi idual, pues
con ie e nues a conciencia en colec i a. En es e sen ido, la digi alización de lo co idiano
es inge la libe ad y me can iliza nues a ida p i ada. El p oblema es que el consumido lo
asume como algo habi ual y no mal, pues, hemos ap endido a con i i con ello.
En la ac ualidad, las no mas ju ídicas no nos dan epues as a es e p oblema, pues un
mayo con ol es a al o una mayo in o mación, la supe isión de la publicidad, e c., no es
su icien e. Es necesa io que el uso de blockchain y los con a os in eligen es es é asociado a
un ma co no ma i o especí ico.
Hemos en endido necesa io in oduci la ealidad ac ual del In e ne del alo y de la
economía simbólica pa a pode si ua el e dade o obje o de es a in es igación, cual es los
iesgos de la in eligencia a i icial espec o de los de echos de los ciudadanos, pues, no pasa á
mucho iempo pa a que es as ecnologías se unan de o ma insepa able.
II. Dis upción ecnológica y p o ección ju ídica
La cues ión es si los sis emas de De echo, an a aigados en la His o ia, se an a adap a
sob e las bases y undamen os ac uales o, po el con a io, se a a i adop ando sis emas
4
Lee, J. Y., «A decen alized oken economy: How blockchain and c yp ocu ency can e olu ionize
business», Business Ho izons, Volume 62, Issue 6, No embe -Decembe 2019.
h ps://doi.o g/10.1016/j.busho .2019.08.003
5
Viscon i, R., «Blockchain Valua ion: In e ne o Value, digi al ne wo ks and sma ansac ions», P ojec :
alua ion o web asse s (domain names — websi es — digi al b ands — M-Apps), 2019, pp. 3-5.
4
ju ídicos dis up i os, ¿po qué no? En es e sen ido, el uso de la in eligencia a i icial y de
blockchain debe acompaña se con el es ablecimien o de un ma co é ico y ju ídico ap opiado,
como han ei e ado los di e en es documen os, al espec o, publicados po las Ins i uciones
de la Unión Eu opea y la dogmá ica ju ídica. ¿Se á el ecien e Reglamen o Eu opeo que egula
la in eligencia a i icial la solución? Es e es un deba e que equie e un es udio mucho más
p o undo.
En es e sen ido, la discusión sob e la egulación de la in eligencia a i icial en la Unión
Eu opea comenzó con un en oque en la necesidad de un ma co legal que ga an iza a una IA
«cen ada en el se humano». Es o se inculó a los alo es undamen ales de la Unión
Eu opea, como la p o ección de los de echos undamen ales y la p i acidad a pa i de los
pos ulados de la Ca a de los De echo Fundamen ales (2010). Ya, desde 2017, el Consejo de
la Unión Eu opea pidió epe idamen e la adopción de no mas comunes sob e IA. En 2020,
solici ó a la Comisión que p esen a a p opues as conc e as basadas en un en oque egulado
p opo cional y basado en iesgos.
En 2019 se publica on di ec ices no inculan es pa a el uso con iable de la IA, elabo adas
po un g upo de expe os de al o ni el. Es as di ec ices es ablecie on p incipios pa a
ga an iza que la IA espe e los de echos undamen ales y que sus usos sean anspa en es,
segu os y esponsables.
Como hi o impo an e, en 2020 se publica el «Lib o Blanco sob e la In eligencia A i icial».
En es e documen o cla e, la Comisión Eu opea p opuso una es a egia pa a omen a la
adopción de la IA y, al mismo iempo, abo da los iesgos asociados con cie os usos de la
ecnología. La Comisión se comp ome ió a p omo e una IA con iable y segu a, p oponiendo
no mas a monizadas en oda la UE pa a el desa ollo y uso de sis emas de IA. En el mismo
año, la Comisión lanzó una consul a pública sob e la egulación de la IA, que ue seguida po
una e aluación de impac o. En dicha e aluación, se iden i ica on p oblemas cla e asociados a
la IA, como la opacidad de los sis emas, su complejidad y la dependencia de g andes
can idades de da os.
Des acamos la Resolución del Pa lamen o Eu opeo, de 20 de oc ub e de 2020, con
ecomendaciones des inadas a la Comisión sob e un ma co de los aspec os é icos de la
in eligencia a i icial, la obó ica y las ecnologías conexas (2020/2012(INL)), en cuyo í ulo III,
dispone sob e los p incipios é icos pa a el desa ollo, el despliegue y el uso de la in eligencia
a i icial, la obó ica y las ecnologías conexas, se basa en los siguien es p incipios:
– Una in eligencia a i icial, una obó ica y unas ecnologías conexas an opocén icas,
an opogénicas y con oladas po se es humanos;
– E aluación de la con o midad obliga o ia de la in eligencia a i icial, la obó ica y las
ecnologías conexas de al o iesgo;
– Segu idad, anspa encia y endición de cuen as;
– Sal agua dias y ías de ecu so con a el sesgo y la disc iminación;
5
– De echo de esa cimien o;
– Responsabilidad social e igualdad de géne o en la in eligencia a i icial, la obó ica y las
ecnologías conexas;
– Una in eligencia a i icial, una obó ica y unas ecnologías conexas ambien almen e
sos enibles;
– Respe o de la in imidad y es icciones al uso del econocimien o biomé ico;
– Buena gobe nanza ela i a a la in eligencia a i icial, la obó ica y las ecnologías
conexas, incluidos los da os u ilizados o p oducidos po dichas ecnologías.
Fue en ab il de 2021 cuando la Comisión Eu opea p opuso la p ime a egulación de la IA,
se a aba de la P opues a de Reglamen o del Pa lamen o Eu opeo y del Consejo po el que
se es ablecían no mas a monizadas en ma e ia de in eligencia a i icial (Ley de In eligencia
A i icial
6
). El mismo ue publicado el 12 de julio de 2024 con la denominación «Reglamen o
de In eligencia A i icial
7
».
En é minos gene ales, su inalidad es: «p omo e la adopción de una in eligencia a i icial
(IA) cen ada en el se humano y iable, ga an izando al mismo iempo un ele ado ni el de
p o ección de la salud, la segu idad y los de echos undamen ales consag ados en la Ca a,
incluidos la democ acia, el Es ado de De echo y la p o ección del medio ambien e, en e a los
e ec os pe judiciales de los sis emas de IA (en lo sucesi o, “sis emas de IA”) en la Unión, así
como p es a apoyo a la inno ación
8
».
Y se di ige an o a los p o eedo es de sis emas de IA, cualquie a que sea su ubicación,
como a los p es ado es de se icios que ponga en uncionamien o o desplieguen dichos
sis emas
9
.
III. La in eligencia a i icial gene a i a y/o on e a
6
COM/2021/206 inal.
7
Reglamen o (UE) 2024/1689 del Pa lamen o Eu opeo y del Consejo, de 13 de junio de 2024, po el que se
es ablecen no mas a monizadas en ma e ia de in eligencia a i icial y po el que se modi ican los Reglamen os
(CE) nº 300/2008, (UE) nº 167/2013, (UE) nº 168/2013, (UE) 2018/858, (UE) 2018/1139 y (UE) 2019/2144 y las
Di ec i as 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828 (Reglamen o de In eligencia A i icial).
8
Reglamen o Eu opeo IA, A . 1. Reglamen o Eu opeo IA, Conside ando (1): «(…) p omo e la adopción de
una in eligencia a i icial (IA) cen ada en el se humano y iable, ga an izando al mismo iempo un ele ado ni el
de p o ección de la salud, la segu idad y los de echos undamen ales consag ados en la Ca a de los De echos
Fundamen ales de la Unión Eu opea».
9
Reglamen o Eu opeo IA, Conside ando (21): «Con el obje i o de ga an iza la igualdad de condiciones y la
p o ección e ec i a de los de echos y libe ades de las pe sonas en oda la Unión, las no mas es ablecidas en el
p esen e Reglamen o deben aplica se a los p o eedo es de sis emas de IA sin disc iminación, con independencia
de si es án es ablecidos en la Unión o en un e ce país, y a los esponsables del despliegue de sis emas de IA
es ablecidos en la Unión».
6
Las ciencias en gene al pe mi en in e p e a la ida eal de o ma concep ual, a pa i de
la obse ación. La in eligencia a i icial, po su pa e, a pa i de acciones de la ida co idiana,
econs uye y p edice la ealidad a pa i de modelos o pa ones. Su o igen siemp e son los
da os. Su in, la p edicción sob e nue as ealidades.
La in eligencia a i icial no iene como in se mecánica, sino c eado a, como expone Hui,
«la in eligencia eme ge cuando es e [algo i mo] deja de se mecánico, es deci , cuando
adquie e la capacidad de lidia con acciden es que no es án g abados como eglas». Y a pa i
de hechos empí icos es capaz de c ea eglas no p e ijadas, es deci que no se limi a a aplica
lo uni e sal a lo pa icula
10
. Cons i uye sin duda un iesgo el asgo de la c ea i idad de la
in eligencia a i icial, po que la c eación es á ese ada al suje o indi idual a a és del
conocimien o y la olun ad humana.
En la ac ualidad, en el come cio digi al y en los p ocesos de oma de decisiones en las
elaciones come ciales en e clien es y emp esas, la in eligencia a i icial es á desempeñando
un papel cada ez más ele an e, undamen almen e median e écnicas de ap endizaje
au omá ico (Machine Lea ning) o p o undo (Deep Lea ning, edes neu onales); además de los
nue os modelos como las IA gene a i as y/o las IA on e a, basados en el p ocesamien o de
imágenes, sonidos o del lenguaje na u al (LLMs), cuya máximos exponen es son GPT-o.3
(modelo de azonamien o), GEMINIS 2.0, CLAUDE 3.5, e c.
La in eligencia a i icial su ge con la inalidad de se au ónoma espec o de la olun ad
humana; po ello, en la ac ualidad, se ha p oducido un g an a ance con las IA gene a i as. En
gene al, se ca ac e izan po que p oducen soluciones basadas en los da os de en enamien o,
pe o sin se copia exac a de los mismos, de ahí la gene ación. Los modelos son, gene almen e,
las edes gene a i as ad e sa ias (GANs), los au o eg esi os y las edes de codi icación
a iacional (VAEs). Igualmen e asis imos al desa ollo eó ico de la Supe in eligencia A i icial
(ASI) que es un concep o que se e ie e a una o ma de in eligencia a i icial que supe a la
capacidad in elec ual de los se es humanos en p ác icamen e odos los campos como: la
c ea i idad, la oma de decisiones, la esolución de p oblemas complejos, el ap endizaje
au ónomo y la in e acción social; lo cual puede p oduci g a es p oblemas é icos y ju ídicos,
po un lado, y de segu idad po o o.
Los llamados sis emas LLM (La ge Language Models) son modelos que han sido
en enados con g andes can idades de da os ( ex os, imágenes, e c.), u ilizan edes
neu onales p o undas, gene almen e median e la denominada a qui ec u as ans o me s,
desa olladas po Google. Fue en 2017, cuando Vaswani e al., publica on el a ículo
«A en ion is All You Need
11
», pe o en 2018 es cuando se p oduce un hi o impo an e, Rad o d
e al., de la compañía OpenAI, publica on la in es igación «Imp o ing Language
Unde s anding by Gene a i e P e-T aining»; lo cual suponía un a ance signi ica i o, pues dio
la luz GPT (Gene a i e P e- ained T ans o me ). Has a esa echa, el p ocesamien o del
10
Hui, Y., «Sob e el lími e de la in eligencia a i icial. Un epaso a las eo ías sob e in eligencia e in eligencia
a i icial, desde la adición ilosó ica occiden al y el neocon ucianismo», CCCBLAB, In es igación e Inno ación en
Cul u a, sep. 2020, (h p://lab.cccb.o g/es/sob e-el-limi e-de-la-in eligencia-a i icial/).
11
C . Vaswani, A., Shazee , N., Pa ma , N., Uszko ei , J., Jones, L., Gomez, A. N., Kaise , Ł., & Polosukhin, I.,
«A en ion is All You Need», 2017, a Xi :1706.03762 (h ps://a xi .o g/abs/1706.03762).
7
lenguaje na u al enía un p oblema, la necesidad de e ique a g andes can idades de da os.
Po con a, la emp esa OpenAI encon ó mucho mejo endimien o a pa i de un p e-
en enamien o de g ades can idades de ex o sin e ique a (no supe isado), seguido de un
ajus e ino (Fine-Tuning), ya si, con da os e ique ados, pa a a eas especí icas, en con ex os
mucho más educidos. La impo ancia de es os modelos es que son capaces de gene a nue o
con enido, a pa i del p e-en enamien o, donde el modelo ap ende pa ones de lenguaje y
p obabilidades de secuencia, mecanismos de a ención ( ans o me ) y codi icación posicional.
A pa i de ahí, los usua ios p oducen una en ada inicial (P omp ) o secuencia de ex o y el
modelo p oduce una p edicción au o- eg esi a gene ando palab a a palab a ( okens) y
lenguaje cohe en e y con ex ual
12
. En la ac ualidad, el o igen no solo son ex os, sino que
pueden se imágenes, audios, ídeos (mul i-modal), lo que puede p oduci salidas en dichos
o ma os (mul i- a ea).
Como ya hemos expues o, los modelos son, gene almen e, las edes gene a i as
ad e sa ias (GANs), los au o- eg esi os y las edes de codi icación a iacional (VAEs). Las GANs
consis en en dos edes neu onales, una llamada gene ado a y o a llamada disc iminado a. La
ed gene ado a in en a c ea da os (como lenguaje o imágenes) mien as que la
disc iminado a in en a de e mina si los da os gene ados son eales o alsos. A a és de
múl iples i e aciones de en enamien o, la gene ado a mejo a su habilidad pa a c ea da os
que pa ezcan eales. A dicha a qui ec u a se le une los ans o me s y, aunque no siemp e, la
IA po e ue zo. En de ini i a, a medida que las edes neu onales se en enan en más y más
da os, y a medida que se ajus an y pe eccionan los modelos, su capacidad pa a gene a
con enido de apa iencia eal aumen a.
Aho a bien, exis e en la comunidad cien í ica una p o unda p eocupación sob e los nue os
a ances en el campo de la in eligencia a i icial y su necesidad de egulación. Se le ha
denominado in eligencia a i icial « on e a» po que es án en el lími e del conocimien o
humano po su al a capacidad de azonamien o, lo cual puede supone un pelig o pa a el
p opio se humano
13
. Según Ande ljung e al., la IA on e a son modelos de angua dia
al amen e a anzadas y pelig osas; y son conside ados como una amenaza pa a la segu idad
pública, ya sea po su uso indebido o po acciden es no p e is os. En gene al son las
ecnologías IA de al a capacidad más no edosas, como los modelos de lenguaje gene a i o, la
IA en la medicina, ecnologías de conducción au ónoma, econocimien o acial a anzado, e c.
Una de las p ime as cues iones que pueden plan ea se es dónde es án los lími es pa a pode
de e mina que una IA on e a o a anzada pueda se pelig osa. Ande ljung e al., p oponen
algunas ci cuns ancias que pueden se pelig osas: como que pe sonas no expe as puedan
12
Po odo, Rad o d A., Na asimhan K., Salimans T., Su ske e I., «Imp o ing Language Unde s anding by
Gene a i e P e-T aining», OpenAI, 2018 (h ps://cdn.openai.com/ esea ch-co e s/language-
unsupe ised/language_unde s anding_pape .pd ).
– Rad o d, A., Wu, J., Child, R., e al. «Language Models a e Unsupe ised Mul i ask Lea ne s», OpenAI, 2019
(h ps://cdn.openai.com/be e -language-
models/language_models_a e_unsupe ised_mul i ask_lea ne s.pd ).
– Ra el, C., e al. «Explo ing he Limi s o T ans e Lea ning wi h a Uni ied Tex - o-Tex T ans o me », 2019,
a Xi :1910.10683 (h ps://a xi .o g/abs/1910.10683).
13
Un ejemplo ecien e es el modelo OpenAI Cha gp o.1.
8
diseña sin es ue zo a mas biológicas o químicas, p opaga desin o mación a los ciudadanos,
a aques cibe né icos o e i a el con ol humano de las IA
14
.
Pe o más allá de algunos ejemplos, podemos sin e iza las á eas de iesgo de es as IA
a anzadas:
– Igualdad, de echos y jus icia.
– Libe ad y au onomía.
– In o mación.
– P i acidad.
– Responsabilidad.
– Ocupación labo al y de echos de los abajado es.
– Segu idad.
– Singula idad y con ol.
Igualmen e asis imos al desa ollo eó ico, no en la p ác ica, de la Supe -in eligencia
A i icial (ASI) que es un concep o que se e ie e a una o ma de in eligencia a i icial que
supe a la capacidad in elec ual de los se es humanos en p ác icamen e odos los campos
como: la c ea i idad, la oma de decisiones, la esolución de p oblemas complejos, el
ap endizaje au ónomo y la in e acción social; lo cual puede p oduci g a es p oblemas é icos
y ju ídicos, po un lado, y de segu idad, po o o.
Sob e la cali icación ju ídica de es os modelos de IA, a la luz del Reglamen o Eu opeo, los
«Sis emas IA» pueden
15
se conside ados como «de uso gene al», aunque es os úl imos se
di e encian de los p ime os po su capacidad uncional, en pa icula la gene alidad y la
capacidad de ealiza de mane a compe en e una amplia a iedad de a eas di e enciadas
16
.
14
Po odo, Ande ljung, M. e . al., «F on ie AI Regula ion: Managing Eme ging Risks o Public Sa e y»,
Compu e s and Socie y (cs.CY); A i icial In elligence (cs.AI) (h ps://a xi .o g/abs/2307.03718), pp. 6 y 7.
15
Reglamen o Eu opeo IA, A . 3.1): «un sis ema basado en una máquina que es á diseñado pa a unciona
con dis in os ni eles de au onomía y que puede mos a capacidad de adap ación as el despliegue, y que, pa a
obje i os explíci os o implíci os, in ie e de la in o mación de en ada que ecibe la mane a de gene a esul ados
de salida, como p edicciones, con enidos, ecomendaciones o decisiones, que pueden in lui en en o nos ísicos
o i ual».
16
Reglamen o Eu opeo IA, Conside ando (97): «El concep o de modelos de IA de uso gene al debe de ini se
cla amen e y di e encia se del concep o de sis emas de IA con el in de ga an iza la segu idad ju ídica. La
de inición debe basa se en las ca ac e ís icas uncionales esenciales de un modelo de IA de uso gene al, en
pa icula la gene alidad y la capacidad de ealiza de mane a compe en e una amplia a iedad de a eas
di e enciadas».
9
En gene al, los sis emas de IA de uso gene al pueden u iliza se como sis emas de IA de
al o iesgo po sí solos o se componen es de sis emas de IA de al o iesgo
17
. Y la IA gene a i a
son un ejemplo de los modelos de IA de uso gene al
18
.
Del mismo modo, los sis emas IA de uso gene al pod án se conside ados de iesgo
sis émico, conside ándose como: «un iesgo especí ico de las capacidades de g an impac o de
los modelos de IA de uso gene al, que ienen unas epe cusiones conside ables en el me cado
de la Unión debido a su alcance o a los e ec os nega i os eales o azonablemen e p e isibles
en la salud pública, la segu idad, la segu idad pública, los de echos undamen ales o la
sociedad en su conjun o, que puede p opaga se a g an escala a lo la go de oda la cadena de
alo
19
».
En es e sen ido, El Reglamen o Eu opeo IA de e mina es a condición cuando
20
:
a) iene capacidades de g an impac o e aluadas a pa i de he amien as y me odologías
écnicas adecuadas, como indicado es y pa áme os de e e encia;
b) con a eglo a una decisión de la Comisión, adop ada de o icio o a aíz de una ale a
cuali icada del g upo de expe os cien í icos, iene capacidades o un impac o equi alen e a los
es ablecidos en la le a a), eniendo en cuen a los c i e ios es ablecidos en el anexo XIII
21
.
Respec o a las obligaciones de los p o eedo es de sis emas IA de uso gene al, el
Reglamen o Eu opeo IA, e ie e oda clase de obligaciones de in o mación, documen ación y
anspa encia
22
. Si bien, cuando se a en de los cali icados como de iesgo sis émico, end án
17
Reglamen o Eu opeo IA, Conside ando (85).
18
Reglamen o Eu opeo IA, Conside ando (99): «Los g andes modelos de IA gene a i a son un ejemplo ípico
de un modelo de IA de uso gene al, ya que pe mi en la gene ación lexible de con enidos, po ejemplo, en
o ma o de ex o, audio, imágenes o ídeo, que pueden adap a se ácilmen e a una amplia gama de a eas
di e enciadas».
19
Reglamen o Eu opeo IA, A . 3.65).
20
Reglamen o Eu opeo IA, A . 51.
21
Reglamen o Eu opeo IA, Anexo XIII: «(…) c i e ios:
a) el núme o de pa áme os del modelo;
b) la calidad o el amaño del conjun o de da os, po ejemplo medidos a a és de c ip o ichas;
c) la can idad de cálculo u ilizada pa a en ena el modelo, medida en ope aciones de coma lo an e o
indicada con una combinación de o as a iables, como el cos e es imado del en enamien o, el iempo es imado
necesa io o el consumo de ene gía es imado pa a el mismo;
d) las modalidades de en ada y salida del modelo, como la con e sión de ex o a ex o (g andes modelos
de lenguaje), la con e sión de ex o a imagen, la mul imodalidad y los umb ales pun e os pa a de e mina las
capacidades de g an impac o de cada modalidad, y el ipo conc e o de en adas y salidas (po ejemplo,
secuencias biológicas);
e) los pa áme os de e e encia y las e aluaciones de las capacidades del modelo, ambién eniendo en
cuen a el núme o de a eas sin en enamien o adicional, la adap abilidad pa a ap ende a eas nue as dis in as,
su ni el de au onomía y capacidad de ampliación y las he amien as a las que iene acceso;
) si sus epe cusiones pa a el me cado in e io son impo an es debido a su alcance, lo que se da á po
supues o cuando se haya pues o a disposición de al menos 10 000 usua ios p o esionales egis ados
es ablecidos en la Unión;
g) el núme o de usua ios inales egis ados».
22
Reglamen o Eu opeo IA, A . 53.
16
Rad o d A., Na asimhan K., Salimans T., Su ske e I., «Imp o ing Language Unde s anding
by Gene a i e P e-T aining», OpenAI, 2018 (h ps://cdn.openai.com/ esea ch-
co e s/language-unsupe ised/language_unde s anding_pape .pd ).
Rad o d, A., Wu, J., Child, R., e al. «Language Models a e Unsupe ised Mul i ask
Lea ne s», OpenAI, 2019 (h ps://cdn.openai.com/be e -language-
models/language_models_a e_unsupe ised_mul i ask_lea ne s.pd ).
Ra el, C., e al. «Explo ing he Limi s o T ans e Lea ning wi h a Uni ied Tex - o-Tex
T ans o me », 2019, a Xi :1910.10683 (h ps://a xi .o g/abs/1910.10683).
Vaswani, A., Shazee , N., Pa ma , N., Uszko ei , J., Jones, L., Gomez, A. N., Kaise , Ł., &
Polosukhin, I., «A en ion is All You Need», 2017, a Xi :1706.03762
(h ps://a xi .o g/abs/1706.03762).
Viscon i, R., «Blockchain Valua ion: In e ne o Value, digi al ne wo ks and sma
ansac ions», P ojec : alua ion o web asse s (domain names — websi es — digi al b ands
— M-Apps), 2019, pp. 3-5.
