El abo daje de Cha GPT: el “Rinoce on e G is”
de la IA con e sacional1
THE CHATGPT APPROACH: THE “GREY RHINO” OF CONVERSATIONAL IA
Ma ía Dolo es Ga cía Sánchez
Uni e sidad de Se illa
mga [email protected] 0000-0002-1074-7509
Recibido: 09 de mayo de 2023 | Acep ado: 12 de junio de 2023
RESUMEN PALABRAS CLAVE
Desde que hizo su apa ición en no iemb e de 2022, Cha GPT ha ocupado la
a ención an o de medios en línea como adicionales. Un “ inoce on e g is” que
enía dando signos de su p esencia en las úl imas décadas, pe o que no ha sido
ni a endido ni abo dado adecuadamen e an es de con e i se en una ealidad.
Es a laguna ha p opiciado di e en es eacciones an e un modelo que, si bien
puede se ú il en de e minados con ex os y haciendo un uso esponsable del
mismo, no se haya exen o de iesgos. En el p esen e es udio, examina emos el
es ado de la cues ión del enómeno de Cha GPT en di e en es en o nos –I alia,
España y la Unión Eu opea– con la inalidad de ap ecia la ap emian e necesi-
dad de con a con unas líneas básicas egula o ias pa a que una IA de es e ipo
pueda implemen a se en el me cado sin a en a con a los de echos undamen-
ales de los usua ios y minimice los po enciales pelig os inhe en es a su uso.
Cha GPT
In eligencia A i icial
Cha bo
De echos undamen ales
Reglamen o IA
P o ección de da os
ABSTRACT KEYWORDS
Since i s eme gence in No embe 2022, Cha GPT has cap u ed he a en ion
o bo h online and adi ional media. A “g ay hino” ha had been showing
signs o i s p esence in ecen decades, bu was nei he adequa ely add essed
no app oached be o e becoming a eali y. This gap has led o di e en eac-
ions owa ds a model ha , al hough i can be use ul in ce ain con ex s wi h
esponsible use, is no wi hou isks. In his s udy, we will examine he s a us
o he issue o he Cha GPT phenomenon in di e en en i onmen s - I aly,
Spain, and he Eu opean Union - wi h he aim o app ecia ing he u gen
need o basic egula o y guidelines o allow o he implemen a ion o such
AI in he ma ke wi hou in inging upon he undamen al igh s o use s
and minimizing he po en ial isks inhe en in i s use.
Cha GPT
A i icial In elligence
Cha bo
Fundamen al igh s
AI Regula ion
Da a p o ec ion
1. El p esen e es udio se enma ca en el P oyec o de In es igación “Biomedicina, In eligencia A i icial, Robó-
ica y De echo: los Re os del Ju is a en la E a Digi al” (PID2019-108155RB-I00).
IUS ET SCIENTIA
2023 • Vol. 9 • Nº 1• ISSN 2444-8478
h ps://edi o ial.us.es/es/ e is as/ius-e -scien ia
h ps://dx.doi.o g/10.12795/IETSCIENTIA • © Edi o ial Uni e sidad de Se illa 2023
CC BY-NC-ND 4.0.
h ps://doi.o g/10.12795/IESTSCIENTIA.2023.i01.04 • pp. 46-68
I. In oducción
El desa ollo de la In eligencia A i icial (IA) ha expe imen ado en las úl imas décadas
un desa ollo exponencial sin p eceden es y se encuen a cada ez más p esen e en
nues a ida co idiana.
Si bien es cie o que la IA enía siendo una einciden e en las no icias, el 30 de no-
iemb e de 2022 u o luga el lanzamien o de uno de los p oduc os ecnológicos con
mayo c ecimien o de la his o ia: Cha GPT2. Desde en onces, no deja de acapa a la
a ención de medios an o adicionales como digi ales.
El enómeno de Cha GPT ha uel o a pone sob e la mesa los e ec os an o posi i os
como nega i os del empleo de es e ipo de he amien as po pa e de la sociedad, así
como las ambi alen es opiniones de la ciudadanía y di e sos sec o es: los que la con-
side an como el mejo cha bo c eado has a la echa y p esen ado al público gene al
(Roose, 2022) y los que lo ap ecian como la más ca as ó ica c eación, p ediciendo inclu-
so e ec os d amá icos pa a los sis emas democ á icos (Cowen, 2022).
En cualquie caso, lo que no puede ob ia se es que nos encon amos an e una ec-
nología que iene y end á un g an impac o y, de no se abo dada y egulada adecuada-
men e, puede implica unos iesgos ele an es pa a el conjun o de la sociedad.
Es amos an e un enómeno conocido me a ó icamen e como “ inoce on e g is”3, que
ha enido dando señales de su inminen e p esencia y mani es ación en las úl imas dé-
cadas (Ruíz A ébalo, 2022). En e ec o, como consecuencia del impa able y exponencial
a ance en los úl imos años de la IA, en gene al, y de los cha bo s, en pa icula , una ec-
nología de al magni ud podía encon a se pe ec amen e sob e la mesa4. Pe o lo cie o
es que la e en ualidad de una In eligencia A i icial Con e sacional –IAC– de es e calib e
no ha sido a endida5 y ha acabado con i iéndose en una ealidad que, los di e en es
2. En los p ime os 5 días alcanzó un millón de usua ios.
Vid., Cha GPT log ó, en sólo cinco días, ob ene un millón de usua ios (27 de eb e o de 2023). Recupe-
ado de h ps://www.eleconomis a.com.mx/ ecnologia/ChaGPT-log o-en-solo-cinco-dias-ob ene -
un-millon-de-usua ios-20230227-0020.h ml
3. Un “ inoce on e g is” es una me á o a pa a desc ibi aquellas si uaciones de ex emo iesgo que
se sabe que son posibles o incluso p obables de sucede , pe o que se desca an o pasan po al o. Son
e en os p obables que ienen impac os po encialmen e ca as ó icos, pe o siemp e con un elemen-
o de ince idumb e. El é mino ue ideado po la analis a Michele Wucke en la cumb e de Da os
de 2013 y desa ollado en su ob a The g ay hino: how o ecognize and ac on he ob ious dange s we
igno e, en con aposición al concep o de “cisne neg o”, apun alado po Nassim Taleb, pa a desc ibi
si uaciones de al o iesgo e impac o imposibles de an icipa y que cambian po comple o nues o
pa adigma (como po ejemplo el 11-S).
4. El me cado de cha bo s se alo ó en 525.7 millones de dóla es en 2021 y, ac ualmen e, se espe a
que alcance un alo de 3.99 millones de dóla es en 2030. Es o ep esen a una asa de c ecimien o
anual compues o –CAGR– de al ededo del 25.7 %. Vid., G and iew esea ch (2023), Cha bo Ma ke
Size, Sha e & T ends, Analysis Repo By Applica ion (Cus ome Se ices, B anding & Ad e ising), By Type,
By Ve ical, By Region (No h Ame ica, Eu ope, Asia Paci ic, Sou h Ame ica), And Segmen Fo ecas s, 2023 –
2030. h ps://www.g and iew esea ch.com/indus y-analysis/cha bo -ma ke
5. O una espues a muy débil pues, cuando Cha GPT ue p esen ado al mundo, únicamen e con-
ábamos con una p opues a de Reglamen o Eu opeo sob e IA y disposiciones gené icas en ma e ia
IUS ET SCIENTIA • 2023
Vol. 9 • Nº 1 • pp. 46-68
ISSN 2444-8478 • h ps://doi.o g/10.12795/IESTSCIENTIA.2023.i01.04
El abo daje de Cha GPT: el “Rinoce on e G is” de la IA con e sacional
Ma ía Dolo es Ga cía Sánchez
47
países e ins i uciones desconocen cómo abo da adecuadamen e. P ohibi las, a nues o
juicio, de nada si e, pues no se ía más que un o pe in en o de ena un sunami que
ya ha comenzado.
A la is a de lo an e io , en el p esen e es udio examina emos de e minadas eaccio-
nes en di e en es en o nos a es e enómeno de Cha GPT.
Pe o p ime o, nos de end emos b e emen e en pe ila su uncionamien o pa a,
después, pone de elie e sus iesgos más ele an es.
II. Ideas básicas sob e el uncionamien o de Cha GPT
Diseñado po la emp esa OpenAI6, se a a de un p o o ipo de cha bo in eligen e, ma-
ni es ación de la IAC, es o es, aquellas que u ilizan un conjun o de da os ecopilados y
es uc u ados po p og amado es de so wa e pa a c ea bases de da os que alimen an
y capaci an a los sis emas con un epe o io de posibles p egun as y espues as que
in e cambian con los usua ios (Rod íguez Spinelli, 2022, p.95).
Los sis emas de cha bo s se basan en g andes modelos lingüís icos, es o es, una éc-
nica de ap endizaje au omá ico7 que u iliza una ingen e can idad de ex os disponibles
pa a ap ende pa ones y gene a nue os ex os a pa i de ellos. En o os é minos,
es os modelos calculan qué palab a es más p obable que aya a con inuación, en ela-
ción a un conjun o de ellas o una ase y, median e es e sis ema, son capaces de gene a
ases, pá a os e incluso páginas comple as en elación a lo consul ado po un usua io
(Shah, 2023).
Más conc e amen e, es e cha bo ha sido desa ollado empleando la ecnología Ge-
ne a i e P e- ained T ans o me 3 (GPT-3), un modelo de lenguaje que u iliza ap endiza-
je p o undo (deep lea ning) y es capaz de gene a un ex o simila al humano, pudiendo
incluso man ene una con e sación ealis a. Pe o no es solo capaz de p oduci ex o:
ambién c ea códigos de compu ación, his o ias, poemas, discu sos, guiones de ea o,
ensayos…
Lo que hace la aplicación es ecoge in o mación y da os de millones de si ios web a
pa i de ex os es uc u ados (da a sc aping o web sc aping)8 pa a gene a nue os con-
enidos que, en apa iencia, son an cohe en es como si los hubiese esc i o una pe sona
(Alonso-A é alo y Quinde-Co de o, 2023, p.137).
de p o ección de da os. Una no ma i a – y p oyec o de no ma i a– aún insu icien es pa a a ende a
una ecnología de es e calado.
6. Es a compañía de in es igación de IA que se anuncia como sin ánimo de luc o, ue undada en
oc ub e de 2015 po Elon Musk, Sam Al man y o os in e so es.
7. El ap endizaje au omá ico o machine lea ning con o ma un subconjun o de IA que pe mi e a un
sis ema mejo a y ap ende de o ma au ónoma a a és de edes neu onales y ap endizaje p o undo
(deep lea ning), sin ene que se p og amado explíci amen e y con un con ac o humano mínimo o nulo.
8. Recibe es a denominación el p oceso de ecopilación y ex acción de con enidos y da os de
In e ne de mane a au omá ica. Es o puede se muy lesi o pa a la p i acidad o pa a la in o mación
que ya es u ie a colgada.
IUS ET SCIENTIA • 2023
Vol. 9 • Nº 1 • pp. 46-68
ISSN 2444-8478 • h ps://doi.o g/10.12795/IESTSCIENTIA.2023.i01.04
El abo daje de Cha GPT: el “Rinoce on e G is” de la IA con e sacional
Ma ía Dolo es Ga cía Sánchez
48
Todo ello, a a és de un sencillo p oceso g a ui o9 de egis o que nos di ige a una
in e az que sigue el modelo impe a i o, donde el usua io plan ea una pe ición y el
sis ema de uel e un esul ado en un con ex o mul ilingüe (Ga cía-Peñal o, 2023, p.2) y
omnip esen e -24 ho as al día, 7 días a la semana–, lo que posibili a una e oalimen a-
ción ápida y simul ánea.
Lo que singula iza a Cha GPT del es o de cha bo s es el ele ado núme o de pa á-
me os que han sido empleados en su en enamien o. En conc e o, dispone de más de
175.000 millones de pa áme os10 y cons i uye uno de los modelos más g andes en e-
nados has a la echa11, y el mayo abie o al público mundial (Maslej e al., 2023). No
obs an e, cuan os más pa áme os enga un modelo, más da os se necesi a án pa a
en ena lo. De acue do con sus c eado es, el modelo GPT-3 ha sido en enado con 45TB
de da os de ex o p oceden es de múl iples uen es has a sep iemb e de 2021. Es deci ,
el modelo ac ual de Cha GPT puede hace nos una edacción sob e el descub imien o
de Amé ica, pe o no a a pode deci nos quien ganó Eu o isión en 2022. De hecho, si le
hacemos esa p egun a nos con es a á:
Lo sien o, pe o como modelo de lenguaje, mi conocimien o se de iene en sep iem-
b e de 2021 y no engo acceso a in o mación en iempo eal. Según mi in o mación
más ecien e, no puedo p opo ciona e el esul ado de Eu o isión en 2022. Te sugie o
consul a uen es con iables de no icias o busca en In e ne pa a ob ene la in o ma-
ción más ac ualizada sob e el ganado de Eu o isión en 2022.
9. En la ac ualidad, exis e ambién Cha GPT Plus, la e sión de pago de Cha GPT. A di e encia de la
e sión g a ui a, la de pago dispone de un mo o di e en e: GPT-4, más a anzado. En nues o es udio,
no obs an e, nos cen a emos en la e sión g a ui a pues, p ecisamen e po su libe ad de acceso, es
p e isible que la dis upción social y los po enciales iesgos lleguen a se mayo es.
10. “Los pa áme os son alo es numé icos que emplean los modelos de ap endizaje au omá ico
du an e el en enamien o. El alo de los pa áme os en los modelos de ap endizaje au omá ico de-
e mina cómo puede in e p e a los da os de en ada y p edicciones.
(...) A lo la go del iempo, ha habido un inc emen o cons an e en el núme o de pa áme os, que
se ha hecho especialmen e p onunciado desde p incipios de la década de 2010. El hecho de que los
sis emas de IA aumen en ápidamen e sus pa áme os e leja la c ecien e complejidad de las a eas
que se les pide que ealicen, la mayo disponibilidad de da os, los a ances en el ha dwa e subyacen e
y, lo que es más impo an e, el endimien o de los modelos más g andes” – aducción p opia– Vid.,
Maslej, e al., 2023, p. 54.
11. Pa a do a es os da os de con ex o, de acue do con el A i icial In elligence Index Repo de
2023, GPT-2, lanzado en 2019, conside ado po muchos como el p ime g an modelo lingüís ico, enía
1.500 millones de pa áme os y su en enamien o cos ó unos 50.000 dóla es.
Cha GPT, solo es supe ado en la ac ualidad po PaLM (Pa hways language model), la IA desa ollada
po Google –e in eg ado en su bo con e sacional Google Ba d– pa a hace en e a OpenAI. PaLM ha
sido en enada con un cue po de 540 millones de pa áme os. Pe o, a di e encia de Cha GPT que es
de lib e acceso y, po an o, con un po encial mayo de incidencia en la población po la uni e sali-
zación de su uso, Google Ba d no es accesible en odos los países (como es el caso de España, donde
aún no se encuen a disponible).
Nos encon amos an e el cla o ejemplo de cómo el en enamien o y capacidad de es os cha bo s
c ece de mane a exponencial en cues ión de meses. Íbidem p. 60.
IUS ET SCIENTIA • 2023
Vol. 9 • Nº 1 • pp. 46-68
ISSN 2444-8478 • h ps://doi.o g/10.12795/IESTSCIENTIA.2023.i01.04
El abo daje de Cha GPT: el “Rinoce on e G is” de la IA con e sacional
Ma ía Dolo es Ga cía Sánchez
49
Asimismo, ampoco es posible pedi le que elabo e un azonamien o, pues o que
no se halla p og amado pa a al inalidad12 y ca ece de la capacidad pa a disc imina la
in o mación cie a de la que no lo es (lo que o igina no pocas si uaciones en las que la
espues a a la pe ición del usua io es inco ec a).
A pesa de que, como hemos indicado p e iamen e, la in e az de es e modelo pue-
de lle a a cabo in e acciones que le pe mi en i cons uyendo palab as pa a man ene
una con e sación simila a un se humano, es e iden e que la comp ensión de las ex-
p esiones na u ales y los ma ices del lenguaje pueden se di íciles de in e p e a pa a
un sis ema de IA. En onces, ¿cómo se log a es e compo amien o y comunicación cua-
sihumana del cha bo ?
Pues bien, pa a consegui lo, los desa ollado es de Cha GPT emplea on, al igual que
en o os cha bo s exis en es en el me cado, a ios p incipios de lenguaje:
—El p ocesamien o del Lenguaje Na u al (NLP, po las siglas en inglés Na u al Lan-
guage P ocessing). Se a a de un á ea de la IA que explo a la manipulación de
ex os de lenguaje na u al o discu sos po pa e de los o denado es. De es a
o ma, el conocimien o de la comp ensión y uso del lenguaje humano se eúne
pa a desa olla écnicas que pe mi an a es os sis emas comp ende y manipu-
la exp esiones na u ales pa a lle a a cabo las a eas deseadas. En conc e o, la
mayo ía de las écnicas de NPL es án basadas en machine lea ning (Adamopou-
lou y Moussaiadesm, 2020, p. 377).
—La comp ensión del Lenguaje Na u al (NLU, po las siglas en inglés, Na u al Lan-
guage Unde s anding). Con o ma el núcleo de cualquie a ea de NLP. Su obje-
i o es ex ae con ex o y signi icado de las en adas del usua io en lenguaje
na u al. De es a o ma, se iden i ica su in ención y se ex aen en idades espe-
cí icas de dominio. Más conc e amen e, una in ención ep esen a una co es-
pondencia en e lo que un usua io dice y la acción que debe ealiza el cha bo .
Po su pa e, las acciones co esponden a los pasos que da á el cha bo cuando
el usua io in oduzca in enciones especí icas y pueden ene pa áme os pa a
especi ica in o mación de allada sob e ellas (Adamopoulou y Moussaiadesm,
2020, p. 377). En o as palab as, se a a de la pa e en la que el cha bo a a de
comp ende el signi icado de lo que quie e el usua io apoyándose en algo i -
mos, eglas, bases de da os y emas in e nos, que indica án cual es la mane a
co ec a de con es a .
—La Gene ación de Lenguaje Na u al –NLG, po las siglas inglesas Na u al Lan-
guage Gene a ion-, es o es, la cons ucción de una con es ación consul ando los
eposi o ios de da os pa a o ece una espues a adecuada a un in especí ico
(Wigmo e, 2023).
12. Como sí se ía el caso de PaLM.
IUS ET SCIENTIA • 2023
Vol. 9 • Nº 1 • pp. 46-68
ISSN 2444-8478 • h ps://doi.o g/10.12795/IESTSCIENTIA.2023.i01.04
El abo daje de Cha GPT: el “Rinoce on e G is” de la IA con e sacional
Ma ía Dolo es Ga cía Sánchez
50

Los p ocedimien os an e io es posibili an a la he amien a, además de humaniza su
in e acción con los usua ios, con ex ualiza lo que es os p egun an y pode con inua
una con e sación, pues o que “ eco da á” la in o mación p e iamen e p opo cionada y
la end á en cuen a en sus u u as in e acciones.
En es a línea, o o aspec o que hace des aca a Cha GPT del es o de ecnologías
has a la echa, es su habilidad pa a maneja los eedbacks de las espues as y e isa las
sob e la ma cha (Pea l, 2022).
En de ini i a, nos encon amos an e un sis ema al que es posible p egun a cual-
quie cosa suscep ible de se con es ada median e un ex o y que, a di e encia del bus-
cado de Google, no nos p opo ciona á un lis ado de enlaces en los que puede halla se
con enida la in o mación que buscamos, sino que da á una espues a conc e a a nues-
a pe ición. Incluso cabe pedi le que module el ono de su espues a, haciéndolo más
in o mal, p o esional o solemne en unción de las demandas del usua io.
Las posibilidades de lo que podemos solici a le a Cha GPT son casi in ini as, como
ambién lo son sus usos y, po es a misma azón, la incidencia eal de sus po enciales
iesgos es sumamen e di ícil de p edeci .
III. Re os y iesgos de Cha GPT
No obs an e las múl iples en ajas que el uso de es e sis ema puede supone pa a el
usua io –en é minos de aho o de iempo y es ue zo a la ho a de c iba mul i ud de
da os u ob ene una espues a p ecisa a una pe ición de e minada-, hemos de ene
p esen e que su uso debe eni e es ido de nume osas cau elas de i adas de su p in-
cipales iesgos.
Tan o es así, que es la p opia he amien a la que nos in o ma de sus mayo es limi a-
ciones en la pan alla p incipal desplegada pa a in oduci la pe ición conc e a.
3.1. In o mación inco ec a y sesgos
En pa icula , nos ad ie e que “puede ocasionalmen e gene a in o mación inco ec a”
y “p oduci ins ucciones dañinas o con enido sesgado”.
En cuan o a la p ime a de ellas, en la p opia polí ica de p i acidad de OpenAI13se
p e iene exp esamen e del iesgo de inexac i ud de los da os ecabados de In e ne 14
en las con es aciones p opo cionadas po la he amien a. En es e sen ido, se in o ma
de que, en cie os casos –dado que el se icio gene a espues as leyendo la solici ud de
13. OpenAI (27 de ab il de 2023), Polí ica de p i acidad, h ps://openai.com/policies/p i acy-policy
14. Sob e es e pa icula , en el campo que nos ocupa (el de echo español), la he amien a es pa -
icula men e imp ecisa. En p ime luga , dado que su en enamien o llega has a 2021, no pod emos
p egun a le po e o mas legisla i as pos e io es a dicha echa. Pe o, además, cuen a con g andes
acíos desde el pun o de is a de los p onunciamien os ju isp udenciales, con espec o a los cuales
se encuen a emendamen e desac ualizada.
IUS ET SCIENTIA • 2023
Vol. 9 • Nº 1 • pp. 46-68
ISSN 2444-8478 • h ps://doi.o g/10.12795/IESTSCIENTIA.2023.i01.04
El abo daje de Cha GPT: el “Rinoce on e G is” de la IA con e sacional
Ma ía Dolo es Ga cía Sánchez
51
un usua io y p ediciendo las siguien es palab as que pod ían apa ece en la éplica con
mayo p obabilidad-, los é minos más p obables pueden no se los más exac os. Po
ello, ins a a no con ia en la exac i ud de los esul ados de sus modelos.
Del uncionamien o con el que ope a es e modelo lingüís ico ambién se de i a que
no sea capaz de en ende las p emisas inco ec as de una p egun a y e mine espon-
diendo, de odos modos, a cues iones e óneas.
Po ejemplo, si le p egun amos “¿Qué ecu so no de olu i o puede in e pone se
an e una sen encia i me en De echo español?”, nos esponde á – omando como base
la p emisa (e ada) de nues a p egun a-, que “el ecu so no de olu i o que puede in-
e pone se an e una sen encia i me es el ecu so ex ao dina io de e isión”. Respues a
que, como sabemos, no es co ec a, pues si bien es cie o que el ecu so de e isión
puede in e pone se en e a sen encias i mes, es e es un ecu so de olu i o.
Po es a azón, un uso esponsable de la he amien a pasa ía po con as a y e-
i ica , en o os si ios webs con iables adicionales y/o con bibliog a ía especí ica, los
esul ados p opo cionados. Asimismo, pa a minimiza la posibilidad de ob ene es-
pues as inco ec as, se ía con enien e do a nues as pe iciones de un con ex o cla o
y p eciso (p omp ) pues, si el mismo es ambiguo o escaso, el p og ama puede in e -
p e a la pe ición de di e en es mane as y, como esul ado, gene a una con es ación
que no sea ce e a.
O o iesgo impo an e es la apo ación de con enido sesgado.
En e ec o, como ya hemos p ecisado, Cha GPT ha sido en enado con mul i ud de
da os p oceden es de In e ne , los cuales pueden con ene in o mación inconsis en e,
incomple a o inco ec a, e lejando sesgos inhe en es en es e con enido15. Es o implica
que las espues as gene adas po el modelo pueden e leja p ejuicios implíci os en el
ex o con el que ha sido en enado, ales como sesgos aciales, de géne o o cul u ales.
Lo expues o lle a apa ejado el iesgo de a aiga concep os o ideas e ados o o-
men a un pensamien o sesgado. De es a o ma, se acili a la implan ación de pa ones
silenciosos de disc iminación sis emá ica que pasen inad e idos pa a la mayo ía de las
pe sonas, desconocedo as de es os pelig os.
Con el in de palia las limi aciones pues as de mani ies o, el cuidado an o de la p e-
cisión como de la obje i idad de los da os que se in oducen en el modelo algo í mico
e is e suma impo ancia16. Y, no solo pa a ag ega alo a los sis emas y p ocedimien os
que los inco po an, sino, undamen almen e, pa a asegu a que sean lo más co ec o
posibles a la ho a de abo da emas sensibles ampa ados po de echos undamen ales:
la dignidad de las pe sonas, el de echo a la p i acidad y la p ohibición de cualquie ipo
15. Es lo que se conoce con la denominación de di y da a.
16. Po es a azón, la Resolución del Pa lamen o Eu opeo sob e las implicaciones de los mac oda os
en los de echos undamen ales dispone que “se án necesa ias e aluaciones pe iódicas sob e la ep e-
sen a i idad de los conjun os de da os, así como examina la exac i ud e impo ancia de las p edic-
ciones” (conside ación gene al 22).
Vid., Resolución del Pa lamen o Eu opeo sob e las implicaciones de los mac oda os en los de echos
undamen ales: p i acidad, p o ección de da os, no disc iminación, segu idad y aplicación de la ley, 14 de
ma zo de 2017. h ps://www.eu opa l.eu opa.eu/doceo/documen /TA-8-2017-0076_ES.h ml
IUS ET SCIENTIA • 2023
Vol. 9 • Nº 1 • pp. 46-68
ISSN 2444-8478 • h ps://doi.o g/10.12795/IESTSCIENTIA.2023.i01.04
El abo daje de Cha GPT: el “Rinoce on e G is” de la IA con e sacional
Ma ía Dolo es Ga cía Sánchez
52
de disc iminación po mo i os de géne o, aza, edad, e nia, discapacidades, c eencias
polí icas o eligiosas…
Sin emba go, asegu a la calidad de los da os que alimen an es as he amien as al-
go í micas se o na una a ea ex emadamen e compleja, pudiendo plan ea se cues-
iones ela i as a la conc eción y selección de aquellos que e ec i amen e an a in o-
duci se, la azón de inco po a es os y no o os, o la mane a en que a a lle a se a cabo
su análisis. Tales cues iones epe cu en y condicionan la legi imidad y iabilidad de la
espues a p opo cionada po el p og ama.
En de ini i a, pa a un uso adecuado, conscien e y esponsable de es e modelo algo-
í mico, hay que ene en cuen a la e en ual p esencia de e o es y sesgos en el ma e ial
ecabado pa a su en enamien o, así como en las espues as gene adas, siendo espe-
cialmen e c í ico al e alua es as úl imas.
3.2. Uso inadecuado
Tampoco debe pe de se de is a la posibilidad de que, como una he amien a po en-
e de lenguaje, sea empleada con ines malin encionados (engañosos, di ama o ios o
disc imina o ios).
Así, aun cuando Cha GPT con aba con mecanismos de segu idad inco po ados pa a
e i a un uso inadecuado en el momen o de su lanzamien o, esul a imposible p e e
odos los escena ios inap opiados que un usua io inal pueda concebi .
A modo de ejemplo, se descub ió que Cha GPT podía se engañado pa a que die a
ins ucciones de alladas sob e cómo cons ui una bomba si se le pedía que lo hicie a
desde la pe spec i a de un in es igado que a i maba abaja en p oyec os de segu i-
dad elacionados con bombas (Ko da, 2023). Sin emba go, un día después de la publi-
cación del a ículo en el que se e idenciaba es e de ec o, el mensaje exac o empleado
pa a engaña al sis ema dejó de unciona . En su luga , Cha GPT espondió que no podía
p opo ciona in o mación sob e cómo lle a a cabo ac i idades ilegales o pelig osas.
El caso an e io e idencia la na u aleza e asi a de es e modelo algo í mico. Es deci ,
sus desa ollado es in en an inco po a sal agua das an es de iempo, los usua ios i-
nales a an de ompe el sis ema y eludi sus polí icas, y los desa ollado es eaccionan
pa cheando las lagunas una ez que salen a la luz… y así ad in ini um.
Finalmen e, en o no a es e uso inadecuado de Cha GPT, hay o a cues ión in e e-
san e desde el pun o de is a é ico que ha de se enida en cuen a en su unciona-
mien o: cuando el p og ama p opo ciona una espues a que implica una mues a de
conocimien o, lo hace sin indica las uen es de las que ha sido ex aída la in o mación
suminis ada17.
17. Si se le solici a exp esamen e, el sis ema p opo ciona á un lis ado de enlaces de los cuales ha
sido ob enida la in o mación pa a elabo a la espues a, pe o lo ha á sin indica de dónde ha sido
ex aída exp esamen e cada elemen o de la con es ación apo ada.
IUS ET SCIENTIA • 2023
Vol. 9 • Nº 1 • pp. 46-68
ISSN 2444-8478 • h ps://doi.o g/10.12795/IESTSCIENTIA.2023.i01.04
El abo daje de Cha GPT: el “Rinoce on e G is” de la IA con e sacional
Ma ía Dolo es Ga cía Sánchez
53
3.3. P oblemas de p i acidad y con idencialidad
Pues o que Cha GPT –como hemos is o- ha sido desa ollado con los con enidos dis-
ponibles en la Red has a sep iemb e de 2021, den o de ellos se ía posible encon a
da os pe sonales, an o de usua ios como de no usua ios, ecabados, en su mayo ía, sin
el consen imien o p e io de sus i ula es.
Pe o hay que ene en cuen a que no solo se nu e de la in o mación con la que ha
sido inicialmen e en enado, sino ambién de la suminis ada po los usua ios cada ez
que emplean la aplicación. Cha GPT da espues a a sus demandas, pe o a la ez es os
alimen an el algo i mo di ec a e indi ec amen e. De es a mane a, los da os que ecopile
no se án solo los pe sonales iden i ica i os que son acili ados al c ea la cuen a (nom-
b e, c edenciales…), sino ambién los de conexión como la IP, la ubicación ap oximada,
el na egado o el mó il desde el que se emplea la he amien a.
Así, du an e las “con e saciones” con el sis ema, es posible que se ecopilen y alma-
cenen los mensajes in e cambiados, lo que puede inclui in o mación pe sonal y con-
idencial que sea e elada du an e su uso. Además, si bien la in e acción es anónima,
exis e el iesgo de que los da os p opo cionados sean u ilizados pa a iden i ica a los
indi iduos, lo que puede amenaza su p i acidad y con idencialidad.
Po o o lado, ambién hay que ene p esen e que, si las con e saciones con el cha -
bo se almacenan inde inidamen e, exis e un mayo iesgo de que el con enido sensi-
ble o con idencial pe manezca en manos de los p o eedo es de se icio y que es os lo
compa an con e ce os u o os p o eedo es18 –con ines de in es igación o desa ollo
de p oduc os-, o sean obje o de hackeos o b echas de segu idad en el u u o.
Es cie o que, una ez abie a la cuen a, el sis ema ad ie e de que las p opias con-
e saciones que los usua ios engan con el cha pueden se eu ilizadas pa a su en e-
namien o e ins a a no in oduci in o mación sensible. Sin emba go, más allá de es a
some a e e encia, no se acili a in o mación alguna a los in e esados cuyos da os ha-
yan sido ecogidos po OpenAI, y manejados po Cha GPT, sob e el modo en que se án
a ados.
A día de hoy, aun cuando buceemos en la polí ica de p i acidad, no es posible cono-
ce qué ocu e de ás de la he amien a. No obs an e, ecien emen e –como e emos-
se ha inco po ado a dicha polí ica la indicación exp esa de los da os pe sonales de los
usua ios que an a se ecabados en sus in e acciones con Cha GPT, así como el uso
que se da á a los mismos, con la posibilidad de opone se especí icamen e a que sean
empleados pa a en ena al algo i mo.
A pesa de encon a nos an e un enómeno con en idad su icien e pa a ocasiona
iesgos an ele an es, es e se ha mani es ados en un con ex o legal, an o nacional
como eu opeo, que no se encon aba p epa ado pa a asumi una i upción ecnológica
de es e calib e. Un “ inoce on e g is” que ya ha hecho ac o de p esencia y cuyos e ec os,
dada la ca encia de una egulación su icien e, ha sido necesa io abo da sob e la ma -
cha y calib a con la no ma i a en igo , con e iden es ca encias.
18. E en ualidad de la que se ad ie e en la p opia polí ica de p i acidad de OpenAI.
IUS ET SCIENTIA • 2023
Vol. 9 • Nº 1 • pp. 46-68
ISSN 2444-8478 • h ps://doi.o g/10.12795/IESTSCIENTIA.2023.i01.04
El abo daje de Cha GPT: el “Rinoce on e G is” de la IA con e sacional
Ma ía Dolo es Ga cía Sánchez
54
Asimismo, ecue da que, ac ualmen e, la ecnología pe mi e dibuja pe iles y pa o-
nes a pa i de da os pe sonales, los cuales pueden se i pa a in lui di ec amen e en
las pe sonas, y ale a de que, an e el uso masi o e in enso de da os, es necesa io con a
con las he amien as adecuadas pa a p o ege los de echos y libe ades.
En la misma línea, ecien emen e sal aba en nues o país la no icia35 de que g andes
emp esas españolas –como Tele ónica36, BBVA37 o Redeia38- han esuel o limi a , e inclu-
so p ohibi , a sus empleados el uso de Cha GPT. Las azones de dicha decisión descan-
san en la al a p obabilidad de que la in o mación gene ada po la he amien a enga
sesgos o apo e in o mación e ónea, así como el pelig o de in oduci da os pe sonales
y co po a i os y que se p oduzcan il aciones39.
O as compañías, ales como Na u gy y Enagás, han en iado a sus empleados eco-
mendaciones pa a u iliza es e y o os sis emas de IA y, en pa icula , la segunda apues-
a po in oduci unos p incipios de uso co ec o de la IA en su nue o código é ico, así
como en un p og ama de o mación de empleados40.
4.3. Unión Eu opea
En el ámbi o de la UE, el 21 de ab il de 2021 ue publicada la P opues a de Reglamen o
po el que se es ablecen no mas a monizadas en ma e ia de In eligencia A i icial (Regla-
men o IA)41. Su obje i o descansa en mejo a el uncionamien o del me cado in e io
median e el es ablecimien o de un ma co ju ídico uni o me, en pa icula en lo que
concie ne al desa ollo, la come cialización y la u ilización de la IA de con o midad con
35. G andes emp esas españolas ya p ohíben a sus empleados el uso de Cha GPT: “Con ine in-
o mación e ónea” (mayo 2023). Recupe ado de h ps://www.elmundo.es/economia/emp e-
sas/2023/05/21/64679873e4d4d863428b45a9.h ml
36. La compañía no pe mi e el uso de la he amien a pa a a a in o mación de la emp esa, sal o
que la cuen a sea con a ada y con olada po Tele ónica. Asimismo, pa a ga an iza que la IA se u i-
lice de o ma segu a, inco po a en su o ganig ama un Comi é de IA É ica pa a que e alúe casos de
uso de al o iesgo, y es á abajando en un eglamen o in e no de gobe nanza de la IA, que abo da á
an o Cha GPT como o as in eligencias a i iciales gene a i as.
37. La en idad banca ia, p ohíbe el uso de Cha GPT con ca ác e gene al, aunque pa a aquellos
p o esionales que c ean que puede se les de u ilidad, ha habili ado un p oceso de au o ización.
38. Redeia (Red Eléc ica), po su pa e, ha bloqueado el uso de la e sión pública po posibles
iesgos inculados a la p o ección de la in o mación. Cues ión especialmen e ele an e, pues o que
nos encon amos an e una emp esa que ges iona in aes uc u as es a égicas.
39. Fue a de España, en emp esas como Deloi e, JPMo gan, Ve izon, Apple o Mic oso (siendo
llama i o el caso de es a úl ima po a a se de uno de los p incipales in e so es de OpenAI), ambién
se ha desaconsejado el uso de da os con idenciales o sensibles en Cha GPT.
La e olución de Cha GPT y el emo de las g andes emp esas españolas, (junio 2023). Recupe ado de
h ps://gdemp esa.gesdocumen .com/no icias/cha gp -g andes-emp esas
40. En el mismo sen ido, Map e y Repsol, abajan con p o ocolos pa a ga an iza que la IA se em-
plee de o ma é ica y segu a.
41. P opues a de Reglamen o po el que se es ablecen no mas a monizadas en ma e ia de In eligen-
cia A i icial (Ley de In eligencia A i icial), y se modi ican de e minados ac os legisla i os de la Unión, 21
de ab il de 2021. h ps://eu -lex.eu opa.eu/ esou ce.h ml?u i=cella :e0649735-a372-11eb-9585-01
aa75ed71a1.0008.02/DOC_1& o ma =PDF
IUS ET SCIENTIA • 2023
Vol. 9 • Nº 1 • pp. 46-68
ISSN 2444-8478 • h ps://doi.o g/10.12795/IESTSCIENTIA.2023.i01.04
El abo daje de Cha GPT: el “Rinoce on e G is” de la IA con e sacional
Ma ía Dolo es Ga cía Sánchez
61

la no ma i a de la UE. Asimismo, pe sigue a ios ines de in e és gene al, ales como
asegu a un ni el ele ado de p o ección de la salud, de la segu idad y los de echos
undamen ales econocidos y p o egidos po el de echo de la Unión, y ga an iza la lib e
ci culación ans on e iza de bienes y se icios basados en la IA42.
En pa icula , pa a log a que una no ma i a de es e ipo puede egula ecnolo-
gías dis up i as en cons an e ans o mación (y no quede obsole a incluso an es de su
en ada en igo ), la p opues a de Reglamen o IA no se a icula en base a ecnologías
conc e as, sino que pa e de una es uc u a o ganizada en ni eles de iesgo que se pue-
den de i a del uso de es os sis emas. De es a mane a, se dis ingue en e modelos que
conlle en un iesgo inacep able (que di ec amen e se p ohíben), un al o iesgo (que se
pe mi en, pe o suje os a igu osos con oles pa a e i a que puedan a ec a a las libe -
ades y a los de echos undamen ales), un iesgo limi ado y un iesgo mínimo.
En la ac ualidad, los a ances en la ami ación del Reglamen o IA siguen su cu so,
es ando p e is a, en p incipio, su ap obación pa a ene o de 2024 (Ga i Ca ajal, 2023).
Uno de los hi os más ecien es en es e p oceso ha sido el comp omiso alcanzado en
mayo po el Pa lamen o Eu opeo sob e un Bo ado de enmiendas43 en o no a la p o-
pues a inicial del Reglamen o IA. En conc e o, a los e ec os de nues o es udio, en es e
Bo ado de enmiendas se in oducen obligaciones pa a los p o eedo es de modelos
undacionales y sis emas de IA gene a i a44 (en e los que se encon a ía Cha GPT).
4.3.1. Sis emas de IA de p opósi o gene al
An es del Pa lamen o Eu opeo, la p opues a del Consejo de la Unión Eu opea de 25 de
no iemb e de 202245 in odujo el concep o de sis ema de IA con p opósi o gene al. Po
al se en ienden aquellos sis emas algo í micos que puede se empleados pa a ealiza
unciones de aplicación gene al –como el econocimien o de imagen/ oz–, en una plu-
alidad de con ex os46. Además, se ad ie e que es os pueden se empleados como sis-
emas de al o iesgo po sí mismos o se componen es de o os sis emas de al o iesgo.
42. Con lo que se impide que los Es ados miemb os impongan es icciones al desa ollo, la co-
me cialización y la u ilización de sis ema de IA, a menos que el Reglamen o lo au o ice exp esamen e.
43. Bo ado de enmiendas del Pa lamen o Eu opeo a la P opues a de Reglamen o sob e no mas a -
monizadas ela i as a la In eligencia A i icial, 9 de mayo de 2023. h ps://www.eu opa l.eu opa.eu/
mee docs/2014_2019/plm ep/COMMITTEES/CJ40/DV/2023/05-11/Consolida edCA_IMCOLIBE_AI_
ACT_EN.pd
44. La p opues a inicial del Reglamen o IA no incluía de inición alguna en la que pudie an englo-
ba se los sis emas de IA gene a i a como una subca ego ía conc e a den o de los sis emas algo í -
micos. No obs an e, la apa ición de Cha GPT –en e o os–, ha lle ado a los legislado es eu opeos a
abo da una egulación especí ica.
45. P opues a del Consejo de la Unión Eu opea pa a un Reglamen o sob e no mas a monizadas de In-
eligencia A i icial. Documen o 2021/0106 (COD), de 25 de no iemb e de 2022. h ps://a i icialin elli-
genceac .eu/wp-con en /uploads/2022/12/AIA-%E2%80%93-CZ-%E2%80%93-Gene al-App oach-
25-No -22.pd
46. Más conc e amen e, el a . 1b) de la P opues a del Consejo de la UE, de ine a los sis emas de
IA de p opósi o gene al como “un sis ema de IA que, independien emen e de cómo se come cialice
IUS ET SCIENTIA • 2023
Vol. 9 • Nº 1 • pp. 46-68
ISSN 2444-8478 • h ps://doi.o g/10.12795/IESTSCIENTIA.2023.i01.04
El abo daje de Cha GPT: el “Rinoce on e G is” de la IA con e sacional
Ma ía Dolo es Ga cía Sánchez
62
En consecuencia, debido a su na u aleza pa icula y con el obje i o de ga an iza
un epa o equi a i o de esponsabilidades a lo la go de la cadena de alo de la IA,
dichos sis emas han de es a suje os a equisi os y obligaciones p opo cionados y más
especí icos en base al Reglamen o IA, ga an izando, al mismo iempo, un al o ni el de
p o ección de los de echos undamen ales, la salud y la segu idad. Con es a inalidad,
los p o eedo es de sis emas de IA de p opósi o gene al47 debe án coope a con los p o-
eedo es de los espec i os sis emas de al o iesgo, pa a pe mi i les cumpli las obli-
gaciones pe inen es en i ud del Reglamen o IA y con las au o idades compe en es
es ablecidas en el mismo48.
Es el a . 4b de la p opues a del Consejo sob e el Reglamen o IA el que ecoge los
equisi os de los sis emas de p opósi o gene al y las obligaciones de sus p o eedo es.
Así, se dispone que de e minados equisi os es ablecidos pa a los sis emas de IA de al o
iesgo –en conc e o los señalados en el Capí ulo 2 del Tí ulo III49- han de se aplicados
o ponga en se icio, incluso como so wa e de código abie o, es á des inado po el p o eedo pa a
ealiza unciones de aplicación gene al, como el econocimien o de imagen, oz y gene ación de au-
dio, de ección de pa ones, espues a a p egun as, aducción y o as; un sis ema de IA de p opósi o
gene al puede se u ilizado en una plu alidad de con ex os e in eg a se en una plu alidad de o os
sis emas de IA” ( aducción p opia), op., ci .
47. Independien emen e de que puedan se u ilizados como sis emas de al o iesgo como ales o
como componen es de sis emas de al o iesgo.
48. De es a o ma, pa a pode oma en conside ación las ca ac e ís icas especí icas de los sis e-
mas de IA de p opósi o gene al y la ápida e olución de la écnica y el me cado en es e campo, hab á
de con e i se a la Comisión compe encias de ejecución pa a especi ica y adap a la aplicación de los
equisi os es ablecidos en el Reglamen o a los sis emas de IA de p opósi o gene al y pa a especi ica
la in o mación que han de compa i los p o eedo es de es os sis emas pa a que los p o eedo es de
los espec i os sis emas de IA de al o iesgo puedan cumpli sus obligaciones en i ud del Conside-
ando 12c de la P opues a del Consejo de la UE.
49. Tales equisi os incluyen: el es ablecimien o, implan ación, documen ación y man enimien o
de un sis ema de ges ión de iesgo asociados a es os sis emas (es deci , un p oceso i e a i o con inuo
que se lle a a cabo du an e odo el ciclo de la ida de un sis emas de IA de al o iesgo que eque i á
ac ualizaciones sis emá icas pe iódicas); en el caso de sis emas de es e ipo que u ilicen écnicas que
implican el en enamien o de modelos con da os, se desa olla án a pa i de conjun os de da os de
en enamien o, alidación y p ueba que se some e án a écnicas adecuadas de gobe nanza y ges ión
de da os, que sean pe inen es y ep esen a i os, ca ezcan de e o es y es én comple os, que dispon-
gan de las p opiedades es adís icas adecuadas y que engan en cuen a los elemen os pa icula es
del con ex o geog á ico, conduc ual o uncional especí ico en el que se p e enda u iliza el sis ema;
an es de la en ada al me cado del sis ema de IA de al o iesgo o su pues a en se icio, se p epa a á
su documen ación écnica –que demues e que cumple los equisi os an e io es– y se man end á ac-
ualizada; es os sis emas se diseña án y desa olla án con capacidades de egis o que ga an iza án
un ni el de azabilidad del uncionamien o del sis ema de IA du an e su ciclo de ida; se diseña án y
desa olla án de un modo que ga an ice que uncionan con un ni el de anspa encia su icien e pa a
que los usua ios in e p e en y usen co ec amen e su in o mación de salida e i án acompañados de
las ins ucciones de uso co espondien e de o ma concisa, comple a, co ec a y cla a que sea pe i-
nen e, accesible y comp ensible pa a los usua ios; se diseña án y desa olla án de mane a que pue-
dan se igilados de mane a e ec i a po pe sonas ísicas du an e el pe iodo que es én en uso; y se
diseña án y desa olla án de modo que, en is a de su inalidad p e is a, alcancen un ni el adecuado
de p ecisión, solidez y cibe segu idad y uncionen de mane a consis en e en es os sen idos du an e
odo su ciclo de ida.
IUS ET SCIENTIA • 2023
Vol. 9 • Nº 1 • pp. 46-68
ISSN 2444-8478 • h ps://doi.o g/10.12795/IESTSCIENTIA.2023.i01.04
El abo daje de Cha GPT: el “Rinoce on e G is” de la IA con e sacional
Ma ía Dolo es Ga cía Sánchez
63
ambién a los de p opósi o gene al. Pe o no median e una aplicación di ec a de los mis-
mos, sino a a és de un ac o de ejecución adop ado po la Comisión50 que especi ica ía
cómo deben aplica se es os equisi os a dichos sis emas de IA sob e la base de una con-
sul a y una e aluación de impac o que enga en cuen a sus especí icas ca ac e ís icas y
su cadena de alo , la iabilidad écnica y el desa ollo ecnológico y del me cado51.
4.3.2. Modelo undacional
Pos e io men e, a la de inición an e io de sis emas de IA de p opósi o gene al, el Bo-
ado de enmiendas del Pa lamen o Eu opeo añade la noción de “modelo undacional”,
como subca ego ía de los sis emas de p opósi o gene al, e incluye la IA gene a i a52,
es o es, aquella desa ollada a pa i de algo i mos en enados con una amplia gama de
uen es y da os capaces de ealiza una g an a iedad de a eas pos e io es, incluidas
algunas pa a las que no han sido desa ollados o en enados53.
En e las obligaciones impues as po el Reglamen o IA a los p o eedo es de mode-
los undacionales se encuen an, esencialmen e, la demos ación (a a és de un diseño,
p ueba y análisis adecuados) de la iden i icación, educción y mi igación de los iesgos
azonablemen e p e isibles pa a la salud, segu idad, de echos undamen ales, medio
ambien e, democ acia y Es ado de De echo; p ocesa e inco po a únicamen e da os
que es én suje os a medidas ap opiadas de gobie no de da os, en pa icula , examina
la idoneidad de las uen es y posibles sesgos; y diseña y desa olla un modelo base
sólido pa a log a ni eles adecuados de endimien o, p e isibilidad, in e p e abilidad,
co egibilidad, segu idad y cibe segu idad. Además, debe án diseña sus modelos apli-
cando las no mas concebidas pa a educi el consumo de ene gía, el uso de ecu sos y
esiduos y pa a aumen a la e icacia ene gé ica y la e iciencia global del sis ema54.
En pa icula , el a . 28 b. 4 del Bo ado de enmiendas del Pa lamen o Eu opeo egu-
la especí icamen e los modelos undacionales u ilizados en sis emas de IA gene a i a,
es o es, aquellos des inados especí icamen e a gene a , con dis in os ni eles de au o-
nomía, con enidos como ex o complejo, imágenes, audio o ideo, es ableciendo un
úl imo ni el más es ic o de obligaciones y equisi os.
De es a o ma, además de los equisi os gene ales exigidos a los p o eedo es de un
modelo undacional, es os debe án: a) cumpli las obligaciones de anspa encia del a .
52.1 del Reglamen o IA es o es, la necesidad de que los sis emas algo í micos que in e-
ac úan con pe sonas es én diseñados y desa ollados de o ma que las mismas es én
50. A a és de es e ac o de aplicación, se ga an iza ía que los Es ados miemb os pa icipa an ade-
cuadamen e y man u ie an la úl ima palab a sob e cómo se aplican los equisi os en es e con ex o.
51. Además de cumpli con ales equisi os, los p o eedo es de es os sis emas es án obligados a
implemen a un sis ema de ges ión de calidad, conse a al menos la documen ación ele an e du-
an e 10 años y some e a e aluación de con o midad al sis ema de IA sob e el impac o que puedan
es os sis emas ene sob e la segu idad, los de echos undamen ales o el medio ambien e, en e o os.
52. as el auge de Cha GPT y o os modelos.
53. Conside ando 60 d) del Bo ado de enmiendas del Pa lamen o Eu opeo.
54. A . 28 b) del Bo ado de enmiendas del Pa lamen o Eu opeo.
IUS ET SCIENTIA • 2023
Vol. 9 • Nº 1 • pp. 46-68
ISSN 2444-8478 • h ps://doi.o g/10.12795/IESTSCIENTIA.2023.i01.04
El abo daje de Cha GPT: el “Rinoce on e G is” de la IA con e sacional
Ma ía Dolo es Ga cía Sánchez
64
in o madas de que es án ac uando con un sis ema de IA55; b) o ma y, en su caso, dise-
ña y desa olla el modelo pa a que ga an ice las sal agua dias adecuadas con a la ge-
ne ación de con enidos con a ios al De echo de la Unión, en consonancia con el es ado
de la écnica gene almen e econocido y con el eje cicio de los de echos undamen ales,
incluida la libe ad de exp esión; c) y documen a y pone a disposición del público un
esumen su icien emen e de allado del uso de los da os de en enamien o p o egidos
po la legislación sob e de echos de au o .
No obs an e es e más es ic o ni el de obligaciones y equisi os pa a los modelos
undacionales empleados en sis emas de IA gene a i a, el conside ando 60 g) del Bo a-
do de enmiendas señala exp esamen e que ales equisi os y obligaciones especí icos
no equi alen a conside a los modelos undacionales como sis emas de IA de al o ies-
go –aun cuando deban cumpli de e minados equisi os es ablecidos pa a los sis emas
de IA de al o iesgo–, sino que deben ga an iza que se cumplan los obje i os del Regla-
men o IA pa a asegu a un al o ni el de p o ección de los de echos undamen ales, la
salud y la segu idad, el medio ambien e, la democ acia y el Es ado de De echo.
Es a ap eciación es compa ible con lo p e is o pa a los sis emas de IA de p opósi o
gene al, en el sen ido de que los modelos gene a i os de IA, pe se, no pueden se cla-
si icados como sis emas de IA de al o iesgo, pe o sí pueden se usados como ales –en
unción de su inalidad–, o pueden in eg a se en un modelo de IA que sí sea cali icado
como de al o iesgo. Como consecuencia de lo apun ado, los equisi os y obligaciones
exigidos no esul a án de aplicación si el p o eedo excluye exp esamen e odos los
usos de al o iesgo en las ins ucciones que elabo e pa a su sis ema de IA. Exclusión que
solo se á pe misible si el p o eedo iene mo i os su icien es pa a conside a que es e
no se á obje o de un uso indebido una ez come cializado56.
No obs an e, a nues o juicio, se a a de una p e isión c i icable, pues es di ícil (po
no deci imposible) exclui plenamen e odo uso indebido que un e ce o pueda llega
a hace de la he amien a, incluso aun cuando el p o eedo haya aplicado un g ado de
diligencia adecuado de con o midad con el es ado de la écnica.
V. B e e e lexión inal
Cha GPT ha supues o un g an impac o social y ha con ibuido a que la IA, en su máxima
exp esión, se con ie a en mains eam.
Es cie o que oda nue a ecnología gene a, en mayo o meno medida un impac o y
iene acompañada de po enciales iesgos, di ec amen e p opo cionales a su ni el de de-
sa ollo y complejidad écnica. Po ello, a a de minimiza los ex an e esul a c ucial pa a
omen a la e olución de la IA al iempo que se p ese an adecuadamen e los de echos
undamen ales an o de los usua ios de la he amien a en cues ión como de los no usua ios.
55. Excep o en las si uaciones en las que ello esul e e iden e debido a las ci cuns ancias y al con-
ex o de u ilización.
56. A . 4 c) de la P opues a del Consejo de la Unión Eu opea.
IUS ET SCIENTIA • 2023
Vol. 9 • Nº 1 • pp. 46-68
ISSN 2444-8478 • h ps://doi.o g/10.12795/IESTSCIENTIA.2023.i01.04
El abo daje de Cha GPT: el “Rinoce on e G is” de la IA con e sacional
Ma ía Dolo es Ga cía Sánchez
65
En conc e o, pa a palia los pelig os asociados a Cha GPT (en e los que encon ába-
mos la posibilidad de que p opo cione con enido inco ec o o sesgado, su uso inade-
cuado po los usua ios y los p oblemas de con idencialidad y p i acidad), conside amos
que los p o eedo es de se icios de IA debe ían implemen a medidas de segu idad y
p i acidad sólidas, ales como el ci ado de ex emo a ex emo (con el que cuen an a-
ias aplicaciones de mensaje ía como Wha sapp) y polí icas cla as de anonimización y
anspa encia en el uso de da os.
A pesa de los iesgos inhe en es al desa ollo ecnológico –en especial de la IA–,
p ohibi lo de end ía una a ea comple amen e es é il. El sunami ecnológico es impa-
able. Se a a, po an o, de ap ende a su ea las olas. Pe o pa a ello, hemos de con a
con una base es able y una écnica adecuada que nos pe mi a log a el equilib io nece-
sa io pa a man ene nos a lo e sob e la abla.
Po ello, esul a ap emian e es ablece las eglas del juego. La ince idumb e siem-
p e ha sido iel compañe a de cualquie cambio, pe o con unos undamen os sólidos
elemen ales y unas líneas ojas inapelables, conside amos que se ía posible minimiza
o palia sus iesgos.
El Reglamen o de la IA p ome e a ende a dicha necesidad de con a con una egulación
básica y gene al en la ma e ia que nos pe mi a na ega el sunami algo í mico y a a de
alcanza el a duo equilib io en e el desa ollo ecnológico, la minimización de los iesgos y
el espe o de los de echos undamen ales de los usua ios y no usua ios. Sin emba go, aún se
encuen an en ase de ap obación y, dado el ápido y exponencial desa ollo de la IA hacia
sis emas cada ez más po en es y e icaces, con iene que es a se p oduzca cuan o an es.
Cha GPT es solo la pun a del icebe g. Vend án muchísimas más ecnologías de es e
ipo, más e icien es, pe o ambién con mayo po encial lesi o. Y, pa a e i a que nos
encon emos –o a ez– en e a nue os “ inoce on es g ises” cuyo impac o nos e mi-
ne a ollando y haya que eacciona ex pos an e e en uales pelig os pa a la segu idad,
los de echos undamen ales y la sociedad global, con iene es a p epa ados con an-
elación. Pe o no solo pa a abo da di ec amen e las consecuencias de las ecnologías
enide as, sino pa a con ola las y adecua las desde su diseño y desa ollo a un ma co
no ma i o espe uoso con los de echos undamen ales, la anspa encia, la segu idad y
el medio ambien e, analizando sus u u ibles con ingencias.
Finalmen e, además de es a base legisla i a, conside amos que se hace indispen-
sable empode a a la población en el uso de las nue as ecnologías, educándola en un
empleo adecuado, é ico y esponsable de las he amien as digi ales y en unas nociones
elemen ales –al menos– de cibe segu idad.
Bibliog a ía
Adamopoulou, E., Moussaiades, L., (2020) “An O e iew o Cha bo Technology”, AIAIA
2020: A i icial In elligence Applica ions and Inno a ions. IFIP Ad ances in In o ma ion
and Communica ion Technology, ol. 584. Sp inge , Cham. h ps://link.sp inge .com/
chap e /10.1007/978-3-030-49186-4_31
IUS ET SCIENTIA • 2023
Vol. 9 • Nº 1 • pp. 46-68
ISSN 2444-8478 • h ps://doi.o g/10.12795/IESTSCIENTIA.2023.i01.04
El abo daje de Cha GPT: el “Rinoce on e G is” de la IA con e sacional
Ma ía Dolo es Ga cía Sánchez
66

Agencia Española de P o ección de Da os (13 de ab il de 2023), La AEPD inicia de o icio ac uacio-
nes de in es igación a OpenAI, p opie a ia de Cha GPT. h ps://www.aepd.es/es/p ensa-y-co-
municacion/no as-de-p ensa/aepd-inicia-de-o icio-ac uaciones-de-in es igacion-a-openai
Agencia Española de P o ección de Da os (11 de mayo de 2023), Las au o idades de la Red Ibe-
oame icana de P o ección de Da os Pe sonales inician una acción coo dinada en elación con
el se icio de Cha GPT, h ps://www.aepd.es/es/p ensa-y-comunicacion/no as-de-p ensa/
au o idades- ipd-inician-accion-coo dinada-se icio-cha gp
Alonso-A é alo, J., Quinde-Co de o, M., (2023) “Cha GPT: La c eación au omá ica de ex os
académicos con in eligencia a i icial y su impac o en la comunicación académica y edu-
ca i a”, Re is a Deside a a, nº22. h ps://g edos.usal.es/handle/10366/152505
Bo ado de enmiendas del Pa lamen o Eu opeo a la P opues a de Reglamen o sob e no -
mas a monizadas ela i as a la In eligencia A i icial, 9 de mayo de 2023. h ps://www.
eu opa l.eu opa.eu/mee docs/2014_2019/plm ep/COMMITTEES/CJ40/DV/2023/05-11/
Consolida edCA_IMCOLIBE_AI_ACT_EN.pd
Cowen, T., (diciemb e 2022), “Cha GPT Could Make Democ acy E en Mo e Messy”, The Was-
hing on Pos . h ps://www.washing onpos .com/business/cha gp -could-makedemoc a-
cy-e en-mo e-messy/2022/12/06/e613ed 8-756a-11ed-a199-927b334b939 _s o y.h ml
Ga an e pe la p o ezioni dei da i pe sonali:
a) P o edimen o del 30 ma zo 2023 [9870832]. h ps://www.gpdp.i /web/gues /home/
docweb/-/docweb-display/docweb/9870832
b) Comunicado de 4 de ab il de 2023. h ps://www.gpdp.i /web/gues /home/docweb/-/
docweb-display/docweb/9872284
c) Comunicado de 6 de ab il de 2023. h ps://www.gpdp.i /web/gues /home/docweb/-/
docweb-display/docweb/9872832
d) P o edimen o del 11 de ab il 2023 [9874702]. h ps://www.gpdp.i /web/gues /home/
docweb/-/docweb-display/docweb/9874702
e) Comunicado de 12 de ab il de 2023. h ps://www.gpdp.i /web/gues /home/docweb/-/
docweb-display/docweb/9874751
) Comunicado de 28 de ab il de 2023. h ps://www.gpdp.i /web/gues /home/docweb/-/
docweb-display/docweb/9881490
Ga cía-Peñal o, F.J., (2023) “La pe cepción de la In eligencia A i icial en con ex os educa i os
as el lanzamien o de Cha GPT: dis upción o pánico”, Educa ion in he Knowledge Socie y,
Vol. 24. h ps:// e is as.usal.es/ es/index.php/eks/a icle/ iew/31279
Ga i Ca ajal, A., (mayo de 2023), La UE se p epa a pa a endu ece el uso de Cha GPT. EL PAÍS.
h ps://cincodias.elpais.com/cincodias/2023/04/28/legal/1682678408_904956.h ml
G and View Resea ch (2023), Cha bo Ma ke Size, Sha e & T ends, Analysis Repo By Applica-
ion (Cus ome Se ices, B anding & Ad e ising), By Type, By Ve ical, By Region (No h Ame-
ica, Eu ope, Asia Paci ic, Sou h Ame ica), And Segmen Fo ecas s, 2023 – 2030. h ps://www.
g and iew esea ch.com/indus y-analysis/cha bo -ma ke
Ko da, M., (ene o 2023), “Could a Cha bo Teach you how o build a di y bomb?”, OUTRIDER. h ps://
ou ide .o g/nuclea -weapons/a icles/could-cha bo - each-you-how-build-di y-bomb
Ley O gánica 2/2018, de 5 de diciemb e, de P o ección de Da os Pe sonales y ga an ía de los
de echos digi ales (BOE núm. 294, de 6 de diciemb e de 2018). h ps://www.boe.es/bus-
ca /doc.php?id=BOE-A-2018-16673
IUS ET SCIENTIA • 2023
Vol. 9 • Nº 1 • pp. 46-68
ISSN 2444-8478 • h ps://doi.o g/10.12795/IESTSCIENTIA.2023.i01.04
El abo daje de Cha GPT: el “Rinoce on e G is” de la IA con e sacional
Ma ía Dolo es Ga cía Sánchez
67
Maslej, N., Fa o ini, L., B ynjol sson, E., E chemendy, J., Lige , K., Lyon, T., Manyika, J., Ngo,
H., Niebles, J.C., Pa li, V., Shoham, Y., Wald, R., Cla k, J., Pe aul , R., (2023) The AI Index 2023
Annual Repo , AI Index S ee ing Commi ee, Ins i u e o Human-Cen e ed AI, S an o d
Uni e si y, S an o d, CA. h ps://aiindex.s an o d.edu/ epo /
Pea l, M., (diciemb e 2022), “The Cha GPT cha bo om OpenAI is amazing, c ea i e, and o a-
lly w ong. Need ideas? G ea ! Need ac s? S ay away!”, Mawshable h ps://mashable.com/
a icle/cha gp -amazing-w ong
P opues a de Reglamen o po el que se es ablecen no mas a monizadas en ma e ia de In eli-
gencia A i icial (Ley de In eligencia A i icial), y se modi ican de e minados ac os legisla i-
os de la Unión, 21 de ab il de 2021. h ps://eu -lex.eu opa.eu/ esou ce.h ml?u i=cella :e0
649735-a372-11eb-9585-01aa75ed71a1.0008.02/DOC_1& o ma =PDF
P opues a del Consejo de la Unión Eu opea pa a un Reglamen o sob e no mas a moniza-
das de In eligencia A i icial. Documen o 2021/0106 (COD), de 25 de no iemb e de 2022.
h ps://a i icialin elligenceac .eu/wp-con en /uploads/2022/12/AIA-%E2%80%93-CZ-
%E2%80%93-Gene al-App oach-25-No -22.pd
Recomanació 1/2023 en elació amb la u ili zació de Cha GPT i el seu impac e en la p o ec-
ció de dades pe sonals, 21 de ab il de 2023. Au o idad Ca alana de P o ección de Da os
h ps://apdca .genca .ca /web/.con en /01-au o i a /no ma i a/documen os/Recoma-
nacio12023_Cha GPT.pd
Reglamen o 2016/679 del Pa lamen o Eu opeo y del Consejo, ela i o a la p o ección de las
pe sonas ísicas en lo que espec a al a amien o de da os pe sonales y a la lib e ci cula-
ción de es os da os, de 27 de ab il de 2016. h ps://www.boe.es/doue/2016/119/L00001-
00088.pd
Resolución del Pa lamen o Eu opeo sob e las implicaciones de los mac oda os en los de e-
chos undamen ales: p i acidad, p o ección de da os, no disc iminación, segu idad y apli-
cación de la ley, 14 de ma zo de 2017. h ps://www.eu opa l.eu opa.eu/doceo/documen /
TA-8-2017-0076_ES.h ml
Rod íguez Spinelli, F., (2022), “Bo s, enemos que habla ”, en FODERTICS 10.0 (di . Bueno de
Ma a, F.), Coma es, G anada.
Roose, K., (diciemb e 2022), “The B illiance and Wei dness o Cha GPT”, The New Yo k Times.
h ps://www.ny imes.com/2022/12/05/ echnology/cha gp -ai- wi e .h ml
Ruíz A ébalo, J., (ene o 2022) “Cisnes neg os, inoce on es g ises, pandemias y me eo i-
os”, Global S a egy- Geopolí ica y Es udios Es a égicos. h ps://global-s a egy.o g/
cisnes-neg os- inoce on es-g ises-pandemias-y-me eo i os/
Shah, C., (ma zo 2023), “Is Cha GPT Close o a Human Lib a ian Than I Is o Google?”, Gizmo-
do, h ps://gizmodo.com/cha gp -ai-openai-like-a-lib a ian-sea ch-google-1850238908.
Wigmo e, I., (ab il 2023), “Na u al language gene a ion (NLG)”, TechTa ge . h ps://www. ech-
a ge .com/sea chen e p iseai/de ini ion/na u al-language-gene a ion-NLG.
IUS ET SCIENTIA • 2023
Vol. 9 • Nº 1 • pp. 46-68
ISSN 2444-8478 • h ps://doi.o g/10.12795/IESTSCIENTIA.2023.i01.04
El abo daje de Cha GPT: el “Rinoce on e G is” de la IA con e sacional
Ma ía Dolo es Ga cía Sánchez
68