De echos humanos e in eligencia a i icial
HUMAN RIGHTS AND ARTIFICIAL INTELLIGENCE
And ea Elena G igo e
Uni e sidad de Se illa
and eaelenag igo [email protected] 0000-0001-6134-8420
Recibido: 13 de diciemb e de 2021 | Acep ado: 21 de ma zo de 2022
RESUMEN PALABRAS CLAVE
La in eligencia a i icial (IA) puede ene un impac o posi i o en el eje cicio
de de e minados de echos, pe o o os pueden e se menoscabados po su
uso como: la libe ad de exp esión (incluyendo el de echo a comunica o
ecibi in o mación lib emen e), la p i acidad, la p ohibición de la disc im-
inación, y el de echo a la u ela judicial e ec i a. Las o ganizaciones in e -
nacionales dedicadas a la p o ección de los de echos humanos es án ac-
ualmen e e lexionando sob e es os iesgos y las posibles soluciones pa a
ayuda a sus Es ados miemb os a esponde a es os e os, así se p esen an
las acciones lle adas a cabo en el ma co uni e sal po las Naciones Unidas y
en el ámbi o eu opeo po el Consejo de Eu opa y la Unión Eu opea. La In eli-
gencia A i icial es una he amien a sumamen e pode osa y necesa ia pa a
ayuda nos a abo da los inmensos e os que debemos supe a como espe-
cie. Pe o si a la ho a de desa olla la pasamos po al o los ac o es sociales,
labo ales y é icos, la In eligencia A i icial puede con e i se en a ma a a o
de la desigualdad, el con ol y la des ucción.
In eligencia a i icia
E íca
De echos humanos
ABSTRACT KEYWORDS
A i icial in elligence (AI) can ha e a posi i e impac on he exe cise o ce -
ain igh s, bu o he s can be unde mined by i s use such as: eedom o ex-
p ession (including he igh o eely communica e o ecei e in o ma ion),
p i acy, he p ohibi ion o disc imina ion, and he igh o e ec i e judicial
p o ec ion. In e na ional o ganiza ions dedica ed o he p o ec ion o hu-
man igh s a e cu en ly e lec ing on hese isks and possible solu ions o
help hei membe s a es espond o hese challenges, as well as he ac ions
ca ied ou in he uni e sal amewo k by he Uni ed Na ions and a he Eu-
opean le el by he Council o Eu ope and he Eu opean Union.
A i icial In elligence is an ex emely powe ul and necessa y ool o help
us add ess he immense challenges we mus o e come as a species. Bu i
when de eloping i we igno e social, labo and e hical ac o s, A i icial In el-
ligence can become a weapon in a o o inequali y, con ol and des uc ion.
A i icial in elligence
E hics
Human igh s
IUS ET SCIENTIA
2022 • Vol. 8 • Nº 1• ISSN 2444-8478
h ps://edi o ial.us.es/es/ e is as/ius-e -scien ia
h ps://dx.doi.o g/10.12795/IETSCIENTIA • © Edi o ial Uni e sidad de Se illa 2022
CC BY-NC-ND 4.0.
h p://doi.o g/10.12795/IESTSCIENTIA.2022.i01.10 • pp. 164-175
POSICIÓN DE LA AUTORA: En el con ex o ac ual es p eciso más que nunca pone de
mani ies o el alo de los de echos humanos, espec o al con inuo uso de la IA, que se
conside a como elemen o es a égico del siglo XXI. A ec a a odos los ámbi os: desde
la geopolí ica has a los in e eses come ciales, pasando po el c ecimien o económico,
la lucha con a el cambio climá ico o la mejo a de la a ención sani a ia, lo que en cie o
modo nos hace incluso dependien es de ella. No es obje i a, neu al o uni e sal; po
el con a io, es á p o undamen e a aigada en la cul u a y la ealidad económica de
quienes la c ean, en su mayo ía, homb es blancos y con ecu sos. Nues o u u o como
humanidad depende de cómo la desa ollemos pa a que el impac o sea posi i o. Todas
las ans o maciones sociales anscu en a a és de una mejo ía y a ance imp escin-
dible de los de echos humanos. La comunidad académica iene el debe de e lexiona
y pa icipa en in es igaciones sob e los e ec os sociales, económicos y polí icos de la
pe sonalización del con enido de la IA.
I. CONTEXTO ACTUAL
“La injus icia, en cualquie pa e, es una amenaza a la jus icia en odas pa es”. Ya lo
apun aba Ma in Lu he King e e en e a los de echos ci iles en los 70.
Según NIKKEN1 la noción de de echos humanos se co esponde con la a i mación de
la dignidad de la pe sona en e al Es ado. El pode público debe eje ce se al se icio y
el bienes a del se humano: no puede se empleado líci amen e pa a o ende a ibu os
inhe en es a la pe sona y debe se ehículo pa a que ella pueda i i en sociedad en
condiciones cónsonas con la misma dignidad que le es consus ancial.
Una de las ca ac e ís icas esal an es del mundo con empo áneo es el econoci-
mien o de que odo se humano, po el hecho de se lo, es i ula de de echos unda-
men ales que la sociedad no puede a eba a le líci amen e. Es os de echos no depen-
den de su econocimien o po el Es ado ni son concesiones suyas; ampoco dependen
de la nacionalidad de la pe sona ni de la cul u a a la cual pe enezca. Son de echos
uni e sales que co esponden a odo habi an e de la ie a. La exp esión más no o ia
de es a g an conquis a es el a ículo 1 de la Decla ación Uni e sal de De echos Huma-
nos: odos los se es humanos nacen lib es e iguales en dignidad y de echos y, do ados
como es án de azón y conciencia, deben compo a se a e nalmen e los unos con los
o os (Nikken, 1994).
¿Cuál es la ele ancia de la in eligencia a i icial (IA) pa a los de echos humanos?
De ini la IA no es ácil, ya que el concep o de in eligencia pe se no es del odo p eciso.
En é minos coloquiales, IA se usa cuando una máquina es capaz de imi a las unciones
cogni i as p opias de la men e humana, como: c ea i idad, sensibilidad, ap endizaje,
en endimien o, pe cepción del ambien e y uso del lenguaje. Es a ecnología es una he-
amien a ex ao dina iamen e pode osa que pod ía ene un e ec o ans o mado e
1. Ex P esiden e del Consejo Di ec i o del IIDH y Ex P esiden e de la Co e In e ame icana de De e-
chos Humanos. P o eso de la Uni e sidad Cen al de Venezuela.
IUS ET SCIENTIA • 2022
Vol. 8 • Nº 1 • pp. 164-175
ISSN 2444-8478 • h p://doi.o g/10.12795/IESTSCIENTIA.2022.i01.10
De echos humanos e in eligencia a i icial
And ea Elena G igo e
165
inno ado en muchos aspec os de la ida co idiana, desde el anspo e y la ab icación
has a la a ención médica y la educación.
Su uso es á aumen ando en odos es os sec o es, así como en el sis ema de jus icia,
la policía y el ejé ci o. La IA puede aumen a la e iciencia, gene a nue os conocimien-
os sob e las en e medades y acele a el descub imien o de medicamen os no edosos.
La in eligencia a i icial se usa mucho pa a c ea ecomendaciones pe sonalizadas pa a
los consumido es, basadas, po ejemplo, en sus búsquedas y comp as p e ias o en o os
compo amien os en línea. La IA es muy impo an e en el come cio, pa a op imiza los
p oducos, planea el in en a io, p ocesos logís icos, e c. El desa ollo de ecnologías
in eligen es impac a p o undamen e en la sociedad.
El desa ollo de la IA se ha acele ado g acias a los incen i os ecnológicos, inancie-
os y humanos ac uales. Exis en a ances impo an es de las ecnologías in eligen es en
ámbi os como ag icul u a, manu ac u a, medicina, educación, ehículos au ónomos y
en e enimien o. Además, sus implicaciones de ca ác e social, económico, é ico y legal
son emas de e lexión y deba e al ededo del mundo.
Pe o su uso indebido, in encional o no, ambién puede daña los de echos de las pe -
sonas. En los ámbi os é ico y legal se deba en las asignaciones de esponsabilidades y
obligaciones en si uaciones donde in e ienen sis emas in eligen es. Po ejemplo, si un
au omó il au ónomo a opella a un pea ón, la esponsabilidad del ac o pod ía ecae
en el dueño del ehículo; pe o ambién debe econoce se que és e no iene un con ol
comple o del au omó il y la esponsabilidad ambién pod ía ecae en el dueño in e-
lec ual de la IA. Los sis emas in eligen es pueden ap ende p ejuicios desde los mismos
da os. Un ejemplo es el de expe imen os en p ocesamien o au omá ico del lenguaje,
que mues an cómo los sis emas ap enden a asocia la palab a muje con p o esiones
más ce canas a las humanidades y al hoga , mien as que a la palab a homb e, la ela-
cionan con p o esiones con un mayo componen e ma emá ico.
O o caso ilus a i o es el de Tay, un bo pa a Twi e desa ollado po Mic oso (un
bo es un p og ama que ejecu a a eas en in e ne ), capaz de in e acciona au omá i-
camen e con usua ios y ap ende de ellos. En pocas ho as, Tay ap endió exp esiones
acis as, xeno óbicas, misóginas y ascis as y u o que se bloqueado de la ed social. Sin
un modelo anspa en e, es muy di ícil hace ale condiciones sociales con es as ec-
nologías, como el espe o hacia o os usua ios. Pa a p e eni que los sis emas he eden
an os p ejuicios y que a su ez ep esen en al g ueso de la población, se hacen es ue -
zos pa a que exis a igualdad de géne o en los desa ollado es (Hun , 2016)
En el aspec o é ico, des acan los equisi os que deben ene los sis emas con el in
de p e eni p ejuicios y eacciones nega i as en la sociedad. En pa icula , la anspa-
encia y la con iabilidad juegan un papel c ucial. Asimismo, el acceso equi a i o de
muje es y homb es ha sido impulsado po algunos de los ac o es con mayo inje encia
en el campo, especialmen e en Amé ica La ina. Es o puede omen a que los sis emas
cuen en con una isión menos sesgada y más ep esen a i a del g ueso de la pobla-
ción. Po úl imo, el u u o de la IA concie ne ambién al de sus in e acciones con o as
á eas del conocimien o y o as ecnologías. En pa icula , el cómpu o cogni i o se be-
ne icia á de los a ances en el en endimien o del uncionamien o del ce eb o humano
IUS ET SCIENTIA • 2022
Vol. 8 • Nº 1 • pp. 164-175
ISSN 2444-8478 • h p://doi.o g/10.12795/IESTSCIENTIA.2022.i01.10
De echos humanos e in eligencia a i icial
And ea Elena G igo e
166
y las neu ociencias, así como del desa ollo de p ocesado es, sis emas de almacena-
mien o de da os y los ambien es de ealidad i ual y ealidad aumen ada.2
La Al a Comisionada de las Naciones Unidas pa a los De echos Humanos, Michelle
Bachele , en a izó en GINEBRA (15 de sep iemb e de 2021) la u gen e necesidad de es-
ablece una mo a o ia a la en a y el uso de los sis emas de in eligencia a i icial (IA)
que amenazan g a emen e a los de echos humanos, has a que se hayan pues o en i-
go las sal agua das adecuadas. Bachele pidió además que se p ohíban los p og amas
de AI cuyo uso no cumpla con la no ma i a in e nacional de de echos humanos.
“La in eligencia a i icial puede se una ue za pa a el bien, que ayude a las socieda-
des a supe a algunos de los mayo es e os de nues o iempo. Pe o las ecnologías de
IA ambién pueden ene e ec os noci os e incluso ca as ó icos, cuando se emplean sin
p es a la debida a ención a su capacidad de ulne a los de echos humanos”, decla ó
Bachele .
“Mien as mayo sea el iesgo pa a los de echos humanos, más es ic os deben se
los equisi os legales pa a el uso de la ecnología de IA”, añadió la Al a Comisionada.
“Pe o dado que la e aluación de los pelig os y cómo supe a los puede lle a oda ía
algún iempo, los Es ados debe ían implemen a desde aho a mo a o ias sob e el uso
de las ecnologías que p esen an un al o po encial de iesgo”.3
Como pa e de su labo en ma e ia de ecnología y de echos humanos, la O icina
de De echos Humanos de la ONU ha publicado un in o me en el que se analiza cómo
la IA –incluidas la elabo ación au omá ica de pe iles, la oma de decisiones y o as ec-
nologías de ap endizaje pa a las máquinas– a ec a al de echo a la in imidad y a o os
de echos, incluidos los ela i os a la salud, la educación, la libe ad de mo imien o, la
libe ad de eunión y asociación pací ica, y la libe ad de exp esión.
“La in eligencia a i icial llega aho a a casi odos los incones de nues as idas, e
incluso alcanza a nues os es ados emocionales. Los sis emas de IA se usan pa a decidi
quién ecibe se icios públicos, quién iene opo unidad de ob ene un empleo y, po
supues o, a ec an a la in o mación que la gen e e y que puede compa i en In e ne ”,
señaló la Al a Comisionada.
En el in o me se examina cómo a menudo los Es ados y las emp esas se han p ecipi-
ado a inco po a los p og amas in o má icos de IA sin eje ce la diligencia debida. Ha
habido muchos casos de pe sonas que han sido injus amen e a adas a causa de la IA,
ya sea po que se les ha denegado p es aciones del segu o social debido a la aplicación
de ins umen os de icien es de IA o po que han sido a es adas como consecuencia de
e o es en los sis emas de econocimien o acial4.
2. Mee ings o he Expe G oup on Business- o-Go e nmen Da a Sha ing, Digi al Single Ma ke ,
2019. h ps://ec.eu opa.eu/digi al-single-ma ke /en/news/mee ings-expe -g oup-businessgo e n-
men -da a-sha ing
3. h ps://www.ohch .o g/SP/HRBodies/HRC/Pages/NewsDe ail.aspx?NewsID=27469&LangI-
D=S(consul ado diciemb e 2021)
4. OECD, (2019). Recommenda ion o he Council on A i icial In elligence. Pub. L. No. OECD/LE-
GAL/0449. h ps://legalins umen s.oecd.o g/en/ins umen s/OECD-LEGAL-0449
IUS ET SCIENTIA • 2022
Vol. 8 • Nº 1 • pp. 164-175
ISSN 2444-8478 • h p://doi.o g/10.12795/IESTSCIENTIA.2022.i01.10
De echos humanos e in eligencia a i icial
And ea Elena G igo e
167
En el in o me se desc ibe de alladamen e cómo los sis emas de IA se basan en g an-
des bases de da os, que con ienen in o mación pe sonal compilada, in e cambiada,
combinada y analizada con mé odos di e sos y a eces opacos. Los da os que alimen-
an y o ien an a los sis emas de IA pueden se de icien es, disc imina o ios, obsole os
o poco pe inen es. El almacenamien o de da os a la go plazo en aña ambién iesgos
pa icula es, ya que en el u u o esa in o mación pod ía ap o echa se de o mas di íciles
de p e e en la ac ualidad.5
“Dado el ápido y con inuo c ecimien o de la IA, llena el inmenso acío de asun-
ción de esponsabilidades sob e cómo se ecogen, almacenan, compa en y u ilizan los
da os es uno de los come idos más u gen es que a on amos en ma e ia de de echos
humanos”, dijo Bachele .
Las deducciones, p edicciones y ac i idades de seguimien o que lle an a cabo las
he amien as de IA, incluida la búsqueda de pau as de conduc a humana, plan ean am-
bién g a es in e ogan es. Las bases de da os sesgadas en los que a menudo se basan los
sis emas de IA pueden conduci a la adopción de decisiones disc imina o ias, un iesgo
que es más acen uado cuando se a a de g upos que ya se encuen an ma ginados.
“El iesgo de disc iminación inhe en e a las decisiones basadas en la IA –decisiones
capaces de cambia , de ini o pe judica a las pe sonas– es muy eal. Po eso es necesa io
e alua y moni o ea sis emá icamen e las epe cusiones de los sis emas de IA, pa a po-
de iden i ica y a enua los iesgos en ma e ia de de echos humanos”, añadió Bachele .
“Las ecnologías biomé icas, que se es án con i iendo en un comodín pa a los Es a-
dos, las o ganizaciones in e nacionales y las emp esas de ecnología, cons i uyen un ám-
bi o que necesi a u gen emen e más di ec ices de de echos humanos”, señala el in o me.
Esas ecnologías, que comp enden el econocimien o acial, se usan cada ez más
pa a iden i ica a de e minadas pe sonas a dis ancia y en iempo eal, lo que puede
pe mi i un seguimien o ilimi ado de los indi iduos. El in o me ei e a el llamamien o a
una mo a o ia de su uso en espacios públicos, al menos has a que las au o idades de-
mues en que no exis en p oblemas signi ica i os con la p ecisión o los e ec os disc i-
mina o ios, y que esos sis emas de IA cumplen con las no mas aplicables a la p o ección
de da os y a la p i acidad.
También es p eciso que las emp esas y los Es ados inc emen en la anspa encia en
lo que se e ie e al desa ollo y la aplicación de los sis emas de IA.
“La complejidad del con ex o es adís ico, los algo i mos y los modelos en los que
se basa la elabo ación y el uncionamien o de los sis emas de IA, así como el ca ác e
sec e o que le con ie en los gobie nos y los agen es p i ados, con ibuyen a que la po-
blación en gene al no alcance a comp ende la epe cusión de los sis emas de IA sob e
la sociedad y los de echos humanos”, apun a el in o me.
“No podemos segui eaccionando a díamen e a los e ec os de la IA, ni pe mi i que
se use de mane a ilimi ada, sin on e as ni supe isión, pa a en en a nos luego a sus
5. Human Righ s Council, (13 Sep embe –1 Oc obe 2021). Annual epo o he Uni ed Na ions
High Commissione o Human Righ s and epo s o he O ice o he High Commissione and he
Sec e a y-Gene al .
IUS ET SCIENTIA • 2022
Vol. 8 • Nº 1 • pp. 164-175
ISSN 2444-8478 • h p://doi.o g/10.12795/IESTSCIENTIA.2022.i01.10
De echos humanos e in eligencia a i icial
And ea Elena G igo e
168

casi ine i ables consecuencias sob e los de echos humanos. La capacidad de la IA pa a
se i a la población es innegable, pe o ambién lo es su capacidad de con ibui a iola-
ciones de de echos humanos en g an escala, de mane a casi inde ec able. Es necesa io
adop a u gen emen e medidas pa a impone lími es basados en los de echos huma-
nos a la u ilización de la IA po el bien de odos”, e minó diciendo Bachele .6
II. MARCO LEGAL
Las p eocupaciones po los dilemas é icos en el ma co de la in eligencia a i icial (IA),
cons i uye un aspec o ampliamen e deba ido en las condiciones ac uales. Es as inquie-
udes se cen an en el empleo de he amien as de Big Da a, y en los iesgos polí icos
que se de i an de su uso mal in encionado, al se empleadas pa a el omen o de la ma-
nipulación y la dis o sión de p ocesos sociales.
Pa a abo da las p eocupaciones elacionadas con la in eligencia a i icial y los
DD.HH, Human Righ s Wa ch, Access Now, Amnis ía In e nacional y una coalición de
o ganizaciones de de echos humanos y ecnología emi ie on una decla ación his ó ica
que p opone es ánda es de de echos humanos pa a el ap endizaje au omá ico, p esen-
ando la Decla ación de To on o sob e la p o ección del de echo a la igualdad y la no
disc iminación en los sis emas de ap endizaje au omá ico.
La Decla ación de To on o es un documen o his ó ico que busca aplica las no mas
in e nacionales de de echos humanos exis en es al desa ollo y uso de sis emas de
ap endizaje au omá ico (o “in eligencia a i icial”).
La Decla ación hace un llamamien o a los gobie nos y a las emp esas pa a ga an i-
za que las aplicaciones de ap endizaje au omá ico e in eligencia a i icial espe en los
p incipios de igualdad y no disc iminación. El documen o a icula no mas de de echos
humanos que deben cumpli los sec o es público y p i ado pa a ga an iza que los al-
go i mos u ilizados se apliquen equi a i a y jus amen e, y que aquellos que c een sus
de echos han sido iolados engan una ía signi ica i a pa a la epa ación. Si bien ha
habido un diálogo sólido sob e é ica e in eligencia a i icial, la Decla ación en a iza la
impo ancia y aplicabilidad de la ley de de echos humanos, que es á diseñada pa a p o-
ege los de echos y p opo ciona emedios donde los se es humanos son pe judicados.
La Decla ación se cen a en el ap endizaje au omá ico y los de echos a la igualdad y la
no disc iminación, pe o muchos de los p incipios se aplican a o os sis emas de in eligencia
a i icial. Además, el ap endizaje au omá ico y la in eligencia a i icial a ec an a una amplia
gama de de echos humanos, incluidos el de echo a la p i acidad, la libe ad de exp esión,
la pa icipación en la ida cul u al, el de echo a la epa ación y el de echo a la ida.
El ap endizaje au omá ico (AA) es un subconjun o de la in eligencia a i icial. Se pue-
de de ini como “p opo ciona a los sis emas la capacidad de ap ende y mejo a de
o ma au omá ica a pa i de las expe iencias, sin necesidad de p og amación explíci a”.
6. Decla ación de la Al a Comisionada sob e los iesgos de la in eligencia a i icial pa a la p i aci-
dad en el Consejo de Eu opa (14 de sep iemb e de 2021).
IUS ET SCIENTIA • 2022
Vol. 8 • Nº 1 • pp. 164-175
ISSN 2444-8478 • h p://doi.o g/10.12795/IESTSCIENTIA.2022.i01.10
De echos humanos e in eligencia a i icial
And ea Elena G igo e
169
Uno de los iesgos más impo an es que p esen a el ap endizaje au omá ico es el
pelig o de ampli ica la disc iminación y los sesgos exis en es con a cie os g upos, a
menudo comunidades ma ginadas y ulne ables, que ya ba allan pa a que se les a e
con dignidad y espe o. Cuando se u ilizan da os his ó icos pa a en ena a los sis emas
de ap endizaje au omá ico sin sal agua dias, es os sis emas pueden ea i ma o incluso
aumen a el sesgo es uc u al exis en e. También se pueden causa daños disc imina-
o ios cuando las decisiones omadas al diseña los sis emas de IA p oducen esul ados
sesgados, ya sea de o ma delibe ada o no. Un ejemplo conc e o y ac ual es la polémica
c eada po que la IA pod ía llega a se disc imina o ia.
Un ejemplo cla o de ello es la disc iminación algo í mica –po e o es de da os– en
la concesión de hipo ecas o la e aluación de inquilinos. En 2019, en el es ado de Con-
nec icu (EE UU) una agencia inmobilia ia que disponía de un so wa e de e aluación
indi idualizada de inquilinos pa a au oma iza la concesión de alquile es conside ó que
una mad e no podía alquila un piso po que su hijo, con di e sidad uncional, había
sido años an es a es ado po obo e óneamen e. El so wa e de la emp esa incluía a
odas las pe sonas que habían sido a es adas, pe o no si es as habían sido inalmen e
acusadas o no, o si ese a es o se había e i ado po un e o , como ue es e caso. Pese a
la ba alla judicial en e una asociación de de echos de la i ienda y la emp esa, la Co e
del dis i o ede al de e minó que la emp esa de e aluación au oma izada de inquilinos
es aba ampa ada bajo la egulación de la FHA o Adminis ación Fede al de Vi iendas. El
caso es á nue amen e en cu so a día de hoy y ejemplos así se pueden ex apola an o
en España que en el es o de Eu opa.
El in o me anual “Au oma ing Socie y” de la o ganización eu opea Algo i hmWa ch
pone de mani ies o las endencias de la oma au oma izada de decisiones median e
algo i mos en la Unión Eu opea y sus Es ados miemb os. En España, en e o os, el SEPE
(el Se icio de Empleo Público de España) u iliza un sis ema au oma izado pa a calcula
los bene icios po desempleo, así como dis ibui las o e as de empleo, en e is as y
cu sos de o mación. Si bien se desconoce el impac o de es e sis ema au oma izado y
si sus esul ados se ían dis in os a los ealizados po una pe sona, a ni el écnico sí se
sabe que exis e un e o, que es el de la limi ada econciliación de da os: es deci , en el
momen o en que haya un e o en un da o o una casilla en un a chi o, deja á de se
compa ible con el es o de a chi os y el so wa e lo asigna á como nulo. El e ec o en el
desembolso del pa o puede se impo an e si no se p e iene es e iesgo.
Cómo obse ación al espec o podemos señala que, en g an medida, las no mas de
de echos humanos no es aban p esen es en el deba e sob e la é ica de la IA; en a ias
ocasiones se mencionaba la impo ancia de los de echos humanos, pe o po lo gene al
no e a más que una e e encia pasaje a. Y en algunos luga es, la discusión sob e la é ica de
la IA es aba comenzando a oma un gi o ya conocido: se a gumen aba que la é ica de la
IA debe ía depende de la cul u a. Es o ab e la pue a a di e en es es ánda es y di e en es
ni eles de p o ección pa a los de echos de las pe sonas; y en el con ex o de una ecnolo-
gía digi al como la IA, a la que no le in e esan las on e as, no iene mucho sen ido.
E a e iden e que a i ma el papel cen al del ma co de de echos humanos en la é ica
de la IA e a una p io idad, cen ando el oco de a ención en la igualdad y la no disc imi-
IUS ET SCIENTIA • 2022
Vol. 8 • Nº 1 • pp. 164-175
ISSN 2444-8478 • h p://doi.o g/10.12795/IESTSCIENTIA.2022.i01.10
De echos humanos e in eligencia a i icial
And ea Elena G igo e
170
nación en el ap endizaje au omá ico po que se a a de un ema ya u gen e que causa
cada ez más p oblemas en la ida eal.
La Decla ación de To on o ue edac ada después de discusiones y en e is as con
docenas de expe os en IA, emp esas y de echos humanos, y o os emas. Se ealiza on
amplias consul as sob e el bo ado , y el documen o se adop ó el 16 de mayo, al inicio
de Righ sCon 2018. La Decla ación iene es secciones p incipales.
P ime o, es ablece el debe de los Es ados de p e eni la disc iminación en el di-
seño o la implemen ación de los sis emas de ap endizaje au omá ico en con ex os
públicos o median e asociaciones público-p i adas. Es a sección incluye p incipios
pa a iden i ica iesgos en el uso de sis emas de ap endizaje au omá ico, pa a ga an-
iza la anspa encia y la endición de cuen as (incluida la di ulgación al público de
dónde se usan los sis emas de ap endizaje au omá ico), pa a hace cumpli la supe i-
sión (incluidos los mecanismos pa a la supe isión independien e) y pa a p omo e la
igualdad. A ni el In e nacional, busca un pun o de encuen o sob e el que cons ui
una isión común del desa ollo ecnológico debe es a en odas las agendas diplo-
má icas. La polí ica ex e io ha de aspi a a una Decla ación de de echos humanos
ac ualizada a la e a de la in eligencia a i icial. Los Es ados pueden elabo a su ol en la
Gobe nanza e la IA e i iéndose a las no mas in e nacionales de de echos humanos, y
desa olando mecanismos pa a la endición de cuen as, la spa encia y la epa ación
de iolaciones y abusos.
En segundo luga , la Decla ación desc ibe las esponsabilidades de los ac o es p i a-
dos en el con ex o del desa ollo y la implemen ación de sis emas de AA. Se basa en el
ma co de diligencia debida en ma e ia de de echos humanos (que se de inió o iginal-
men e en los P incipios Rec o es de la ONU sob e las Emp esas y los De echos Huma-
nos). Es as esponsabilidades incluyen de ec a posibles esul ados disc imina o ios a
a és de la iden i icación y e aluación de iesgos, oma medidas e ec i as pa a p e e-
ni y mi iga la disc iminación (en e ellas, some e a los sis emas a audi o ías ex e nas
independien es cuando haya un iesgo conside able de que se iolen los de echos hu-
manos), y se anspa en es, lo que incluye la publicación de especi icaciones écnicas,
mues as de los da os de en enamien o u ilizados y uen es de da os.
En e ce luga , la Decla ación a i ma el de echo a un ecu so e ec i o y a llama a
cuen as a los esponsables de las iolaciones. Exho a a los gobie nos a que ga an icen
es ánda es de debido p oceso pa a el uso del ap endizaje au omá ico en el sec o pú-
blico, que ac úen con cau ela al u iliza sis emas de AA en el sis ema penal, que de inan
líneas cla as de endición de cuen as pa a el desa ollo y la implemen ación de aplica-
ciones de AA y que acla en cuáles son los o ganismos o pe sonas ju ídicamen e espon-
sables de las decisiones omadas median e el uso de dichos sis emas.
Redac a y publica la Decla ación es solo el p ime paso pa a que el ma co de de e-
chos humanos se con ie a en un componen e undamen al del ámbi o de la é ica de
la IA y los da os, el cual es á expe imen ando un ápido desa ollo. La Decla ación es a-
blece p incipios pa a la polí ica y la p ác ica, pe o pa a hace los e ec i os necesi amos
guías p ác icas de implemen ación que ayuden a los ingenie os y ge en es de p oduc-
os a aplica los p incipios en su abajo.
IUS ET SCIENTIA • 2022
Vol. 8 • Nº 1 • pp. 164-175
ISSN 2444-8478 • h p://doi.o g/10.12795/IESTSCIENTIA.2022.i01.10
De echos humanos e in eligencia a i icial
And ea Elena G igo e
171
Además, es impo an e que la sociedad ci il dé su más amplio espaldo a la Decla a-
ción de To on o pa a a i ma la cen alidad de los de echos humanos en el deba e sob e
la é ica de la IA. Es a se ía una señal impo an e de que se espe a que las emp esas de
ecnología ambién apoyen la Decla ación y se comp ome an a ela po que las nue as
ecnologías no diluyan los de echos humanos exis en es. Ace ca se más a la comunidad
ecnológica pa a en abla un diálogo en e los de enso es de de echos humanos y los
ingenie os ayuda á a inco po a los de echos humanos en el uso y desa ollo de la IA.
Las pe sonas enemos de echo a pode con ia en el p og eso y a no eme a la ec-
nología. Tenemos que exigi que es a espe e nues os alo es democ á icos y de con i-
encia. Nues o país, España, ha sido pione o a ni el mundial en p esen a una Ca a de
De echos Digi ales de la Ciudadanía, un ma co de e e encia pa a pode na ega es e
en o no digi al en el que i imos, que busca con ibui a una e lexión global sob e el
papel que ha de ocupa la pe sona en el desa ollo ecnológico, que ga an ice una di-
gi alización humanis a.
Finalmen e, debemos impulsa la in o mación equilib ada sob e las ecnologías de
IA: al habla de ellas como ecnologías que se pueden usa pa a el bien, pe o de las que
ambién se puede abusa . Desc ibi la IA median e isiones dis ópicas o u ópicas no
conduce a un deba e sensa o, y nos dis ae de abo da los iesgos eales y de ap o e-
cha las opo unidades de u iliza la IA en nues o bene icio.
III. CONCLUSIONES
Los epe idos escándalos públicos de las g andes emp esas y las edes sociales han con-
seguido pone de mani ies o la necesidad de p omo e e inculca un in e és amplio
y genuino en las cues iones é icas en o no a la IA, no solo en e los académicos, sino
ambién en muchas emp esas que es án empezando a desa olla un mo imien o que
buscaba esponde de o ma p oac i a a los iesgos asociados con la IA.
La in eligencia a i icial es una ecnología es a égica que o ece nume osas en a-
jas a los ciudadanos, las emp esas y la sociedad en su conjun o, siemp e y cuando sea
an opocén ica, é ica y sos enible y espe e los de echos y alo es undamen ales. La
IA apo a impo an es mejo as de la e iciencia y la p oduc i idad que pueden e o za
la compe i i idad de la indus ia eu opea y mejo a el bienes a de los ciudadanos.
También puede con ibui a encon a soluciones a algunos de los p oblemas sociales
más acucian es, como la lucha con a el cambio climá ico y la deg adación medioam-
bien al, los e os elacionados con la sos enibilidad y los cambios demog á icos, la p o-
ección de nues as democ acias y, cuando sea necesa io y p opo cionado, la lucha
con a la delincuencia.
En un con ex o de e oz compe encia mundial, se equie e un en oque eu opeo só-
lido basado en la Es a egia Eu opea pa a la IA p esen ada en ab il de 20187. Pa a ap o-
echa las opo unidades que o ece la in eligencia a i icial y abo da los e os que
7. In eligencia a i icial pa a Eu opa [COM(2018) 237 inal].
IUS ET SCIENTIA • 2022
Vol. 8 • Nº 1 • pp. 164-175
ISSN 2444-8478 • h p://doi.o g/10.12795/IESTSCIENTIA.2022.i01.10
De echos humanos e in eligencia a i icial
And ea Elena G igo e
172