GEDIS
Re e encias
Sesgo algo í mico en la IA:
concep os cla e, implicaciones
y soluciones
GEDIS - Gende Di e si y in In o ma ion Science: Challenges in Highe Educa ion. h ps://ub.edu/gedis
Ci ación: Ka mil, Kenza, Luka Bosko ic and Denisa Ka ašo á. 2025. Algo i hmic Bias in AI: Ke Concep s,
Implica ions, and Solu ions. DOI: 10.5281/zenodo.17067091. T aducido po Claudia San José y Juan-José Bo é-
Ve icad. Sesgo algo í mico en la IA: concep os cla e, implicaciones y soluciones. DOI: 10.5281/zenodo.17296079.
Con ex o del p oyec o GEDIS
Es e ecu so o ma pa e del p oyec o eu opeo GEDIS (Gende Di e si y in In o ma ion Science), que p omue e he amien as educa i as
abie as pa a abo da las desigualdades de géne o en la educación supe io , con én asis en las disciplinas elacionadas con la
Documen ación y la Biblio economía. Es e ma e ial educa i o se desa olló en el ma co de la Summe School de Ba celona, como pa e
del p oyec o GEDIS.
Co inanciado po la Unión Eu opea. Las opiniones y pun os de is a exp esados son exclusi amen e de los au o es
y no e lejan necesa iamen e los de la Unión Eu opea ni los del Se icio Español pa a la In e nacionalización de la
Educación (SEPIE). Ni la UE ni la au o idad que concede la sub ención se hacen esponsables.
Audiencias des ina a ias:
📚
Pe sonal de biblio ecas,
P o eso ado,
Es udian ado
P ejuicios en acción:
Ejemplos e impac os Vías de mi igación
Sanidad: Los clasi icado es de lesiones
cu áneas de la CNN, en enados
p incipalmen e en pacien es blancos,
mues an una p ecisión -50% meno en
pacien es neg os.
Ámbi o ju ídico: Las he amien as de
iesgo como COMPAS suelen e ique a
a de e minadas e nias como de al o
iesgo.
Recu sos humanos: Los conjun os de
da os sesgados ampli ican las
di e encias sala iales o excluyen a
candida os. Ejemplo: El algo i mo de
Amazon de 2018 ebajó los cu ículos
con «de muje ».
Da os di e sos y
ep esen a i os.
Audi o ías pe iódicas
de exac i ud e
impa cialidad.
Di ec ices
eglamen a ias y
é icas.
T anspa encia y
explicabilidad de las
decisiones sob e IA.
Uso de la IA pa a
iden i ica posibles
sesgos y
dispa idades.
La IA no pe cibe el lenguaje g ama icalmen e, sino que p edice es adís icamen e
Banda a, R. J., K. Biswas, S. Ak e , S. Sha ique, and M. Rahman. “Add essing Algo i hmic Bias in AI-D i en HRM Sys ems: Implica ions o S a egic HRM
E ec i eness.” Human Resou ce Managemen Jou nal, May 2025. h ps://doi.o g/10.1111/1748-8583.12609
Jonke , Alexand a, and Julie Roge s. “Wha Is Algo i hmic Bias?” IBM Think, Sep embe 20, 2024. h ps://www.ibm.com/ hink/ opics/algo i hmic-bias
Kalan zis, Ma y, and Bill Cope. “Li e acy in he Time o A i icial In elligence.” Reading Resea ch Qua e ly 60, no. 1 (No embe 23, 2024).
h ps://doi.o g/10.1002/ q.591
No o i, Na alia, Qiyang Hu, Flo ence Ma celle Aellen, F ancesca Dalia Fa aci, and A hina Tzo a a. “Add essing Bias in Big Da a and AI o Heal h Ca e: A Call
o Open Science.” Pa e ns 2, no. 10 (2021): 100347. h ps://doi.o g/10.1016/j.pa e .2021.100347
Sheikh, Ha oon, Co ien P ins, and E ik Sch ij e s. “A i icial In elligence: De ini ion and Backg ound.” Resea ch o Policy, Janua y 2023, 15–41.
h ps://doi.o g/10.1007/978-3-031-21448-6_2.
La IA no sigue la lógica humana, po lo que sus esul ados equie en
una e isión humana
Piense en ello como una p edicción de ex o al amen e cuali icada con
una ilusión de c eación de conocimien o y apo ación de signi icado.
Puede con undi emas simila es epi iendo pa ones o
mezclando concep os elacionados
TÚ c eas conocimien o y das sen ido cuando TÚ lees c í icamen e
Causas:
Da os de en enamien o
de ec uosos
La IA no sabe, ecopila y
p onos ica
La IA es un p og ama que
sigue ó denes (su código y
luego las indicaciones)
Los desa ollado es son pe sonas
con p ejuicios humanos
La IA p edice en unción
de los da os ecogidos; si
no hay da os, puede
alucina
Cosas a ene en cuen a:
Es e OER examina la IA y el sesgo algo í mico, sus causas y sus epe cusiones
en el mundo eal. Des aca la impo ancia de la supe isión humana y las
es a egias pa a mi iga el sesgo y consegui sis emas de IA más jus os.
La in eligencia a i icial (IA): se e ie e a los sis emas que mues an
un compo amien o in eligen e analizando su en o no y
emp endiendo acciones -con cie o g ado de au onomía- pa a
alcanza obje i os especí icos.
El sesgo algo í mico: es un e o sis emá ico o un esul ado injus o
p oducido po algo i mos de ap endizaje au omá ico, que a menudo
e leja o e ue za sesgos sociales, aciales o de géne o exis en es,
causados po suposiciones p ejuiciosas en su diseño o po el
en enamien o con da os incomple os o dis o sionados.
P ejuicios de los
desa ollado es
