GEDIS
Re e ències
Biaix algo í mic a la IA: concep es
clau, implicacions i solucions
GEDIS - Gende Di e si y in In o ma ion Science: Challenges in Highe Educa ion. h ps://ub.edu/gedis
Ci ació: Ka mil, Kenza, Luka Bosko ic and Denisa Ka ašo á. 2025. Algo i hmic Bias in AI: Ke Concep s, Implica ions,
and Solu ions. DOI: 10.5281/zenodo.17067091. Biaix algo í mic en la IA: concep es clau, implicacions i solucions. T aduï
po Claudia San-José i Juan-José Bo é-Ve icad. DOI:10.5281/zenodo.17306646
Audiències:
📚
Pe sonal de biblio eques,
P o esso a ,
Es udian a
P ejudicis en acció:
Exemples i impac es Vies de mi igació
Sani a : Els classi icado s de lesions
cu ànies de la CNN, en ena s
p incipalmen en pacien s blancs,
mos en una p ecisió -50% meno en
pacien s neg es.
Àmbi ju ídic: Les eines de isc com
COMPAS solen e ique a de e minades
è nies com d'al isc.
Recu sos humans: Els conjun s de
dades esbiaixades ampli iquen les
di e ències sala ials o exclouen
candida s. Exemple: L'algo isme
d'Amazon del 2018 a ebaixa els
cu ículums amb «de dona».
Dades di e ses i
ep esen a i es
Audi o ies
pe iòdiques
d'exac i ud i
impa ciali a
Di ec ius
eglamen à ies i
è iques
T anspa ència i
explicabili a de les
decisions sob e IA
Ús de la IA pe
iden i ica possibles
biaixos i dispa i a s
La IA no pe cep el llengua ge g ama icalmen , sinó que p ediu es adís icamen
Banda a, R. J., K. Biswas, S. Ak e , S. Sha ique, and M. Rahman. “Add essing Algo i hmic Bias in AI-D i en HRM Sys ems: Implica ions o S a egic HRM
E ec i eness.” Human Resou ce Managemen Jou nal, May 2025. h ps://doi.o g/10.1111/1748-8583.12609
Jonke , Alexand a, and Julie Roge s. “Wha Is Algo i hmic Bias?” IBM Think, Sep embe 20, 2024. h ps://www.ibm.com/ hink/ opics/algo i hmic-bias
Kalan zis, Ma y, and Bill Cope. “Li e acy in he Time o A i icial In elligence.” Reading Resea ch Qua e ly 60, no. 1 (No embe 23, 2024).
h ps://doi.o g/10.1002/ q.591
No o i, Na alia, Qiyang Hu, Flo ence Ma celle Aellen, F ancesca Dalia Fa aci, and A hina Tzo a a. “Add essing Bias in Big Da a and AI o Heal h Ca e: A Call
o Open Science.” Pa e ns 2, no. 10 (2021): 100347. h ps://doi.o g/10.1016/j.pa e .2021.100347
Sheikh, Ha oon, Co ien P ins, and E ik Sch ij e s. “A i icial In elligence: De ini ion and Backg ound.” Resea ch o Policy, Janua y 2023, 15–41.
h ps://doi.o g/10.1007/978-3-031-21448-6_2.
La IA no segueix la lògica humana, pe la qual cosa els seus
esul a s eque eixen una e isió humana.
Penseu en això com una p edicció de ex al amen quali icada amb una
iŀlusió de c eació de coneixemen i apo ació de signi ica .
Podeu con ond e emes simila s epe in pa ons o
ba ejan concep es elaciona s
TU c ees coneixemen i dónes sen i quan TU llegeixes c í icamen .
Causes:
Dades d'en enamen
de ec uosos
La IA no sap, ecopila i
p onos ica
La IA és un p og ama que
segueix o d es (el os e codi
i desp és les indicacions)
Els desen olupado s són pe sones
amb p ejudicis humans
La IA p ediu en unció de les
dades ecollides; si no hi ha
dades, podeu aŀlucina
Coses a eni en comp e:
Aques OER examina la IA i el biaix algo í mic, les se es causes i les se es
epe cussions al món eal. Des aca la impo ància de la supe isió humana
i les es a ègies pe mi iga el biaix i aconsegui sis emes d'IA més jus os.
La in eŀligència a i icial (IA): a e e ència als sis emes que mos en
un compo amen in eŀligen anali zan el seu en o n i emp enen
accions -amb ce g au d'au onomia- pe assoli objec ius especí ics.
El biaix algo ísmic: és un e o sis emà ic o un esul a injus p oduï
pe algo ismes d'ap enen a ge au omà ic, que so in e lec eix o
e o ça biaixos socials, acials o de gène e exis en s, causa s pe
suposicions p ejudicioses en el disseny o pe l'en enamen amb
dades incomple es o dis o sionades.
P ejudicis dels
desen olupado s
Con ex del p ojec e GEDIS
Co inança pe la Unió Eu opea. Les opinions i pun s de is a exp essa s són únicamen esponsabili a del/de
la/dels/les au o (s/es) i no e lec eixen necessà iamen els de la Unió Eu opea ni els del Se ei Espanyol pe a la
In e nacionali zació de l'Educació (SEPIE). Ni la Unió Eu opea ni l'au o i a conceden no se'n poden conside a
esponsables.
Aques ecu s o ma pa del p ojec e eu opeu GEDIS (Gende Di e si y in In o ma ion Science), que p omou eines educa i es obe es pe
abo da les desigual a s de gène e en l'educació supe io , amb un èm asi especial en les disciplines elacionades amb la in o mació i la
documen ació. Aques ma e ial educa iu s’ha desen olupa en el ma c de la Summe School Ba celona, dins del p ojec e GEDIS.
