CASOS POR TIPOS DE SESGO¿POR QUÉ OCURRE? CERRANDO LA BRECHA: QUÉ HACER
Sesgo de ep esen ación
Reconocimien o acial: 35% e o es pa a muje es de piel más oscu a (0,8%
homb es de piel más cla a).
Imágenes de abajo DALL·E 2: muje es 38% (homb es 62%); muje es son ien es
2,2 eces más.
Imágenes STEM: 75-100% homb es.
Sesgo algo í mico
Con a ación: o mación con sesgo masculino
→
cu ículums de muje es con una
clasi icación in e io .
E aluación c edi icia: muje es menos/p és amos más pequeños a pesa de un
mejo eembolso.
IA sani a ia: pasa po al o los sín omas de las muje es
→
diagnós ico e asado.
Recomendado es musicales: has a +6. 3 pp más p ecisos pa a los a ones.
Sesgo cul u al
Asis en es emeninas po de ec o
→
es e eo ipo de "muje es como ayudan es".
His o ias de Llama-2: muje es en oles domés icos ~4 eces más; los homb es
alcanzan abajos de más al o es a us.
Sesgo in e seccional
Sub í ulos in e seccionales de YouTube: mayo es e o es pa a las muje es.
Anuncios de abajo STEM: homb es ~+20% de imp esiones.
Recomendado es de lib os: meno exposición pa a au o as muje es.
GEDIS - Gende Di e si y in In o ma ion Science: Challenges in Highe Educa ion. h ps://ub.edu/gedis
Ci ación: Bosshammee , S e lana and Daniela Va bano a. 2025. Mind he Gap: Gende Da a and AI Bias. DOI: 10.5281/zenodo.17164102. Cuidado con la b echa: da os de géne o y sesgo
de IA. T aducido po Claudia San José y Juan-José Bo é-Ve icad. DOI: 10.5281/zenodo.17316182
Jobin, Anna, Ma cello Ienca, and E y Vayena. “The Global Landscape o AI E hics Guidelines.” Na u e Machine In elligence 1, no. 2
(Sep embe 2019). h ps://doi.o g/10.1038/s42256-019-0088-2
UNESCO and IRCAI. "Challenging Sys ema ic P ejudices: An In es iga ion in o Gende Bias in La ge Language Models", 2024.
h ps://unesdoc.unesco.o g/a k:/48223/p 0000388971
REFERENCIAS
La b echa de da os de géne o = da os que al an/desiguales sob e las muje es. Como esul ado, las decisiones de la IA sesgan a
los homb es a a és de sesgos ep esen a i os, algo í micos, cul u ales e in e seccionales.
La mayo ía de los equipos
de IA son homb es; las
opciones de diseño e lejan
sus pun os débiles.
Los da os de en enamien o
in a ep esen an a las
muje es.
Op imiza sólo pa a la
p ecisión o el bene icio
gene al puede ma gina a
las mino ías.
El acceso al
elé ono/In e ne de las
muje es es meno
→
menos
as os de da os.
Las e ique as bina ias y
medias esconden los
subg upos.
Aques REA cons a de un pós e y un esumen de e idencias sob e la b echa de pad es de géne o en IA: de inición, causas, casos documen ados e in e enciones ecomendadas.
Sesgo ep esen a i o
Conjun os de da os inclusi os; documen a y
publica cobe u a; pun os de e e encia
in e seccionales.
Sesgo algo í mico
Elimina los ma cado es de géne o de las
en adas; ajus a los umb ales de decisión pa a
equilib a los e o es; sesgo en la o mación y el
pos p ocesamien o; moni o ización con inua.
Sesgo cul u al
Voces po de ec o neu as/no bina ias;
comp obación de diseño de es e eo ipos; equipos
di e sos en el diseño y las p uebas.
Sesgo in e seccional
Publica mé icas de subg upos (géne o, ono de
piel, edad, dialec o); audi o ías p e ias/pos e io es
al despliegue; clasi ica ecu sos
humanos/ inanzas como de al o iesgo;
decla aciones de impac o de géne o; es ánda es
de anspa encia.
Público obje i o:
📚
Pe sonal de biblio ecas,
P o eso ado,
Es udian ado
Cuidado con la b echa: da os de géne o y sesgo de IA
Con ex o del p oyec o GEDIS
Co inanciado po la Unión Eu opea. Las opiniones y pun os de is a exp esados son únicamen e esponsabilidad del/de la/de los/las au o (es/as) y no e lejan necesa iamen e los de la Unión Eu opea ni
los del Se icio Español pa a la In e nacionalización de la Educación (SEPIE). Ni la Unión Eu opea ni la au o idad conceden e pueden conside a se esponsables.
Es e ecu so o ma pa e del p oyec o eu opeo GEDIS (Gende Di e si y in In o ma ion Science), que p omue e
he amien as educa i as abie as pa a abo da las desigualdades de géne o en la educación supe io , con
especial én asis en las disciplinas elacionadas con la in o mación y la documen ación. Es e ma e ial educa i o se
ha desa ollado en el ma co de la Summe School Ba celona, den o del p oyec o GEDIS.
