GEDIS - Gende Di e si y in In o ma ion Science: Challenges in Highe Educa ion. h ps://ub.edu/gedis
Zi a ion: Bosshammee S e lana and Daniela Va bano a. 2025. Mind he Gap: Gende Da a and AI Bias. DOI: h ps://doi.o g/10.5281/zenodo.17164102. Mind he Gap: Gende da en und KI-
Bias. Übe se z on S e lana Bosshammee and Daniela Va bano a. DOI: 10.5281/zenodo.17316168
Zum GEDIS-P ojek
Mi inanzie du ch die Eu opäische Union. Die in diese OER geäuße en Meinungen und Ansich en sind ausschließlich die de Au o :innen. Sie spiegeln nich unbeding die Meinungen und Ansich en de Eu opäischen Union
ode des Spanischen Diens es ü die In e na ionalisie ung des Bildungswesens (SEPIE) wide . Wede die EU, noch die Bewilligungsbehö de können ü diese ha ba gemach we den.
Diese Ressou ce is Teil des eu opäischen P ojek s GEDIS (Gende Di e si y in In o ma ion Science), das
du ch die Ve ö en lichung on o enen Bildungs essou cen (OER) geschlech bezogenen Ungleichei en im
Hochschulbe eich add essie . De Schwe punk lieg den In o ma ions- und Biblio hekswissenscha en.
Dieses Bildungsma e ial wu de im Rahmen de Summe School Ba celona im Rahmen des GEDIS-P ojek s
en wickel .
QUELLEN
Zielg uppen:
📚
Biblio heka *innen,
Leh ende,
S udie ende
CASES NACH BIAS-TYP
WARUM ES PASSIERT
Rep äsen a ion Bias
Gesich se kennung: 35 % Fehle bei dunkelhäu igen F auen (0,8 % bei
hellhäu igen Männe n).
DALL·E 2 -Jobbilde : F auen 38 % (Männe 62 %); F auen lächeln 2,2× häu ige .
STEM isuals: 75–100 % Männe .
Algo i hmisch Bias
Rec ui ing-KI: männlich gep äg es T aining
→
CVs on F auen abgewe e .
K edi sco ing: F auen e hal en wenige /kleine e K edi e o z besse e
Rückzahlung.
Gesundhei s-KI: übe sieh weibliche Symp ome
→
e spä e e Diagnosen.
Musik-Emp ehlungen: bis zu +6,3 P ozen punk e genaue ü Männe .
Kul u ell Bias
S anda dmäßig weibliche Assis en innen
→
S e eo yp „F auen als Hel e innen“.
Llama-2-S o ies: F auen ~4× häu ige in häuslichen Rollen; Männe e hal en
häu ige höhe bewe e e Jobs.
In e sek ional Bias
YouTube-Un e i el: meh Fehle bei F auen.
MINT-S ellenanzeigen: ~+20 % meh Imp essions bei Männe n.
Buch-Emp ehlungen: ge inge e Sich ba kei on Au o innen.
Mind he Gap: Gende da en und KI-Bias
Die Gende -Da a-Gap = ehlende/ungleich e eil e Da en übe F auen. Dadu ch we den KI-En scheidungen
männlich e ze – du ch Rep äsen a ions-, algo i hmische, kul u elle und in e sek ionale Bias.
Die meis en KI-Teams sind
männlich;
Designen scheidungen
spiegeln ih e blinden Flecken.
T ainingsda en
un e ep äsen ie en F auen.
Op imie ung nu au
Gesam genauigkei ode
P o i e d äng
Minde hei en.
F auen haben sel ene
Zugang zu Tele on/In e ne
→
wenige Da enspu en.
Binä e Labels und Mi elwe e
e be gen Subg uppen.
Dieses OER um ass ein Pos e und ein E idence B ie zu Gende -Da a-Gap in KI — De ini ion, U sachen, dokumen ie e Fälle und emp ohlene Maßnahmen.
Rep äsen a ions-Bias
Inklusi e Da ensä ze; Abdeckung
dokumen ie en und e ö en lichen;
in e sek ionale Benchma ks.
Algo i hmische Bias
Geschlech sma ke aus Eingaben en e nen;
En scheidungsschwellen zum Fehle ausgleich
anpassen; Debiasing im T aining und in de
Nachbea bei ung; kon inuie liches Moni o ing.
Kul u elle Bias
Neu ale/nich -binä e S anda ds immen;
Design-Checks au S e eo ype; di e se Teams in
Design und Tes s.
In e sek ionale Bias
Subg uppenme iken e ö en lichen
(Geschlech , Hau a be, Al e , Dialek ); Audi s
o /nach dem Einsa z; HR/Finanzen als
Hoch isiko klassi izie en; Gende -Impac -
S a emen s; T anspa enzs anda ds.
GAP SCHLIESSEN: WAS TUN
Jobin, Anna, Ma cello Ienca, and E y Vayena. “The Global Landscape o AI E hics Guidelines.” Na u e Machine In elligence 1, no. 2
(Sep embe 2019). h ps://doi.o g/10.1038/s42256-019-0088-2
UNESCO and IRCAI. "Challenging Sys ema ic P ejudices: An In es iga ion in o Gende Bias in La ge Language Models", 2024.
h ps://unesdoc.unesco.o g/a k:/48223/p 0000388971
