SLUČAJEVI PO TIPU PRISTRASNOSTIZAŠTO SE DOGAĐA SMANJENJE JAZA: KAKO DJELOVATI
Rep ezen a i na
P epozna anje lica: 35% g ešaka kod amnopu ih žena (0.8% kod
s je lopu ih muška aca).
DALL·E 2 slike poslo a: žene 38% (muška ci 62%); žene nasmijane 2.2× iše.
STEM izuali: 75–100% muška ci.
Algo i amska
UI zapošlja anje: muški podaci
→
ženski CVo i niže angi ani
K edi no bodo anje: žene ijeđe i manje pozajmice dobi aju up kos boljoj
s opi ispla e.
UI zd a s o: p opuš a ženske simp ome
→
kasna dijagnoza.
Muzičke p epo uke: do +6. 3 pp p ecizniji za muška ce.
Kul u alna
Po p a ilu ženski asis en i
→
“žene-pomagačice” s e eo ip.
Llama-2 p iče: žene u kućnim ulogama ~4× iše; muška ci u isoko
angi anim poslo ima.
In e sekcionalna
YouTube i lo i: iše g ešaka za žene.
STEM poslo ni oglasi: muša ci ~+20% p egleda.
Knjiže ne p epo uke: manja zas upljenos ženskih au o a.
GEDIS - Gende Di e si y in In o ma ion Science: Challenges in Highe Educa ion. h ps://ub.edu/gedis
Ci i anje: Bosshammee , S e lana and Daniela Va bano a. 2025. Mind he Gap: Gende Da a and AI Bias. DOI: 10.5281/zenodo.17164440. Pazi e na jaz: Rodni podaci i UI p is anos . P e ele: Luka Boško ić.
DOI: 10.5281/zenodo.17292929.
Pazi e na jaz: Rodni podaci i UI p is anos
Jobin, Anna, Ma cello Ienca, and E y Vayena. “The Global Landscape o AI E hics Guidelines.” Na u e Machine In elligence 1, no. 2
(Sep embe 2019). h ps://doi.o g/10.1038/s42256-019-0088-2
UNESCO and IRCAI. "Challenging Sys ema ic P ejudices: An In es iga ion in o Gende Bias in La ge Language Models", 2024.
h ps://unesdoc.unesco.o g/a k:/48223/p 0000388971
LITERATURA
Jaz odnih poda aka = nedos ajući/nejednaki podaci o ženama. Za ezul a , UI odluke su naklonjene muška cima p eko
ep ezen a i nih, algo i amskih, kul u alnih i in e sekcionalnih p is asnos i.
Većina UI imo a su
muška ci; odluke u dizajnu
od aža aju njiho e slijepe
ačke.
U podacima za obuku su
žene nedo oljno zas upljene
Op mizacija samo za opš u
ačnos ili za adu može
isključi i manjine.
P is up mobi elima i
in e ne u žena je manji
→
manje digi alnih ago a.
Bina ne oznake i p osjeci
sak i aju podg upe.
O aj OER sad ži pos e i saže ak dokaza o UI jazu odnih poda aka - de inicija, dokumen o ani slučaje i, i p epo učene in e encije.
Rep ezen a i na p is asnos
Incluzi ni skupo i poda aka; dokumen i a i &
obja i i pok i enos i; in e sekcionalni
pokaza elji.
Algo i amska p is asnos
Ukloni i oznake spola iz ulaznih poda aka;
p ilagodi i p ago e odluka adi u a no eženja
g ešaka; ukloni i p is asnos okom eni anja
i u pos p ocesi anju; kon inui ano p a i i.
Kul u alna p is asnos
Neu alni/nebina ni glaso i; p o je e dizajan
za s e eo ipe; aznoliki imo i u dizajni anju i
es i anju.
In e sekcionalna p is asnos
Obja i i me ike podg upa ( od, boja kože,
godine, dijalek ); e izije p ije i nakon
implemen acije; klasi iko a i ljudske esu se i
inansije kao isoko izične; izja e o u icaju na
spol; s anda di anspa en nos i.
Ciljne g upe:
📚
Biblio eka i/ke,
Nas a nici/e,
S uden i/ce
Po ezanos sa p ojek om GEDIS
O aj esu s je dio e opskog p ojek a GEDIS (Gende Di e si y in In o ma ion Science), koji p omo iše
o o ene ob azo ne ala e za ješa anje odnih nejednakos i u isokom ob azo anju, s okusom na oblas i
po ezane s in o macijama i dokumen acijom. O aj ob azo ni ma e ijal az ijen je u ok i u Lje ne škole
Ba celona, kao dijela p ojek a GEDIS.
Su inansi ano od s ane E opske unije. Iznesena mišljenja i s a o i isključi o su odgo o nos au o a i ne od aža aju nužno s a o e E opske unije ni i Španske službe za in e nacionalizaciju
ob azo anja (SEPIE). E opska unija, ni i ijelo koje dodjeljuje s eds a, ne mogu se sma a i odgo o nim za njih.
