GEDIS
Odkaz
Algo i mická zauja os umělé
in eligenci: Klíčo é pojmy,
dopady a řešení
GEDIS - Gende Di e si y in In o ma ion Science: Challenges in Highe Educa ion. h ps://ub.edu/gedis
Ci ace: Ka mil, Kenza, Luka Bosko ic and Denisa Ka ašo á. 2025. Algo i hmic Bias in AI: Key Concep s,
Implica ions, and Solu ions. DOI: 10.5281/zenodo.17067091. Algo i mická zauja os umělé in eligenci:
Klíčo é pojmy, dopady a řešení. Překlad: Denisa Ka ašo á. DOI: 10.5281/zenodo.17302342.
Kon ex p ojek u GEDIS
Ten o zd oj je součás í e opského p ojek u GEDIS (Gende Di e si y in In o ma ion Science), k e ý podpo uje o e řené zdělá ací
nás oje k řešení gende o ých ne o nos í e ysokoškolském zdělá ání, se z láš ním dů azem na obo y spojené s in o mačními a
kniho ními ědami. Ten o zdělá ací ma e iál byl y inu ámci Le ní školy Ba celoně jako součás p ojek u GEDIS.
Spolu inanco áno E opskou unií. Názo y a s ano iska yjádřené om o dokumen u jsou ýh adní odpo ědnos í
au o a/au o ů a nemusí nu ně od áže názo y E opské unie ani Španělské služby p o in e nacionalizaci zdělá ání
(SEPIE). E opská unie ani posky o a el g an u nenesou za ně odpo ědnos .
Cílo é skupiny:
📚
kniho níci,
yučující,
s udující
Zauja os p axi: Příklady a
dopady
Možnos i zmí nění
zauja os i
Zd a o nic í: Klasi iká o y kožních lézí
CNN éno ané pře ážně na bílých
pacien ech ykazují u če nošských
pacien ů přibližně o 50 % nižší přesnos .
P á o: Nás oje p o hodnocení izik,
jako je COMPAS, čas o označují něk e é
e nické skupiny jako ysoce iziko é.
Lidské zd oje: Zauja á da a mohou
z yšo a pla o é ozdíly nebo ylučo a
něk e é uchazeče. Příklad: Algo i mus
Amazonu z oku 2018 snižo al
hodnocení ži o opisů obsahujících slo o
„women’s“ (ženský).
Různo odá a
ep ezen a i ní da a
P a idelná
přezkoumání přesnos i
a sp a edlnos i
Regulační a e ické
smě nice
T anspa en nos a
s ozumi elnos
ozhodnu í UI
Využi í UI k iden i ikaci
po enciálních
zauja os í a ne o nos í
Umělá in eligence ne nímá jazyk g ama icky, ale předpo ídá jej s a is icky.
Banda a, R. J., K. Biswas, S. Ak e , S. Sha ique, and M. Rahman. “Add essing Algo i hmic Bias in AI-D i en HRM Sys ems: Implica ions o S a egic HRM
E ec i eness.” Human Resou ce Managemen Jou nal, May 2025. h ps://doi.o g/10.1111/1748-8583.12609
Jonke , Alexand a, and Julie Roge s. “Wha Is Algo i hmic Bias?” IBM Think, Sep embe 20, 2024. h ps://www.ibm.com/ hink/ opics/algo i hmic-bias
Kalan zis, Ma y, and Bill Cope. “Li e acy in he Time o A i icial In elligence.” Reading Resea ch Qua e ly 60, no. 1 (No embe 23, 2024).
h ps://doi.o g/10.1002/ q.591
No o i, Na alia, Qiyang Hu, Flo ence Ma celle Aellen, F ancesca Dalia Fa aci, and A hina Tzo a a. “Add essing Bias in Big Da a and AI o Heal h Ca e: A Call
o Open Science.” Pa e ns 2, no. 10 (2021): 100347. h ps://doi.o g/10.1016/j.pa e .2021.100347
Sheikh, Ha oon, Co ien P ins, and E ik Sch ij e s. “A i icial In elligence: De ini ion and Backg ound.” Resea ch o Policy, Janua y 2023, 15–41.
h ps://doi.o g/10.1007/978-3-031-21448-6_2.
Umělá in eligence se neřídí lidskou logikou, p o o její ýs upy yžadují
lidskou kon olu.
Předs a e si o jako ysoce so is iko anou p edikci ex u, k e á y áří iluzi
o by znalos í a ýznamu.
Může si plés podobná éma a ím, že opakuje zo ce nebo
zaměňuje sou isející koncep y.
VY y áří e znalos i a dá á e jim smysl, když č e e k i icky.
Příčiny:
Vadná éninko á da a Zauja os ý ojářů
UI sama nic ne í, pouze
sh omažďuje in o mace a
y áří p ognózy.
UI je p og am, k e ý se řídí
příkazy (nejp e kódem a
po é zadanými ins ukcemi)
Vý ojáři jsou lidé s lidskými
předsudky
Umělá in eligence
předpo ídá na základě
sh omážděných da ;
pokud da a chybí, může si
je ymýšle
Co je řeba mí na pamě i:
Ten o o e řený zdělá ací zd oj zkoumá umělou in eligenci a
algo i mickou zauja os , její příčiny a dopady eálném s ě ě. Zdů azňuje
ýznam lidského dohledu a s a egií p o zmí ňo ání zauja os i s cílem
y oři sp a edli ější sys émy umělé in eligence.
Umělá in eligence (UI) označuje sys émy, k e é ykazují in eligen ní
cho ání ím, že analyzují s é p os ředí a podnikají k oky – s jis ou
mí ou au onomie – za účelem dosažení konk é ních cílů.
Algo i mická zauja os je sys ema ická chyba nebo nesp a edli ý
ýsledek znikající při použi í algo i mů s ojo ého učení, k e ý čas o
od áží nebo posiluje exis ující sociální, aso é či gende o é
předsudky. Je způsobena zauja ými předpoklady ná hu algo i mů
nebo éno áním na neúplných či zk eslených da ech.
