Full text
PŘÍKLADY PODLE TYPU ZAUJATOSTI PROČ K TOMU DOCHÁZÍ UZAVŘENÍ MEZERY: CO DĚLAT Reprezentativní Rozpoznávání obličejů: 35 % chyb u žen s tmavší pletí (0,8 % u mužů se světlejší pletí). Obrázky povolání v DALL·E 2: ženy 38 %; ženy se usmívají 2,2× častěji. Vizualizace STEM: 75–100 % mužů. Algoritmické Náborové systémy s umělou inteligencí: trénink posunutý směrem k mužům → životopisy žen hodnoceny hůře. Hodnocení úvěruschopnosti: ženy dostávají méně a menší půjčky navzdory lepší schopnosti splácet. Zdravotnická AI: přehlíží ženské symptomy → opožděná diagnóza. Hudební doporučovací systémy: až o 6,3 p. b. vyšší přesnost pro muže. Kulturní Výchozí ženské hlasové asistentky → stereotyp „ženy jako pomocnice“. Příběhy generované Llama-2: ženy v domácích rolích přibližně 4× častěji; muži zastávají prestižnější profese. Intersekcionální Titulky na YouTube: více chyb u ženských hlasů. Inzeráty na STEM pozice: muži získávají přibližně o 20 % více zobrazení. Doporučovací systémy knih: nižší viditelnost autorek. GEDIS - Gender Diversity in Information Science: Challenges in Higher Education. https://ub.edu/gedis Citace: Bosshammeer, Svetlana and Daniela Varbanova. 2025. Mind the Gap: Gender Data and AI Bias. DOI: 10.5281/zenodo.17164440. Pozor na mezeru: Genderová data a předsudky v AI. Překlad: Nela Chlopčíková. DOI: 10.5281/zenodo.17333105 Tento zdroj je součástí evropského projektu GEDIS (Gender Diversity in Information Science), který propaguje otevřené vzdělávací nástroje pro řešení genderových nerovností ve vysokoškolském vzdělávání s důrazem na obory související s informační vědou a knihovnictvím. Tento vzdělávací materiál byl vyvinut v rámci letní školy Barcelona jako součást projektu GEDIS. Pozor na mezeru: Genderová data a předsudky v AI Jobin, Anna, Marcello Ienca, and Effy Vayena. “The Global Landscape of AI Ethics Guidelines.” Nature Machine Intelligence 1, no. 2 (September 2019). https://doi.org/10.1038/s42256-019-0088-2 UNESCO and IRCAI. "Challenging Systematic Prejudices: An Investigation into Gender Bias in Large Language Models", 2024. https://unesdoc.unesco.org/ark:/48223/pf0000388971 ZDROJE Datová mezera mezi pohlavími = chybějící nebo nerovnoměrná data o ženách. V důsledku toho jsou rozhodnutí umělé inteligence posunuta směrem k mužům prostřednictvím reprezentativních, algoritmických, kulturních a intersekcionálních předsudků. Většinu týmů zabývajících se umělou inteligencí tvoří muži; rozhodnutí při návrhu tak odrážejí jejich slepá místa. Tréninková data nedostatečně zastupují ženy. Optimalizace pouze na celkovou přesnost nebo zisk může opomíjet menšiny. Ženy mají nižší přístup k mobilním telefonům a internetu → méně datových stop. Binární označení a průměrování skrývá podskupiny. Tento otevřený vzdělávací zdroj (OER) zahrnuje plakát a stručný přehled důkazů o genderové datové mezeře v oblasti umělé inteligence – její definici, příčiny, zdokumentované případy a doporučené intervence. Reprezentativní bias Inkluzivní datasety, dokumentovaná pokrytí, intersekcionální metriky. Algoritmický bias Odstranit genderové znaky, vyvážit chyby, debiasing a průběžné sledování. Kulturní bias Neutrální či nebinární hlasy, kontrola stereotypů, různorodé týmy. Intersekcionální bias: Publikovat metriky (pohlaví, pleť, věk), audity, vysoké riziko HR/finance, genderové dopady, transparentnost. Projekt GEDIS Cílové skupiny: 📚 knihovníci, vyučující, studující Spolufinancováno Evropskou unií. Vyjádřené názory a stanoviska jsou výhradní odpovědností autorů a nemusí nutně odrážet postoje Evropské unie ani Španělské služby pro internacionalizaci vzdělávání (SEPIE). EU ani poskytovatel grantu nenesou odpovědnost.
