Mind the Gap: Genderdaten und KI-Bias

GEDIS - Gender Diversity in Information Science: Challenges in Higher Education. https://ub.edu/gedis Zitation: Bosshammeer Svetlana and Daniela Varbanova. 2025. Mind the Gap: Gender Data and AI Bias. DOI: https://doi.org/10.5281/zenodo.17164102. Mind the Gap: Genderdaten und KIBias. Übersetzt von Svetlana Bosshammeer and Daniela Varbanova. DOI: 10.5281/zenodo.17316168 Zum GEDIS-Projekt Mitfinanziert durch die Europäische Union. Die in dieser OER geäußerten Meinungen und Ansichten sind ausschließlich die der Autor:innen. Sie spiegeln nicht unbedingt die Meinungen und Ansichten der Europäischen Union oder des Spanischen Dienstes für die Internationalisierung des Bildungswesens (SEPIE) wider. Weder die EU, noch die Bewilligungsbehörde können für diese haftbar gemacht werden. Diese Ressource ist Teil des europäischen Projekts GEDIS (Gender Diversity in Information Science), das durch die Veröffentlichung von offenen Bildungsressourcen (OER) geschlechtbezogenen Ungleicheiten im Hochschulbereich addressiert. Der Schwerpunkt liegt den Informationsund Bibliothekswissenschaften. Dieses Bildungsmaterial wurde im Rahmen der Summer School Barcelona im Rahmen des GEDIS-Projekts entwickelt. QUELLEN Zielgruppen: 📚 Bibliothekar*innen,  Lehrende,  Studierende CASES NACH BIAS-TYP WARUM ES PASSIERT Repräsentation Bias Gesichtserkennung: 35 % Fehler bei dunkelhäutigen Frauen (0,8 % bei hellhäutigen Männern). DALL·E 2 -Jobbilder: Frauen 38 % (Männer 62 %); Frauen lächeln 2,2× häufiger. STEM visuals: 75–100 % Männer. Algorithmisch Bias Recruiting-KI: männlich geprägtes Training → CVs von Frauen abgewertet. Kreditscoring: Frauen erhalten weniger/kleinere Kredite trotz besserer Rückzahlung. Gesundheits-KI: übersieht weibliche Symptome → verspätete Diagnosen. Musik-Empfehlungen: bis zu +6,3 Prozentpunkte genauer für Männer. Kulturell Bias Standardmäßig weibliche Assistentinnen → Stereotyp „Frauen als Helferinnen“. Llama-2-Stories: Frauen ~4× häufiger in häuslichen Rollen; Männer erhalten häufiger höher bewertete Jobs. Intersektional Bias YouTube-Untertitel: mehr Fehler bei Frauen. MINT-Stellenanzeigen: ~+20 % mehr Impressions bei Männern. Buch-Empfehlungen: geringere Sichtbarkeit von Autorinnen. Mind the Gap: Genderdaten und KI-Bias Die Gender-Data-Gap = fehlende/ungleich verteilte Daten über Frauen. Dadurch werden KI-Entscheidungen männlich verzerrt – durch Repräsentations-, algorithmische, kulturelle und intersektionale Bias. Die meisten KI-Teams sind männlich; Designentscheidungen spiegeln ihre blinden Flecken. Trainingsdaten unterrepräsentieren Frauen. Optimierung nur auf Gesamtgenauigkeit oder Profit verdrängt Minderheiten. Frauen haben seltener Zugang zu Telefon/Internet → weniger Datenspuren. Binäre Labels und Mittelwerte verbergen Subgruppen. Dieses OER umfasst ein Poster und ein Evidence Brief zur Gender-Data-Gap in KI — Definition, Ursachen, dokumentierte Fälle und empfohlene Maßnahmen. Repräsentations-Bias Inklusive Datensätze; Abdeckung dokumentieren und veröffentlichen; intersektionale Benchmarks. Algorithmischer Bias Geschlechtsmarker aus Eingaben entfernen; Entscheidungsschwellen zum Fehlerausgleich anpassen; Debiasing im Training und in der Nachbearbeitung; kontinuierliches Monitoring. Kultureller Bias Neutrale/nicht-binäre Standardstimmen; Design-Checks auf Stereotype; diverse Teams in Design und Tests. Intersektionaler Bias Subgruppenmetriken veröffentlichen (Geschlecht, Hautfarbe, Alter, Dialekt); Audits vor/nach dem Einsatz; HR/Finanzen als Hochrisiko klassifizieren; Gender-ImpactStatements; Transparenzstandards. GAP SCHLIESSEN: WAS TUN Jobin, Anna, Marcello Ienca, and Effy Vayena. “The Global Landscape of AI Ethics Guidelines.” Nature Machine Intelligence 1, no. 2 (September 2019). https://doi.org/10.1038/s42256-019-0088-2 UNESCO and IRCAI. "Challenging Systematic Prejudices: An Investigation into Gender Bias in Large Language Models", 2024. https://unesdoc.unesco.org/ark:/48223/pf0000388971