Full text
CASOS POR TIPOS DE SESGO¿POR QUÉ OCURRE? CERRANDO LA BRECHA: QUÉ HACER Sesgo de representación Reconocimiento facial: 35% errores para mujeres de piel más oscura (0,8% hombres de piel más clara). Imágenes de trabajo DALL·E 2: mujeres 38% (hombres 62%); mujeres sonrientes 2,2 veces más. Imágenes STEM: 75-100% hombres. Sesgo algorítmico Contratación: formación con sesgo masculino → currículums de mujeres con una clasificación inferior. Evaluación crediticia: mujeres menos/préstamos más pequeños a pesar de un mejor reembolso. IA sanitaria: pasa por alto los síntomas de las mujeres → diagnóstico retrasado. Recomendadores musicales: hasta +6. 3 pp más precisos para los varones. Sesgo cultural Asistentes femeninas por defecto → estereotipo de "mujeres como ayudantes". Historias de Llama-2: mujeres en roles domésticos ~4 veces más; los hombres alcanzan trabajos de más alto estatus. Sesgo interseccional Subtítulos interseccionales de YouTube: mayores errores para las mujeres. Anuncios de trabajo STEM: hombres ~+20% de impresiones. Recomendadores de libros: menor exposición para autoras mujeres. GEDIS - Gender Diversity in Information Science: Challenges in Higher Education. https://ub.edu/gedis Citación: Bosshammeer, Svetlana and Daniela Varbanova. 2025. Mind the Gap: Gender Data and AI Bias. DOI: 10.5281/zenodo.17164102. Cuidado con la brecha: datos de género y sesgo de IA. Traducido por Claudia San José y Juan-José Boté-Vericad. DOI: 10.5281/zenodo.17316182 Jobin, Anna, Marcello Ienca, and Effy Vayena. “The Global Landscape of AI Ethics Guidelines.” Nature Machine Intelligence 1, no. 2 (September 2019). https://doi.org/10.1038/s42256-019-0088-2 UNESCO and IRCAI. "Challenging Systematic Prejudices: An Investigation into Gender Bias in Large Language Models", 2024. https://unesdoc.unesco.org/ark:/48223/pf0000388971 REFERENCIAS La brecha de datos de género = datos que faltan/desiguales sobre las mujeres. Como resultado, las decisiones de la IA sesgan a los hombres a través de sesgos representativos, algorítmicos, culturales e interseccionales. La mayoría de los equipos de IA son hombres; las opciones de diseño reflejan sus puntos débiles. Los datos de entrenamiento infrarepresentan a las mujeres. Optimizar sólo para la precisión o el beneficio general puede marginar a las minorías. El acceso al teléfono/Internet de las mujeres es menor → menos rastros de datos. Las etiquetas binarias y medias esconden los subgrupos. Aquest REA consta de un póster y un resumen de evidencias sobre la brecha de padres de género en IA: definición, causas, casos documentados e intervenciones recomendadas. Sesgo representativo Conjuntos de datos inclusivos; documentar y publicar cobertura; puntos de referencia interseccionales. Sesgo algorítmico Eliminar los marcadores de género de las entradas; ajustar los umbrales de decisión para equilibrar los errores; sesgo en la formación y el postprocesamiento; monitorización continua. Sesgo cultural Voces por defecto neutras/no binarias; comprobación de diseño de estereotipos; equipos diversos en el diseño y las pruebas. Sesgo interseccional Publicar métricas de subgrupos (género, tono de piel, edad, dialecto); auditorías previas/posteriores al despliegue; clasificar recursos humanos/finanzas como de alto riesgo; declaraciones de impacto de género; estándares de transparencia. Público objetivo: 📚 Personal de bibliotecas, Profesorado, Estudiantado Cuidado con la brecha: datos de género y sesgo de IA Contexto del proyecto GEDIS Cofinanciado por la Unión Europea. Las opiniones y puntos de vista expresados son únicamente responsabilidad del/de la/de los/las autor(es/as) y no reflejan necesariamente los de la Unión Europea ni los del Servicio Español para la Internacionalización de la Educación (SEPIE). Ni la Unión Europea ni la autoridad concedente pueden considerarse responsables. Este recurso forma parte del proyecto europeo GEDIS (Gender Diversity in Information Science), que promueve herramientas educativas abiertas para abordar las desigualdades de género en la educación superior, con especial énfasis en las disciplinas relacionadas con la información y la documentación. Este material educativo se ha desarrollado en el marco de la Summer School Barcelona, dentro del proyecto GEDIS.
