Recuadro III-28
INTELIGENCIA ARTIFICIAL Y RIESGO DE SESGOS DE GÉNERO
Fuente: elaboración propia a partir de Instituto de las Mujeres, Autora: Lorena Jaume-Palasí, Informe preliminar con perspectiva interseccional sobre sesgos de género en la inteligencia artificial, Ministerio de Igualdad, 2023. ONU Mujeres, Cómo la inteligencia artificial refuerza los sesgos de género y qué podemos hacer, 02/2025 Elaboración propia a partir de IPI, Ardra Manasi, Subadra Panchanadeswaran y Emily Sours, Global Observatory, «Abordar el sesgo de género para lograr una IA ética», por 17 de marzo de 2023; MIT Media Lab, Joy Buolamwini (coord.) «Gender Shades» (2018).
1. Mecanismos de reproducción del sesgo
• Datos desequilibrados: modelos entrenados con información donde roles como «enfermera» se asocian mayoritariamente a mujeres y «científico» a hombres, perpetuando la segregación ocupacional.
• Falta de diversidad en equipos de desarrollo, dada la menor representación de mujeres en los equipos profesionales de IA.
• Algoritmos opacos que internalizan la discriminación al priorizar currículos masculinos basándose en patrones históricos en sistemas de reclutamiento automatizado.
2. Ejemplos de casos concretos
Diagnósticos médicos: modelos entrenados con datos clínicos centrados en síntomas masculinos han subdiagnosticado condiciones como enfermedades cardíacas en mujeres, afectando su acceso a tratamientos.
Interacción social: las voces femeninas predeterminadas en los asistentes virtuales refuerzan estereotipos de sumisión, mientras que otros sistemas emplean voces masculinas en contextos de autoridad, como pueden ser los de diagnóstico médico.
Justicia: la opacidad algorítmica puede dificultar probar sesgos en procesos judiciales, debilitando la aplicación de la normativa de igualdad efectiva entre mujeres y hombres.
Sesgo interseccional: Un estudio del MIT Media Lab (2018) demostró que algunos sistemas de reconocimiento facial de empresas tecnológicas presentan tasas de error más altas en mujeres, especialmente en mujeres racializadas, con tasas de error hasta 34% superiores en comparación con hombres blancos.
