Nos repiten que la inteligencia artificial es objetiva. Que los algoritmos no tienen prejuicios, que solo procesan datos, que no entienden de género ni de desigualdad. Pero los datos no caen del cielo: se extraen de una sociedad concreta, con sus jerarquías, sus silencios y sus ausencias. “Y cuando esa sociedad es desigual, la tecnología que aprende de ella también lo es”, advierte Inmaculada García, consultora experta en IA.
La inteligencia artificial influye en decisiones laborales, sanitarias, educativas y judiciales. Recomienda, clasifica, filtra y selecciona. Y lo hace con una apariencia de neutralidad que la vuelve aún más peligrosa. “Cuando un sesgo se automatiza, se convierte en sistema”, insiste García.
Cuando la brecha se convierte en código
Este año, la Iniciativa 11 de Febrero, que celebra el Día Internacional de la Mujer y la Niña en la Ciencia, pone el foco en los sesgos de género en la inteligencia artificial. No como un debate técnico, sino como una alerta social. Porque la desigualdad ya no solo expulsa a las mujeres de la ciencia, ahora también se programa en las tecnologías que deciden por ellas.
Solo el 22 % de las personas que trabajan en inteligencia artificial son mujeres. A escala global, las mujeres representan el 33,3 % del personal investigador y apenas el 12 % de los miembros de las Academias Nacionales de Ciencias.
“Los algoritmos aprenden de datos de entrenamiento construidos en contextos donde predominan las experiencias masculinas. Se diseñan, en muchos casos, en equipos poco diversos. Y el resultado es una tecnología que no corrige los prejuicios del mundo, sino que los reproduce y amplifica”, explica García. Que añade: “Sistemas de reconocimiento facial que funcionan peor con mujeres, especialmente con mujeres racializadas. Procesos de selección automatizados que penalizan currículos femeninos. Modelos que asocian liderazgo, prestigio o autoridad a nombres masculinos”.
No son errores aislados. Son patrones. Señales de que la inteligencia artificial está aprendiendo de un mundo incompleto y lo devuelve convertido en norma. Una norma que decide quién pasa un filtro, quién accede a una oportunidad y quién queda fuera.
El origen del problema está en las aulas
Para entender por qué la IA discrimina, hay que mirar a las aulas. A la educación. Los datos lo demuestran. En Europa, las mujeres representan el 32,8 % de las personas graduadas en estudios STEM. En España, solo el 13 % de las personas graduadas en STEM entre los 20 y los 29 años son mujeres, frente al 32,6 % de los hombres.
El problema no es la capacidad, es otro, más difícil de medir. Tiene que ver con la confianza, con las expectativas, con la posibilidad de imaginarse dentro de la ciencia. “A medida que avanzan las etapas educativas, muchas niñas dejan de verse ahí. No porque no puedan, sino porque sienten que ese espacio no les pertenece”, apunta García.
Bachillerato: el punto exacto de la fuga
Es en la adolescencia cuando algo se quiebra. En Bachillerato, justo cuando toca elegir, muchas chicas empiezan a desaparecer de las ramas científicas y tecnológicas. Un estudio de Microsoft sitúa esta caída del interés a partir de los 16 años. La ciencia se percibe como exigente, masculina, solitaria, poco compatible con la vida. Y esa elección -o esa renuncia- marca el resto del camino. “La ausencia se convierte en desigualdad programada. Si las mujeres no están en los equipos que desarrollan inteligencia artificial, sus experiencias no se incorporan a los modelos. Y cuando esas experiencias no están, la tecnología aprende una versión parcial de la realidad”, insiste.
En el curso 2022/2023, las mujeres representaron solo el 14,6 % del alumnado en estudios de informática y menos del 30 % en ingenierías, pese a ser mayoría en disciplinas como salud o biología. A nivel global, las mujeres representan el 28 % de los doctorados en ingeniería y el 40 % en informática. En la Unión Europea, aunque el 52 % de las personas empleadas en ciencia y tecnología son mujeres, solo el 41 % son científicas o ingenieras. En España, solo el 5,5 % de las mujeres ocupadas trabaja en profesiones STEM.
Hablar de sesgos de género en la inteligencia artificial es una cuestión de poder. De quién diseña las herramientas que gobiernan la vida cotidiana. De quién define qué es normal, qué es eficiente y qué se considera correcto.
Si los algoritmos influyen en el acceso al empleo, a la salud o a la justicia, no pueden construirse desde una única mirada. “Si las niñas no entran hoy en la ciencia, la tecnología del mañana se construirá sin ellas”, concluye García. Y entonces, cuando los algoritmos decidan sin tenerlas en cuenta, ya no podremos decir que no lo sabíamos.