Durante un tiempo, la inteligencia artificial fue incapaz de verla. Frente a la cámara, el programa de reconocimiento facial identificaba sin dificultad a sus compañeros de laboratorio, pero ignoraba el rostro de Joy Buolamwini. La estudiante de posgrado del Instituto Tecnológico de Massachusetts (MIT) encontró como solución ponerse una máscara blanca. Solo entonces el sistema reconoció que había una persona delante.
La anécdota, repetida desde entonces en discursos que ha dado por universidades de medio mundo, posee la fuerza de las historias que condensan una época. La investigadora descubrió que si la máquina no puede verla es porque el problema no está en la máquina, sino en el mundo que la ha construido. De esa escena nació una de las voces más influyentes del debate contemporáneo sobre la inteligencia artificial.
Buolamwini suele decir que no entró en la informática para convertirse en activista. Quería construir tecnologías del futuro. Le fascinaban los robots, el aprendizaje automático, la promesa de unas máquinas capaces de resolver problemas complejos…Pero el laboratorio acabó devolviéndole una pregunta distinta: ¿qué ocurre cuando esos sistemas aprenden también las desigualdades del presente?
La respuesta se tomó bajo un concepto que ella bautizó como coded gaze, la “mirada codificada”. Si la crítica feminista habló durante décadas de la mirada masculina y los estudios raciales describieron la mirada blanca, Buolamwini propuso observar otra forma de poder que ejercen quienes diseñan los algoritmos. Porque toda inteligencia artificial aprende de decisiones humanas. Los datos se recopilan, se estudian, crean representación y siempre hay alguien que queda en los márgenes.
En 2018 publicó Gender Shades, un trabajo que terminó alterando la conversación internacional sobre el reconocimiento facial. Tras analizar sistemas desarrollados por algunas de las mayores empresas tecnológicas, descubrió diferencias difíciles de ignorar. Los algoritmos apenas se equivocaban al clasificar rostros de hombres de piel clara, pero cometían errores importantes cuando analizaban mujeres de piel oscura.
Aquella investigación obligó a varias compañías a revisar sus modelos y se convirtió en una referencia para quienes reclamaban límites al uso del reconocimiento facial por parte de gobiernos y cuerpos policiales. Sin embargo, Buolamwini llegó a la conclusión de que el problema no consistía únicamente en que los sistemas fueran imprecisos.
Durante años creyó que bastaría con construir bases de datos más diversas. Hoy sostiene que esa solución resulta insuficiente. Un algoritmo perfectamente preciso también puede emplearse para vigilar poblaciones enteras, restringiendo las libertades. La pregunta ya no es cómo fabricar una inteligencia artificial más exacta, hoy se pregunta si su uso debería permitirse en una democracia.
La organización que fundó, la Algorithmic Justice League, actúa como un puente entre la investigación académica, organizaciones civiles y los responsables políticos. Su propósito consiste en traducir los hallazgos científicos en propuestas regulatorias y, al mismo tiempo, dar voz a quienes sufren lo que denomina “daños algorítmicos”: personas discriminadas por sistemas automatizados que rara vez saben que una decisión aparentemente objetiva ha sido tomada por un modelo estadístico.
Buolamwini habla con frecuencia de hospitales, escuelas, empresas o administraciones públicas. Allí donde un algoritmo clasifica, recomienda o decide, ella sostiene que existe una responsabilidad política que no puede esconderse detrás de la neutralidad tecnológica.
Su reflexión ha adquirido tal dimensión con el auge de la inteligencia artificial generativa que se ha convertido en una de las voces más representativas contra su falta de regulación. Los modelos que producen imágenes o textos a partir de una simple instrucción reproducen patrones que recuerdan demasiado a viejos estereotipos. Profesiones prestigiosas aparecen asociadas mayoritariamente a hombres blancos; determinados delitos, a hombres negros. Los sistemas aprenden a prejuzgar estudiando millones de imágenes y textos producidos por una sociedad que todavía no ha resuelto sus propias desigualdades.
Para Buolamwini, la inteligencia artificial funciona menos como un espejo que como un caleidoscopio. Deforma, amplifica y reorganiza la realidad hasta hacer que los prejuicios sean inevitables. La tecnología que promete conducir hacia el futuro no piensa, imita por lo que corremos el riesgo de reinstalar categorías que parecían superadas.
Resulta llamativo que alguien con semejante trayectoria científica se presente, antes que nada, como una “poeta del código”. La expresión podría parecer una estrategia de comunicación si no estuviera profundamente vinculada a su manera de entender la investigación. Durante años temió que la poesía debilitara su credibilidad como informática. Solo después de que sus trabajos recibieran reconocimiento académico decidió experimentar con otros lenguajes.
AI, Ain’t I a Woman?
Así nació AI, Ain’t I a Woman?, una pieza en la que la auditoría algorítmica se transforma en poema. Cada verso surge de los resultados obtenidos al poner a prueba distintos sistemas de inteligencia artificial. Los datos dejan de ser únicamente números para convertirse en experiencia emocional. La poesía no sustituye a la evidencia; la hace visible allí donde los gráficos dejan de conmover.
Quizá por eso Buolamwini ocupa un lugar singular entre quienes discuten el futuro de la inteligencia artificial. No pertenece por completo al mundo de la ingeniería, pero tampoco al del activismo. Habita un territorio intermedio en el que conviven la programación, la filosofía política, la justicia racial y el arte.
Su insistencia en que “si tienes un rostro, tienes un lugar en la conversación sobre la inteligencia artificial” resume su convicción de que las decisiones sobre estas tecnologías no pueden quedar restringidas a laboratorios o consejos de administración. Los algoritmos ya participan en la selección de candidatos a un empleo, en diagnósticos médicos, en sistemas educativos, en controles fronterizos o en la vigilancia policial. La discusión sobre cómo funcionan es, inevitablemente, una discusión sobre quién ejerce el poder.
Hace años una máquina fue incapaz de reconocer su cara. Hoy millones de personas conocen esa historia porque Buolamwini decidió que aquel error técnico no era un accidente informático, sino una pregunta política. Desde entonces se dedica a recordar que el futuro depende de la capacidad humana para decidir qué lugar queremos concederles.