La investigadora etíope lleva años desmontando las grandes promesas de Silicon Valley y reclamando para la inteligencia artificial algo tan simple como rigor científico.
Timnit Gebru se describe de una manera más sencilla de lo que cabría esperar de una de las investigadoras más influyentes y polémicas del debate tecnológico contemporáneo. “Diría que soy una simple científica”, dice. Modestia aparte, su nombre es referencia obligada cuando tratamos de sesgos algorítmicos, de reconocimiento facial o de regulación tecnológica. La política forma parte de una trayectoria marcada por la idea de aplicar regulación a los sistemas de inteligencia artificial con los mismos estándares de rigor que se trata a cualquier otra disciplina de ingeniería.
Gebru nació y creció en Etiopía. Llegó a Estados Unidos a los 16 años y comenzó una formación académica que, en principio, no parecía destinada a situarla en el centro de uno de los debates más importantes del siglo XXI. Estudió ingeniería eléctrica, una disciplina que la llevó por caminos diversos antes de desembocar en la inteligencia artificial.
“Empecé estudiando diseño de circuitos analógicos”, recuerda. Después se interesó por la física de dispositivos y la física del estado sólido. Más tarde llegó el procesamiento de imágenes y de señales. “Ese recorrido terminó por conducirme a lo que supongo que ahora es inteligencia artificial”, dice con cierta ironía.
Su carrera profesional recorre un camino poco lineal. Trabajó en Apple diseñando circuitos analógicos, regresó a la universidad para cursar un máster y posteriormente inició un doctorado. Hubo una etapa en una empresa emergente, algunos proyectos intermedios y finalmente la conclusión de su tesis doctoral en visión por ordenador. Dio el salto a Microsoft y luego a Google. Actualmente dirige el Distributed AI Research Institute (DAIR), el centro de investigación independiente que fundó tras su salida de la multinacional tecnológica.
“No creo que lo que está ocurriendo ahora mismo en la inteligencia artificial siga prácticas científicas o de ingeniería”, sostiene.
Su aproximación a la inteligencia artificial siempre ha estado condicionada por su formación como ingeniera. De hecho, una de las cosas que más le sorprendieron cuando comenzó a trabajar en este campo fue precisamente la ausencia de procedimientos que en otras ramas de la ingeniería resultan rutinarios.
“Cuando construyes una tecnología, defines para qué sirve, cuáles son sus condiciones ideales de funcionamiento y cuáles son sus limitaciones. Se hacen pruebas y se comunican los resultados”.
Para explicarlo suele recurrir a una comparación con los componentes electrónicos. Un resistor puede parecer un elemento sencillo, pero su comportamiento depende del contexto en el que vaya a utilizarse. Antes de incorporarlo a un sistema, los ingenieros estudian cuándo falla, cómo falla y bajo qué condiciones deja de funcionar correctamente. Toda esa información queda recogida en documentación técnica detallada.
Según Gebru, nada parecido existía cuando ella llegó al ámbito de la inteligencia artificial. “Fue un shock para mí”, afirma.
Ese diagnóstico impulsó la idea de crear “fichas técnicas para conjuntos de datos”, documentos que permitieran conocer de dónde proceden los datos, cómo se recopilaron y cuáles son sus limitaciones. Más tarde participó también en la propuesta de las llamadas model cards, orientadas a documentar el funcionamiento y los riesgos de los modelos algorítmicos.
“La medida de seguridad más básica es seguir las prácticas normales de la ingeniería”, argumenta.
Su nombre comenzó a adquirir notoriedad internacional a raíz de una investigación realizada junto a Joy Buolamwini sobre sistemas de reconocimiento facial. El estudio analizó herramientas comerciales capaces de clasificar automáticamente el género de las personas a partir de imágenes. Los resultados revelaron diferencias notables en los márgenes de error.
“Descubrimos que las tasas de error para las mujeres de piel más oscura eran mucho más altas que para el resto”, explica. En cambio, los errores para hombres de piel clara eran prácticamente inexistentes.
La investigación ayudó a abrir un debate global sobre los sesgos presentes en tecnologías que ya estaban siendo utilizadas por empresas y administraciones públicas. Para Gebru, el problema era una cuestión de transparencia. Quería saber qué información ofrecían las compañías sobre los datos utilizados para entrenar los sistemas y cuáles eran sus limitaciones. En muchos casos, esa información simplemente no existía.
Con el paso de los años, sus críticas se han ampliado desde los sistemas de reconocimiento facial hacia los grandes modelos generativos que dominan actualmente la conversación tecnológica. Lo que más le preocupa es el relato que los acompaña.
“La principal preocupación para proteger al público es la exageración en torno a la inteligencia artificial”, sostiene. “Es muy perjudicial”.
A su juicio, buena parte del debate público se ha desplazado hacia escenarios especulativos sobre máquinas superinteligentes mientras quedan en segundo plano problemas mucho más concretos y presentes. Habla de la utilización de materiales protegidos por derechos de autor, de la extracción masiva de datos personales, de los costes energéticos o de las condiciones laborales de quienes etiquetan y filtran contenidos para entrenar sistemas automatizados.
“Estamos hablando de una superinteligencia digital y no estamos prestando atención a cuestiones que ya conocemos, como el robo de datos, la explotación laboral o los enormes costes energéticos”, afirma.
Gebru rechaza con ahínco la tendencia a presentar la inteligencia artificial como una entidad autónoma, independiente de quienes la diseñan. Considera que esa narrativa desplaza la responsabilidad de las organizaciones hacia las máquinas.
“Tenemos que dejar de hablar de la inteligencia artificial como si fuera algo que se desarrolla por sí solo, como un dios digital”, insiste. “No tiene la capacidad de pensar por sí misma. Debemos hablar de ella como un artefacto construido por organizaciones concretas mediante prácticas concretas”.
Esa crítica alcanza también a la política. Según la investigadora, los reguladores escuchan con demasiada frecuencia a los directivos de las grandes empresas tecnológicas y demasiado poco a las personas afectadas por sus productos.
“No hace falta entender cómo funciona un coche para comprender el daño que puede causar”, señala.
Sin embargo, considera que los procesos de consulta suelen estar dominados por los responsables de las compañías y no por quienes experimentan las consecuencias negativas de determinadas tecnologías.
Su preocupación se extiende igualmente al mundo académico. Gebru defiende la necesidad de que existan contrapesos reales entre universidades, administraciones públicas y empresas privadas. En su opinión, la investigación debe mantener suficiente independencia para actuar como sistema de alerta temprana frente a los riesgos tecnológicos.
“Con la investigación puedes servir como un sistema de alerta temprana cuando aparecen problemas”, explica. “También puedes imaginar un futuro tecnológico diferente”.
Esa idea de imaginar alternativas aparece de forma recurrente en su trabajo. Frente a la obsesión por construir herramientas universales capaces de hacerlo todo, apuesta por tecnologías desarrolladas para resolver necesidades concretas y definidas por las comunidades afectadas.
Uno de los ejemplos que cita procede de Sudáfrica. Investigadores vinculados a DAIR utilizaron técnicas de visión por ordenador para estudiar la persistencia de desigualdades espaciales heredadas del apartheid. El objetivo era analizar cómo habían evolucionado las condiciones de vida en antiguos asentamientos segregados y aportar datos que pudieran orientar futuras políticas públicas.
“Los objetivos del proyecto surgieron de la propia experiencia de las personas implicadas”, explica.
A pesar de la notoriedad que ha adquirido en los últimos años, Gebru insiste en definirse ante todo como científica. Una científica que, según dice, simplemente intenta hacer su trabajo.
“Escribí un artículo sobre los peligros de los grandes modelos de lenguaje y me despidieron”, recuerda en alusión a su salida de Google. “Lo único que he intentado siempre es hacer el trabajo de una científica”.
En un momento en que la inteligencia artificial ocupa titulares y disputas geopolíticas, Gebru insiste en preguntar quién responde cuando fallan. Antes que una revolución, ve un conjunto de decisiones humanas que todavía necesitan corregirse.