“Después de 40 años de matrimonio me doy cuenta de que Netflix me conoce mejor que mi mujer”. Con esta anécdota irónica, el franciscano Paolo Benanti abrió su intervención en EncuentroMadrid 2025, donde fue recibido como una de las voces más autorizadas del Vaticano en inteligencia artificial y ética tecnológica, además de miembro correspondiente de la Academia por la Vida y parte de la comisión de expertos de la ONU en estos asuntos. Su frase encierra el dilema de fondo: una herramienta concebida para hacernos la vida más fácil se está infiltrando en nuestras relaciones humanas, moldeando la manera en que amamos, decidimos y comprendemos quiénes somos.
Benanti —presidente de la Comisión para la Inteligencia Artificial del Gobierno italiano y asesor del Consejo Consultivo de la ONU— fue entrevistado en Madrid por el profesor Paolo Pellecchia ante un auditorio repleto. “Hablamos de inteligencia artificial sin saber muy bien de qué estamos hablando”, advirtió. “La IA es el uso de la información para controlar la máquina y darle unas capacidades que antes eran propias de los seres inteligentes.”
Lo que podría parecer una simple definición técnica se convierte, bajo su mirada, en un espejo moral. “El problema de la inteligencia artificial no es técnico, sino de justicia social”, señaló. “En septiembre, casi 160.000 trabajadores de empresas tecnológicas fueron despedidos en Estados Unidos. Hoy no parece ser un multiplicador de la caridad, sino un desafío para la justicia social. Estamos viendo cómo una clase media empobrecida es el síntoma de una estructura que ya no es estática”.
La vida sin fricciones
Benanti describió un mundo acostumbrado a vivir “sin fricciones”: “Nadie se ha enamorado nunca de su GPS. Pero ese enganche afectivo sí se da con una IA que utiliza el lenguaje y desarrolla una teoría de la mente, lo que me permite encontrarme con el otro, generando un vínculo único. Eso pasa entre una madre y su hijo, entre una persona y su mascota… y ahora con un chatbot”.
Para el teólogo franciscano, el mayor riesgo coincide con la mayor utilidad de la IA: la eliminación del conflicto, del error, del límite. “El primer uso de la heroína fue un jarabe para la tos. Cuando se descubrieron sus efectos, se hizo de la heroína una sustancia controlada. ¿Debemos hacer lo mismo con los chatbots? Declararse a una chica implica el riesgo del rechazo. El chatbot elimina las fricciones de la vida. Estamos suprimiendo las fricciones tirando de app”.
Ese fenómeno, afirma, está generando una emergencia educativa: “Hemos quitado las fricciones a la generación Z, empezando por quitarles a los hermanos. Ven las fricciones como un problema que hay que evitar, porque la novia puede decirte que no, pero la app nunca lo hará”.
El límite como identidad
Benanti propuso repensar el papel del límite como base de lo humano. “Hemos pasado del semáforo, que marca un límite evidente, a la rotonda, donde cada uno estira lo que puede. Miramos el límite como un impedimento cuando, en realidad, es la descripción de lo que soy. Si no sabemos cuál es el límite de lo humano, no sabemos cuál es la identidad de lo humano”. Y, para un fraile franciscano que preside una comisión tecnológica, esa pregunta tiene una dimensión de fe: “O la fe es un límite que define nuestra identidad, o no tiene nada que decir”.
Lejos de ver en esta revolución digital una amenaza para la Iglesia, Benanti defiende que es una oportunidad. “No tenemos miedo de los cambios que genera esta revolución tecnológica, pero queremos abordarla desde el hombre”, dijo. “Estamos ante una nueva página de la historia en la que nos toca escribir qué significa ser humano hoy.”
Recordó que la Doctrina Social de la Iglesia no busca evangelizar, sino “trabajar por el bien común” y abrir un diálogo plural. “La Iglesia se entiende a sí misma como una plaza donde diversas sensibilidades pueden convivir. Pablo VI decía que el católico, por definición, es pluralista. Hoy más que nunca debemos recordarlo”.
La estupidez natural
Durante la conversación, Benanti mostró su capacidad para la ironía: “¿Qué es más peligroso? ¿La inteligencia artificial, un arma nuclear o Kim Jong-un?”. Su respuesta fue instantánea: “La estupidez natural”. Y la explicó: “Sé que una máquina tiene un límite. Si le pido que lance una bomba nuclear, el problema soy yo, no la máquina. La máquina no lo hace sola, sino que soy yo quien le da ese margen.”
De esa reflexión surge su idea central: la IA no nos deshumaniza; somos nosotros quienes corremos el riesgo de dejar de comportarnos como humanos.
El pensador romano insiste en que educar no es instruir, sino enseñar a convivir con el misterio y la limitación. “Usar todas las capacidades digitales nunca nos permitirá saber cómo huele un limón. Hay una calidad en la expectativa que no se puede calcular”. Advierte además de un fenómeno preocupante: “Los sistemas de chatbot producen empatía y sentimientos que convencen a los jóvenes de que están siendo escuchados por alguien real, y eso ya ha llevado a algunos al suicidio. Necesitamos enseñarles a tener un ‘casco mental’: una protección interior para que sean ellos quienes conduzcan la herramienta”.
En tiempos en que el algoritmo parece responder a todas las preguntas, Benanti recupera una idea del filósofo Franco Volpi: “Las preguntas más importantes de la vida no tienen una respuesta, sino una historia”. Tal vez, en esa historia —entre la carne, el código y el espíritu— se juegue el rostro del ser humano en el siglo XXI.