Rusia quiere abrir un nuevo frente regulatorio contra los contenidos manipulados con IA. El regulador ruso de las comunicaciones, Roskomnadzor, ha planteado que las redes sociales asuman un papel más activo en la detección y bloqueo temporal de deepfakes, es decir, vídeos, imágenes o piezas digitales generadas o alteradas mediante inteligencia artificial. La iniciativa, adelantada por el diario ruso Kommersant, busca limitar la circulación de estos materiales mientras se verifica si la información que contienen es real o falsa.
La propuesta llega en un momento en el que los contenidos manipulados con IA se han convertido en una preocupación creciente para gobiernos, plataformas tecnológicas y usuarios. La mejora de los sistemas generativos ha hecho que cada vez sea más sencillo fabricar imágenes o vídeos verosímiles de personas, empresas o instituciones. El problema ya no está solo en la existencia de falsificaciones digitales, sino en la velocidad con la que pueden difundirse antes de que alguien compruebe su autenticidad.
Roskomnadzor defendió esta iniciativa en un foro dedicado a tecnologías de inteligencia artificial “confiables”. Según la información publicada por Kommersant, el regulador considera que las redes sociales deben disponer de mecanismos para detener la difusión de contenidos sospechosos hasta que se establezca su veracidad. Entre las medidas planteadas figuran el marcado de materiales generados con IA y la creación de una base de datos de amenazas tecnológicas.
La difícil frontera entre moderar y censurar
El objetivo declarado de la propuesta es frenar los contenidos manipulados con IA antes de que puedan causar daños reputacionales, políticos o económicos. En teoría, una red social debería detectar un vídeo sospechoso, limitar su alcance y mantenerlo bajo revisión hasta que una verificación permita decidir si se trata de una falsificación o de un contenido legítimo.
El planteamiento, sin embargo, abre una cuestión delicada: quién decide qué contenido es sospechoso y con qué criterios. En el caso ruso, esa pregunta tiene una carga política evidente. Roskomnadzor es el organismo encargado de supervisar las comunicaciones y el entorno digital en el país, y su papel ha ido ganando peso en los últimos años dentro del control de internet. La idea de bloquear materiales antes de que sean verificados puede presentarse como una herramienta contra la desinformación, pero también plantea riesgos de restricción excesiva sobre publicaciones incómodas o críticas.
La regulación de los deepfakes no es un debate exclusivo de Rusia. En distintos países se discuten normas para etiquetar contenidos generados con IA, retirar falsificaciones dañinas o exigir más responsabilidad a las plataformas. La diferencia está en el equilibrio entre protección, transparencia y libertad de expresión. En el caso de los contenidos manipulados con IA, ese equilibrio es especialmente difícil porque la amenaza es real, pero los errores también pueden tener consecuencias importantes.
Los expertos dudan de la fiabilidad técnica
La principal objeción señalada por los expertos citados por Kommersant es técnica. Las redes sociales no disponen hoy de herramientas completamente fiables para determinar, sin margen de error, si un vídeo o una imagen han sido creados o alterados con inteligencia artificial. Los sistemas de detección avanzan, pero también lo hacen los modelos capaces de generar contenido falso cada vez más realista.
Ese desfase crea un problema evidente. Si los filtros automáticos son demasiado permisivos, muchos contenidos manipulados con IA seguirán circulando sin obstáculos. Si son demasiado agresivos, pueden bloquear publicaciones reales, parodias, piezas artísticas, contenidos periodísticos o materiales legítimos de usuarios y marcas. Los falsos positivos no son un detalle menor: pueden generar conflictos, reclamaciones y pérdidas de confianza en las plataformas.
Además, los sistemas de IA generativa evolucionan con rapidez. Una herramienta de detección que hoy identifica ciertos patrones puede quedar desfasada en cuestión de meses. Los creadores de deepfakes pueden adaptar sus métodos para esquivar marcas técnicas, alterar metadatos o publicar versiones modificadas de un mismo contenido. Por eso, la moderación de contenidos manipulados con IA no puede depender únicamente de una solución automática.
Un modelo mixto: filtros automáticos y revisión humana
La opción más realista, según los expertos, sería un sistema mixto. Los filtros automáticos servirían para localizar materiales sospechosos y reducir su difusión inicial. Después, revisores humanos deberían analizar el contenido, el contexto, la fuente y el posible daño antes de tomar una decisión definitiva. Ese modelo no elimina los problemas, pero reduce el riesgo de que una máquina decida por sí sola qué puede circular y qué debe ser bloqueado.
El marcado de contenidos generados con IA también aparece como una medida complementaria. En lugar de retirar de inmediato una pieza, las plataformas podrían advertir al usuario de que el material ha sido creado o manipulado artificialmente. Este sistema sería útil en contenidos sintéticos legítimos, como vídeos creativos o publicitarios. Pero resulta insuficiente cuando se trata de deepfakes diseñados para engañar, dañar la reputación de una persona o manipular una conversación pública.
La creación de una base de datos de amenazas tecnológicas apunta en la misma dirección: recopilar patrones, métodos y casos detectados para mejorar la respuesta de las plataformas. Aun así, este tipo de herramientas plantea otra pregunta sensible. ¿Quién controla esa base de datos? ¿Quién puede consultarla? Y, sobre todo, ¿cómo se evita que se convierta en una lista opaca de contenidos prohibidos?