Hace apenas dos semanas, el debate giraba en torno a la prohibición del acceso de menores de 16 años a las redes sociales. Ahora, el Gobierno da un paso más. El Ejecutivo pedirá a la Fiscalía que investigue a X, Meta y TikTok por la creación y difusión de pornografía infantil mediante Inteligencia Artificial. Es un nuevo paso en la cruzada que mantiene Pedro Sánchez contra las grandes plataformas digitales.
El presidente ha sido explícito en redes sociales. “Estas plataformas están atentando contra la salud mental, la dignidad y los derechos de nuestros hijos e hijas. El Estado no lo puede permitir. La impunidad de los gigantes debe acabar”, escribió en su cuenta X, una de las redes sociales bajo el punto de mira. La solicitud se hará al amparo del artículo 8 del Estatuto Orgánico del Ministerio Fiscal para que investigue posibles delitos de violencia sexual contra menores.
A principios de febrero, Sánchez ya adelantó que utilizaría los medios a su alcance para regular lo que calificó como el “viejo oeste digital“. Entonces, el enfrentamiento fue directo, también en X, con Elon Musk, tras anunciar la intención de limitar el acceso de menores a las redes. Ahora el foco se desplaza a un terreno aún más delicado: el uso de la IA para generar desnudos falsos y material de abuso sexual infantil.
Más de 3 millones de desnudos en menos de 11 días
La ministra de Inclusión, Seguridad Social y Migraciones, Elma Saiz, ha sido la encargada de poner cifras al problema. Según explicó en la rueda de prensa psoterior al Consejo de Ministros, “en 11 días ha habido 3 millones de fotos de desnudos generados por IA, y muchas de ellas eran menores”, denunció la nueva portavoz.
Los datos que circulan en las últimas semanas apuntan en la misma dirección. Según el Centro para Contrarrestar el Odio Digital (CCDH), el chatbot Grok, vinculado a X, habría generado tres millones de imágenes sexualizadas en poco más de una semana, de las cuales 23.000 corresponderían a menores.
El mecanismo es sencillo. Con un sólo clic, la IA puede “quitar” prendas de ropa o generar desnudos ficticios sobre imágenes de niñas y adolescentes. El resultado se difunde después en redes o se redirige a plataformas donde se comercializa contenido de abuso sexual infantil. El material, real o generado artificialmente, convierte igualmente a los menores en víctimas.
TikTok bajo el punto de mira
TikTok tampoco ha quedado al margen. Cada vez son más los estudios que documentan miles de vídeos de niñas y adolescentes sexualizadas -algunos generados por IA, otros directamente robados de cuentas reales- que sirven de reclamo para redirigir a los usuarios a otros canales donde se intercambia o vende pornografía infantil. El incumplimiento de la Ley de Servicios Digitales (DSA) es uno de los elementos que el Gobierno pone sobre la mesa.
Un informe de UNICEF publicado el pasado 4 de febrero advierte de que uno de cada 25 menores en once países ha sido afectado por algún tipo de abuso sexual digital vinculado a la Inteligencia Artificial. Hablamos de más de 1,2 millones de niños y niñas.
Los expertos coinciden en que el hecho de que la imagen sea generada por IA no reduce la gravedad. Al contrario. Porque la creación de este material normaliza la explotación sexual infantil, alimenta la demanda y complica la labor de las fuerzas de seguridad para identificar y proteger a las víctimas.
En este contexto, el Gobierno insiste en que no se trata sólo de regular el acceso de los menores a las plataformas, sino de exigir responsabilidades a las propias compañías. Sánchez ya advirtió hace días que las redes sociales se habían convertido en una especie de salvaje Oeste digital y, por primera vez pero sin concretar, señaló a los directivos de las plataformas para que asumieran las consecuencias si sus herramientas continuaban facilitando este tipo de delitos.
La batalla, sin embargo, ya no es sólo jurídica. Es también política. El Ejecutivo ha situado la protección de la infancia y de las mujeres en el centro de su discurso frente a los llamados “tecnoligarcas”. La duda continúa siendo hasta dónde puede llegar el Estado en su intento de poner límites a un ecosistema digital que, en nombre de la innovación, ya ha demostrado ser capaz de convertir a niñas y niños en mercancía.
Suscríbete a nuestra newsletter
Recibe en tu correo electrónico, los artículos de la directora Pilar Gómez.