X toma cartas en el asunto sobre las imágenes sexualizadas. La red social propiedad del magnate Elon Musk ha anunciado que bloqueará la generación de imágenes sexualizadas a través de Grok, su asistente de inteligencia artificial, tras la creciente polémica por la creación de fotografías de personas con ropa interior o bikinis, entre ellas menores de edad.
En un mensaje publicado en la propia plataforma, la cuenta de seguridad de X ha explicado que la medida llega con el compromiso de la red social de “crear un espacio seguro para todos y continuar con la tolerancia cero con cualquier forma de explotación sexual de menores, desnudos sin consentimiento y contenido sexual no deseado“.
“Hemos implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis. Esta restricción se aplica a todos los usuarios, incluidos los suscriptores de pago”, ha informado X en la publicación.
El pasado 9 de enero, X anunció que la función de generación de imágenes se limitaría para los usuarios con suscripción. Ahora, ha ampliado la restricción a todos los usuarios de la plataforma. De esta forma, ya no se podrán crear fotografías o ilustraciones con bikinis o prendas íntimas.
“Bloqueamos geográficamente la posibilidad de todos los usuarios para generar imágenes de personas reales en bikini, ropa interior y atuendos similares a través de la cuenta Grok y en Grok in X en aquellas jurisdicciones donde sea ilegal”, ha matizado la compañía.
Amenazas hacia X
Más allá del compromiso de “tolerancia cero” de X a la generación de este tipo de imágenes, la medida llega tras una creciente serie de presiones hacia la plataforma. Además de las denuncias de los usuarios, ya son varios los países que han tomado medidas para frenar esta mala práctica de la inteligencia artificial de X. La Unión Europea ha pedido a la aplicación conservar toda la documentación relativa a la generación de imágenes hasta finales de año, Reino Unido amenazó con bloquear la red social y Malasia e Indonesia directamente prohibieron su uso.
También se han pronunciado organizaciones de derechos digitales, seguridad infantil y derechos de las mujeres, que han pedido directamente a Apple y Google que se tomen medidas para “prohibir Grok” en sus tiendas de aplicaciones.
“Grok se está utilizando para crear cantidades masivas de imágenes íntimas no consentidas, incluyendo material de abuso sexual infantil, contenido que constituye un delito penal y que infringe directamente las Directrices de Revisión de Aplicaciones de Apple”, han lamentado en una carta abierta.
Si algo de lo que has leído te ha removido o sospechas que alguien de tu entorno puede estar en una relación de violencia puedes llamar al 016, el teléfono que atiende a las víctimas de todas las violencias machistas. Es gratuito, accesible para personas con discapacidad auditiva o de habla y atiende en 53 idiomas. No deja rastro en la factura, pero debes borrar la llamada del terminal telefónico. También puedes ponerte en contacto a través del correo o por WhatsApp en el número 600 000 016. No estás sola.