Si tienes un perfil en X y has compartido alguna vez una foto tuya, puede que estos días hayas visto cómo tu ropa ha cambiado de traje de chaqueta y pantalón a un microbikini, o que tu cara directamente haya sido puesta en un cuerpo ficticio y completamente desnudo. Por lo visto, Elon Musk ha querido celebrar el año nuevo permitiendo que su chatbot de inteligencia artificial, llamado Grok, simule desnudos virtuales sobre imágenes compartidas, a petición de cualquier usuario. Como podréis imaginar, en pocas horas la red se ha llenado de imágenes de mujeres en tanga. Algunas, menores de edad.
Muchas de las víctimas se han quejado públicamente compartiendo esas recreaciones falsas, otras lo han denunciado a la plataforma y algunos hombres también han expresado su rechazo ante esta nueva opción de Grok. Pero la plataforma de Musk hace oídos sordos: responde que no se permiten los deepfakes no consensuados y, ante las denuncias, tampoco borra la mayoría de las fotos.
Nueva forma de violencia digital
Los deepfakes son manipulaciones de imágenes de personas con programas de inteligencia artificial, para crear escenas pornográficas con el objetivo de sexualizarlas y denigrarlas. Esta nueva forma de violencia digital tiene un claro sesgo de género. Según un informe de Sensity AI el 99% de las víctimas son mujeres. Este tipo de violencia tiene un impacto devastador para quienes lo sufren. A nivel emocional y psicológico, ver que cualquiera puede desnudarte haciendo clic, genera miedo y sensación de vulnerabilidad. Muchas mujeres están borrando sus imágenes del espacio virtual y se limitarán a la hora de compartirlas en el futuro. Pero las consecuencias negativas no terminan cuando las víctimas ven sus fotos manipuladas, ya que estas son compartidas infinidad de veces multiplicando el daño y dejando una huella digital muy difícil de borrar. Las imágenes pueden acabar en páginas de contenido pornográfico sin que ellas lo sepan.
En España los deepfakes aún no son delito, aunque la Ley de Protección de Menores en Entornos Digitales que actualmente está tramitando el Congreso, incluye una cláusula sobre la manipulación y difusión de imágenes sin consentimiento. No solo el chatbot de X lo hace, existen numerosos programas que ponen al alcance de cualquiera desnudar virtualmente. Al principio se hacía con mujeres famosas, pero en los últimos años el 63% de los deepfakes se ejercen sobre amigas y familiares, según cuenta Laura Bates en su libro “La nueva era del sexismo: cómo la inteligencia artificial está reinventando la misoginia”.
Se deposita toda la responsabilidad en las víctimas
Elon Musk considera que desnudar digitalmente a las mujeres y provocarles daño forma parte de la libertad de expresión. Como solución propone que las mujeres que no quieran ser desnudadas virtualmente lo denuncien. Pero, ¿qué pasa si las víctimas no lo ven? ¿Deja de ser un acto perverso?
Por otro lado, esperar a que la víctima denuncie significa que no se ha evitado el daño de tener que ver su imagen manipulada. La propia plataforma debería actuar previamente para proteger a las mujeres. Si el perfil es anónimo, como la mayoría de cuentas, tampoco sirve de nada denunciarlo. Responsabilizar a las propias víctimas de tener que evitar este tipo de delitos es injusto, además de poco efectivo.
Lo que queda cada vez más claro es que ninguna persona que apoye los valores de igualdad y democracia debería tener un perfil en la red social X, especialmente si representan a la ciudadanía desde instituciones públicas. Una marca que está en contra de cualquier medida de equidad y diversidad, que contribuye con sus algoritmos a multiplicar el odio y la desinformación, que permite la circulación de perfiles falsos (hasta el 80% de las interacciones son de bots y trols) y que no protege a las mujeres de los ataques machistas, no representa los valores de una sociedad justa y evolucionada. Ya que se nos pide actuar: ¿qué tal si empezamos el año abandonando X en masa?