Dinamarca está preparando una reforma legal para prohibir la distribución de deepfakes -imágenes, vídeos o audios manipulados mediante Inteligencia Artificial (IA)– que imiten rasgos personales sin consentimiento. La iniciativa, con amplio apoyo parlamentario, modificará la ley de derechos de autor para otorgar a los ciudadanos el control sobre su rostro, voz y cuerpo físico.
El ministro de Cultura de Dinamarca, Jakob Engel‑Schmidt, afirmó en una entrevista a la CNN que “es hora de crear una protección contra la desinformación y mandar un mensaje claro a las grandes tecnológicas”. El proyecto contempla permitir el uso en contextos de sátira o parodia, y establecería compensaciones, pero no contempla multas o prisión. El borrador se presentará este verano y se espera su aprobación entre finales de 2025 y comienzos de 2026.
Robo de identidad digital
“La tecnología ha relevado a la legislación”, matizó el ministro Engel-Schmidt, que alega que la nueva medida ayudará a proteger a artistas, figuras públicas y gente corriente de robos de identidad digitales, que ahora puede hacerse con unos pocos clics y la ayuda de la IA. “No podemos aceptar una situación donde los humanos pueden ser pisoteados, donde una copia digital puede ser mal usada para todo tipo de propósitos”, agregó.
Con esta medida, Dinamarca toma la iniciativa, con un proyecto de ley pionera en Europa. La medida pretende reconocer explícitamente que una persona puede poseer los derechos de autor sobre su propia imagen y voz, una novedad legislativa en el continente. En EE UU, ya hay una ley que prohíbe deepfakes sexuales sin consentimiento, pero el país escandinavo va más allá con la protección de cualquier uso manipulativo de la voz o imagen de una persona.
Legislar contra los deepfakes
Corea del Sur criminalizó la producción, distribución y hasta la visualización de deepfakes sexuales, imponiendo hasta 7 años de prisión por creadores y 3 por simples espectadores. En la Unión Europea, el AI Act obliga a etiquetar contenido generado por IA, pero no lo prohíbe. El nuevo marco europeo contra la violencia de género penaliza explícitamente los deepfakes sexuales sin consentimiento.
El ministro de Cultura danés puso como ejemplo casos de cantantes, cuyas voces han sido clonadas con IA. El caso más polémico fue el de la cantante canadiense Celine Dion, que en marzo tuvo que avisar a sus fans de que un contenido generado por IA fue difundido en redes sociales como si fuera una producción propia. Otros artistas como Billie Eilish, J Balvin, Bon Jovi o Katy Perry ya avisaron en 2024 sobre los peligros de esta nueva tecnología respecto a los derechos de autor.
Dinamarca lo promoverá en la UE
Enghel-Schmidt cree que tendrá apoyo bipartidista a la nueva ley, que espera ser aprobada el próximo otoño. El siguiente paso sería fijar multas a las empresas o individuos que no cumplan con los requisitos de retirar contenidos falsos. “Somos defensores de la libertad de expresión, nos gustaría que todos sean escuchados, pero también creemos que los seres humanos tienen derecho a decir sí o no a su uso por parte de la IA generativa”, alegó.
La ley permitiría el uso con fines de parodia y sátira para ciertos contenidos, siempre que sean claramente identificados como falsos. El borrador se someterá a consulta pública este verano entre los ciudadanos daneses. Además, Dinamarca, que acaba de asumir la presidencia de la UE este mes de julio, pretende promover este modelo como estándar europeo.
Si no cumplen la nueva ley, las compañías propietarias de redes sociales podrían enfrentarse a sanciones graves, que incluso podrían forzar la intervención directa de la Comisión Europea. El objetivo de Dinamarca es reforzar los derechos de artistas y músicos frente a imitaciones digitales sin su consentimiento.
Ante el uso indebido de la IA
Athina Karatzogianni, profesora de tecnología y sociedad en la Universidad de Leicester, declaró a la CNN que la propuesta danesa forma parte de cientos de iniciativas políticas en todo el mundo que buscan reducir los posibles daños asociados al uso indebido de la IA generativa.
“Los deepfakes pueden tener un impacto tanto individual como social, ya que pueden vulnerar derechos individuales, y también tener impactos sociopolíticos, ya que socavan valores fundamentales de la democracia, como la igualdad y la transparencia”, afirmó Karatzogianni.