Mark Zuckerberg ha entrado de lleno en el gran debate que divide actualmente a Silicon Valley: qué hacer ante unos sistemas de inteligencia artificial que avanzan cada vez más rápido y generan advertencias incluso entre quienes los están desarrollando. El fundador de Meta rechaza la idea de imponer una ralentización coordinada a toda la industria y apuesta por otra fórmula: controles externos, responsabilidad empresarial y capacidad para frenar individualmente un modelo cuando existan dudas sobre su seguridad.
Su principal propuesta pasa por recurrir a evaluadores y asesores independientes capaces de examinar los sistemas antes y durante su desarrollo. “Contratar evaluadores y asesores independientes es la mejor práctica de la industria”, ha defendido Mark Zuckerberg en una publicación en X.
El planteamiento llega en uno de los momentos de mayor preocupación dentro del propio sector tecnológico. Dario Amodei, consejero delegado de Anthropic, ha reclamado recientemente que los grandes laboratorios reduzcan de forma coordinada el ritmo al que aumentan las capacidades de sus modelos. Sam Altman y Elon Musk han respaldado parte de ese llamamiento. Zuckerberg, en cambio, cree que cada empresa puede tomar esas decisiones por sí misma.
Mark Zuckerberg rechaza frenar conjuntamente el desarrollo de la IA
La tesis de Mark Zuckerberg parte de una idea sencilla: las propias compañías tienen suficientes incentivos económicos, legales y comerciales para evitar que sus modelos causen daños.
Según el responsable de Meta, los usuarios no querrán utilizar agentes de inteligencia artificial que actúen contra sus intereses, ignoren sus instrucciones o se comporten de manera imprevisible. La seguridad y el denominado alignment —la capacidad de conseguir que un sistema actúe de acuerdo con los objetivos y límites establecidos— dejarían así de ser únicamente una cuestión ética para convertirse en una ventaja competitiva.
“La confianza y la alineación se están convirtiendo rápidamente en las capacidades más importantes que diferenciarán a los agentes y modelos”, sostiene Mark Zuckerberg.
A ello añade otro elemento: la responsabilidad jurídica. Si una inteligencia artificial provoca daños, las compañías que la desarrollan pueden enfrentarse a importantes consecuencias legales. Para Zuckerberg, ese riesgo constituye otro incentivo para invertir en seguridad sin necesidad de que todas las empresas acuerden previamente ralentizar sus investigaciones.
Meta retrasó Muse durante meses por problemas de seguridad
Last month I wrote about how we can build a positive and safe future for everyone: https://t.co/1KtONlqBs5
Every lab has the responsibility and incentive to move at the pace required to train its models safely, and the ability to take its own actions to ensure that happens.
The…
— Mark Zuckerberg (@finkd) September 15, 2026
Mark Zuckerberg utiliza como ejemplo una decisión adoptada recientemente dentro de su propia compañía. Meta retrasó durante varios meses el lanzamiento de Muse, uno de sus nuevos sistemas de inteligencia artificial, para dedicar más tiempo a reforzar su seguridad.
“No pedimos a todos los demás que hicieran esto antes que nosotros”, ha explicado. “Simplemente lo hicimos como parte de nuestro trabajo diario porque era claramente lo correcto para la gente y para nosotros”.
La diferencia con la propuesta planteada desde Anthropic es importante. Zuckerberg acepta que un laboratorio reduzca temporalmente el ritmo de desarrollo cuando detecte riesgos, pero rechaza que esa decisión tenga que convertirse necesariamente en un pacto que obligue al conjunto de la industria.
Evaluadores independientes para vigilar los modelos
La pieza central de la propuesta de Mark Zuckerberg son los controles externos. Meta Superintelligence Labs ya recurre, según el empresario, a evaluadores y asesores independientes en diferentes áreas y considera que el sector debería ampliar considerablemente ese ecosistema.
Estos expertos pueden someter los modelos a pruebas destinadas a descubrir comportamientos peligrosos, vulnerabilidades de seguridad o capacidades que los propios desarrolladores no habían identificado antes de su lanzamiento.
La idea no es exclusiva de Meta. Dario Amodei también ha defendido la incorporación de evaluadores externos dentro de los grandes laboratorios, aunque propone mecanismos de supervisión y coordinación mucho más amplios.
El debate está precisamente en determinar hasta qué punto un sistema financiado y organizado por las propias tecnológicas puede considerarse realmente independiente. Algunos expertos reclaman que esos controles estén acompañados por normas públicas y organismos con capacidad efectiva de supervisión.
El temor a una IA capaz de mejorarse a sí misma
Detrás de la discusión aparece uno de los escenarios que más preocupa actualmente a determinados investigadores: la llamada mejora recursiva. Se trata de la posibilidad de que sistemas muy avanzados participen cada vez más directamente en la creación de inteligencias artificiales todavía más capaces, acelerando el progreso tecnológico hasta dificultar su supervisión.
Mark Zuckerberg también se distancia aquí de una carrera sin límites. Meta, asegura, ha decidido dedicar “la mayoría significativa” de su capacidad computacional a desarrollar tecnologías útiles para las personas en lugar de concentrarla en una competición hacia sistemas capaces de mejorarse recursivamente.
Amodei propone ir más lejos y estudiar incluso límites compartidos a la velocidad con la que pueden avanzar esos sistemas. Su argumento es que pasar de un desarrollo “extremadamente rápido” a uno simplemente “algo rápido” podría proporcionar más tiempo para comprender los riesgos sin detener la innovación.
Dos recetas diferentes ante el mismo problema
La intervención de Mark Zuckerberg evidencia que las grandes tecnológicas empiezan a coincidir en el diagnóstico, pero todavía están lejos de compartir la solución. Prácticamente nadie entre los principales responsables del sector sostiene que la seguridad pueda ignorarse. La discusión está en quién debe imponer los límites y hasta dónde deberían llegar.
Anthropic plantea coordinación, supervisión externa y una ralentización pactada de las capacidades más peligrosas. Zuckerberg confía mucho más en los incentivos del mercado, la responsabilidad jurídica, la evaluación independiente y las decisiones individuales de cada laboratorio.
El fundador de Meta resume su filosofía en otra idea: mantener un “equilibrio de poder adecuado”. Su apuesta no pasa por detener la inteligencia artificial, sino por construir mecanismos capaces de detectar cuándo un sistema está avanzando demasiado rápido o en una dirección peligrosa.
La gran incógnita es si esos mecanismos voluntarios serán suficientes cuando la competencia económica y tecnológica empuje exactamente en la dirección contraria. Esa será probablemente una de las discusiones decisivas de la nueva carrera por la inteligencia artificial.