La inteligencia artificial avanza a una velocidad que ya comienza a inquietar incluso a quienes dirigen su desarrollo. Demis Hassabis, cofundador y consejero delegado de Google DeepMind, ha advertido de que los modelos más avanzados podrían adquirir capacidades especialmente peligrosas en un plazo aproximado de 18 meses, sobre todo en campos relacionados con la ciberseguridad, la biología y las amenazas nucleares.
La advertencia de Demis Hassabis no significa que dentro de año y medio vaya a aparecer inevitablemente una inteligencia artificial capaz de actuar por su cuenta o de provocar una catástrofe. El investigador británico se refiere al riesgo de que los sistemas más potentes sean capaces de proporcionar conocimientos, instrucciones o herramientas cada vez más sofisticadas a personas o grupos que pretendan utilizarlos con fines maliciosos.
Ante esa posibilidad, el máximo responsable de Google DeepMind reclama la creación de un organismo internacional que evalúe los modelos de inteligencia artificial antes de que sean lanzados al mercado. Su propuesta busca establecer controles comunes en un sector donde las empresas compiten por desarrollar sistemas más capaces, pero donde todavía no existe una autoridad global con capacidad real para detener una publicación considerada demasiado peligrosa.
Una advertencia sobre las capacidades biológicas y nucleares
En una entrevista concedida a Axios, Demis Hassabis explicó que los riesgos actuales se concentran especialmente en el terreno informático. Los modelos ya pueden ayudar a buscar vulnerabilidades, automatizar determinadas tareas o facilitar la preparación de ataques digitales. Sin embargo, el escenario podría cambiar rápidamente a medida que aumente su capacidad de razonamiento.
Según su previsión, dentro de aproximadamente 18 meses podrían aparecer peligros más graves relacionados con la biología o incluso con el conocimiento necesario para desarrollar amenazas nucleares. El problema no estaría necesariamente en que una IA decidiera crear estas armas, sino en que redujera las barreras técnicas que hoy dificultan su fabricación.
Una persona sin formación especializada podría recibir explicaciones cada vez más precisas sobre procesos que actualmente solo dominan científicos, ingenieros o expertos con años de experiencia. Por ese motivo, la industria trabaja en sistemas de evaluación destinados a detectar cuándo un modelo comienza a ofrecer información capaz de causar daños reales.
Google DeepMind ha presentado además un programa de bioresiliencia desarrollado junto a Isomorphic Labs. La iniciativa pretende utilizar la propia inteligencia artificial para reforzar la vigilancia de patógenos, acelerar el diseño de vacunas y tratamientos y mejorar la respuesta ante futuros brotes. La tecnología aparece así en los dos lados de la ecuación: puede aumentar determinados riesgos, pero también convertirse en una herramienta decisiva para combatirlos.
Demis Hassabis pide un supervisor internacional
Para afrontar esta nueva etapa, Demis Hassabis propone crear una organización internacional especializada en los modelos de frontera, el nombre que recibe la inteligencia artificial más avanzada disponible en cada momento. Esta entidad estaría formada por expertos técnicos y podría financiarse con aportaciones de las propias compañías del sector.
Su funcionamiento se parecería al de los organismos que supervisan actividades especialmente sensibles, como los mercados financieros, la aviación o la energía atómica. Antes de publicar un modelo, las empresas tendrían que someterlo a pruebas independientes que permitieran conocer sus capacidades y sus posibles riesgos.
El organismo también debería tener autoridad suficiente para recomendar retrasos, exigir medidas de seguridad adicionales o impedir temporalmente que un sistema fuera puesto a disposición del público. Hassabis considera insuficiente que cada compañía evalúe sus propios productos siguiendo criterios diferentes, porque un fallo en una sola empresa podría tener consecuencias internacionales.
El investigador plantea que Estados Unidos impulse inicialmente el proyecto, aunque su objetivo final sería construir una estructura global. La inteligencia artificial no entiende de fronteras: un modelo desarrollado en un país puede utilizarse en cualquier parte del mundo, mientras que una regulación exclusivamente nacional puede perder eficacia ante compañías, servidores o desarrolladores ubicados en otros territorios.
La “ventana preciosa” antes de la inteligencia artificial general
La preocupación de Demis Hassabis va más allá de los próximos 18 meses. El responsable de Google DeepMind cree que la inteligencia artificial general, conocida como AGI, podría aparecer dentro de pocos años. Se trataría de un sistema capaz de desenvolverse en una amplia variedad de tareas intelectuales con un nivel comparable o superior al de una persona.
Hassabis considera que todavía existe una “ventana preciosa” para diseñar mecanismos de seguridad, acordar límites y preparar a las instituciones. Pero esa oportunidad podría cerrarse si los avances técnicos continúan produciéndose más deprisa que las decisiones políticas.
Su propuesta llega además en un momento en el que los máximos responsables de las principales compañías comienzan a coincidir en la necesidad de una regulación específica. Sam Altman, de OpenAI, y Dario Amodei, de Anthropic, también han defendido controles para los modelos más avanzados, aunque existen diferencias sobre quién debería aplicarlos y hasta dónde tendría que llegar la intervención pública.
La paradoja es evidente: las mismas empresas que lideran la carrera por construir una inteligencia artificial cada vez más poderosa reclaman ahora reglas capaces de frenar esa competición. Para Hassabis, esperar a que ocurra un incidente grave sería llegar demasiado tarde. Los próximos meses, sostiene, serán decisivos para comprobar si los gobiernos y la industria son capaces de actuar antes de que las capacidades más peligrosas dejen de ser una hipótesis.