Durante años, los principales laboratorios de inteligencia artificial han competido por construir modelos cada vez más capaces en menos tiempo. Ahora, más de 1.300 de las personas que trabajan dentro de esa carrera están pidiendo al Gobierno de Estados Unidos que ayude a diseñar una forma de reducir su velocidad.

No solicitan una pausa inmediata ni anuncian que hayan perdido el control de sus sistemas. Su advertencia es más concreta y, a mi juicio, también más reveladora: si llegara el momento de frenar, ninguna empresa ni ningún país podría permitirse hacerlo por su cuenta.

El manifiesto, publicado bajo el título «Pacing the Frontier», cuenta con las firmas de algunos de los investigadores y directivos más influyentes de la industria. Entre ellos se encuentran Dario Amodei, CEO de Anthropic; Jakub Pachocki, científico jefe de OpenAI; Mark Chen, director de investigación de OpenAI; Shane Legg, cofundador y responsable de AGI en Google DeepMind; Shengjia Zhao, científico jefe de Meta AI; Ilya Sutskever, fundador de Safe Superintelligence, y varios de los fundadores de Anthropic.

El documento incluye actualmente 1.319 firmas verificadas de empleados de compañías que desarrollan modelos de frontera. La cifra seguirá probablemente aumentando porque la iniciativa continúa abierta.

Su petición está dirigida al Gobierno estadounidense, al que reclaman que impulse un esfuerzo internacional para desarrollar las herramientas técnicas y de gobernanza necesarias para modular deliberadamente el ritmo del desarrollo automatizado de la inteligencia artificial.

La elección de las palabras es importante. Los firmantes no hablan de detener toda la IA, prohibir nuevos modelos o suspender los actuales programas de investigación. Plantean la necesidad de disponer de una capacidad que hoy no existe: comprar tiempo si el progreso se acelera por encima de la capacidad humana para comprenderlo, supervisarlo y establecer medidas de seguridad.

Cuando la IA empieza a participar en su propia evolución

El origen de esta preocupación se encuentra en la creciente automatización de la investigación en inteligencia artificial.

Hasta ahora, el desarrollo de un modelo dependía de equipos humanos que escribían el código, diseñaban los experimentos, interpretaban los resultados, resolvían los problemas de infraestructura y decidían qué cambios debían introducirse en la siguiente generación. Los modelos comienzan a asumir una parte cada vez mayor de esas tareas.

Ya escriben código utilizado por los propios laboratorios, ejecutan experimentos, optimizan componentes de entrenamiento e inferencia, identifican errores y prueban alternativas dentro de objetivos definidos por investigadores humanos. OpenAI ha explicado, por ejemplo, que GPT-5.6 Sol realizó centenares de experimentos sobre la arquitectura de su propio modelo auxiliar y supervisó parte de su proceso de entrenamiento.

Anthropic ofrece otro dato especialmente significativo: en mayo de 2026, Claude ya había escrito más del 80% del código incorporado a la base de código de la compañía. Sus investigadores aseguran también que los modelos pueden ejecutar experimentos bien definidos con un rendimiento comparable o superior al de profesionales cualificados.

Esto todavía está lejos de una inteligencia artificial capaz de concebir, entrenar y desplegar autónomamente a su sucesora. Los humanos continúan fijando los objetivos, proporcionando la infraestructura, evaluando los resultados y tomando las decisiones estratégicas. La propia Anthropic reconoce que persisten diferencias importantes cuando los modelos deben decidir qué problemas merece la pena investigar o ejercer un juicio amplio sobre la dirección del trabajo.

Sin embargo, el cambio ya ha comenzado. La IA participa en el proceso mediante el que se construye la siguiente IA.

A partir de ese momento aparece un posible bucle de aceleración. Los modelos ayudan a desarrollar sistemas más capaces; esos nuevos sistemas automatizan una proporción mayor de la investigación; esa automatización permite crear otra generación todavía más rápidamente.

El proceso no necesita alcanzar una supuesta «explosión de inteligencia» para alterar profundamente el ritmo de la industria. Como ya expliqué al analizar por qué solemos evaluar las tecnologías emergentes mediante una foto fija, la IA está comprimiendo los ciclos de investigación y desarrollo. Basta con que cada generación reduzca de manera apreciable el tiempo necesario para desarrollar la siguiente.

Ilya Sutskever resume la preocupación en uno de los comentarios personales incorporados al manifiesto:

«Esto solo funciona si se hace internacionalmente y debe hacerse bien: una mala aplicación puede empeorar las cosas.»

La frase introduce un matiz imprescindible. Crear un mecanismo para ralentizar la IA puede ser tan complejo y peligroso como carecer de él. Un sistema mal diseñado podría favorecer a determinados países, consolidar el dominio de las compañías actuales o desplazar el desarrollo hacia actores menos transparentes.

Una carrera en la que nadie puede detenerse primero

La parte más importante del manifiesto no está, en mi opinión, en sus previsiones tecnológicas. Está en el reconocimiento de un problema económico y político que la industria no puede resolver mediante la voluntad individual de sus dirigentes.

Todas las grandes compañías tienen incentivos para desarrollar sistemas seguros. Al mismo tiempo, todas saben que reducir unilateralmente la velocidad puede hacerles perder investigadores, inversión, clientes y posición estratégica frente a sus competidores.

Los países están atrapados en una dinámica semejante. Estados Unidos difícilmente limitará el desarrollo de sus laboratorios si considera que China continuará avanzando. China tampoco aceptará restricciones que puedan consolidar el liderazgo estadounidense. Esta competencia ya ha convertido la IA en una carrera por el cómputo, la energía, los chips y la capacidad industrial, con costes que trascienden ampliamente el desarrollo de los modelos.

Europa puede regular los modelos desplegados en su territorio, pero posee mucha menos capacidad para influir sobre la frontera tecnológica si no participa en el desarrollo de esos sistemas y de la infraestructura que los hace posibles.

John Schulman, científico jefe de Thinking Machines y uno de los firmantes, expresa claramente este problema:

«Me gustaría que los laboratorios empezaran a diseñar voluntariamente estos mecanismos, incluso antes de que intervenga el Gobierno estadounidense.»

La posibilidad de que los laboratorios actúen voluntariamente parece, sin embargo, limitada. Un compromiso individual solo funciona mientras no implique una desventaja decisiva. En cuanto uno de los participantes sospecha que otro está avanzando más deprisa o incumpliendo el acuerdo, el incentivo para acelerar reaparece.

Leo Gao, miembro del equipo técnico de OpenAI, utiliza un lenguaje mucho más alarmista:

«Ir más despacio nos daría el tiempo que necesitamos, pero ningún actor está dispuesto a detenerse unilateralmente.»

Más allá de su comparación con una reacción nuclear descontrolada, que pertenece a su valoración personal y no al texto común, la segunda parte de su comentario identifica el núcleo del problema. Los laboratorios están pidiendo una regla colectiva porque ninguno puede permitirse aplicársela solo.

Quienes piden el freno continúan construyendo el acelerador

La situación contiene una contradicción difícil de ignorar. Las mismas compañías cuyos empleados y directivos reclaman instrumentos para reducir el ritmo están realizando inversiones extraordinarias para aumentarlo.

Las compañías están tomando decisiones dentro de un enorme cono de incertidumbre que las obliga a invertir antes de saber qué capacidad necesitarán. Contratan capacidad energética, encargan centros de datos, aseguran el suministro de chips, compiten por el talento más escaso y presentan cada nuevo avance como una ventaja estratégica. Automatizan su ingeniería porque eso les permite investigar más rápido y reducen los costes de inferencia para desplegar sistemas más potentes a mayor escala.

OpenAI y Anthropic han respaldado corporativamente el manifiesto, pero ninguna ha anunciado que vaya a detener sus programas de desarrollo. Tampoco sería realista esperar que lo hicieran mientras Meta, Google, xAI, los laboratorios chinos y las nuevas compañías de modelos de frontera mantienen su actividad.

Esta aparente incoherencia refleja una realidad más profunda. Incluso una empresa sinceramente preocupada por la seguridad puede sentirse obligada a seguir acelerando si cree que sus competidores no harán lo mismo. Las intenciones de sus dirigentes importan, aunque dejan de ser suficientes cuando el mercado, la geopolítica y el capital empujan en la dirección contraria.

Ethan Perez, responsable del equipo de alineamiento de Anthropic, lo describe desde la experiencia interna:

«Los equipos de seguridad tienen que correr para prevenir nuevos riesgos cada pocos meses. En algún momento encontraremos problemas que necesiten más tiempo.»

Su comentario muestra que el desafío no consiste únicamente en evitar una hipotética superinteligencia descontrolada. Existe un desfase mucho más inmediato entre la velocidad con la que aparecen nuevas capacidades y el tiempo necesario para evaluarlas, proteger las infraestructuras, adaptar las organizaciones y establecer controles públicos.

Alcanzar ese acuerdo será especialmente difícil porque la gobernanza internacional de la IA ya muestra una creciente fragmentación. La cumbre de París de 2025 evidenció que Estados Unidos, Europa y China mantienen posiciones diferentes sobre seguridad, regulación y desarrollo, aunque todas coinciden en la necesidad de invertir para no quedarse atrás.

¿Cómo se construye un freno para la IA?

El manifiesto resulta deliberadamente impreciso sobre las herramientas que propone desarrollar. Esa ambigüedad facilita el acuerdo entre los firmantes, pero deja sin resolver los aspectos más difíciles.

Un mecanismo internacional necesitaría establecer qué capacidades justificarían su activación. También tendría que medir el progreso hacia la automatización de la investigación, verificar el cumplimiento de los acuerdos y detectar entrenamientos realizados fuera de los sistemas supervisados.

El control podría apoyarse en la capacidad de cómputo utilizada, la adquisición de procesadores avanzados, el consumo energético de los centros de datos o la obligación de evaluar determinados modelos antes de su despliegue. Todas esas posibilidades introducen riesgos de vigilancia, concentración empresarial y control estatal sobre la innovación.

Tampoco está claro qué autoridad tendría legitimidad para decidir que el mundo necesita reducir la velocidad. Un organismo dominado por Estados Unidos sería difícilmente aceptable para China. Un acuerdo limitado a las grandes compañías occidentales dejaría fuera a laboratorios estatales, desarrolladores independientes y modelos abiertos. Una regulación excesivamente rígida podría proteger a quienes ya ocupan la frontera e impedir que aparezcan nuevos competidores.

Joshua Achiam, investigador de OpenAI, admite esa incertidumbre en su comentario:

«No sé qué forma deberían adoptar estas herramientas, y espero que no sean expansivas ni excesivas.»

Esta cautela debería ocupar un lugar central en el debate. La existencia de un riesgo no convierte automáticamente cualquier regulación en una buena regulación. El freno puede ser necesario, pero también puede utilizarse como barrera de entrada, instrumento geopolítico o mecanismo para reforzar el poder de quienes ayudaron a definirlo.

Europa regula el riesgo, pero no controla el ritmo

La iniciativa también interpela directamente a Europa.

La Unión Europea dispone del AI Act, ha establecido obligaciones específicas para los modelos de propósito general con riesgo sistémico y está desarrollando estructuras de evaluación y supervisión. Ese marco regula la seguridad, la transparencia y las condiciones de uso, pero no fue concebido como un mecanismo internacional capaz de modular el ritmo de la investigación de frontera.

Europa podría aportar experiencia regulatoria, capacidad diplomática y una visión menos dependiente de los intereses de los grandes laboratorios estadounidenses. Sin embargo, como ocurre con el conjunto de la estrategia europea para construir un mercado tecnológico más integrado, su influencia será limitada mientras dependa de chips, infraestructura cloud y modelos desarrollados principalmente en otros territorios.

Regular una tecnología desde la posición de cliente permite establecer condiciones para su utilización. Participar en las decisiones sobre su ritmo exige capacidad tecnológica, científica e industrial propia. La gobernanza de la frontera difícilmente se decidirá solo en función de quién tenga las mejores normas. También dependerá de quién posea los modelos, la infraestructura y el conocimiento necesarios para seguir avanzando.

El reconocimiento más importante

Conviene mantener cierta distancia frente a las predicciones más extremas de algunos firmantes. Nadie ha demostrado que una inteligencia artificial vaya a iniciar próximamente un proceso incontrolable de automejora. Tampoco sabemos si la automatización de la investigación producirá una aceleración abrupta o un incremento más gradual limitado por la energía, los chips, los datos y la dificultad científica.

El manifiesto debe entenderse como una advertencia sobre una posibilidad, no como la confirmación de un desenlace inevitable.

Aun así, contiene un reconocimiento que merece ser tomado en serio. Algunas de las personas que mejor conocen los sistemas de frontera consideran que la velocidad de su desarrollo puede superar la capacidad de las empresas y los gobiernos para gestionarlos. También admiten que la competencia podría impedirles actuar con prudencia incluso cuando juzgaran necesario hacerlo.

Ese es, para mí, el aspecto más inquietante del documento.

La industria de la inteligencia artificial ha construido una carrera en la que todos necesitan seguir acelerando para evitar quedarse atrás. Ahora, una parte significativa de quienes participan en ella reclama que los gobiernos diseñen una forma de reducir colectivamente la velocidad antes de que sea imprescindible utilizarla.

Todavía no sabemos cómo debería funcionar ese freno, quién tendría autoridad para accionarlo ni cómo se comprobaría que todos lo respetan. Tampoco sabemos si llegaremos a necesitarlo.

Lo que ya sabemos es que quienes están construyendo los sistemas más avanzados consideran prudente tenerlo preparado. Y que, por sí solos, reconocen que probablemente nunca se pondrán de acuerdo para pisarlo.