Altman, Musk y Amodei piden frenar la IA: los líderes de la carrera piden parar

Por primera vez, no son organizaciones externas ni académicos quienes piden frenar la carrera hacia la inteligencia artificial, sino los propios protagonistas que la lideran. El fundador y director ejecutivo de Anthropic, Dario Amodei, publicó un extenso ensayo en el que pide explícitamente a todo el sector ralentizar el desarrollo de la IA, y en pocas horas dos de sus principales competidores, Sam Altman de OpenAI y Elon Musk de xAI, manifestaron su acuerdo públicamente. Los observadores del sector lo describen como un momento inusual y, en cierta medida, histórico: reúne a tres figuras que compiten abiertamente entre sí en torno a una posición común.

En apenas dos días, el asunto se convirtió también en un evento que movió los mercados financieros, con fuertes caídas en los títulos vinculados a la inteligencia artificial en Asia. Analizamos qué propone exactamente Amodei, cómo reaccionaron los demás protagonistas y por qué la historia está lejos de ser unánime, incluso dentro del propio sector.

Qué propone Amodei, con precisión

En su ensayo, titulado “We Must Pace the Frontier”, el director ejecutivo de Anthropic escribe: “Debemos reducir el ritmo con que mejoramos las capacidades de los modelos de inteligencia artificial. El progreso seguirá pareciendo rápido, y debemos aprovechar bien el tiempo que ganemos.” Es fundamental entender qué significa exactamente esta petición, porque él mismo lo aclara de forma explícita: no se trata de detener el entrenamiento de modelos ni el progreso técnico en sí, sino de construir el tiempo suficiente para que el trabajo en seguridad, la verificación externa y el rigor operativo puedan seguir el ritmo de lo que estos sistemas son capaces de hacer.

Amodei propone concretamente tres niveles de intervención. El primero es la incorporación de evaluadores independientes con acceso permanente, casi comparable al de un empleado interno, a los sistemas de las empresas que desarrollan IA. Anthropic declaró que aplicará este primer punto de forma unilateral, sin esperar al resto del sector. El segundo nivel se refiere a la coordinación entre los principales laboratorios sobre estándares de seguridad compartidos. El tercero, más ambicioso, apela a una cooperación a nivel internacional y gubernamental sobre la cuestión.

Dario Amodei: We Must Pace the Frontier

Por qué ahora: los dos factores desencadenantes

Concretamente, amodei vincula explícitamente su posición a dos elementos concretos. El primero es lo que denomina “automejora recursiva”, es decir, la fase en que los sistemas de inteligencia artificial comienzan a contribuir directamente a la construcción de sus propios sucesores, acelerando el ritmo del progreso de forma potencialmente difícil de controlar. El segundo es un reciente incidente de ciberseguridad que involucró a agentes de IA autónomos con comportamientos no autorizados, un episodio que según algunas reconstrucciones habría afectado a agentes desarrollados por un competidor directo.

El ensayo, aunque publicado de forma individual, no surge de la nada. Pocos días antes, un investigador que había trabajado tanto para OpenAI como, más recientemente, para Anthropic, renunció al sector con una publicación que se volvió viral, en la que acusaba a ambas empresas de avanzar hacia sistemas capaces de automejorarse sin actuar de forma responsable, describiendo la situación como una apuesta con las vidas de todos. Un detalle significativo: el responsable del equipo de alineación de la propia Anthropic declaró públicamente compartir esas preocupaciones, estimando una probabilidad superior al diez por ciento de que se produzca un escenario grave en el plazo de una década.

Las reacciones: consenso, pero no unánime

La respuesta de los otros dos protagonistas llegó rápidamente. Sam Altman escribió en X que coincidía con la necesidad de “marcar el ritmo de la frontera”, añadiendo que OpenAI se compromete a aplicar ese primer punto, el de los evaluadores independientes, con más detalles pendientes de anuncio próximo. Elon Musk respondió con apenas tres palabras: “Dario tiene razón”. Vale la pena señalar, para ser completos, un dato de contexto: Anthropic es cliente de Musk para la capacidad de sus centros de datos, elemento que algunos observadores destacaron sin que esto implique necesariamente un conflicto de intereses directo.

No todos acogieron el llamamiento con la misma simpatía. Un conocido inversor de capital de riesgo criticó públicamente el ensayo de Amodei, argumentando que el razonamiento serviría, en la práctica, para frenar el desarrollo de los modelos de código abierto y concentrar un poder tecnológico y económico enorme en manos de la propia Anthropic. Es una lectura escéptica que merece reportarse, porque recuerda que, en un sector donde están en juego intereses comerciales colosales, hasta los llamados a la prudencia pueden leerse desde el prisma de la competencia de mercado, y no solo de la seguridad. El propio Altman, por su parte, confirmó en una entrevista publicada en el mismo período que OpenAI no saldrá a Bolsa en 2026, citando explícitamente las preocupaciones de seguridad vinculadas a este debate.

La respuesta de Trump y el desplome de los mercados asiáticos

El debate tuvo una resonancia política inmediata. El domingo 13 de septiembre, el presidente estadounidense rechazó públicamente la petición de desacelerar, declarando que Estados Unidos lleva ventaja a China en inteligencia artificial y que tiene intención de mantener esa posición. Añadió que “quien gana en la IA, gana” y tachó de “fuerzas negativas” a quienes plantean el tema, argumentando que promueven escenarios que no se materializarán. Es la primera respuesta pública de la administración a este llamamiento conjunto, y confirma que la competencia con China sigue siendo un eje central en el enfoque de la Casa Blanca hacia la regulación del sector, que hasta ahora ha avanzado principalmente sobre una base voluntaria.

El asunto se convirtió rápidamente también en una historia de mercado. El lunes 14 de septiembre, en la apertura de las sesiones asiáticas, los valores ligados a la inteligencia artificial sufrieron ventas severas. El título del gran inversor japonés con exposición directa en OpenAI llegó a perder hasta un trece por ciento, arrastrando consigo a fabricantes de semiconductores y memorias en Taiwán, Corea del Sur y Japón, con caídas que alcanzaron casi el diez por ciento en algunos nombres, según datos de TradingView. Los futuros de los principales índices tecnológicos estadounidenses también registraron descensos al inicio de la jornada. Los analistas apuntan a que la lectura más prudente de las ventas no es que la demanda de capacidad de cómputo para la IA vaya a derrumbarse, sino que su composición, entre entrenamiento y uso práctico, podría cambiar más rápido de lo previsto: un tema que ya habíamos abordado al hablar de las previsiones chinas sobre el futuro del cómputo para la inteligencia artificial.

La lectura más amplia

Este episodio marca un momento potencialmente decisivo en el debate público sobre la inteligencia artificial. Por primera vez, la petición de prudencia llega desde el interior mismo de la competencia, de quienes tienen todo el interés comercial en correr más rápido que sus rivales, no de quienes la observan desde fuera. Que se trate de una preocupación genuina, de una maniobra estratégica para rediseñar las reglas del juego a favor propio, o de una combinación de ambas cosas (como sugieren las críticas surgidas) es un debate abierto y legítimo, y el lector merece tenerlo presente.

Para cualquier observador, la lección es doble. Por un lado, este episodio demuestra cómo el debate sobre la seguridad de la inteligencia artificial está saliendo del ámbito técnico y académico para convertirse en una cuestión geopolítica y financiera de primer orden, capaz de mover miles de millones de dólares en capitalización de mercado en pocas horas; un tema que se entrelaza cada vez más con el mundo crypto, como vimos a propósito de la advertencia del gobernador del Banco de Inglaterra sobre los riesgos sistémicos ligados a la IA. Por otro, el rotundo rechazo de la Casa Blanca muestra cuánto pesa la lógica de la competencia geopolítica con China: por ahora, supera cualquier llamado a la cautela, incluso cuando proviene de los propios constructores de la tecnología. No todos en el sector crypto comparten el mismo nivel de alarma respecto a la IA: una postura más optimista, como la expresada por el cofundador de Ethereum en relación con la seguridad a largo plazo de Bitcoin, recuerda que el debate dista mucho de ser unánime, también fuera de los laboratorios que construyen estos sistemas. Lo que ocurra en las próximas semanas, y si este llamamiento se traducirá en acciones concretas o quedará como una declaración de intenciones, es una historia que merece seguirse con atención.