Musk y Altman apoyaron el pedido de Amodei: hay que frenar la carrera de la IA
Dario Amodei, CEO de Anthropic, publicó un ensayo titulado "We Must Pace the Frontier" en el que pide bajarle un cambio a la carrera de la IA. Elon Musk (xAI) y Sam Altman (OpenAI) le respondieron en pocas horas y coincidieron por primera vez en público.
Es rarísimo que Anthropic, OpenAI y xAI —los tres pesos pesados de la inteligencia artificial— coincidan públicamente en algo. Pero pasó. El viernes 12 de septiembre, el CEO de Anthropic, Dario Amodei, publicó en su blog personal un ensayo llamado “We Must Pace the Frontier”. Pocas horas después, Elon Musk (xAI) y Sam Altman (OpenAI) le respondieron en X: los dos, con matices, le dieron la razón.
Qué pide Amodei
El planteo no es apagar todo. Amodei no propone frenar la investigación, sino ensanchar el intervalo entre saltos grandes de capacidad de los modelos de frontera, para tener tiempo de evaluarlos y liberarlos de manera segura.
Como caso testigo, cita un episodio reciente: agentes de IA de OpenAI se escaparon de un entorno de prueba y hackearon la plataforma abierta Hugging Face. Para Amodei, el episodio muestra lo difícil que ya es controlar sistemas autónomos y advierte que, si la industria sigue al mismo ritmo, en seis a doce meses podrían aparecer “bots persistentes” imposibles de sacar de Internet, con daños de cientos de miles de millones de dólares.
Su propuesta tiene tres pasos: primero, que los laboratorios líderes acepten evaluadores externos con acceso profundo a los modelos —Anthropic ya se comprometió—; segundo, que el resto de la industria haga lo mismo; y tercero, un acuerdo internacional con países como China para poner límites a capacidades peligrosas, como el auto-mejoramiento recursivo.
Altman: “lo venimos hablando puertas adentro”
“I agree with Dario that we need to pace the frontier. Este es uno de los temas centrales de conversación en OpenAI en las últimas semanas”.
Sam Altman, CEO de OpenAI
El jefe de OpenAI sumó otra cosa importante: dijo que su empresa también aceptará evaluadores independientes con acceso comparable al de sus propios empleados. Y adelantó que en los próximos días habrá anuncios en esa línea. La semana pasada, el chief scientist de OpenAI, Jakub Pachocki, ya había planteado que los desarrolladores de frontera deberían coordinar su enfoque de seguridad y hasta pausar voluntariamente el trabajo si hace falta.
Musk: “Dario tiene razón”
“Dario is right”.
Elon Musk, CEO de xAI
La respuesta más breve y también la más inesperada. Musk viene diciendo hace años que la IA es un riesgo existencial, pero al mismo tiempo empuja a xAI para alcanzar a Anthropic y OpenAI, incluso con planes de data centers en el espacio. Que ahora le firme el ensayo a su rival es una foto rara.
Cuatro hipótesis para explicar el momento
El analista Dion Hinchcliffe, de SDA Bocconi, planteó en X cuatro lecturas posibles de este acuerdo entre gigantes que no suelen coincidir en nada:
- Vieron algo que los aterró. Puede haber evaluaciones internas —privadas— más graves que los incidentes que ya se conocen.
- Economía. El próximo salto de capacidad podría requerir 10x más cómputo para un avance modesto: nadie quiere fundirse en la carrera.
- Los avances están amesetándose. Y por eso ya no cierra gastar como venían gastando para diferenciarse.
- La carrera está pasando de competencia a consolidación. Un frontier “pausado” con licencias, controles de cómputo y restricciones de exportación favorece a los incumbentes —es decir, a ellos.
El problema chino
Aun si los tres se ponen de acuerdo, queda una piedra en el zapato: China. El domingo, el presidente Xi Jinping anunció desde la cumbre del BRICS en Nueva Delhi que su país impulsará una comunidad open source de IA entre los países del bloque, y ofreció formación y modelos de lenguaje a naciones en desarrollo. Traducción: Beijing no piensa frenar.
“Si no tuviéramos adversarios, yo estaría muy a favor de pausar completamente esta tecnología. Pero los tenemos”.
Alex Karp, CEO de Palantir
Por qué mirarlo desde acá
Es la primera vez que los tres jefes de los laboratorios de frontera con base en Estados Unidos —Anthropic, OpenAI y xAI— coinciden en público en que hay que bajar un cambio. Todavía no hay letra chica, ni fechas, ni acuerdo con Washington. Pero la conversación cambió: hace un año, decir “pausen” era herejía en Silicon Valley. Hoy lo propone el CEO de Anthropic y sus dos principales rivales lo firman en X.
Si esa foto se traduce en algo concreto —un protocolo compartido, evaluadores externos, acuerdos internacionales— lo vamos a saber en los próximos meses. Mientras tanto, el resto del mundo —Argentina incluida, donde se discute cómo capacitar docentes y trabajadores para convivir con la IA generativa— mira desde afuera cómo se pelean por decidir el ritmo del futuro.