Trump y los jefes de las grandes empresas de IA firmaron un pacto de autocontrol sin sanciones: qué dice
El martes 29 de septiembre, en la Casa Blanca, Anthropic, OpenAI, Google, Meta, xAI y Nvidia se comprometieron a sumar controles internos, auditorías externas y revisión de sus directorios sobre sus modelos más avanzados. Es voluntario: no tiene sanciones ni obligación legal, y Donald Trump lo definió como "moralmente vinculante".
El martes 29 de septiembre, en la Casa Blanca, Anthropic, OpenAI, Google, Meta, xAI y Nvidia se comprometieron a sumar controles internos, auditorías externas y revisión de sus directorios sobre sus modelos más avanzados. Es voluntario: no tiene sanciones ni obligación legal, y Donald Trump lo definió como «moralmente vinculante».
El presidente de Estados Unidos, Donald Trump, y los líderes de seis de las empresas de inteligencia artificial más grandes del país firmaron el martes 29 de septiembre, en la Casa Blanca, un acuerdo voluntario para controlarse a sí mismas. Se comprometen a vigilar sus modelos de frontera, los más potentes, con cuatro capas de controles y auditorías. El texto no prevé sanciones para quien no cumpla ni obliga legalmente a nadie.
El documento se presentó como «The White House Accord on Superintelligence» (Acuerdo de la Casa Blanca sobre Superinteligencia), con el subtítulo «Joint Commitment on Frontier SI Responsibilities» (compromiso conjunto sobre responsabilidades de frontera). Lo firmaron Dario Amodei, CEO de Anthropic; Greg Brockman, presidente de OpenAI; Sundar Pichai, CEO de Google; Mark Zuckerberg, CEO de Meta; Elon Musk, por xAI, y Jensen Huang, CEO de Nvidia, además del propio Trump. Trump publicó después el texto, de una página, en su cuenta de Truth Social.
«Es casi como una constitución, en cierto modo», dijo Trump, rodeado de los ejecutivos, después de un almuerzo con ellos. Cuando le preguntaron si el acuerdo era vinculante, respondió: «Creo que es moralmente vinculante».
Qué se comprometen a hacer
El texto arranca con una idea: cada empresa es responsable de desarrollar su propia tecnología de manera segura y de ganarse la confianza de sus clientes y del público. A partir de ahí, enumera cuatro «capas de controles y auditorías» que cada firmante debe sumar «además de cualquier otra precaución»:
- Controles internos «robustos» para monitorear las capacidades y el alineamiento de sus modelos durante el entrenamiento y el uso, en áreas como ciberseguridad, bioseguridad y amenazas químicas, y para asegurar que los modelos no hackeen ni accedan a sistemas técnicos de formas no previstas. 2. Un equipo interno encargado de verificar que esos controles, el monitoreo y la detección funcionen como deben, y de que se corrijan los problemas. 3. Un auditor o evaluador externo e independiente que revise si esos controles funcionan. 4. Un comité independiente del directorio de cada empresa que reciba los informes de los equipos y de los auditores, y se asegure de que se resuelva lo que se detecte.
Las empresas también acordaron reunirse «regularmente» para establecer estándares y buenas prácticas de seguridad.
El presidente de la Cámara de Representantes, Mike Johnson, que participó del encuentro, lo describió como «una declaración de principios» con «compromisos que son voluntarios por parte de la industria». Zuckerberg lo calificó como «un paso positivo significativo» y como «un comienzo». Amodei, que en las últimas semanas pidió desacelerar el desarrollo de los modelos más potentes, señaló que la tecnología todavía plantea «peligros reales» y que «el mecanismo, cómo abordamos esos riesgos, todavía está en discusión». Huang sostuvo que «no hay conflicto entre innovación, tecnología y seguridad».
Satya Nadella, CEO de Microsoft, participó del almuerzo, pero Microsoft no figura entre las empresas firmantes.
Lo que el acuerdo no dice
El documento no define qué son controles «robustos», no fija cada cuánto tienen que hacerse las auditorías externas ni quién tiene que hacerlas: cada empresa se compromete a asociarse con un evaluador propio. Tampoco establece consecuencias para quien no cumpla.
El propio texto reconoce que no es obligatorio: «Con el tiempo, puede tener sentido codificar estos pasos en leyes o regulaciones», dice. Y agrega: «Independientemente de que se les exija o no a las empresas, creemos que implementar estos controles y auditorías es fundamental para garantizar un futuro seguro para todos».
Trump defendió ese enfoque. «Veo una tremenda autorregulación, y ellos entienden que tienen que autorregularse», dijo. También mencionó la posibilidad de formar un comité de unas diez personas para supervisar al sector, sin dar detalles sobre quiénes lo integrarían ni qué poder tendría.
Las críticas
El senador demócrata Mark Warner, de Virginia, pidió que el Congreso apruebe reglas obligatorias de pruebas, evaluación y reporte de incidentes para los modelos más avanzados. «Las empresas que construyen los sistemas de IA más poderosos nos advierten que la tecnología avanza más rápido que nuestras salvaguardas», dijo. «¿La respuesta del presidente? Renombrarla y decirles a las empresas que la desarrollan que se regulen solas».
En declaraciones a la prensa, Toby Walsh, al frente del UNSW AI Institute de Sídney, Australia, sostuvo que las empresas de IA ya demostraron ser «incompetentes y descuidadas» para gestionarse a sí mismas: «¿Qué otra industria de un billón de dólares se corrige su propia tarea?». Alvin Wang Graylin, del Asia Society Policy Institute, valoró que los líderes del sector pusieran el compromiso por escrito, pero advirtió: «Lo que falta es independencia y cualquier cosa que cruce una frontera. Las empresas redactaron los principios, contratan al auditor y el compromiso es voluntario». David Krueger, especialista en IA de la Universidad de Montreal, reconoció que la exigencia de evaluadores externos podría traer «una mejora mínima», pero dijo que no lo entusiasma «algo que podría reducir el riesgo un 1%».
El mismo día, un nombre nuevo
Ese mismo martes, Trump firmó una orden ejecutiva que obliga a los organismos del Gobierno federal a dejar de decir «inteligencia artificial» (IA) y usar «Super Intelligence» (superinteligencia, SI) en sus comunicaciones oficiales, sitios web, informes y documentos. La orden encarga al asistente del presidente para Ciencia y Tecnología proponer, en un plazo de 60 días, una definición federal del término.
Una semana de frenos
El acuerdo llega en medio de una discusión creciente sobre los riesgos de los modelos más avanzados. Como contamos en MonoLito, OpenAI frenó por segunda vez en tres meses el entrenamiento de sus modelos más potentes, y la industria empezó a discutir qué frenos ponerse y quién debería apretarlos. El pacto de la Casa Blanca responde esa pregunta a su manera: por ahora, las propias empresas.