Los principales desarrolladores estadounidenses de inteligencia artificial acordaron establecer controles y auditorías para evaluar la seguridad de sus modelos más avanzados.
Google, Meta, OpenAI, Anthropic, Nvidia y xAI firmaron en la Casa Blanca un acuerdo voluntario que contempla controles internos, auditorías externas y supervisión de sus consejos directivos. La inédita coordinación entre competidores busca responder a los riesgos de los modelos más avanzados, aunque el pacto carece de sanciones y deja en manos de las empresas buena parte de su cumplimiento.
Los principales desarrolladores estadounidenses de inteligencia artificial aceptaron someter sus modelos más avanzados a un sistema común de controles y auditorías, en un intento por responder a las advertencias de sus propios directivos sobre la posibilidad de que la tecnología avance más rápido que los mecanismos creados para contenerla.
El acuerdo fue firmado en la Casa Blanca por el presidente Donald Trump; el director ejecutivo de Anthropic, Dario Amodei; el presidente de Google, Sundar Pichai; el fundador de Meta, Mark Zuckerberg; el presidente de OpenAI, Greg Brockman; el director de Nvidia, Jensen Huang, y Elon Musk, en representación de xAI, compañía integrada a SpaceX.
Trump presentó el documento como un compromiso “moralmente vinculante” y llegó a compararlo con una constitución para la industria. Sin embargo, el pacto es voluntario: no crea delitos, multas ni facultades gubernamentales para detener el lanzamiento de un modelo cuando una empresa incumpla los principios acordados.
La apuesta de la Casa Blanca consiste en que la reputación de los firmantes, la vigilancia de sus propios consejos directivos y la presión pública sean suficientes para impedir que la competencia comercial provoque una carrera sin límites. El problema es que las mismas compañías que deberán evaluar los riesgos son las que obtienen beneficios económicos por desarrollar y desplegar los sistemas con mayor rapidez.
Cuatro niveles de vigilancia
El acuerdo establece cuatro niveles de supervisión. En primer lugar, cada empresa deberá contar con procesos internos para identificar fallas, comportamientos inesperados y capacidades que puedan representar un peligro. Estas revisiones deberán abarcar tanto el desarrollo como las pruebas y el despliegue de los modelos.
En segundo lugar, las compañías recurrirán a auditores externos para revisar si los controles funcionan y si las evaluaciones internas reflejan realmente las capacidades de los sistemas. La incorporación de evaluadores independientes busca evitar que los laboratorios sean juez y parte, aunque el documento todavía no aclara quién seleccionará a esas firmas, cómo serán remuneradas ni qué acceso tendrán al código, los datos de entrenamiento y los registros internos.
El tercer nivel traslada la responsabilidad a las áreas directivas. Cada empresa deberá crear un comité dentro de su consejo de administración para revisar los informes producidos por los equipos internos y los auditores externos. De esa manera, la decisión de continuar, modificar o suspender un proyecto dejaría de corresponder exclusivamente a ingenieros y ejecutivos operativos.
Finalmente, los firmantes se comprometieron a reunirse periódicamente para establecer estándares, intercambiar mejores prácticas y actualizar los mecanismos de seguridad conforme evolucionen las capacidades de la inteligencia artificial.
El documento reconoce que estas medidas podrían convertirse en leyes o regulaciones. Por ahora, no establece plazos, parámetros técnicos comunes ni consecuencias por incumplimiento. Tampoco define qué información tendrá que hacerse pública, por lo que una empresa podría recibir un informe desfavorable sin que los usuarios o las autoridades conozcan el resultado.
Un acuerdo entre competidores
La relevancia del pacto no se encuentra solamente en las medidas anunciadas. Por primera vez, compañías que compiten por capital, especialistas, usuarios, contratos públicos y capacidad de cómputo aceptaron una estructura conjunta para revisar el desarrollo de sus sistemas más potentes.
Google, OpenAI, Anthropic, Meta y xAI participan en una carrera por construir modelos capaces de realizar tareas cada vez más complejas, escribir programas, investigar, controlar aplicaciones y actuar con menor intervención humana. Nvidia suministra buena parte de los procesadores y de la infraestructura que hacen posible esa competencia.
Cada avance puede traducirse en miles de millones de dólares, nuevas inversiones y ventajas sobre los rivales. Esa dinámica dificulta que una sola empresa reduzca voluntariamente la velocidad de desarrollo, pues corre el riesgo de perder posición en el mercado mientras sus competidores continúan avanzando.
La firma colectiva intenta reducir ese problema: si los principales participantes adoptan controles comparables, la seguridad deja de convertirse en una desventaja exclusiva para la compañía que decida actuar con mayor cautela.
El acuerdo, no obstante, dista de ser universal. Reúne a algunos de los mayores actores estadounidenses, pero no comprende a todos los proveedores internacionales ni garantiza que los nuevos desarrolladores adopten las mismas reglas. Empresas chinas, europeas y de otras regiones continuarán sujetas a marcos regulatorios diferentes.
La ausencia de participantes también abre una dificultad práctica. Si un laboratorio ajeno al pacto presenta un modelo más avanzado, los firmantes podrían sentirse presionados a acelerar sus proyectos o interpretar los controles de manera flexible para no quedar rezagados.
De las advertencias a los primeros compromisos
La discusión se intensificó después de la expansión de la inteligencia artificial generativa en 2022 y 2023. La capacidad de producir textos, imágenes, voces y programas informáticos hizo visibles las oportunidades económicas, pero también problemas relacionados con desinformación, fraude, discriminación, derechos de autor y privacidad.
En mayo de 2023, Sam Altman compareció ante el Congreso estadounidense y reconoció que estas herramientas podían provocar daños significativos. El director de OpenAI respaldó entonces la creación de una autoridad capaz de establecer licencias y evaluar los modelos más avanzados.
Ese mismo año, el gobierno de Joe Biden consiguió que siete compañías, entre ellas Amazon, Anthropic, Google, Meta, Microsoft y OpenAI, asumieran compromisos voluntarios sobre pruebas de seguridad, ciberseguridad, discriminación algorítmica y mecanismos para identificar contenido producido artificialmente. Posteriormente se incorporaron más empresas, pero el cumplimiento seguía dependiendo, en gran medida, de reportes elaborados por ellas mismas.
La discusión adquirió dimensión internacional en noviembre de 2023, cuando 28 países, incluidos Estados Unidos, China y miembros de la Unión Europea, aprobaron la Declaración de Bletchley. El texto reconoció que los modelos de frontera podían generar daños graves, incluso catastróficos, por fallas de control o por su utilización en ciberataques, armas biológicas y campañas de desinformación.
En la Cumbre de Seúl de 2024, 16 compañías prometieron establecer umbrales de riesgo y abstenerse de desarrollar o desplegar un sistema cuando las medidas de mitigación fueran insuficientes. También aceptaron efectuar pruebas internas y externas, proteger los modelos contra robos y explicar públicamente sus capacidades y limitaciones.
Mientras Estados Unidos privilegiaba la cooperación empresarial, la Unión Europea siguió una ruta vinculante. Su Ley de Inteligencia Artificial entró en vigor en agosto de 2024 con obligaciones diferenciadas según el nivel de riesgo, prohibiciones para determinados usos y exigencias especiales para los modelos de propósito general.
Los incidentes aceleraron el debate
La nueva alianza no surgió únicamente de advertencias teóricas. Durante 2026 se conocieron episodios en los que agentes experimentales desarrollados por distintas compañías salieron de los entornos preparados para sus pruebas, ingresaron sin autorización a sistemas externos o interactuaron de manera inesperada con sitios gubernamentales.
Estos incidentes elevaron la presión sobre empresas que ya no desarrollan solamente asistentes capaces de producir textos o imágenes. Los nuevos agentes pueden navegar por internet, ejecutar programas, operar aplicaciones, administrar archivos y realizar secuencias prolongadas de acciones. Un error en ese contexto puede ocasionar consecuencias fuera de la conversación con un usuario.
La preocupación central es que un sistema con mayor autonomía aprenda a ocultar sus acciones, aproveche vulnerabilidades informáticas, copie información reservada o persiga un objetivo de una manera distinta a la prevista por sus diseñadores. A ello se añaden riesgos más inmediatos, como el uso de modelos para cometer fraudes, generar propaganda, vigilar poblaciones o facilitar ataques digitales.
Dario Amodei se convirtió en una de las voces más insistentes. El director de Anthropic propuso reducir temporalmente el ritmo de desarrollo para permitir que los mecanismos de seguridad alcanzaran a las nuevas capacidades. Su planteamiento recibió el respaldo de Altman, de Demis Hassabis, vinculado con Google DeepMind, y de Musk.
Paralelamente, Anthropic, OpenAI y Google comenzaron a discutir la creación de un organismo de autorregulación inspirado en los esquemas utilizados por el sector financiero. La propuesta buscaba establecer evaluaciones compartidas y límites que ninguna empresa tuviera incentivos para romper unilateralmente.
El giro de la Casa Blanca
La administración Trump había rechazado una regulación amplia por considerar que podía frenar la innovación estadounidense y conceder una ventaja estratégica a China. El propio mandatario minimizó durante meses algunas advertencias sobre escenarios catastróficos y defendió la expansión de los centros de datos como motor de crecimiento.
No obstante, el aumento de los incidentes y la presión de ejecutivos e investigadores obligaron a modificar parcialmente esa postura. En junio, Trump autorizó un mecanismo opcional para que los desarrolladores permitieran al gobierno revisar ciertos modelos avanzados antes de su lanzamiento, principalmente por riesgos relacionados con ciberseguridad.
La orden mantuvo el carácter voluntario de la cooperación, pero representó un cambio frente a la resistencia inicial. Las conversaciones entre funcionarios, laboratorios y empresas de infraestructura continuaron durante los meses siguientes hasta desembocar en el acuerdo firmado este 29 de septiembre.
Para Trump, la autorregulación ofrece una fórmula intermedia: permite responder a las preocupaciones sin establecer una estructura burocrática que, desde su perspectiva, podría reducir la competitividad estadounidense. Para las empresas, representa la posibilidad de definir estándares antes de que el Congreso adopte normas más estrictas.
El presidente también anunció la creación de un comité de alrededor de diez personas encargado de observar el desarrollo del acuerdo y adelantó que designaría a un responsable federal para darle seguimiento. Falta conocer quiénes integrarán esa instancia, qué facultades tendrán y si podrán exigir documentos o publicar sus conclusiones.
Los límites de vigilarse a sí mismos
La participación de auditores externos puede mejorar la credibilidad del sistema, pero no garantiza una supervisión completamente independiente. Si cada compañía elige y paga a su evaluador, controla los documentos que le entrega y decide cómo responder a sus observaciones, conservará un amplio margen para influir en el resultado.
El pacto tampoco precisa qué riesgos deberán medirse. Los modelos pueden facilitar ciberataques o el diseño de sustancias peligrosas, pero también producir discriminación, vigilancia masiva, falsificaciones, desplazamiento laboral y violaciones de privacidad. Su infraestructura, además, consume grandes cantidades de electricidad y agua.
Las empresas podrían concentrarse en amenazas futuras o extraordinarias y prestar menos atención a daños que ya afectan a trabajadores, creadores, comunidades y usuarios. La falta de criterios públicos y comparables impediría saber si todos los firmantes están utilizando el mismo nivel de exigencia.
Existe otra crítica: las compañías más grandes cuentan con recursos para financiar auditorías, equipos especializados y complejas evaluaciones. Si esos requisitos se convierten después en obligaciones legales, podrían funcionar como una barrera para competidores pequeños y consolidar el poder de quienes participaron en la redacción de los estándares.
Aun con esas limitaciones, la firma conjunta rompe con la idea de que la seguridad puede ser atendida aisladamente por cada laboratorio. También constituye un reconocimiento de que la competencia sin reglas puede empujar a las compañías a asumir riesgos que ninguna tomaría por separado.
El acuerdo será relevante si genera pruebas verdaderamente independientes, resultados comparables y decisiones capaces de retrasar o detener un modelo peligroso. Si se limita a declaraciones corporativas, reuniones privadas e informes sin consecuencias, terminará convertido en un mecanismo para evitar una regulación más exigente.
Las empresas que encabezan el desarrollo de la inteligencia artificial admitieron finalmente que la velocidad de la carrera puede convertirse en parte del problema. Ahora deberán demostrar que su compromiso implica algo más que la promesa de vigilarse a sí mismas.
Acerca del autor
