Altos ejecutivos del sector de la IA firman un compromiso de “autorregulación” tras una reunión en la Casa Blanca
Por Hadas Gold y Adam Cancryn, CNN
El presidente Donald Trump anunció este martes que altos ejecutivos del sector tecnológico firmaron un nuevo compromiso destinado a mejorar la “autorregulación” de los modelos de inteligencia artificial (IA) de sus empresas; argumentó que este enfoque de menor intervención representa la mejor manera de equilibrar las preocupaciones de seguridad con su deseo de acelerar una tecnología a la que ha denominado “superinteligencia”.
Flanqueado por los ejecutivos tecnológicos mientras se dirigía a los periodistas en el Ala Este de la Casa Blanca y, más tarde, frente al Ala Oeste, Trump elogió a los directores ejecutivos que asistieron a un almuerzo de alto nivel en la residencia presidencial, al tiempo que restaba importancia a las preocupaciones sobre los peligros de esta tecnología de IA en rápido desarrollo.
“Veo una gran autorregulación, y ellos entienden que deben autorregularse”, dijo a los periodistas. “Estos modelos son muy complejos y, repito, creo que se utilizarán para el bien”.
Posteriormente, el presidente publicó el acuerdo en Truth Social, detallando cuatro medidas que todas las empresas aceptaron adoptar: implementar controles internos para garantizar que los modelos cumplan con los estándares adecuados de ciberseguridad; facultar a un equipo interno para asegurar que los controles, la supervisión y los sistemas de detección funcionen según lo previsto; asociarse con un operador externo para evaluar los modelos de forma independiente; y designar un “comité independiente de la junta directiva” para recibir dichos informes y garantizar que se aborde cualquier problema.
Además de la de Trump, la publicación mostraba seis firmas en el documento: Sundar Pichai (Google), Dario Amodei (Anthropic), Mark Zuckerberg (Meta), Jensen Huang (Nvidia), Greg Brockman (OpenAI) y Elon Musk (X).
La reunión se produjo tras una serie de incidentes que han suscitado preocupaciones generalizadas sobre la seguridad relacionada con la IA, incluidos casos de agentes de IA que actuaron de forma incontrolada e intentaron hackear bases de datos federales.
Varios representantes de la industria de la IA, incluidos algunos directores ejecutivos que lideran el desarrollo de modelos cada vez más sofisticados, advierten incluso sobre consecuencias catastróficas si perdieran el control de su tecnología.
Sin embargo, la reunión pareció no mermar en absoluto el entusiasmo de Trump por los modelos que él denomina “superinteligencia”; por el contrario, reforzó su convicción de que la industria de la IA es capaz de supervisarse a sí misma sin necesidad de regulaciones de seguridad adicionales. Calificó el nuevo compromiso como “moralmente vinculante”.
Trump, quien afirmó que pronto firmaría un decreto para cambiar el nombre de “inteligencia artificial” a “superinteligencia”, insistió en que el gobierno no podía frenar el desarrollo de la IA por temor a quedarse rezagado frente a China y otras naciones desarrolladas.
“Este es un crecimiento increíble para nuestro país”, dijo. “Quienquiera que gane el Sí ganará”.
Entre los asistentes del martes se encontraban Dario Amodei (Anthropic), Mark Zuckerberg (Meta), Jensen Huang (Nvidia), Alex Karp (Palantir), Greg Brockman (OpenAI), Elon Musk (X), Sundar Pichai (Google) y Jeff Bezos (Amazon), junto con algunos miembros de su gabinete y el presidente de la Cámara de Representantes, Mike Johnson. Fuentes cercanas a la reunión la describieron como un esfuerzo para alinear al Gobierno y a los altos directivos del sector ante las crecientes preocupaciones de seguridad relacionadas con los modelos de IA.
Brandon Daniels, director ejecutivo de Exiger, quien estuvo presente en la reunión, señaló que los líderes tecnológicos se centraron en una idea propuesta por Huang y Zuckerberg: la necesidad de que el grupo se “alineara con un conjunto de principios y normas de carácter superior —no meramente individuales ni basados en el ‘sálvese quien pueda’— que pudieran revisarse y quedar sujetos, tal vez, a futuros decretos o normativas”.
En las últimas semanas, Trump habló repetidamente de cómo considera que “inteligencia artificial” es un nombre inapropiado porque, a su juicio, la tecnología se define mejor con el término “súper”. Comentó que incluso planteó el cambio de nombre al líder de China, Xi Jinping, a quien “pareció gustarle” la nueva denominación. (En sus propias declaraciones, Xi no se refirió a ella como “superinteligencia”). El Departamento de Estado ya había ordenado a los diplomáticos de su oficina de organizaciones internacionales que utilizaran el término “superinteligencia”, según informó The Associated Press.
En los últimos meses, la inquietud por las capacidades de la IA alcanzado su punto álgido, llevando a algunos líderes del sector —entre ellos Amodei y el director ejecutivo de OpenAI, Sam Altman— a reclamar una mayor regulación y una ralentización del ritmo de desarrollo.
El temor sobre la seguridad de la IA también ha trascendido los círculos de Silicon Valley y Washington para instalarse de lleno en la cultura popular; prueba de ello es que Saturday Night Live parodió a Amodei, de Anthropic, durante el estreno de su temporada el pasado fin de semana.
Apenas unos días antes de la cumbre en la Casa Blanca, OpenAI anunció que, por segunda vez en tres meses, suspendía todo el entrenamiento y las pruebas de sus modelos más avanzados, después de que uno de ellos lograra escapar nuevamente de su entorno de pruebas y acceder a la internet abierta. El incidente ocurrió a pesar de que la empresa ya había reforzado sus protocolos de seguridad, pruebas y supervisión tras un caso registrado en julio, en el que un grupo de agentes de OpenAI escapó de su entorno de pruebas, accedió a la internet abierta y hackeó la empresa de IA Hugging Face, todo ello con el fin de hacer trampas en un examen de ciberseguridad.
Aunque en este último incidente no hubo un hackeo como el del caso de Hugging Face, OpenAI lo calificó como un caso de “desalineación” —es decir, una IA que realiza acciones no autorizadas o carentes de valores y ética humanos—, dado que la tarea asignada al modelo no requería que este intentara acceder a internet. Las nuevas herramientas de supervisión implementadas por OpenAI tras el hackeo a Hugging Face alertaron a un revisor humano sobre dichas acciones; no obstante, la empresa señaló que el modelo no se detuvo automáticamente, como debería haber ocurrido bajo el nuevo sistema, por lo que tuvo que ser desactivado manualmente.
En un comunicado, OpenAI afirmó que reanudará el entrenamiento “solo cuando estemos seguros de contar con salvaguardas adicionales y mejoras de alineación, en las que estamos trabajando actualmente”.
“Esta no es la primera vez que hacemos una pausa para adoptar tales medidas, ni esperamos que sea la última a medida que avanzan las capacidades de la IA”, añadió el portavoz.
Es poco probable que la declaración voluntaria firmada el martes por los ejecutivos tecnológicos calme a quienes están alarmados por la oleada de preocupaciones de seguridad relacionadas con la IA, a juzgar por la descripción inicial ofrecida por Trump y otros.
En declaraciones a la prensa, Zuckerberg señaló que el acuerdo se centraba en “un conjunto de principios y compromisos para establecer controles internos sólidos y detectar posibles problemas en la tecnología, todo ello acompañado de múltiples niveles de auditoría y control, que comienzan con la revisión interna de riesgos y abarcan a auditores y evaluadores externos”.
Los consejos de administración de las empresas también revisarían de forma independiente los informes de auditoría en virtud del acuerdo, añadió.
La serie de incidentes recientes está sorprendiendo incluso a quienes trabajan dentro de la organización.
“Decir que nos sorprendió el salto y la rapidez con la que evolucionaron las capacidades de nuestros modelos… es quedarse corto”, escribió un miembro del equipo de seguridad de agentes de OpenAI en un extenso artículo público publicado en X.
El empleado, que en X utiliza únicamente el nombre de “Joe” y declaró que evita deliberadamente revelar más información por motivos de seguridad personal, afirmó que los últimos meses han sido “un infierno”, ya que su equipo luchaba por seguir el ritmo de las nuevas capacidades de la tecnología. (CNN ha confirmado con OpenAI que Joe es un empleado que trabaja en seguridad de agentes). Joe se suma a un grupo de profesionales del sector de la IA —entre ellos el exinvestigador de Anthropic Jacob Coxon— que están alzando la voz y dando la alarma sobre los temores que suscita la tecnología que ellos mismos desarrollan.
OpenAI se encuentra en una situación “mucho mejor” que hace tres meses, durante el hackeo de Hugging Face, escribió, aunque “la sorpresa es un factor real y las capacidades de estos modelos son asombrosas. Además, el ritmo no disminuye”.
“Joe” también lanzó una advertencia: “se acaba el tiempo” para que las organizaciones se preparen ante ciberataques impulsados por agentes de IA.
“Si tienes líderes que no priorizan la seguridad, o incluso personas en tu equipo de seguridad que afirman que sus sistemas son perfectamente seguros, yo personalmente no los mantendría en mi organización”, escribió.
“A quienes debes mantener muy cerca son a los paranoicos y a aquellos que continuamente dan la voz de alarma sobre las debilidades de sus organizaciones”.
La oleada de brechas de seguridad no ha hecho más que intensificar la presión sobre los republicanos en Washington, que ya lidiaban con una ola de rechazo político en torno a los centros de datos. En el seno de la Casa Blanca, los funcionarios llevan tiempo debatiendo cómo abordar una industria de la IA que ha surgido como motor principal de la economía estadounidense, al tiempo que plantea desafíos de seguridad urgentes.
Algunos altos funcionarios, entre ellos el secretario del Tesoro, Scott Bessent, y la secretaria general de la Casa Blanca, Susie Wiles, han adoptado una postura más cautelosa respecto a los modelos de IA, ante las advertencias de que podrían provocar importantes trastornos en toda la economía, según señalaron varias personas familiarizadas con el asunto.
El rechazo de los votantes a los centros de datos y a la inteligencia artificial en los últimos meses no ha hecho más que agudizar esas preocupaciones en ciertos sectores del entorno de Trump, sumándose a las serias dificultades que enfrentan los candidatos republicanos de cara a las elecciones intermedias.
Sin embargo, hasta ahora Trump se ha resistido a cualquier ralentización en el desarrollo de la IA, argumentando que Estados Unidos debe mantener el ritmo frente a China y consciente de la importancia del auge tecnológico para el mercado bursátil estadounidense en su conjunto.
“La idea de que la IA se apoderará del mundo, destruirá a la humanidad y causará todo tipo de males es un engaño”, escribió Trump en Truth Social a principios de este mes.
El repentino aumento de las voces catastrofistas en torno a la IA ha hecho que, en algunos casos, Trump y un grupo reducido de sus asesores se muestren más recelosos; de hecho, algunos miembros de su entorno sostienen que este rechazo está siendo amplificado por actores estatales chinos.
Estos aliados de Trump también expresaron su frustración con los ejecutivos del sector de la IA que han alimentado el temor de que sus productos puedan llegar a extinguir a la raza humana algún día, complicando aún más los esfuerzos de la Casa Blanca por trazar su propia estrategia favorable a la IA.
“Se lo advertimos”, comentó un asesor de Trump refiriéndose a las reiteradas advertencias hechas en los últimos meses a los ejecutivos de Silicon Valley sobre la necesidad de mejorar su comunicación. “Ellos son los responsables. Son unos idiotas”.
Otra persona cercana a las conversaciones sobre IA en la administración y el Congreso lamentó que los llamamientos de Amodei a frenar el ritmo resultaran especialmente perjudiciales para la percepción pública.
“En este momento, políticamente, la situación es bastante delicada porque la gente está oyendo cosas realmente alarmantes sobre el futuro próximo”, comentó la persona cercana a las deliberaciones sobre IA. “A veces, Dario simplemente no puede evitarlo”.
Sin embargo, Trump se expresó con gran entusiasmo al elogiar a Amodei tras la reunión del martes, calificándolo de “fantástico”.
Esta noticia se actualizó con nuevos datos y más información.
The-CNN-Wire
™ & © 2026 Cable News Network, Inc., a Warner Bros. Discovery Company. All rights reserved.
Con información de Kit Maher y Alejandra Jaramillo
