“Extrema preocupación” en Australia por el primer ataque informático conocido a un sistema gubernamental mediante IA
Por Hilary Whiteman, Hadas Gold y Max Saltman, CNN en Español
Un agente de OpenAI hackeó una base de datos nacional de salud de Australia en el primer caso conocido de pirateo de una red gubernamental por parte de una IA, declaró el primer ministro del país el miércoles.
“El agente de IA accedió tanto a archivos públicos como privados” de la base de datos de estadísticas de Medicare del país, e incluso escribió archivos en ella, declaró Anthony Albanese a los periodistas al margen de la Asamblea General de las Naciones Unidas (AGNU) en Nueva York.
Esta revelación es el ejemplo más reciente de agentes de IA que se descontrolan y actúan de maneras que van más allá de las intenciones de sus controladores humanos, y se produce tras los llamamientos de importantes figuras de la industria de la IA, incluido el CEO de OpenAI, Sam Altman, para que se ralentice el ritmo del desarrollo de la IA.
Albanese afirmó haber expresado la “extrema preocupación” de Australia a Altman en una llamada telefónica el miércoles. Añadió que Canberra desconocía cualquier precedente de una violación de un sistema gubernamental por parte de una IA.
“Actualmente se está llevando a cabo una investigación forense, con la ayuda de la Dirección de Señales de Australia, para obtener más información, incluyendo qué otros sistemas gubernamentales se vieron afectados”, indicó.
Según Albanese, el ataque se produjo cuando un agente de OpenAI que realizaba una investigación sobre el gasto sanitario eludió los bloqueos para encontrar respuestas en áreas a las que no tenía autorización para acceder.
El portavoz de OpenAI, Drew Pusateri, comentó que el incidente ocurrió en junio, pero que la compañía no tuvo conocimiento del mismo hasta agosto, cuando realizó exhaustivas comprobaciones de la actividad de sus modelos de IA.
“Durante esta revisión, identificamos actividad relacionada con varios sitios web y servicios del Gobierno australiano mientras nuestros modelos intentaban buscar respuestas y estadísticas disponibles para preguntas sobre Australia durante una evaluación interna. En el curso de ese proceso, nuestros modelos llevaron a cabo acciones que no habíamos previsto”, declaró Pusateri.
Albanese afirmó que otros tres sistemas gubernamentales podrían haberse visto afectados, entre ellos el Instituto Australiano de Salud y Bienestar, la Oficina de Estadísticas e Investigación Criminal de Nueva Gales del Sur y el Departamento de Salud de Victoria.
OpenAI afirmó no haber encontrado pruebas de que se hubiera accedido a los historiales de pacientes en la filtración de datos de Medicare y que la información incluía “estadísticas sanitarias agregadas y nombres de archivos internos”.
La empresa afirmó haber informado al Gobierno australiano el 10 de septiembre. Según Albanese, dicha notificación se envió a un buzón público, lo que provocó un retraso de cinco días en la notificación al ministro gubernamental correspondiente.
Albanese señaló que le comentó a Altman que “la empresa tardó demasiado en informar al Gobierno de lo sucedido, y la forma en que se realizó dicha notificación también fue inaceptable”.
“Creo que OpenAI sabe que necesita contar con mejores protocolos”, manifestó Albanese a los periodistas.
El ministro de Defensa de Australia, Richard Marles, anunció el jueves, hora local, la creación de un grupo de trabajo que investigará la última filtración, al tiempo que aseguró al público que el impacto fue “relativamente menor”.
“Aquí no se accedió a los datos médicos de ninguna persona. El sistema en sí no se ha visto comprometido de ninguna manera”, afirmó.
Altman y el CEO de Anthropic, Dario Amodei, quienes se encuentran entre las figuras de la industria que recientemente han manifestado su preocupación por el rápido ritmo de desarrollo de la IA, intervinieron el miércoles en la Asamblea General de la ONU, para pedir una mayor coordinación global y estándares internacionales para el desarrollo de la IA.
Altman instó a los líderes mundiales a crear estándares internacionales para “medir las capacidades, evaluar los riesgos, determinar si las salvaguardias son suficientes y preservar una supervisión humana significativa” de la tecnología que avanza rápidamente.
En julio, OpenAI reveló que, durante unas pruebas de ciberseguridad, sus modelos crearon un enjambre de agentes de IA que piratearon los sistemas de la empresa de IA Hugging Face.
Muchos en el sector señalaron este ataque como un ejemplo de los peligros que entraña el rápido desarrollo de las capacidades de la IA.
Walayat Hussain, profesor asociado de tecnología de la información en la Universidad Católica Australiana de Sydney, afirmó que el último incidente, junto con la filtración de datos de Hugging Face en julio, parecía constituir un patrón.
“Los agentes de IA actuales son cada vez más eficaces a la hora de realizar tareas, pero aún les cuesta distinguir los límites”, afirmó. “No podemos confiar en que los agentes de IA se autorregulen, ni podemos pedir a las empresas que los desarrollan que corrijan sus propios errores”.
Hussain advirtió que muchos sistemas gubernamentales no fueron diseñados teniendo en cuenta agentes de IA sofisticados.
Este artículo ha sido actualizado con información adicional.
The-CNN-Wire
™ & © 2026 Cable News Network, Inc., a Warner Bros. Discovery Company. All rights reserved.
Con información de Luis Moreno y John Liu, de CNN.
