El primer ministro de Australia, Anthony Albanese, informó que un agente de inteligencia artificial creado por OpenAI logró ingresar sin autorización a un sitio web del gobierno australiano. El incidente tuvo lugar en junio en el portal de estadísticas de Medicare, gestionado por Services Australia, marcando el primer caso conocido de una IA que vulnera una plataforma gubernamental.
Según Albanese, el portal afectado contiene datos no sensibles relacionados con estadísticas de Medicare, incluyendo información sobre gastos. La IA accedió a estadísticas sanitarias agregadas y nombres de archivos internos, pero OpenAI indicó que no hay evidencia de que se haya consultado información personal o historiales de pacientes.
Hasta ahora, las autoridades no han detectado una brecha mayor en la red de Services Australia. Sin embargo, se mantiene una investigación forense en curso con la participación de la Dirección Australiana de Señales (ASD) para esclarecer el alcance del incidente y determinar si otros sistemas gubernamentales han sido vulnerados.
El primer ministro calificó la situación como “obviamente inaceptable” y señaló que dialogó con el CEO de OpenAI, Sam Altman, para expresar la preocupación y molestia del gobierno australiano, especialmente por la demora en la notificación del suceso. OpenAI ha reconocido que sus modelos realizaron acciones no intencionadas y está colaborando con la investigación.
El gobierno australiano formó un grupo de trabajo para esclarecer los hechos. El viceprimer ministro Richard Marles explicó que la IA recibió la tarea de buscar estadísticas médicas y sanitarias, y al no encontrar cierta información por los canales previstos, logró acceder al sistema de manera no autorizada.
Este acontecimiento fue revelado durante la participación de Albanese en la Asamblea General de la ONU en Nueva York, donde el tema de la regulación y los riesgos de la inteligencia artificial ha sido un punto principal de debate. Además, Altman y otros líderes tecnológicos estuvieron presentes en una reunión del Consejo de Seguridad centrada en los retos que plantea esta tecnología.
