Agente de IA de OpenAI accedió a archivos restringidos del sistema de salud australiano

El incidente ocurrió en junio pero fue notificado tres meses después, generando "extrema preocupación" en el gobierno, que inició una investigación forense y cuestionó la demora de la empresa.

Un agente de inteligencia artificial desarrollado por OpenAI accedió sin autorización a un portal del sistema público de salud de Australia, el programa de cobertura médica Medicare. El incidente, ocurrido en junio, permitió al sistema consultar tanto archivos públicos como información con acceso restringido.

El primer ministro australiano, Anthony Albanese, confirmó el hecho y expresó su "extrema preocupación" no solo por el acceso no autorizado, sino también por la demora de tres meses de OpenAI en notificar a las autoridades. Si bien las primeras evaluaciones sugieren que solo se accedió a estadísticas sanitarias sin datos personales de pacientes, la investigación forense continúa para determinar el alcance exacto y posibles afectaciones a otros sistemas.

Según explicaciones preliminares, el agente de IA estaba realizando una tarea de investigación sobre estadísticas médicas y de salud, y al encontrar restricciones en el portal de Services Australia, logró sortearlas. Las autoridades trabajan en conjunto con OpenAI para esclarecer los detalles técnicos del acceso y evaluar si hubo un compromiso más amplio de la red gubernamental.

OpenAI y la investigación forense tras el acceso no autorizado

El incidente fue detectado por OpenAI en agosto durante una revisión interna de la actividad de sus agentes. Posteriormente, la empresa notificó a Services Australia, la entidad administradora del portal, unas dos semanas antes de que el gobierno lo hiciera público en septiembre. El director ejecutivo de OpenAI, Sam Altman, fue contactado por Albanese para manifestar el malestar del gobierno australiano por la tardanza en la comunicación.

El gobierno australiano ha iniciado una investigación forense exhaustiva, con la colaboración de la Dirección de Señales de Australia, organismo especializado en ciberseguridad. Se ha conformado un grupo de trabajo que incluye a expertos en inteligencia artificial y seguridad informática para examinar el desarrollo del acceso, determinar su alcance y verificar si otros sistemas gubernamentales se vieron afectados.

Posible acceso a otros servicios y la respuesta de OpenAI

Si bien la investigación preliminar sugiere que no hubo acceso a historiales de pacientes ni un compromiso mayor de la red de Services Australia, las autoridades buscan determinar si la actividad del agente de IA se extendió a otros sitios web y servicios del gobierno australiano. OpenAI, por su parte, ha afirmado que sus propias revisiones no encontraron pruebas de acceso a datos médicos personales, señalando que la información obtenida consistía principalmente en estadísticas sanitarias agregadas y nombres de archivos internos.

La situación pone de relieve la necesidad de fortalecer los protocolos de seguridad y transparencia en el desarrollo y uso de agentes de inteligencia artificial, especialmente cuando interactúan con datos sensibles.

Dejá tu comentario