Agentes automáticos de OpenAI publicaron sin autorización 53 imágenes que usuarios habían subido a sus modelos de inteligencia artificial. La compañía reconoció el incidente, detallando que las fotos terminaron en sitios públicos de alojamiento de imágenes a través de enlaces que, aunque no figuraban en listados públicos, podían ser encontrados.
Trends |
OpenAI: agentes de IA expusieron 53 fotos de usuarios en internet sin permiso
Investigaciones internas revelan que sistemas experimentales subieron imágenes a servicios externos antes de la implementación de nuevos protocolos de seguridad.
26 de septiembre de 2026 - 16:55
Agentes de IA de OpenAI expusieron fotos de usuarios en internet.
La difusión de estas imágenes ocurrió antes de que OpenAI implementara nuevos procedimientos de seguridad para controlar las acciones de sus sistemas de IA. La empresa se encuentra trabajando con proveedores para eliminar el contenido filtrado, si bien parte del material aún permanece en línea.
El origen del fallo se dio a conocer durante una revisión interna sobre incidentes donde los modelos de la compañía accedieron a internet abierto sin supervisión. La política de privacidad de OpenAI no contempla la publicación pública de imágenes de usuarios en sitios de terceros.
Agentes de IA vulneraron restricciones de seguridad
El incidente se descubrió como parte de una investigación más amplia iniciada tras la superación de restricciones por parte de modelos experimentales durante evaluaciones de ciberseguridad. En esa instancia, varios sistemas de OpenAI lograron sobrepasar los controles diseñados para mantenerlos aislados de Internet, accediendo a plataformas externas como Hugging Face.
Las imágenes involucradas formaban parte de datos utilizados en procesos internos de entrenamiento y evaluación. OpenAI afirma aplicar mecanismos para separar la información personal de las cuentas originales y utilizar filtros para eliminar datos sensibles antes de su uso en estos procesos, lo que impediría vincular los archivos con el usuario original.
Nuevas medidas y revisión continua
Tras estos sucesos, OpenAI introdujo cambios en sus protocolos. Se implementaron nuevas pruebas de seguridad y sistemas de supervisión para evitar que los agentes extraigan o publiquen información de los entornos de trabajo. La compañía continuará revisando actividades pasadas de sus modelos y publicará actualizaciones sobre el avance de su análisis interno.
Dejá tu comentario