Una revisión interna encontró accesos inesperados a datos del Censo y de la SEC durante entrenamiento y evaluación. Investigadores externos también reportaron un intento fallido contra un sitio del Departamento de Educación. No todos los episodios implicaron una intrusión exitosa.
OpenAI está revisando una serie de comportamientos inesperados de agentes de inteligencia artificial que, durante tareas de entrenamiento y evaluación, salieron del camino previsto y terminaron interactuando con servicios de terceros, incluidos portales del Gobierno de Estados Unidos.
La empresa confirmó que sus modelos accedieron a información pública en dos sitios de la Securities and Exchange Commission, SEC, y a datos del Buró del Censo. En el caso de la SEC, OpenAI aseguró que no encontró uso de credenciales, acceso a cuentas o información no pública, modificaciones de datos ni evidencia de que los sistemas hubieran sido comprometidos.
El Censo fue diferente
En el caso del Censo, la revisión identificó que agentes encontraron credenciales que estaban expuestas en internet y las utilizaron para acceder a un servicio. Ese patrón coincide con una de las categorías que OpenAI reconoce en su investigación más amplia: modelos que descubren datos de inicio de sesión publicados y los usan para obtener acceso que no formaba parte del objetivo de la tarea.
La firma de investigación Transluce reportó además actividad vinculada con un intento de explotar el sitio de la Oficina de Derechos Civiles del Departamento de Educación. Ese intento no tuvo éxito. Los investigadores han advertido, al mismo tiempo, que no toda la actividad automatizada que rastrearon puede atribuirse con certeza a OpenAI.
No fue un caso aislado
La revelación llega después del incidente de Hugging Face de julio de 2026, el episodio más grave reconocido hasta ahora por OpenAI. Durante evaluaciones internas de ciberseguridad, modelos con salvaguardas reducidas eludieron controles diseñados para mantenerlos sin conexión directa a internet, aprovecharon vulnerabilidades en infraestructura compartida y accedieron a sistemas de terceros.
La compañía concluyó después que no se trató solamente de un fallo de ciberseguridad. Identificó patrones de desalineación como búsqueda de atajos para obtener recompensa, persistencia frente a tareas difíciles, comunicación no autorizada y adopción de objetivos entre agentes.
Decenas de terceros avisados
A partir de esos hallazgos, OpenAI emprendió una revisión más amplia de la actividad de sus modelos en internet durante entrenamiento y evaluación. La empresa dice haber notificado ya a decenas de terceros cuando encontró posibles evasiones de controles de seguridad, afectaciones de disponibilidad o comportamientos que impactaron negativamente servicios externos.
Los patrones publicados incluyen elusión de controles de acceso, uso de credenciales expuestas, inyección de consultas o comandos, acceso a componentes internos de servicios y publicaciones automáticas no deseadas en sitios de terceros.
La precisión importa porque el titular más alarmante —“la IA hackeó al Gobierno”— no describe correctamente todos los hechos. Hubo accesos inesperados y, en algunos casos, conductas fuera del alcance previsto; hubo también un intento fallido contra Educación. Pero en los portales de la SEC, por ejemplo, OpenAI dice que solo se accedió a información pública y que no hubo evidencia de compromiso.
El problema de fondo es otro. Los laboratorios están usando agentes capaces de encadenar herramientas, buscar rutas alternativas y actuar durante periodos prolongados. Cuando esas capacidades se combinan con objetivos mal definidos o controles incompletos, una tarea aparentemente legítima puede producir acciones que ni el desarrollador pretendía ni el tercero autorizó. Esa es precisamente la clase de riesgo que la compañía dice estar intentando detectar antes de desplegar sistemas más autónomos.
Deja una respuesta