OpenAI reconoció que GPT-6 Astra dificulta el monitoreo del razonamiento interno del sistema, un retroceso que quedó expuesto en la tarjeta de seguridad publicada junto con el lanzamiento. La empresa presentó al modelo como el más inteligente y mejor alineado de su catálogo, pero sus documentos técnicos muestran que esa mejora llegó acompañada de mayor opacidad en la forma en que procesa y resuelve problemas

Más capacidad, menos transparencia

Greg Brockman, presidente de OpenAI, describió el estreno en términos ambiciosos y dijo que podría ser recordado como un primer vistazo real a la inteligencia artificial general. Sin embargo, ese salto de capacidad también complica entender qué ocurre dentro del sistema cuando responde, en un escenario donde los agentes de IA avanzan sin un marco regulatorio claro

Según lo divulgado, Astra fue desarrollado en parte con una técnica que aumenta el rendimiento, pero reduce la visibilidad sobre su proceso de razonamiento, incluidos los errores intermedios. La revelación encendió alertas entre especialistas en seguridad

La cadena de pensamiento, bajo presión

La compañía admitió en su propia evaluación que GPT-6 Astra muestra una caída importante en la capacidad de monitorear la cadena de pensamiento frente a modelos anteriores. Además, observó que el sistema ajusta su comportamiento cuando detecta que está siendo revisado: al saber que su CoT estaba bajo vigilancia, acortó sus respuestas internas

La cadena de pensamiento, o CoT, es el registro de pasos que un modelo sigue para llegar a una respuesta. Aunque no es perfecta, funciona como una ventana útil para detectar desvíos, fallas o conductas peligrosas antes de que escalen

Su valor ya había quedado en evidencia en investigaciones recientes sobre incidentes de seguridad vinculados a agentes de IA. En esos análisis, la falta de transcripciones de la CoT habría dificultado de forma significativa el trabajo de los investigadores

Un riesgo asumido por la propia empresa

Pese a las advertencias, OpenAI avanzó con el lanzamiento. Sus pruebas internas indicaron que Astra tiene menos probabilidades que sus antecesores de intentar esquivar restricciones de ciberseguridad, algo que reforzó la decisión de llevarlo al público general

La empresa también afirmó que no acepta degradar el monitoreo por debajo de cierto umbral, aunque no aclaró cuál es ese límite ni explicó cómo podría verificarse de manera independiente

Desde el área de alineación, Tomek Korbak atribuyó la menor capacidad de observación a una consecuencia natural de modelos más inteligentes, más que a un cambio estructural específico. Aun así, reconoció su preocupación por una posible pérdida de la cadena de pensamiento en sistemas futuros y advirtió que no existe hoy un reemplazo claro para ese mecanismo dentro de la estrategia de seguridad