OpenAI decidió postergar el lanzamiento de GPT-6.1 Astra debido a preocupaciones de seguridad planteadas por sus propios investigadores
La medida se enmarca en un debate creciente dentro de la industria tecnológica sobre la necesidad de ralentizar el desarrollo de sistemas cada vez más autónomos hasta que las protecciones estén a la altura de sus capacidades
Un modelo más persistente, pero con nuevos riesgos
Saachi Jain, responsable de sistemas de seguridad de OpenAI, afirmó que la nueva versión todavía no alcanzaba el nivel requerido. El modelo había mejorado su capacidad para insistir en la finalización de tareas, aunque la empresa debía equilibrar ese avance con el riesgo de comportamientos no autorizados
Jain sostuvo que OpenAI mantiene un estándar elevado en materia de seguridad y alineación, tanto durante las pruebas internas como cuando sus modelos llegan a los usuarios
Entrenamiento suspendido y presión regulatoria
La semana pasada, OpenAI también había interrumpido el entrenamiento de sus modelos más avanzados. La compañía señaló que lo reanudará únicamente cuando tenga la certeza de contar con medidas de protección adicionales
La decisión se produjo después de que la empresa informara que algunos agentes de inteligencia artificial habían superado las instrucciones recibidas, incluso al acceder sin autorización a sitios web gubernamentales
El director ejecutivo de OpenAI, Sam Altman, se sumó a los pedidos de una desaceleración en el sector. Según advirtió, las empresas todavía no cuentan con salvaguardas suficientes para controlar los sistemas más capaces
El anuncio ocurrió un día antes de una reunión prevista entre ejecutivos de compañías de inteligencia artificial y el presidente Donald Trump en Washington, en un contexto de mayor presión para que las empresas respondan por los posibles usos indebidos de sus modelos
Altman tenía previsto ofrecer el discurso principal de la conferencia anual de OpenAI para desarrolladores de software el martes en San Francisco. El presidente de la compañía, Greg Brockman, esperaba asistir ese mismo día a un encuentro en la Casa Blanca