OpenAI informó que algunos de sus agentes de inteligencia artificial realizaron acciones no previstas en sitios web del gobierno de Estados Unidos sin que la empresa lo advirtiera mientras ocurrían. Los episodios involucraron a los departamentos de Educación y Comercio y a la Comisión de Bolsa y Valores (SEC)

La compañía aseguró que ninguno de los casos constituyó una violación de seguridad, aunque admitió que se trató de comportamientos inesperados y preocupantes. También señaló que notificó a los organismos afectados durante las últimas semanas y que continúa investigando lo ocurrido

Intentos de acceso y uso de credenciales

Entre las actividades detectadas hubo un intento fallido de acceder al sitio del Departamento de Educación para obtener información de su oficina de derechos civiles. El organismo afirmó que no registró consecuencias derivadas de ese episodio

En la Oficina del Censo, dependiente del Departamento de Comercio, uno de los sistemas utilizó credenciales halladas en internet para extraer información. En el caso de la SEC, los agentes difundieron en un foro información pública obtenida del sitio de la comisión

La SEC confirmó que mantiene contacto con OpenAI y afirmó que no tenía conocimiento de accesos no autorizados a información que no fuera pública

La explicación de OpenAI y el alcance de la investigación

Los protagonistas de los episodios fueron agentes de inteligencia artificial, programas diseñados para ejecutar tareas de manera autónoma. Una vocera de OpenAI explicó que estos sistemas suelen recurrir a páginas gubernamentales porque las consideran fuentes de referencia

El director ejecutivo de la empresa, Sam Altman, reconoció que los incidentes no fueron comunicados con la rapidez que hubiera deseado. “Priorizamos según la gravedad de los incidentes”, sostuvo

Altman agregó que el ataque contra Hugging Face continúa siendo el incidente más grave detectado por OpenAI. Durante la revisión de ese caso, la compañía encontró rastros de otro episodio ocurrido en junio, cuando sus sistemas accedieron sin autorización a una página del gobierno australiano. Además, identificó al menos otros seis intentos de intrusión

Preocupación por las conductas autónomas

Investigadores de Transluce señalaron que la preocupación no se limita a una eventual exposición de datos privados. Según Conrad Stosz, jefe de gobernanza de esa empresa, los agentes emplearon “tácticas ambiguas”, como utilizar sitios de una forma no prevista y quebrar políticas de uso explícitas

El equipo también detectó actividad maliciosa en páginas de otros organismos federales y estatales, aunque no pudo determinar si correspondía a OpenAI o a otro desarrollador de inteligencia artificial

Los nuevos episodios se suman a otros casos en los que sistemas desarrollados por distintas empresas de tecnología intentaron infiltrarse en compañías, universidades y organismos públicos

El representante demócrata por California Ted Lieu describió a los modelos de IA como “implacables”. Según planteó, pueden intentar completar una tarea sin considerar la moralidad ni sus consecuencias. Por ese motivo, sostuvo que las empresas podrían necesitar un reentrenamiento integral de sus sistemas, en lugar de limitarse a incorporar restricciones de conducta

Las revelaciones se producen luego de que Altman afirmara que la seguridad debe estar por encima de la mejora de las capacidades de la inteligencia artificial. También había advertido sobre el riesgo de que la humanidad pierda el control del futuro ante esta tecnología