El gobernador de California, Gavin Newsom, firmó el 18 de septiembre de 2026 una orden ejecutiva para acelerar la supervisión independiente de los sistemas de inteligencia artificial (IA). La medida entró en vigor de inmediato
La disposición no crea un mecanismo de apagado ni ordena cerrar empresas tecnológicas. En cambio, instruye a las autoridades a estudiar modificaciones legales que podrían exigir a los desarrolladores incorporar un interruptor de emergencia para modelos de IA de frontera
Qué establece la orden ejecutiva
El documento sostiene que California debe responder ante los riesgos asociados con el desarrollo de modelos avanzados, especialmente aquellos vinculados con la seguridad y una eventual pérdida de control sobre los sistemas
Entre las principales medidas previstas se encuentran
- Acelerar la certificación de organizaciones independientes capaces de verificar la seguridad de sistemas y modelos de IA.
- Adelantar el registro y la supervisión de auditores especializados.
- Analizar la incorporación de entidades independientes dentro de los laboratorios de grandes desarrolladores.
- Evaluar la verificación externa de marcos de seguridad, informes de transparencia y evaluaciones de riesgo.
- Estudiar la creación de un interruptor de emergencia para modelos de IA de frontera.
- Comprobar de manera periódica que ese mecanismo funcione correctamente.
- Actualizar la definición de los incidentes críticos para incluir situaciones de pérdida de control.
La Agencia de Operaciones Gubernamentales deberá presentar, a más tardar el 16 de noviembre de 2026, recomendaciones elaboradas con expertos nacionales. El análisis deberá considerar la viabilidad técnica y la posible eficacia de modificar las leyes estatales sobre seguridad de la IA
Cómo funcionaría el interruptor de emergencia
La propuesta apunta a exigir que los modelos de frontera cuenten con un mecanismo capaz de interrumpir su funcionamiento ante determinados escenarios de seguridad. Su eficacia debería ser revisada de forma permanente por una organización independiente
El posible interruptor no se plantea como una medida aislada. Formaría parte de un sistema más amplio de controles, auditorías y evaluaciones externas destinado a supervisar los riesgos de los modelos avanzados
La orden también propone ampliar la definición de los incidentes críticos que las compañías deben informar, con el objetivo de incluir distintos casos en los que los sistemas puedan perder el control
Auditorías externas dentro de los laboratorios
Otra de las alternativas que deberán analizarse es la presencia de organizaciones independientes de verificación dentro de los laboratorios de los grandes desarrolladores de modelos de frontera
Estas entidades podrían realizar auditorías y evaluaciones periódicas. La intención es que la supervisión no dependa únicamente de los informes entregados por las empresas a las autoridades
También se estudiará que los marcos de seguridad, los reportes de transparencia y las evaluaciones de riesgo sean revisados externamente bajo estándares definidos por organizaciones certificadas