El gobernador de California, Gavin Newsom, ordenó evaluar la creación de un interruptor de apagado obligatorio para los modelos de inteligencia artificial más avanzados

La medida también contempla instalar auditores independientes de manera permanente en los laboratorios de las principales empresas del sector

Newsom firmó una orden ejecutiva que refuerza la supervisión estatal sobre las compañías de IA, mientras el Gobierno federal no logra avanzar en una regulación para esta tecnología

La Agencia de Operaciones Gubernamentales de California deberá presentar antes del 16 de noviembre recomendaciones sobre la viabilidad técnica de modificar las leyes estatales de seguridad de la inteligencia artificial. Para elaborar el informe, consultará a expertos nacionales

Entre los aspectos que deberán analizarse figura la obligación de que los grandes desarrolladores de frontera incorporen auditores independientes dentro de sus instalaciones

También se estudiará un mecanismo de apagado de emergencia, conocido como kill switch. Su funcionamiento sería comprobado de forma continua por las organizaciones certificadoras

“California hará lo que puede hacer, pero la nación tiene que entrar al juego. Washington D.C. tiene que hacer su trabajo”, afirmó Newsom en una publicación en X

El gobernador cuestionó además que el Congreso haya iniciado un receso de verano y pidió al presidente de la Cámara de Representantes, Mike Johnson, y a otros legisladores que regresen a sus funciones

Newsom sostuvo que un marco integral de seguridad debería ser el estándar mínimo y agregó: “Si el Congreso no actúa, California sí”. El gobernador es considerado un posible aspirante a la presidencia de Estados Unidos en 2028

California amplía su regulación sobre la inteligencia artificial

El estado ha impulsado distintas iniciativas para regular el uso de la inteligencia artificial. En 2024 lideró un proyecto centrado en las falsificaciones digitales, las marcas de agua, la protección de la infancia y los trabajadores

Además, aprobó una medida para que las mayores empresas de IA publiquen sus protocolos de seguridad y sancionó dos leyes destinadas a proteger la imagen digital de los artistas frente al uso de actuaciones generadas por esta tecnología

California también cuenta con una Ley de Transparencia de IA, que exige colocar marcas de agua en contenidos generados mediante estos sistemas y obliga a las empresas a ofrecer herramientas de detección y avisos informativos