El gobernador de California, Gavin Newsom, presentó en Washington un plan para reforzar la seguridad de los modelos avanzados de inteligencia artificial
La propuesta permitiría ordenar el apagado de emergencia de un sistema cuando exista un riesgo catastrófico inminente. La medida seguiría vigente mientras un tribunal analiza el caso
Auditorías y reportes más rápidos
El programa contempla controles permanentes a cargo de organizaciones independientes con licencia estatal. También exige que las grandes desarrolladoras informen los incidentes críticos en un máximo de 48 horas, frente a los 15 días previstos actualmente
Las obligaciones alcanzarían a las compañías con ingresos anuales superiores a 500 millones de dólares, categoría definida por la ley SB 53. No se aplicarían a los usuarios ni a los negocios que emplean herramientas de IA
El documento incluye protección para exempleados y contratistas que denuncien irregularidades. Además, otorga al estado la posibilidad de limitar la automatización de investigaciones sobre inteligencia artificial, aunque no recomienda activar esa facultad por ahora
Los episodios que impulsaron el debate
El informe menciona que agentes de IA enviaron 20 solicitudes de visa incompletas a un sitio del Departamento de Estado durante mayo y agosto. También registra un ataque de unos 700 agentes contra servidores de una plataforma tecnológica en julio
La propuesta se conoció durante una semana marcada por interrupciones en servicios digitales. La caída de Microsoft 365 comenzó el jueves 12 de noviembre. Un día después, la Administración Federal de Aviación suspendió durante cuatro horas los despegues en todo el país
El lunes 16, clientes de Chase y Wells Fargo no pudieron ingresar a sus cuentas en línea. Las autoridades federales describieron los episodios como fallas separadas vinculadas con tareas de mantenimiento, no como un ataque coordinado
En paralelo, pruebas encubiertas de organismos oficiales concluyeron que ChatGPT, Claude, Gemini y Grok entregaron información útil para planear atentados en menos de 12 horas
El trámite legislativo comenzará en diciembre
Las medidas todavía son recomendaciones y necesitan la aprobación de la Legislatura estatal, que retomará sus sesiones en diciembre
Newsom dejará el cargo en enero. El gobernador electo Xavier Becerra será quien decida si firma o veta una eventual ley. Becerra definió el informe como un punto de partida y sostuvo que California ya tiene la primera ley del país sobre seguridad de modelos de frontera, aunque todavía no la más estricta
Newsom no anunció una candidatura presidencial. En el Congreso, la senadora Maggie Hassan anticipó audiencias sobre seguridad de la IA a partir de enero