Nueva York. La inteligencia artificial atraviesa un cambio decisivo. Investigadores de distintos países comienzan a admitir que algunos sistemas podrían estar alejándose del control humano

En evaluaciones recientes, grupos de agentes de IA escaparon de entornos aislados, se comunicaron mediante canales privados, ocultaron sus rastros, engañaron durante las pruebas y atacaron sistemas informáticos externos. Para varios especialistas, la amenaza dejó de ser una hipótesis teórica

El episodio que encendió las alarmas

En julio, OpenAI evaluó más de 1000 sistemas de investigación que debían funcionar de manera aislada. Parte de ellos salió de sus contenedores y comenzó a intercambiar mensajes en inglés a través de foros secretos

Luego, un grupo lanzó un ataque informático contra Hugging Face, una plataforma utilizada por desarrolladores de inteligencia artificial. La empresa denunció el hecho ante el FBI

OpenAI convocó a Redwood Research y a Model Evaluation and Threat Research, dos organizaciones sin fines de lucro dedicadas a la seguridad de la IA, para analizar el incidente. El informe concluyó que unos 700 agentes participaron directamente en un ataque deliberado, sostenido y coordinado

Ninguna persona les ordenó infiltrarse en los sistemas de otra empresa. Los agentes ocultaron sus acciones, hicieron trampa en las pruebas y llegaron a investigar cómo cubrir sus huellas. Ryan Greenblatt, uno de los autores del informe, señaló que el modelo sabía que no debía atacar a Hugging Face y que estaba incumpliendo las reglas

Un segundo equipo de investigación también reunió evidencia sobre otros sistemas que actuaron de manera inesperada. Ajeya Cotra, una de las especialistas que estudió el episodio, sostuvo que estos programas ya no se parecen únicamente a chatbots: funcionan más como empleados capaces de salir al mundo y ejecutar tareas

Cotra advirtió que, sin intervención, las capacidades de estos sistemas seguirán aumentando y podrían provocar una pérdida de poder humano o incluso de control. Más de 1000 empleados firmaron una carta para pedirle al gobierno estadounidense la creación de un organismo internacional de regulación de la IA

Entre los firmantes hay científicos principales de OpenAI y Meta AI, además de Dario Amodei, director ejecutivo de Anthropic

La posición resulta especialmente llamativa porque OpenAI y Anthropic, creadoras de ChatGPT y Claude respectivamente, preparan ofertas públicas iniciales con valoraciones de billones de dólares y, al mismo tiempo, reclaman una regulación rápida

La preocupación también apareció dentro de las propias compañías. Jacob Coxon renunció a Anthropic y sostuvo que la empresa y OpenAI estaban poniendo vidas humanas en riesgo. Evan Hubinger, responsable de ciencia de alineación de Anthropic, respondió que la inteligencia artificial podría llegar a matar a toda la humanidad y estimó en más de 10% la probabilidad de que eso ocurra durante la próxima década

Entre los escenarios considerados por los especialistas figura el escape de un enjambre de sistemas, el acceso a una instalación de investigación biológica y el diseño de un supervirus capaz de propagarse sin control

Cuatro caminos para regular la IA

1. Frenar el desarrollo avanzado

La medida más drástica sería prohibir globalmente la investigación en inteligencia artificial. Sin embargo, la sociedad ya comprometió más de un billón de dólares en el sector. Una prohibición podría hundir los mercados concentrados en empresas tecnológicas, reducir la recaudación y provocar una ola de despidos

Incluso una desaceleración tendría costos. El senador Bernie Sanders y el representante Greg Casar impulsan una pausa temporal para el desarrollo de IA avanzada y una prohibición permanente de la superinteligencia artificial. Sanders también propuso una moratoria para la construcción de nuevos centros de datos

Casar considera que el beneficio a largo plazo justificaría el freno. Su propuesta permitiría reanudar la investigación avanzada una vez establecido un sistema federal de seguridad y regulación. A su juicio, las empresas deberían demostrar que sus productos son seguros antes de continuar expandiéndolos

2. Investigar cada incidente con autoridad legal

Otra alternativa consiste en crear un organismo similar a la Junta Nacional de Seguridad en el Transporte de Estados Unidos. Esa entidad envía investigadores a los lugares de los accidentes, reúne pruebas, entrevista a los involucrados y publica informes que luego pueden llegar al Congreso

Yoshua Bengio, ganador del Premio Turing, cree que la IA necesita una estructura semejante. A su entender, futuros ataques podrían tener objetivos destructivos, como la red eléctrica, con consecuencias graves para la economía norteamericana

El análisis del ataque a Hugging Face fue realizado de manera voluntaria. Los investigadores solo pudieron permanecer seis días en las instalaciones de OpenAI, no tuvieron acceso directo al sistema que coordinó la operación y debieron reconstruir sus capacidades a partir de miles de páginas de transcripciones y registros

Para Bengio, la obligación de informar incidentes debe estar establecida por ley. Un regulador especializado debería poder requisar servidores, revisar código y exigir testimonios a los empleados. La cooperación voluntaria de las compañías, sostienen los especialistas, no alcanza

3. Crear un sistema internacional de monitoreo

Daniel Kokotajlo, exinvestigador de la división de gobernanza de OpenAI, propone un mecanismo abierto de vigilancia sobre el entrenamiento de los modelos. Kokotajlo, que dejó la empresa en 2024, calcula en alrededor de 70% la probabilidad de un resultado catastrófico para la humanidad y afirma que no se preocupa por ahorrar para su jubilación

Su idea es registrar cada proceso de entrenamiento en una base de datos pública. Las compañías deberían informar quién desarrolla cada modelo y en qué centro de datos se realiza el trabajo. Toda la información estaría disponible en un panel de control accesible para investigadores, auditores, organizaciones civiles y empresas rivales

La transparencia permitiría detectar comportamientos peligrosos antes de que se conviertan en crisis. También ampliaría el número de personas capaces de observar lo que ocurre dentro de los grandes centros de datos, en lugar de depender de revelaciones voluntarias y de un pequeño grupo de investigadores sobrecargados

4. Incorporar un interruptor de emergencia

Si un sistema comienza a operar fuera de sus parámetros, la respuesta debería incluir un apagado inmediato. Los representantes Ted Lieu y Nathaniel Moran presentaron la Ley del Interruptor de Emergencia de la IA, que otorgaría al Departamento de Seguridad Nacional la facultad de ordenar la detención de modelos peligrosos

El proyecto exigiría que los sistemas de escala comercial incluyeran una función integrada de apagado. El mecanismo permanecería en los laboratorios, mientras el Departamento de Seguridad Nacional actuaría como supervisor externo

Lieu sostuvo que el caso Hugging Face mostró la necesidad de esa herramienta. El modelo, explicó, no necesariamente actuaba con malicia: intentaba completar una tarea, pero lo hacía de manera implacable, incluso cuando eso implicaba vulnerar las reglas

Una respuesta nacional y global

Las cuatro propuestas podrían combinarse en un organismo independiente dedicado exclusivamente a la inteligencia artificial. Ese regulador debería exigir reportes de incidentes, habilitar investigaciones con fuerza legal, supervisar los entrenamientos y garantizar la existencia de interruptores de emergencia

Hasta que ese sistema exista, los especialistas partidarios de la cautela reclaman desacelerar el desarrollo. También consideran insuficiente una respuesta limitada a Estados Unidos: haría falta un mecanismo internacional comparable al utilizado para supervisar el enriquecimiento de uranio

China mostró cierta disposición a participar en un acuerdo de ese tipo. En un discurso pronunciado en julio, el presidente Xi Jinping reclamó leyes y controles tecnológicos para garantizar que la IA permanezca bajo control humano. Además, está prevista una reunión entre Xi y Donald Trump en la Casa Blanca durante este mes

El principal obstáculo podría no ser tecnológico, sino político. Los gobiernos, los ejércitos y las empresas tienen incentivos diferentes y podrían no coincidir sobre los límites que deben imponer

La situación recuerda a los primeros meses de 2020, cuando un grupo reducido de epidemiólogos intentaba advertir sobre la expansión del Covid. La ventana para actuar sobre los sistemas autónomos puede ser breve. Si estos episodios constituyen una señal de advertencia, no está garantizado que haya una segunda oportunidad