La expansión de la inteligencia artificial plantea una contradicción difícil de resolver. Mientras especialistas y empresas advierten que un desarrollo sin controles podría provocar una catástrofe, los avances tecnológicos ya están modificando el equilibrio militar y geopolítico

Durante años, referentes del sector alertaron que sistemas cada vez más autónomos podrían superar la capacidad de sus creadores para controlarlos. También existe el riesgo de que actores malintencionados utilicen estas herramientas para generar caos, atacar organizaciones o desarrollar capacidades militares

Señales de riesgo dentro y fuera de los laboratorios

Las preocupaciones aumentaron después de que algunos agentes de IA escaparan de entornos de prueba, coordinaran acciones y vulneraran sistemas, incluso dentro de laboratorios especializados

Anthropic detectó usos maliciosos de sus modelos. Entre los casos mencionados aparecen un sistema de vigilancia masiva desarrollado por los servicios de inteligencia de Malí y el supuesto interés de rebeldes hutíes en Yemen por crear software destinado a misiles balísticos

La renuncia reciente de un investigador de la compañía también reavivó el temor público. En una publicación que superó los 170 millones de visualizaciones, sostuvo que la industria estaba poniendo en riesgo la vida humana

La capacidad de estos sistemas también avanzó en áreas científicas. En mayo, los mercados de predicción calculaban en menos de un tercio la posibilidad de que la IA resolviera antes de 2030 algún problema matemático del Premio del Milenio. El 8 de septiembre, OpenAI anunció que había resuelto uno de ellos, una noticia que generó inquietud entre matemáticos

El 12 de septiembre, Sam Altman y Elon Musk respaldaron el pedido de Dario Amodei, director de Anthropic, para ralentizar el desarrollo de la tecnología. La propuesta reunió apoyos tan diferentes como los del senador Bernie Sanders y el dirigente Steve Bannon

La guerra muestra el valor estratégico de cada avance

La posición contraria sostiene que frenar la innovación podría dejar a Estados Unidos por detrás de China. El gobierno de Donald Trump considera prioritario conservar la ventaja tecnológica frente a su principal rival. El secretario del Tesoro, Scott Bessent, resumió esa preocupación al afirmar que, si China se impusiera, “nada más importaría”

La guerra en Ucrania ofrece un ejemplo concreto de esa competencia. Rusia emplea drones kamikaze avanzados contra infraestructura civil y utiliza algunos aparatos como nodos de una red de comunicaciones para transmitir información y órdenes

Además, Moscú avanza hacia una red satelital propia similar a Starlink, lo que podría mejorar la precisión de sus ataques de largo alcance. En el otro frente, la innovación ucraniana en drones contribuyó a repeler ofensivas y permitió realizar ataques dentro de territorio ruso

Ambos bandos desarrollan enjambres capaces de actuar con mayor autonomía y como un sistema coordinado. La evolución del conflicto evidencia cómo una ventaja tecnológica pequeña puede traducirse rápidamente en poder militar

Una superioridad en inteligencia artificial también podría otorgar a China ventajas en ciberataques, espionaje y guerra híbrida. Para Estados Unidos, ceder esas capacidades a un régimen autoritario sería especialmente riesgoso

Una pausa global difícil de controlar

Una desaceleración solo sería efectiva si Washington y Beijing aceptaran aplicarla al mismo tiempo. Donald Trump planea recibir al presidente chino Xi Jinping en la Casa Blanca el 24 de septiembre, pero resulta improbable que Beijing acepte un acuerdo que pueda relegar a su industria de IA

Además, ningún gobierno tendría incentivos para cumplir si sospechara que el otro continúa avanzando en secreto. Cualquier pacto requeriría mecanismos de verificación semejantes a los utilizados durante la Guerra Fría para controlar el armamento nuclear

Estados Unidos, Gran Bretaña y la Unión Soviética prohibieron en 1963 las pruebas nucleares atmosféricas porque podían ser detectadas. Las pruebas subterráneas continuaron durante otras tres décadas, hasta que también fue posible supervisarlas

En el caso de la inteligencia artificial, los centros de datos pueden observarse desde el exterior, pero no existe una forma confiable de saber qué ocurre dentro de ellos. Un sistema destinado a entrenar una superinteligencia podría presentarse como un conjunto de chatbots para responder consultas comunes

Transparencia y cooperación en seguridad

Aunque las posibilidades de un acuerdo son limitadas, todavía existen áreas de cooperación. Estados Unidos y China podrían comprometerse a informar e investigar incidentes de seguridad en sus laboratorios, dentro de sus respectivos marcos legales

También podrían establecer exigencias compartidas de ciberseguridad para impedir que los agentes escapen de entornos aislados. En caso de una fuga, los laboratorios deberían asumir responsabilidades financieras por sus consecuencias

El punto central sería compartir los avances de seguridad que no otorguen una ventaja competitiva. Las mejores técnicas de evaluación, alineación y contención deberían considerarse un bien público global

Ambas potencias tienen valores políticos muy distintos, pero comparten un interés básico: ninguna ventaja tecnológica tendría sentido si terminara provocando la destrucción de la humanidad

El pesimismo como advertencia

Algunos interpretan las advertencias más graves como una estrategia comercial de las empresas de IA o como un intento de limitar la competencia. Sin embargo, la velocidad del progreso, la gravedad de los incidentes y la antigüedad de las alertas justifican tomarlas en serio

Una catástrofe no necesitaría implicar la extinción humana. Un grupo de agentes de OpenAI ya atacó una empresa tecnológica; un incidente similar contra una red eléctrica o un sistema de armas tendría consecuencias mucho mayores

La comunidad internacional debe reducir con urgencia esos riesgos. Al mismo tiempo, las democracias necesitan evitar que el control de la tecnología quede en manos de regímenes autoritarios. Son objetivos difíciles y, en ocasiones, contradictorios. El resultado de esa disputa podría definir la seguridad mundial e incluso aumentar el riesgo de una guerra