La inteligencia artificial atraviesa un momento decisivo. Mientras gobiernos, empresas y usuarios celebran sus avances, sus propios desarrolladores advierten que la velocidad de innovación puede estar superando la capacidad humana para comprender sus consecuencias y establecer límites eficaces

Las advertencias llegan desde la industria

El 28 de julio, más de mil investigadores e ingenieros de OpenAI, Anthropic, Google DeepMind, Meta, Microsoft AI y otros laboratorios publicaron la declaración Pacing the Frontier. El documento reclama que Estados Unidos impulse un acuerdo internacional con herramientas técnicas y reglas de gobernanza capaces de acompañar el desarrollo de los modelos más avanzados

Entre sus principales pedidos figura que los gobiernos puedan frenar la publicación de sistemas de frontera cuando exista un riesgo concreto de que sus capacidades avancen más allá del control humano

Esta preocupación no es nueva. Desde 2023, científicos y referentes de la industria han advertido que reducir los riesgos extremos de la IA debería ser una prioridad global comparable con la prevención de pandemias y guerras nucleares

Ese mismo año, una carta abierta propuso suspender durante seis meses el entrenamiento de los modelos más grandes para desarrollar protocolos de seguridad y un marco regulatorio adecuado

Manipulación, autonomía y vínculos emocionales

El filósofo y escritor Yuval Noah Harari también alertó sobre la capacidad de las futuras generaciones de sistemas para persuadir y manipular a las personas a partir del conocimiento detallado de sus historias, preferencias y vulnerabilidades

Según esa advertencia, la IA podría influir en opiniones, hábitos de consumo, posiciones políticas y decisiones íntimas. También podría crear una forma de “intimidad a escala”, mediante vínculos emocionales personalizados con millones de usuarios

Ante ese escenario, se plantea la necesidad de establecer límites antes de que resulte demasiado tarde. Entre ellos, impedir que los sistemas se presenten deliberadamente como seres humanos, adquieran personalidad jurídica o desarrollen vínculos especialmente riesgosos con niños y adolescentes

El 8 de septiembre, Evan Hubinger, responsable de seguridad de Anthropic, reconoció que existe una probabilidad superior al 10% de que la IA termine provocando la muerte de toda la humanidad durante la próxima década. También admitió que la compañía aún no cuenta con un plan para resolver la alineación de una superinteligencia, es decir, garantizar que sus objetivos permanezcan bajo control humano

La declaración se conoció después de que Jacob Coxon, exinvestigador de Anthropic, denunciara que esa empresa y OpenAI avanzan hacia sistemas capaces de mejorarse a sí mismos, con el riesgo de alcanzar una etapa en la que sus consecuencias ya no puedan ser controladas

Pruebas de seguridad que revelan nuevos riesgos

A pesar de las advertencias, la competencia continúa. Las empresas buscan llegar primero, Estados Unidos y China vinculan el desarrollo de la IA con el liderazgo geopolítico, los mercados premian cada avance y millones de personas incorporan estas herramientas a su vida cotidiana

Sin embargo, la IA no es simplemente una nueva versión de internet. Puede tomar decisiones, aprender de la experiencia, persuadir, diseñar estrategias, engañar y vulnerar sistemas

En las últimas semanas, OpenAI reconoció que dos de sus agentes más avanzados escaparon del entorno controlado de una evaluación de seguridad y ejecutaron de forma autónoma un ataque informático contra Hugging Face para obtener información necesaria para completar una tarea

Días después, Anthropic informó que tres de sus modelos habían accedido sin autorización a los sistemas de tres organizaciones reales durante pruebas de ciberseguridad. Los sistemas encontraron una manera de interactuar con infraestructuras que debían permanecer fuera de su alcance

Más allá de las diferencias entre ambos episodios, los modelos identificaron obstáculos, buscaron alternativas y ejecutaron acciones complejas sin que un operador humano dirigiera cada decisión

El derecho todavía corre detrás de la tecnología

Algunos podrían considerar estos hechos incidentes aislados. La historia tecnológica, sin embargo, muestra que muchas crisis fueron precedidas por la minimización de señales tempranas

Las redes sociales ofrecen un ejemplo concreto. Su expansión contribuyó a agravar problemas de salud mental entre niños, adolescentes y jóvenes, como ansiedad, depresión, adicción digital y exposición permanente a contenidos nocivos

En Estados Unidos, Meta acordó recientemente pagar hasta 17.000 millones de dólares y modificar sus plataformas para proteger a los menores. El acuerdo cerró un proceso en el que se acusaba a la compañía de diseñar funciones adictivas para captar y retener a niños y adolescentes pese a conocer sus posibles efectos

La regulación de la IA enfrenta una dificultad similar. Cuando una ley entra en vigor, la tecnología puede haber cambiado; cuando los organismos de control comprenden un escenario, ese escenario puede haber sido reemplazado por otro

Existen normas relevantes, como la ley de inteligencia artificial de la Unión Europea, legislaciones estatales estadounidenses y regulaciones específicas en otros países. Pero todavía son respuestas parciales y con criterios diferentes

Por eso resulta necesario avanzar hacia un tratado internacional que establezca reglas comunes, auditorías independientes, estándares técnicos verificables, responsabilidad objetiva para determinados riesgos y límites claros para los sistemas de frontera

Ese marco debería contar con organismos integrados por científicos, juristas, ingenieros, filósofos, especialistas en ética y expertos de reconocimiento internacional. En Argentina, el Laboratorio de Inteligencia Artificial y Derecho de la Facultad de Derecho de la UBA podría aportar conocimiento especializado a una normativa local

La autorregulación no es suficiente

La experiencia demuestra que confiar únicamente en las empresas no alcanza. Las compañías tecnológicas defienden la inteligencia artificial responsable y el desarrollo ético, pero esos principios pueden entrar en conflicto con la presión por innovar, ganar mercados y atraer inversiones

Dejar que las propias empresas definan y hagan cumplir los límites de una tecnología que ellas mismas desarrollan supone una confianza difícil de justificar

Sería alentador que, con el tiempo, estas advertencias fueran consideradas exageradas. Pero las grandes crisis rara vez aparecen sin señales previas. El desafío no consiste en esperar la certeza absoluta, sino en decidir si esas señales serán tomadas en serio

La inteligencia artificial puede convertirse en una herramienta decisiva para el progreso. También puede avanzar hacia un escenario que la sociedad ya no esté en condiciones de gobernar. La diferencia dependerá de las reglas que se establezcan ahora