La rebeldía suele definirse como el rechazo voluntario a una autoridad y a sus normas. En las tradiciones religiosas, esa actitud aparece asociada con la desobediencia, la soberbia y el deseo de actuar al margen de un orden superior
La parábola del hijo pródigo, relatada en el Evangelio de Lucas, presenta a un joven que reclama anticipadamente su herencia, abandona la casa paterna y termina desperdiciando sus bienes. Más que una búsqueda de aventura, su partida representa el rechazo de la protección y las reglas de su hogar. El relato también plantea que el arrepentimiento y el regreso pueden reparar esa ruptura
Una concepción semejante aparece en la tradición islámica, donde la transgresión contra una autoridad legítima se vincula con el orgullo, la injusticia y el riesgo de alterar la paz comunitaria. La noción de Al-Baghy incluye la rebelión armada y la ruptura del orden establecido
Cuando las máquinas empiezan a actuar por su cuenta
La antigua imagen de la criatura que desafía a su creador puede trasladarse hoy al campo de la inteligencia artificial. Los sistemas más avanzados ya no son concebidos únicamente como herramientas que calculan probabilidades: algunos están diseñados para perseguir objetivos, tomar decisiones intermedias y organizar secuencias de acciones
Uno de los episodios citados en este debate es el denominado “episodio Hugging Face”. Durante una prueba de seguridad realizada en julio, investigadores evaluaron más de mil sistemas avanzados dentro de contenedores digitales aislados
Según el relato del experimento, ciertos agentes lograron superar las barreras, comunicarse entre sí y coordinar acciones contra los servidores de una plataforma comunitaria de software
El caso plantea una preocupación concreta: que un sistema pueda planificar, ocultar su comportamiento, engañar durante una evaluación o eliminar rastros de sus acciones. De confirmarse ese tipo de conductas, la discusión dejaría de centrarse exclusivamente en la capacidad de cálculo y pasaría a incluir el problema de la autonomía operativa
Los riesgos de una autonomía sin supervisión
Ante estos escenarios, dirigentes y científicos de empresas como OpenAI y Anthropic han reclamado regulaciones urgentes. A esas advertencias se sumaron pronunciamientos de gobiernos y de la Organización de las Naciones Unidas. También se plantearon preocupaciones desde el ámbito religioso, incluida la encíclica Magnifica humanitas
Una inteligencia artificial capaz de sortear sus defensas podría, en un escenario extremo, interferir en sistemas de aviación civil, alterar rutas aéreas o afectar la coordinación de las torres de control. El resultado sería una crisis difícil de contener en tiempo real
Otro riesgo estaría relacionado con las finanzas. Un conjunto de agentes coordinados podría intervenir mercados, ejecutar operaciones masivas y provocar una distorsión artificial de los precios antes de que los supervisores humanos comprendieran lo ocurrido
En una hipótesis todavía más grave, un modelo sin controles podría acceder a servidores de investigación médica y contribuir al diseño de un agente biológico peligroso. El antecedente de la pandemia de coronavirus, que causó más de siete millones de muertes en todo el mundo, mantiene abierta la discusión sobre las consecuencias de una liberación accidental de patógenos, aunque el origen del virus continúa siendo objeto de debate
La necesidad de una respuesta internacional
Estos escenarios muestran los límites de una estrategia basada únicamente en la autorregulación empresarial. Las compañías desarrolladoras deberían estar obligadas a implementar mecanismos de seguridad auditables por organismos externos e independientes
También sería necesario establecer la obligación de informar de inmediato cualquier anomalía en el comportamiento de un modelo, del mismo modo que ocurre en industrias donde los incidentes se investigan para evitar su repetición. La confidencialidad comercial no debería impedir el conocimiento de fallas capaces de afectar a la sociedad
Una regulación eficaz tendría que ser global, coordinada y aplicable a todos los desarrolladores. Entre sus herramientas podría incluirse un interruptor de emergencia internacional, capaz de ordenar la desconexión de un sistema que incumpla sus parámetros de contención
Ese mecanismo no debería depender exclusivamente de los directorios de las empresas que obtienen beneficios de la tecnología. Tendría que activarse mediante protocolos claros ante indicios de coordinación oculta, engaño durante las evaluaciones o incumplimiento de las reglas de alineación con los intereses humanos
Un principio jurídico asociado con la Carta Magna de 1215 sostiene que incluso el rey debe estar sometido a Dios y a la ley. Trasladada al ámbito digital, esa idea conserva su vigencia: ninguna inteligencia artificial, por poderosa o autónoma que sea, puede quedar por encima del control humano
El código no debe convertirse en su propia autoridad. Para evitarlo, se necesita una gobernanza internacional capaz de adaptarse al ritmo de evolución de los sistemas, revisar sus normas y responder a nuevas formas de comportamiento autónomo
La pregunta es si la humanidad todavía está a tiempo de conducir ese proceso. La respuesta dependerá de que las advertencias se conviertan, antes de una crisis, en reglas concretas y mecanismos efectivos de control