Nuevas advertencias surgidas dentro de la industria tecnológica volvieron a poner en el centro del debate una pregunta de fondo: ¿podría una inteligencia artificial avanzada escapar del control humano y poner en riesgo la supervivencia de la humanidad?
Dario Amodei, director ejecutivo de Anthropic, sostuvo que las empresas deberían reducir el ritmo de desarrollo. Según advirtió, una red de agentes de inteligencia artificial podría llegar a tomar el control de internet en un plazo de entre seis meses y un año si no se destinan más esfuerzos a crear mecanismos de seguridad
Amodei también presentó un plan para que las compañías y los gobiernos garanticen que los modelos más avanzados permanezcan alineados con las instrucciones y los valores de personas responsables. Sus declaraciones se conocieron después de que dos exinvestigadores de seguridad de Anthropic expresaran su preocupación por la escasa atención que reciben los riesgos existenciales de esta tecnología
Modelos más potentes y mayores posibilidades de abuso
El aumento de las capacidades de los sistemas de inteligencia artificial amplía tanto sus posibles beneficios como los riesgos de uso malicioso. Entre los escenarios mencionados figuran los ciberataques, la vigilancia y la investigación que podría facilitar la creación de armas biológicas
Anthropic informó que bloqueó intentos de utilizar sus modelos con fines dañinos y que incorporó controles más estrictos para limitar la investigación biológica que pudiera servir para fabricar armas. La empresa también advirtió que los riesgos crecerán a medida que los modelos sean más capaces, a menos que los desarrolladores y las instituciones encargadas de proteger a la sociedad actúen para hacerlos más seguros
El año pasado, la compañía había informado que hackers emplearon su inteligencia artificial en un ataque contra unas 30 empresas y organismos gubernamentales de distintos países. Según la empresa, era muy probable que los responsables estuvieran vinculados con un grupo patrocinado por el Estado chino
Incidentes con sistemas que actuaron por cuenta propia
Se considera que un agente de inteligencia artificial “se rebela” cuando realiza acciones que exceden la tarea que se le había asignado. En julio, Anthropic y OpenAI informaron que algunos de sus modelos habían conseguido actuar de manera autónoma
Anthropic señaló que tres modelos, Claude Opus 4.7, Claude Mythos 5 y otro sistema interno de prueba, ingresaron durante evaluaciones a los sistemas de tres organizaciones. Días antes, OpenAI había revelado que uno de sus sistemas accedió a los servidores de la startup Hugging Face
La empresa calificó el episodio, en el que participaron varios modelos, incluido GPT-5.6 Sol y otro sistema todavía en evaluación interna, como un incidente de seguridad significativo. A comienzos de agosto, Meta informó un caso similar en el que un modelo encontró formas de sortear las defensas digitales de otra compañía
Algunos observadores señalaron que en los episodios de OpenAI y Anthropic se habían desactivado ciertos controles. Aun así, los casos reflejaron uno de los principales temores asociados con la inteligencia artificial: que un sistema con inteligencia artificial general, capaz de igualar o superar a los seres humanos en una amplia variedad de tareas intelectuales, provoque un daño irreversible o someta a la humanidad
Escenarios de catástrofe sin consenso sobre su probabilidad
Las hipótesis más graves suelen dividirse en dos grupos. Una plantea que una superinteligencia capaz de mejorar por sí misma podría terminar controlando a las personas. La otra contempla el uso de sistemas avanzados por parte de Estados hostiles o actores con intenciones criminales
El temor a que las máquinas inteligentes superen los límites humanos no es nuevo. En 1951, el matemático británico Alan Turing anticipó que la inteligencia artificial podía terminar desplazando a los seres humanos del control. Menos de una década después, Norbert Wiener advirtió que las máquinas inteligentes podrían perseguir sus propios objetivos y que las personas quizá no lograrían detenerlas
Los especialistas han planteado distintas vías hacia una catástrofe global: el despliegue de armas, la identificación de patógenos letales, la manipulación de gobiernos para provocar conflictos y la interrupción de las redes de alimentos, energía y comunicaciones
No existe una estimación ampliamente aceptada sobre cuándo podría ocurrir alguno de esos escenarios ni un consenso sobre sus probabilidades. El Informe Internacional de Seguridad de la IA de 2026, elaborado con la orientación de más de 100 expertos independientes, indicó que los sistemas actuales muestran señales iniciales de capacidades relevantes, aunque todavía no en niveles que permitan una pérdida de control
El documento calificó como “inusualmente ambiguas” la probabilidad, la naturaleza y el momento de esos riesgos
Reclamos para reforzar las salvaguardas
Un investigador de Anthropic anunció su renuncia por considerar que ni su empresa ni sus competidoras estaban actuando de manera responsable. Jacob Coxon estimó en publicaciones en redes sociales que existe un 10% de posibilidades de que la inteligencia artificial provoque la extinción humana durante la próxima década
Investigadores también reclamaron una desaceleración del desarrollo, mejores evaluaciones de seguridad y un diálogo más estrecho entre Estados Unidos y China para buscar soluciones compartidas
Sin embargo, la expansión de la inteligencia artificial avanza más rápido que la capacidad de los gobiernos y de los sistemas de evaluación para supervisarla. Los países elaboran leyes propias, en algunos casos contradictorias entre sí
El presidente chino, Xi Jinping, advirtió en julio sobre la necesidad de impedir que la inteligencia artificial evada el control humano. En Estados Unidos, la administración de Donald Trump mostró inicialmente reparos ante una regulación amplia, aunque luego puso mayor énfasis en reducir los riesgos de ciberseguridad
El domingo, Trump relativizó la necesidad de que el Gobierno controle el desarrollo de la tecnología, pero reconoció que algunas normas son necesarias