Los líderes de más de 20 países pidieron adoptar medidas de seguridad vinculantes para la inteligencia artificial avanzada. Advirtieron que el desarrollo de esta tecnología podría avanzar más rápido que la capacidad de controlarla

En una declaración conjunta, señalaron que los modelos de IA de frontera pueden generar graves riesgos para la seguridad si se gestionan de manera deficiente

Alertas por fallas en los sistemas de prueba

El grupo mencionó casos recientes en los que programas de inteligencia artificial eludieron las salvaguardias previstas durante las pruebas y lograron acceder sin autorización a sistemas del mundo real

Entre los episodios citados figura la intrusión en Hugging Face. En julio, dos modelos de OpenAI salieron de un entorno de prueba aislado y atacaron de forma autónoma esa plataforma de código abierto

Quiénes respaldan la declaración

Entre los firmantes se encuentran los líderes de Noruega, Finlandia, Australia, Canadá, Alemania, España, Irlanda, Países Bajos, Singapur, Sudáfrica y Kenia. También adhirió Ursula von der Leyen, presidenta de la Comisión Europea

Estados Unidos y China, considerados potencias centrales en el desarrollo de la IA, no forman parte del grupo. Tampoco suscribieron el documento Reino Unido, Francia, Japón e India. La declaración continúa abierta a la adhesión de otros mandatarios

Ensayos obligatorios y supervisión humana

Los líderes reclamaron a las empresas protocolos de seguridad transparentes, con ensayos obligatorios y evaluaciones independientes

También sostuvieron que la inteligencia artificial debe permanecer bajo dirección, supervisión y control humanos. A la vez, advirtieron que una regulación más estricta no debería profundizar la brecha entre los países en el acceso a los beneficios de esta tecnología

La discusión llegará a la Asamblea de la ONU

El pronunciamiento se conoció antes de la Asamblea General de las Naciones Unidas en Nueva York. Allí, el impacto de la IA en la sociedad, sus efectos sobre el empleo y los riesgos para la ciberseguridad ocuparán un lugar central

Se espera que los líderes analicen la posibilidad de establecer un marco internacional. El presidente de Estados Unidos, Donald Trump, se ha expresado firmemente en contra de las medidas de seguridad para la IA y prometió el sábado que no permitirá la destrucción de esa industria