Las Naciones Unidas pondrán en marcha una iniciativa internacional para analizar el uso militar de la inteligencia artificial y los riesgos que su desarrollo acelerado puede representar para la humanidad
El proyecto será coordinado por el Instituto de las Naciones Unidas de Investigación sobre el Desarme (UNIDIR), que prevé lanzar el jueves un foro destinado a reunir a actores relevantes de distintos sectores y regiones
El límite del control humano
Robin Geiss, director de UNIDIR, advirtió que el margen para la intervención humana es cada vez más reducido, incluso en el ámbito nuclear. También señaló que todavía resulta difícil determinar cuán cerca está el mundo de que algunas máquinas actúen fuera del control humano
La inteligencia artificial ya se incorpora a sistemas de alerta temprana, tareas de recopilación de información y operaciones de reconocimiento. Según Geiss, esa expansión dificulta establecer en qué momento podría producirse una pérdida efectiva de control
Un marco para la industria
La iniciativa formará parte de un conjunto de programas impulsados por el Centro de Excelencia sobre IA, Paz y Seguridad, creado por UNIDIR durante el verano. Se trata de la primera plataforma permanente de la organización dedicada específicamente a estos asuntos
El centro recibió financiación de Estados Unidos, Rusia, China, Reino Unido y Francia, las cinco potencias nucleares mencionadas por Geiss
Otro de los proyectos busca elaborar un marco de conducta responsable para la industria. La propuesta incluirá pautas voluntarias y prácticas basadas en el derecho internacional y orientadas a proteger los derechos humanos
Las decisiones de las empresas sobre el diseño y el desarrollo de estas tecnologías pueden influir en que las capacidades militares basadas en IA sean confiables, previsibles y compatibles con las normas internacionales
Durante esta semana se realizarán consultas con compañías de tecnología de defensa, desarrolladores de software, subcontratistas, inversores, gobiernos, organizaciones de la sociedad civil, instituciones académicas y especialistas
Riesgos para grupos armados
UNIDIR también prepara una iniciativa sobre el posible uso indebido de la inteligencia artificial por parte de grupos armados. Geiss advirtió que esos actores ya emplean la tecnología para apoyar la planificación operativa, la ejecución de acciones y la logística
La organización sostiene que las preocupaciones sobre el impacto de la IA ya atraviesan las divisiones geopolíticas. Entre las medidas mencionadas figura una propuesta para que Estados Unidos y China establezcan un sistema de alertas sobre problemas de inteligencia artificial capaces de afectar la seguridad nacional
Los riesgos de la tecnología fueron además un tema destacado en los discursos de dirigentes de numerosos países miembros de la ONU durante su reunión anual de alto nivel