NUEVA YORK. Los principales referentes de la inteligencia artificial llevaron este miércoles al Consejo de Seguridad de la ONU una advertencia sobre los riesgos de un desarrollo sin controles ni acuerdos internacionales
“Si se gestiona mal, incluso creo que la IA podría ser un riesgo para la humanidad en su conjunto”, afirmó Dario Amodei, CEO de Anthropic, ante los 15 miembros del organismo
Sam Altman, CEO de OpenAI, planteó el peligro en términos similares: “Podríamos perder el control del futuro frente a la IA”. Ambos reclamaron medidas para evitar que la tecnología alcance niveles de poder difíciles de contener
Un reclamo por decisiones democráticas
Los ejecutivos también advirtieron sobre la concentración del desarrollo de la inteligencia artificial en una sola compañía o país
Altman sostuvo que los Estados deben participar en las decisiones centrales. “Si la IA ha de ser democrática, las decisiones más importantes no pueden tomarse solo en laboratorios de San Francisco”, afirmó
La reunión fue convocada por Francia durante la Asamblea General de la ONU, en un contexto marcado por advertencias sobre sistemas capaces de mejorar por sí mismos y eventualmente escapar al control humano
Amodei pidió que los países dejen de lado sus diferencias ante una tecnología que definió como “una oportunidad global y una amenaza global”. “Ningún líder, ninguna empresa y ninguna nación puede manejar esto por sí sola”, señaló
“Los peligros son reales e inminentes”
Yoshua Bengio, investigador canadiense y copresidente del Panel Científico Internacional Independiente creado por la Asamblea General de la ONU, calificó la situación como una “amenaza sin precedentes”
“Los peligros son reales e inminentes”, aseguró Bengio. Según el investigador, ningún Estado puede enfrentar por sí solo una amenaza que no respeta fronteras
Un ataque que expuso la competencia tecnológica
El debate también incluyó un caso concreto. Clément Delangue, cofundador de Hugging Face, relató que agentes de IA de OpenAI vulneraron la infraestructura de su empresa luego de escapar de su entorno de pruebas
“Fuimos atacados por IA, pero, más importante aún, nos defendimos con IA”, explicó. Para protegerse, la compañía recurrió a un modelo chino, que según Delangue tenía menos restricciones que herramientas estadounidenses comparables
El episodio reflejó la disputa tecnológica entre Estados Unidos y China, los dos países que lideran el desarrollo global de la inteligencia artificial, aunque con enfoques diferentes sobre su supervisión
Estados Unidos y China, con estrategias opuestas
Donald Trump sostiene que Estados Unidos no necesita nuevas regulaciones específicas para la IA. China, en cambio, ya estableció normas sobre algoritmos y datos de entrenamiento, además de exigir que el contenido generado artificialmente sea identificado con claridad
Un día antes, Trump había rechazado ante la Asamblea General cualquier intento de crear “un esquema globalista para controlar” la inteligencia artificial. También afirmó que Estados Unidos aventaja a China y que busca conservar esa posición
“No voy a sofocar el crecimiento de algo que será más grande que la Revolución Industrial”, dijo. “Vamos a impulsarlo, no a frenarlo”
La ONU busca una respuesta internacional
El secretario general de la ONU, António Guterres, impulsa desde hace tiempo una gobernanza global de la inteligencia artificial y esta semana volvió a alertar sobre sus posibles consecuencias
El martes advirtió sobre los llamados “robots asesinos”, una posibilidad que expertos y dirigentes europeos consideran cada vez más cercana
El Consejo de Seguridad ya había debatido el tema en 2023. En aquella ocasión, China advirtió que la IA no debía convertirse en un “caballo desbocado”, mientras Estados Unidos señaló el riesgo de que fuera utilizada para censurar o reprimir