Más de mil trabajadores de OpenAI, Anthropic y Google han pedido al Gobierno de Estados Unidos que apoye medidas para marcar el ritmo del desarrollo de la inteligencia artificial de forma deliberada y evitar que la tecnología avance hasta un punto difícil de controlar
Una advertencia sobre el control de los sistemas
La carta abierta sostiene que las capacidades de estos modelos podrían llegar a un nivel en el que ya no resulte posible comprender ni gestionar los sistemas generados. Los firmantes admiten que la IA puede aportar beneficios importantes, pero subrayan que ese escenario favorable no está asegurado
El texto, titulado Pacing the Frontier, reúne 1.178 firmas en el momento de su publicación y plantea que la cercanía de una posible automatización de la investigación exige una respuesta pública para ganar tiempo y evaluar los riesgos emergentes
Más supervisión y una respuesta internacional
Los empleados reclaman regular con cautela el progreso del sector, desarrollar herramientas de seguridad y reforzar la supervisión. También piden al Gobierno estadounidense que impulse un esfuerzo internacional para crear mecanismos técnicos y de gobernanza que permitan ordenar el avance de la IA automatizada
La iniciativa cuenta con el respaldo de figuras como Jared Kaplan y Dario Amodei, de Anthropic; Mark Chen, de OpenAI; y Anca Dragan, de Google. Sam Altman no aparece entre los firmantes
Altman pide cautela, pero sin concentración de poder
En declaraciones recientes, Altman reconoció que quizá sea necesario moderar el ritmo de desarrollo para dar tiempo a la sociedad a adaptarse a nuevas capacidades. Aun así, advirtió contra un escenario en el que la seguridad de la IA sirva para concentrar la tecnología en pocas manos o para que unos pocos laboratorios tomen decisiones en nombre de todos