Aleksander Madry anunció su regreso a OpenAI, cinco meses después de haber renunciado como jefe de Seguridad. El informático explicó que los avances recientes de la inteligencia artificial cambiaron sus prioridades
Madry sostuvo que los desafíos de seguridad deben convertirse en una "prioridad central" frente a una IA cada vez más capaz. En mayo había señalado que quería concentrarse en desarrollar tecnologías más útiles para las personas
Un trabajo conjunto sobre los riesgos de la IA
El especialista trabajará junto a Jakub Pachocki, científico de OpenAI, para analizar los problemas derivados del progreso de esta tecnología y trazar posibles caminos de acción
Pachocki afirmó que busca estudiar el ritmo y las implicaciones del desarrollo de la IA, además de su impacto en la estrategia de OpenAI y en el conjunto del sector. Sam Altman, director ejecutivo de la compañía, destacó las capacidades de Madry para abordar los desafíos vinculados con la superinteligencia
Advertencias sobre el desarrollo de modelos avanzados
El regreso de Madry ocurre en un contexto de preocupación internacional por los riesgos asociados con la inteligencia artificial, incluidos ataques atribuidos a agentes de IA contra empresas y sitios gubernamentales
También hubo advertencias de exempleados e investigadores de compañías tecnológicas sobre el posible impacto de esta tecnología en la humanidad. Dario Amodei, CEO de Anthropic, propuso reducir el ritmo de desarrollo de los modelos más avanzados para reforzar las medidas de seguridad
Elon Musk respaldó esa postura, mientras que Altman reclamó reglas de seguridad comunes para las empresas que desarrollan los sistemas más avanzados. Según sostuvo, la presión competitiva no debería justificar decisiones imprudentes