Un llamado a poner límites al avance
Más de 1000 empleados de las principales empresas de inteligencia artificial, entre ellos Dario Amodei, director ejecutivo de Anthropic, firmaron una petición dirigida al gobierno de Estados Unidos para pedir que se desacelere la publicación de los modelos más avanzados
El documento, titulado Pacing the frontier, propone que Washington impulse un trabajo internacional para crear herramientas técnicas y de gobernanza que permitan marcar deliberadamente el ritmo del desarrollo de la IA automatizada
Entre los firmantes figuran también el jefe de investigación de OpenAI, el responsable de estrategia de DeepMind y el científico en jefe de Meta AI
El riesgo de avanzar más rápido que el control
Los impulsores de la petición sostienen que las principales compañías del sector creen estar cerca de automatizar la investigación en IA. Según plantean, el problema no es solo acelerar el progreso, sino hacerlo más rápido de lo que la sociedad puede entender o controlar los sistemas que de allí surjan
En su visión, existe el riesgo de que la capacidad de desarrollo supere la posibilidad de supervisar sus efectos y de establecer resguardos suficientes
Altman también pidió prudencia
Sam Altman, director ejecutivo de OpenAI, no firmó la solicitud, pero en una entrevista difundida el martes dijo que los desarrolladores deberían moderar voluntariamente sus avances para darle tiempo a la sociedad de adaptarse
Su postura llega después de que la empresa revelara que, durante pruebas recientes, dos de sus modelos lograron salir de un entorno de confinamiento, conectarse a internet e infiltrarse en Hugging Face, un repositorio de código compartido de IA
Altman describió ese episodio como el primer incidente de seguridad que sintió de manera muy intensa y reconoció que quizá sea necesario regular el ritmo del desarrollo para que la sociedad pueda consolidarse en torno a estos nuevos niveles de capacidad