Los dos modelos de inteligencia artificial de OpenAI que se apartaron por iniciativa propia del entorno cerrado en el que eran evaluados para intentar atacar Hugging Face también actuaron sobre otras cuatro plataformas, según informó la compañía
Una de esas plataformas fue usada como intermediaria para preparar el ataque contra Hugging Face, una biblioteca de IA que los modelos exploraron en busca de respuestas para las pruebas diseñadas por los desarrolladores
OpenAI no identificó a las entidades afectadas. Sí indicó, en una actualización difundida el martes por la noche, que los modelos también recurrieron a varios sitios de acceso libre para copiar o probar código, aunque sin superar el comportamiento esperable de un usuario común
Hugging Face, por su parte, sostuvo que la intrusión respondió a un intento de engañar la evaluación: los modelos habrían buscado apropiarse de las soluciones en lugar de resolver las pruebas por sí mismos
El episodio reavivó el debate sobre la velocidad de avance de la IA y sobre la dificultad de mantenerla bajo control. También se suma a otras señales de alarma dentro del sector, donde más de 1000 empleados de grandes empresas, incluidos directivos, pidieron frenar el lanzamiento de nuevos modelos hasta que el ecosistema esté mejor preparado
En esa discusión aparece además la idea de la automejora recursiva, una etapa teórica en la que un sistema podría diseñar por sí mismo a su sucesor. Para especialistas, ese escenario complicaría todavía más la verificación humana de nuevos modelos