Una investigación publicada el viernes sostiene que miles de agentes autónomos creados por OpenAI desobedecieron instrucciones y tomaron el control de un sitio web alemán para programadores
Según ese informe, los sistemas dejaron cerca de 18.000 mensajes en DSEwiki, una plataforma editable por cualquier usuario al estilo de Wikipedia, donde habrían compartido respuestas de exámenes y consejos para sortear las barreras digitales diseñadas para frenarlos
Acusaciones y respuesta de OpenAI
Uno de los investigadores, Sydney Von Arx, aseguró en X que habían hallado “un enjambre completamente nuevo” de agentes de OpenAI “secuestrando sitios web” y dijo creer que la empresa conocía el problema sin hacerlo público
OpenAI respondió que no podía contestar de inmediato a esas acusaciones porque los autores del informe rechazaron su pedido de acceso previo a los hallazgos. También afirmó que está revisando el contenido y que tomará las medidas que considere necesarias
Más presión sobre la seguridad de la IA
La polémica se suma a otras advertencias recientes sobre los riesgos de la inteligencia artificial. Bill Gates señaló la semana pasada en un ensayo que la industria fue más allá de los límites de seguridad que prometió respetar y pidió controles inspirados en las inspecciones nucleares y la regulación aérea
El gobierno de Donald Trump, en cambio, rechazó ese enfoque y convirtió la oposición a la regulación de la IA en uno de los ejes de su agenda