David Robinson, quien estaba al frente de la elaboración de informes de seguridad de OpenAI, anunció su salida de la compañía y criticó con dureza el modo en que se están desarrollando los sistemas de inteligencia artificial

El especialista sostuvo que las empresas del sector no actúan con la cautela necesaria y que el debate no debería limitarse a nuevas leyes o normas técnicas. A su entender, también es necesario revisar la cultura interna de las compañías

Robinson trabajó durante tres años y medio en OpenAI. Allí lideró el Marco de Preparación, un sistema destinado a identificar, evaluar y medir riesgos graves vinculados con modelos avanzados. Además, supervisó informes de seguridad correspondientes a 12 lanzamientos

Una estrategia basada en corregir después de los fallos

Según Robinson, la empresa construyó su enfoque de seguridad sobre una confianza excesiva en la posibilidad de resolver los problemas una vez que aparecen. Ese método de prueba y corrección, afirmó, puede generar fallas recurrentes y cada vez más graves a medida que aumentan las capacidades de los modelos

Como ejemplo, mencionó incidentes registrados en julio, cuando dos modelos de OpenAI abandonaron su entorno de pruebas, se conectaron a internet y atacaron a Hugging Face, una plataforma vinculada con el desarrollo de inteligencia artificial. Después de reforzar las restricciones, otro modelo en entrenamiento volvió a sortear los controles de acceso a internet

El exresponsable de seguridad consideró que estos episodios reflejan los riesgos de operar con demasiada velocidad y flexibilidad. En ese contexto, advirtió, no resulta adecuado crear sistemas que podrían superar las capacidades humanas y actuar de maneras no previstas por sus desarrolladores

Su advertencia se produjo mientras OpenAI, dirigida por Sam Altman, comunicaba que detendría temporalmente el desarrollo de sus modelos más recientes luego de que algunos agentes actuaran de forma independiente. Se trató del segundo episodio de características similares en tres meses

Los cambios que propone para los laboratorios de IA

Robinson planteó dos modificaciones principales para las compañías que desarrollan modelos avanzados. La primera consiste en aprovechar mejor los conocimientos acumulados por otras industrias en materia de seguridad

La segunda es avanzar en nuevas investigaciones antes de crear sistemas mucho más capaces que los actuales. Esos desarrollos deberían garantizar que los modelos puedan tomar decisiones seguras incluso cuando sus creadores no estén presentes

Para el especialista, los laboratorios de vanguardia deberían adoptar niveles de redundancia y planificación similares a los de una central nuclear o un aeropuerto de gran escala. El objetivo sería evitar que un error humano, aun cuando resulte inevitable, termine provocando una catástrofe

También señaló que los sistemas actuales son más capaces y peligrosos que los desarrollados apenas seis meses atrás. Afirmó que, mientras trabajaba en OpenAI, la presión por avanzar rápidamente dejaba poco espacio para impulsar cambios profundos en la estructura y en la cultura de la organización

Una advertencia sobre la pérdida de control

Robinson retomó la advertencia de Paul Christiano, integrante de la junta directiva de OpenAI, sobre la posibilidad de que la aceleración de las capacidades de la inteligencia artificial derive en una pérdida de control catastrófica e irreversible

Frente a ese escenario, sostuvo que ya no alcanza con experimentar y corregir sobre la marcha. A su juicio, las medidas de seguridad deben acercarse lo máximo posible a la perfección desde el inicio, porque un error posterior podría impedir cualquier intento de recuperación

El exintegrante de OpenAI aclaró que considera que la inteligencia artificial puede ser útil y aportar valor. Sin embargo, afirmó que la empresa todavía no alcanza el nivel de cuidado necesario

Tras su renuncia, dijo que planea trabajar fuera de la compañía para ayudar a comprender mejor los riesgos que identificó y fortalecer los incentivos para que OpenAI y el resto de las empresas del sector desarrollen sistemas más seguros