Sam Altman, presidente ejecutivo de OpenAI, reconoció que las preocupaciones globales sobre los riesgos de la inteligencia artificial tienen fundamento y pidió que la industria actúe de acuerdo con la magnitud del desafío
Durante la conferencia Dreamforce, realizada el martes en San Francisco, Altman afirmó: “El mundo debe confiar en que vamos a hacer lo correcto porque es lo correcto y porque somos conscientes de la magnitud de todo esto”
Altman: los riesgos ya no son una hipótesis lejana
El directivo sostuvo que ya no hace falta demasiada imaginación para comprender cómo estos sistemas podrían fallar. “Ya no hace falta tanta imaginación como antes para ver cómo esto podría salir mal”, señaló
Altman también consideró válida la preocupación social frente al avance de la tecnología. “Creo que el mundo hace bien en tener miedo”, afirmó
Amodei pidió desacelerar el desarrollo de los modelos
Dario Amodei, director ejecutivo de Anthropic, mantuvo su llamado a ralentizar el desarrollo de los modelos de inteligencia artificial. El empresario sostuvo que el riesgo asociado a estos sistemas es significativo y que las compañías deben dar el ejemplo
“Creo que así es como se lidera el sector: dando ejemplo, diciendo que todos podemos mejorar siempre”, expresó durante su intervención
Huang defendió el avance con controles de seguridad
Jensen Huang, presidente ejecutivo de Nvidia, adoptó una postura más escéptica sobre la necesidad de nuevas leyes para el sector. Según su visión, es posible avanzar con rapidez sin renunciar a la seguridad
“Se pueden tener perfectamente las dos cosas a la vez”, dijo. También instó a las empresas a avanzar todo lo posible, pero a detenerse si un producto puede quedar fuera de control o no ofrece garantías suficientes
“La seguridad es primordial. Es la tarea número uno. Ahora bien, la seguridad es un problema de ingeniería. Al fin y al cabo, desarrollamos software”, explicó Huang
El ejecutivo fue contundente sobre el lanzamiento de nuevos productos: “Si no estamos seguros de que un producto es seguro, si no tienes confianza en su funcionamiento, sus capacidades o su seguridad, no lo lances”
Zuckerberg destacó la alineación de los modelos
Mark Zuckerberg, presidente ejecutivo de Meta, intervino mediante un mensaje publicado en X. Allí sostuvo que no es indispensable un acuerdo conjunto entre las empresas, porque cada laboratorio puede adoptar medidas de precaución por iniciativa propia
“La confianza y la alineación se están convirtiendo rápidamente en las capacidades más importantes a la hora de diferenciar agentes y modelos. Cualquier laboratorio que no se centre en la alineación se quedará atrás”, escribió
Como ejemplo, afirmó que Meta retrasó durante varios meses el lanzamiento de Muse para concentrarse en la seguridad y la protección. Según explicó, la decisión surgió de una convicción interna y no de una exigencia externa
Musk respaldó el planteo de Amodei
Elon Musk, propietario del modelo Grok, respondió al mensaje de Zuckerberg con la palabra “cool”. En cambio, frente al pedido de Amodei de aplicar mayor control al desarrollo de la inteligencia artificial, fue más directo: “Dario tiene razón”