Sam Altman advirtió que el avance de la inteligencia artificial podría derivar en consecuencias graves si no se establecen límites de seguridad compartidos entre las empresas que desarrollan los modelos más avanzados
El CEO de OpenAI señaló dos riesgos principales. El primero es que las personas pierdan el control sobre la evolución y las decisiones de sistemas cada vez más capaces
Para reducir esa posibilidad, sostuvo que las técnicas de alineación y seguridad deben progresar al mismo ritmo que las capacidades de la IA o incluso adelantarse a ellas. Según planteó, estos sistemas deben mantenerse al servicio de la humanidad
El peligro de la concentración tecnológica
El segundo escenario que describió es la acumulación excesiva de poder en manos de quienes controlen las tecnologías más avanzadas
Altman consideró que una inteligencia artificial extremadamente poderosa podría ser utilizada por una persona, una compañía o un país para imponer su visión e intereses sobre el resto de la sociedad, con resultados potencialmente distópicos
El empresario reconoció que evitar ambas amenazas al mismo tiempo exige encontrar un equilibrio complejo. Advirtió que tanto un Estado como un laboratorio privado podrían alcanzar una influencia desproporcionada
Sus declaraciones fueron publicadas en X luego de que OpenAI comunicara que no concretará una salida a bolsa durante este año. También reclamó normas de seguridad comunes y afirmó que la competencia entre empresas estadounidenses no debe convertirse en una justificación para actuar de manera imprudente
La información se encuentra en desarrollo