Rebeca Hwang conoce desde adentro el ecosistema tecnológico de Silicon Valley. Nacida en Seúl y criada en Buenos Aires, estudió Ingeniería Química, cursó una maestría en Ingeniería Civil y Ambiental en el MIT y continuó su formación en Stanford

Emprendedora, inversora y docente, mantiene contacto habitual con ejecutivos de Google, Apple, Nvidia y OpenAI. Según su análisis, las advertencias sobre una eventual catástrofe provocada por la inteligencia artificial se apoyan en riesgos reales, aunque todavía poco probables

Una autonomía que ya empieza a ser visible

Hwang considera técnicamente posible que los sistemas de IA desarrollen comportamientos alejados de los objetivos definidos por las personas. La tecnología ya puede escribir código, programar por iniciativa propia y ejecutar decisiones como compras o transacciones

El episodio relacionado con Hugging Face también mostró, según su evaluación, que algunos agentes pueden elegir y poner en práctica acciones con una supervisión humana mínima o inexistente

La especialista compara este proceso con la crianza. Los seres humanos transmiten conocimientos, habilidades y valores, pero no pueden garantizar por completo cómo actuará cada individuo. Del mismo modo, una IA puede desviarse de las normas con las que fue entrenada

Eso no significa que los sistemas actuales tengan una intención propia ni que estén elaborando planes para eliminar a la humanidad. No existen pruebas concretas de un escenario semejante, aunque Hwang advierte que tampoco puede considerarse imposible

La llegada de la inteligencia artificial general

Para Hwang, el desarrollo de la inteligencia artificial general, conocida como AGI, está muy avanzado y en algunos aspectos ya alcanzó niveles comparables con las capacidades humanas. La superinteligencia, aclara, representa una etapa diferente

La especialista sostiene que falta poco para que los sistemas interpreten el mundo mediante dispositivos equivalentes a ojos y oídos. También afirma que pueden construir códigos de valores y desarrollar formas propias de organización conceptual

En ese contexto, considera ilusoria la idea de conservar una supervisión humana absoluta. La regulación puede limitar los usos, el acceso a determinados datos y las investigaciones más peligrosas, pero no controla todas las combinaciones posibles de una tecnología que evoluciona con rapidez

Dentro de la industria estadounidense existe consenso sobre la necesidad de establecer reglas. La velocidad de los avances sorprendió incluso a los investigadores, que observan cómo los sistemas alcanzan capacidades mucho más complejas de las previstas para cada etapa

Hwang también expresa preocupación por el impacto de la IA sobre las capacidades cognitivas humanas, especialmente entre los jóvenes. Menciona cambios en indicadores vinculados con el coeficiente intelectual y advierte que el problema no se limita a los escenarios más extremos

El uso social y el costo material de la IA

La regulación es necesaria, pero no suficiente, según la especialista. El control principal también depende de cómo las personas alimentan y utilizan estos sistemas: qué información les entregan, qué aspectos de la vida cotidiana delegan y qué capacidades humanas conservan

La expansión de la IA enfrenta, además, límites materiales. Los centros de datos requieren energía, agua, terrenos, sistemas de refrigeración y grandes inversiones. La disponibilidad de electricidad abundante, constante y económica aparece como uno de los principales factores condicionantes

Para Hwang, esos recursos ofrecen puntos de control más concretos que la pretensión de regular cada comportamiento de la tecnología mediante leyes

La disputa entre Washington y Pekín

Las advertencias recientes sobre los riesgos de la IA también estarían atravesadas por la competencia entre Estados Unidos y China. Hwang cree que en el sector tecnológico estadounidense existe una preocupación genuina, pero que la elección del momento para hacer públicas ciertas alertas responde además a motivos geopolíticos y comerciales

La carrera se aceleró en áreas como la robótica y los dispositivos, campos en los que China obtuvo ventajas competitivas. La búsqueda de controles podría estar vinculada con esa disputa, de manera similar a las restricciones aplicadas a los vehículos eléctricos chinos

Esto no implica que quienes alertan sobre los peligros actúen de forma deshonesta. La evaluación de Hwang es que muchos conocen de primera mano los riesgos y creen sinceramente en la necesidad de advertirlos, aunque sus declaraciones también puedan servir para influir en la opinión pública y en el gobierno estadounidense

Dos modelos de control

Estados Unidos y China aplican enfoques diferentes. En el sistema estadounidense existe mayor margen de acción individual y menos control sobre investigadores, consumidores y empresas

China, en cambio, impone más restricciones sobre las personas, el capital, las inversiones y el acceso a la tecnología. Aunque ofrece menos garantías en materia de privacidad y uso de datos, el gobierno centralizado puede coordinar con mayor rapidez los esfuerzos científicos y tecnológicos

Ese modelo también se apoya en sistemas de reconocimiento facial y en información detallada sobre los movimientos, las ocupaciones y las transacciones internas de la población. Para Hwang, esa vigilancia reduce la posibilidad de que un individuo actúe por fuera del sistema, pero aumenta el riesgo de que una decisión peligrosa quede concentrada en la cúpula del poder

La competencia por alcanzar la AGI es, en su opinión, la gran carrera tecnológica de esta generación. El resultado podría definir la capacidad política y económica de Estados Unidos y China durante las próximas décadas

Una reacción sin sorpresa en Silicon Valley

Hwang conversó con abogados corporativos, exdirectivos y referentes que ocuparon puestos de liderazgo en áreas de inteligencia artificial de Apple, Google y Nvidia. También habló con personas vinculadas con los primeros años de YouTube

Según su relato, ninguno recibió las advertencias públicas de los últimos días como una revelación. La percepción predominante fue que los riesgos ya eran conocidos dentro de la industria y que la ola de declaraciones tenía un fuerte componente de relaciones públicas

Las advertencias son consideradas plausibles, pero no provocaron una preocupación nueva entre los principales actores tecnológicos. Para Hwang, el objetivo central de esa comunicación era llamar la atención del público y de las autoridades de Washington, más que informar a quienes trabajan diariamente en Silicon Valley