El temor de algunos especialistas ante la autonomía que podría alcanzar la inteligencia artificial obliga a revisar una idea instalada: que todo avance equivale necesariamente a progreso

Integrantes y exintegrantes de empresas líderes del sector advirtieron que una IA con capacidades superiores podría provocar consecuencias extremas, incluso poner en riesgo la supervivencia humana. Entre quienes expresaron esa preocupación hay miembros del equipo técnico y del área de seguridad de Anthropic

John Coxon, investigador que trabajó en dos grandes compañías tecnológicas antes de renunciar, cuestionó la carrera por desarrollar sistemas cada vez más poderosos. Según su interpretación, las empresas conocen los peligros, pero priorizan llegar antes que sus competidores a una superinteligencia capaz de perfeccionarse por sí misma

Cuando avanzar no significa mejorar

El filósofo inglés John Gray sostiene desde hace años que la noción de progreso suele confundir el movimiento hacia adelante con la idea de bien. El futuro, advierte, puede contener una promesa, pero también un riesgo que todavía no sabemos reconocer

Para Gray, la creencia moderna en el progreso supone que el crecimiento del conocimiento terminará acompañado por una mejora de la humanidad. Sin embargo, el saber no elimina nuestras debilidades ni garantiza decisiones sensatas. La historia, afirma, muestra que una mayor capacidad no siempre viene acompañada de una mayor responsabilidad

El filósofo también recupera el mito de Prometeo, la figura que entregó a los humanos el fuego y la metalurgia y fue castigada por Zeus. La historia funciona como una advertencia sobre el precio de obtener herramientas capaces de transformar radicalmente la vida sin medir sus consecuencias

La tecnología como amplificador de las fallas humanas

El problema de la inteligencia artificial no estaría únicamente en la herramienta, sino en las características humanas que puede potenciar. La ambición, la búsqueda desmedida de poder, la falta de límites, la irresponsabilidad y la ausencia de empatía aparecen concentradas en una tecnología con una capacidad de acción inédita

Gray considera que quienes minimizan el potencial destructivo de las tecnologías futuras desconocen las lecciones de la historia. La euforia por la innovación suele dejar en segundo plano una separación cada vez más marcada entre el desarrollo técnico y la evolución moral

Cuanto mayor es esa distancia, menor resulta el control sobre los usos de la tecnología y sobre los objetivos que orientan su diseño. Sin criterios éticos, desaparecen los límites que deberían guiar su aplicación

El filósofo plantea que una sociedad más inteligente y moral podría emplear sus herramientas para fines beneficiosos. Pero, en última instancia, la responsabilidad no recaería en los instrumentos, sino en quienes los crean, los administran y deciden para qué utilizarlos

Los riesgos asociados con la IA también evocan las ideas del economista italiano Carlo Cipolla sobre la estupidez humana: hay conductas que perjudican simultáneamente a otros y a quien las ejecuta

Desde esa perspectiva, llega un momento en que el avance tecnológico deja de demostrar la capacidad humana y empieza a revelar su vulnerabilidad. El progreso científico, económico o técnico que carece de orientación moral puede parecer una ascensión, aunque termine conduciendo hacia el abismo