Anthropic nació hace cinco años, cuando siete antiguos empleados de OpenAI se separaron para crear una empresa centrada en la seguridad de la inteligencia artificial. Entre sus fundadores están Dario Amodei, de 43 años, y su hermana Daniela Amodei, de 39, actual presidenta
La compañía desarrolló el chatbot Claude y se convirtió en una de las voces más visibles sobre los riesgos de una tecnología que, según sus propios líderes, podría causar daños catastróficos o incluso amenazar la supervivencia humana
Una empresa que intenta avanzar más despacio
Tras su primera jornada de cotización, Anthropic alcanzó un valor de mercado de 1,75 billones de dólares. El resultado aumentó la presión de los accionistas para obtener ganancias de una tecnología cuyos riesgos existenciales la propia empresa ha advertido
Dario Amodei describió esa tensión como uno de los conflictos centrales de la compañía. Comparó el desarrollo de nuevos modelos con conducir un vehículo que pasó de circular a 60 millas por hora a poder hacerlo a 200
Según su explicación, Anthropic podría avanzar a la máxima velocidad, pero opta por limitar el ritmo a 90 millas por hora mientras dedica tiempo a evaluar la seguridad del sistema y a mantenerlo bajo control humano
La empresa también ha defendido la intervención de evaluadores independientes y una coordinación internacional para controlar el desarrollo de la inteligencia artificial
La velocidad aumenta con ayuda de la propia inteligencia artificial
Las promesas de prudencia conviven con señales de aceleración. Un informe de una organización sin fines de lucro concluyó que Anthropic desarrolla sus sistemas aproximadamente al doble de velocidad que hace un año, en buena medida porque utiliza inteligencia artificial para construir versiones mejoradas de sus propios modelos
Un investigador que dejó la empresa en septiembre cuestionó las prácticas de seguridad de Anthropic y OpenAI. También advirtió que algunos especialistas creen que la inteligencia artificial podría poner en riesgo vidas humanas antes de que termine la década
Amodei sostuvo que el trabajo de seguridad más difícil todavía está por delante y aseguró que la empresa retrasará el entrenamiento y el lanzamiento de sus sistemas todo el tiempo necesario para confiar en que sean seguros
El dilema entre beneficio público y riqueza privada
Anthropic está constituida como una corporación de beneficio público, una figura legal que obliga a equilibrar los intereses de los accionistas con el bien común. La salida a Bolsa, sin embargo, produjo una concentración extraordinaria de riqueza entre sus fundadores, empleados e inversores
Antes de la oferta pública inicial, Dario y Daniela Amodei tenían patrimonios personales de algo más de 14.000 millones de dólares cada uno. Para el jueves por la tarde, sus patrimonios habían subido a 22.700 y 22.800 millones de dólares, respectivamente
Los hermanos Amodei y los demás cofundadores dijeron que destinarán el 80% de sus participaciones a la filantropía, aunque el compromiso es voluntario. La empresa también iguala las donaciones de acciones realizadas por sus empleados y prometió asignar al menos el 5% de sus acciones a un fondo de beneficio público
Transparencia sobre los riesgos y dudas sobre la contradicción
En un documento presentado ante los reguladores, Anthropic dedicó 93 páginas a los factores de riesgo que deben conocer los inversores. Entre ellos incluyó la posibilidad de que los sistemas avanzados de inteligencia artificial provoquen daños catastróficos o riesgos existenciales para la humanidad
La empresa presenta esa advertencia como parte de su compromiso con la transparencia y como una razón para desarrollar sistemas más seguros. Sus críticos, en cambio, cuestionan que utilice escenarios extremos para posicionarse como la solución mientras continúa impulsando la expansión de la tecnología
La contradicción quedó resumida en una consigna utilizada por manifestantes frente a la sede de Anthropic: “Les pido que me pidan que pare”