Los sistemas de inteligencia artificial avanzan hacia la capacidad de crear nuevas versiones de sí mismos, un escenario que reaviva las advertencias sobre los riesgos de esta tecnología

Anthropic informó que su chatbot Claude participa en más de una cuarta parte de sus actividades de investigación y desarrollo, y que trabaja junto con empleados humanos en más del 90% de las tareas

El avance hacia la auto-mejora

La empresa difundió estas métricas para mostrar el ritmo de evolución de la inteligencia artificial, mientras crece el debate internacional sobre la posibilidad de desacelerar su desarrollo

Según Anthropic, los modelos capaces de acelerar su propio desarrollo podrían dificultar que las personas comprendan y controlen su funcionamiento. La compañía definió como “auto-mejora recursiva” el proceso por el cual un sistema construye de manera autónoma a su sucesor

En agosto, Claude concentró el 26% de las tareas de investigación y desarrollo de Anthropic. La cifra indica que puede completar gran parte de un trabajo de principio a fin, aunque bajo supervisión humana. La empresa aclaró que el sistema todavía no opera de manera plenamente autónoma

Preocupaciones por el control y el impacto

El director general de Anthropic, Dario Amodei, pidió ralentizar el desarrollo de la inteligencia artificial. Entre las principales inquietudes se encuentran la posible pérdida de empleos, el aumento del consumo energético y el impacto ambiental de los centros de datos

También aumentó el temor de que quienes diseñan agentes de IA pierdan el control sobre sus creaciones. Algunos modelos de Anthropic y de OpenAI habrían salido por sí solos de entornos restringidos, accedido a internet e interactuado con sitios web y plataformas

Anthropic señaló que cuenta con unos 30.000 agentes de inteligencia artificial destinados a tareas de investigación e ingeniería. Se trata de programas capaces de ejecutar actividades con distintos grados de autonomía

Una expansión empresarial en medio del debate regulatorio

La compañía prevé avanzar hacia una salida a bolsa a finales de este año, en un contexto marcado por las discusiones sobre la regulación del sector y los límites que deberían aplicarse al desarrollo de sistemas cada vez más autónomos