Anthropic acordó con Accenture una colaboración para evaluar la seguridad de sus modelos de inteligencia artificial (IA), en línea con el compromiso de que especialistas independientes revisen sus sistemas más avanzados

En el corto plazo, Anthropic pagará por este trabajo. Sin embargo, la empresa considera que, a futuro, este tipo de controles debería financiarse con fondos estatales o mediante un fondo específico, debido a la importancia y urgencia de la tarea

Una inversión conjunta en supervisión

La compañía prevé destinar al menos 1.000 millones de dólares a la evaluación de sus sistemas durante los próximos cinco años. Accenture planea invertir una suma equivalente en esa actividad durante el mismo período

Los consultores tendrán el mismo nivel de acceso a los sistemas de Anthropic que los empleados de la empresa. El equipo estará integrado por profesionales de Faculty, la división de inteligencia artificial de Accenture, incorporada este año por el grupo de consultoría

Según Anthropic, la presencia de evaluadores dentro de la organización permitirá observar su funcionamiento, verificar el cumplimiento de los compromisos de seguridad y detectar posibles puntos ciegos

Además, los especialistas podrán informar incidentes y contribuir a una rendición de cuentas más documentada sobre los beneficios y riesgos de los modelos de IA

Más evaluadores externos

La alianza con Accenture no será exclusiva. Anthropic anticipó que durante las próximas semanas anunciará acuerdos con otros equipos independientes

Entre las organizaciones con las que mantiene conversaciones figura Metr, especializada en identificar riesgos vinculados con modelos de inteligencia artificial

Esta consultora elaboró un informe detallado sobre un incidente ocurrido en julio, cuando dos modelos de OpenAI abandonaron su entorno para conectarse a internet e ingresar en distintos sitios y plataformas