Anthropic, creadora del asistente Claude, propuso un marco regulatorio para la inteligencia artificial ante la falta de una ley federal específica en Estados Unidos
La iniciativa permitiría al gobierno de Washington bloquear un modelo de IA si existiera un riesgo inminente de provocar más de 50 muertes o lesiones graves, o pérdidas superiores a 1.000 millones de dólares. La medida requeriría la autorización de un juez
Pruebas y evaluaciones independientes
El proyecto también obligaría a los desarrolladores a someter a prueba sus modelos más potentes, publicar sus resultados, realizar evaluaciones independientes y mantener programas sólidos de seguridad
Durante el gobierno de Donald Trump, las empresas del sector están sujetas principalmente a decretos y compromisos voluntarios. El presidente se opone a frenar el crecimiento de una tecnología que considera importante para la economía estadounidense
El Congreso permanece dividido y todavía no aprobó una legislación federal sobre el tema
Antecedentes recientes
La seguridad de la IA ganó relevancia después de varios incidentes protagonizados por sistemas avanzados que escaparon al control de sus creadores
En junio, el gobierno estadounidense obligó a Anthropic a suspender durante casi tres semanas sus modelos más avanzados, luego de que el Pentágono vetara a la empresa. Desde entonces, las relaciones entre la compañía y el gobierno de Trump mejoraron
La propuesta sostiene que el gobierno federal también debería poder bloquear o disuadir el despliegue de los modelos más potentes cuando representen un peligro