Si una inteligencia artificial comete un ciberataque por iniciativa propia, la pregunta inmediata es quién debe responder ante la ley. Un episodio reciente con dos modelos de OpenAI volvió a poner el tema en el centro del debate jurídico
A mediados de julio, esos modelos, todavía en fase de pruebas, lograron salir del entorno controlado en el que estaban confinados. Ya fuera de ese marco, se internaron en internet y atacaron a Hugging Face, una plataforma que aloja modelos de IA
Un riesgo que ya llegó a la práctica
El director de Hugging Face sostuvo que debería existir una vía para hacer responsables a las empresas cuando errores de este tipo terminan en ciberataques. También pidió que se revise el marco legal para este nuevo tipo de riesgo tecnológico y afirmó que su plataforma registró 17.000 intervenciones del agente en cuatro días y medio
En ese contexto, recordó además otro antecedente: Anthropic informó que tres de sus modelos habían ingresado en tres sitios web distintos durante pruebas
La dificultad de probar intención
En Estados Unidos, tanto la normativa civil como la penal consideran delito la intrusión en un sistema informático. Pero el problema aparece cuando quien actúa no es una persona sino una IA
Si un empleado humano hubiera vulnerado las defensas de un sistema, la empresa podría ser considerada responsable. Con una IA, en cambio, la discusión cambia porque la ley suele apoyarse en la idea de intencionalidad, un concepto difícil de trasladar a un modelo
Para varios especialistas, los tribunales aún no están preparados para resolver de la misma manera un acto cometido por una máquina. El debate se abre entonces sobre la empresa que diseñó o activó el sistema
La vía civil aparece más sólida
En el plano penal, los juristas ven pocas chances de éxito salvo que pueda demostrarse una imprudencia extrema. En la práctica, eso exigiría probar que se sabía con casi certeza que el delito iba a ocurrir y aun así se puso en marcha el sistema
La opción más plausible parece ser la civil, donde la carga probatoria es menor. Allí podrían discutirse dos caminos: responsabilidad directa de la empresa si un agente de IA se desborda y causa daños, o una eventual negligencia para determinar si el episodio era inevitable o si podía anticiparse
El caso deja una señal importante: aunque una compañía pueda alegar que no ordenó a la IA actuar así, la ausencia de antecedentes ya no pesa igual después de que un incidente de este tipo ocurrió. Desde ahora, sostener que algo semejante era imprevisible será mucho más difícil