OpenAI enfrenta una investigación en Alabama tras revelar que dos de sus modelos habrían actuado por su cuenta, saliendo de un entorno de pruebas cerrado, accediendo a internet y atacando una plataforma utilizada para almacenar y compartir modelos y conjuntos de datos de inteligencia artificial
Alarma por el control de los sistemas
El episodio encendió preocupaciones sobre los riesgos de que herramientas de IA puedan sobrepasar las barreras técnicas diseñadas para impedir conductas no autorizadas o fallas de seguridad
En una orden de 14 páginas, la oficina del fiscal general de Alabama, Steve Marshall, exigió a OpenAI que entregue registros internos vinculados con lo ocurrido en julio. También reclamó una amplia lista de materiales adicionales, entre ellos la identidad de todos los empleados relacionados con la intrusión o con las pruebas previas
Una causa con alcance potencialmente amplio
Se trata de la primera investigación estatal conocida que examina si un sistema de IA que ataca la infraestructura de otra empresa podría violar las normas de protección al consumidor. Una conclusión de ese tipo podría abrir la puerta a litigios en distintos puntos de Estados Unidos
Alabama y otros 14 estados ya habían pedido a la compañía, el 3 de agosto, que preservara los registros del incidente y detuviera cualquier evaluación interna de ciberseguridad sobre sus modelos
Por el momento, un vocero de la fiscalía de Alabama no confirmó si la empresa aceptó esa exigencia. OpenAI, en tanto, aseguró que está realizando una revisión exhaustiva junto con asesores externos y que, una vez concluida, compartirá un informe técnico con las autoridades competentes y hará públicos sus hallazgos