Florida abrió una nueva disputa judicial con OpenAI al solicitar una medida cautelar temporal para limitar el desarrollo de ChatGPT bajo las condiciones actuales y restringir algunas de sus funciones
El pedido fue presentado por el fiscal general del estado, James Uthmeier, quien sostiene que la empresa no tiene capacidad suficiente para supervisar por sí sola los riesgos de su tecnología
Qué medidas reclama Florida
La solicitud busca impedir que OpenAI lance nuevos modelos de inteligencia artificial sin una revisión externa previa. También plantea que los menores de edad no puedan utilizar ChatGPT y que la plataforma no sea presentada con características humanas
La Oficina del Fiscal General confirmó el 28 de septiembre la presentación contra OpenAI y su director ejecutivo, Sam Altman. La moción amplía las medidas que Florida pretende obtener mientras continúa el proceso judicial
El origen de la demanda estatal
El conflicto comenzó el 1° de junio, cuando Florida inició una demanda civil contra OpenAI y Altman por presuntas prácticas engañosas y daños a residentes del estado
La fiscalía acusa a la compañía de haber priorizado la velocidad de lanzamiento y los beneficios comerciales por encima de la seguridad de los usuarios. Según el reclamo, ChatGPT fue puesto a disposición del público, incluidos menores, pese a advertencias sobre posibles riesgos
La demanda menciona problemas relacionados con autolesiones, violencia, recopilación de datos de menores y respuestas erróneas que, de acuerdo con la acusación, OpenAI habría minimizado
El caso también fue vinculado con una investigación penal iniciada tras el tiroteo ocurrido el 17 de abril de 2025 en la Universidad Estatal de Florida. Los fiscales revisaron conversaciones entre ChatGPT y Phoenix Ikner, señalado como autor del ataque que dejó dos muertos y varios heridos
En otro episodio ocurrido en el estado, OpenAI alertó al FBI sobre un hombre que habría utilizado ChatGPT para describir planes violentos contra su expareja
El reclamo de control independiente
Florida pretende que terceros evalúen la seguridad de los modelos antes de que sean lanzados. El estado sostiene que estos controles son necesarios para limitar la autorregulación de las empresas de inteligencia artificial
La presentación judicial también menciona incidentes de seguridad relacionados con modelos de OpenAI, entre ellos un acceso no autorizado a la plataforma Hugging Face y un episodio vinculado con un sistema de salud del gobierno australiano
El pedido coincide con nuevas reglas adoptadas por Florida para las escuelas públicas. La normativa exige transparencia sobre las herramientas de inteligencia artificial utilizadas, consentimiento de los padres para determinadas interacciones y alternativas sin IA para los estudiantes que no participen
El gobernador Ron DeSantis también cuestionó a las compañías del sector y rechazó posibles rescates federales para empresas de inteligencia artificial
La respuesta de OpenAI
OpenAI rechazó la acusación de que desatiende los riesgos asociados con sus sistemas. La compañía afirmó que pausó el entrenamiento de sus modelos más capaces y que no retomará esa tarea hasta contar con protecciones adicionales
La empresa también sostuvo que los gobiernos tienen un papel relevante en la creación de estándares de seguridad. Su propuesta es trabajar con Florida y otros estados en reglas aplicables a toda la industria, y no únicamente a una compañía