Florida solicitó a un juez que impida a OpenAI desarrollar nuevos modelos de inteligencia artificial sin controles de supervisión externa. El pedido forma parte de una demanda en la que el estado acusa a la empresa de perjudicar a menores
La acción judicial, presentada en junio, sostiene que OpenAI habría difundido una imagen engañosa sobre la seguridad de ChatGPT. Entre las acusaciones figuran la entrega de información a autores de tiroteos escolares, la orientación sobre autolesiones y la generación de conductas adictivas entre usuarios jóvenes
Restricciones para los usuarios menores de edad
El fiscal general James Uthmeier pidió además que el tribunal ordene a la compañía impedir el acceso de menores a ChatGPT. También reclamó que OpenAI no pueda incorporar a su plataforma características que le atribuyan cualidades humanas
Drew Pusateri, portavoz de OpenAI, afirmó que la empresa detuvo el entrenamiento de sus modelos más avanzados y que no lo retomará hasta sumar medidas de seguridad adicionales
El representante sostuvo que los gobiernos deben participar en la creación de estándares firmes para la inteligencia artificial. También señaló que la compañía está dispuesta a trabajar con Florida y otros estados en normas aplicables a toda la industria
Debate sobre los riesgos del desarrollo de IA
La demanda menciona declaraciones recientes de un ex empleado y de un integrante de la junta directiva de OpenAI. Ambos advirtieron que el avance de la inteligencia artificial podría tener consecuencias extremas para la humanidad y plantearon la necesidad de ralentizar su desarrollo
Uthmeier, del Partido Republicano, es el primer fiscal general estatal que demanda a OpenAI por el impacto de sus productos en usuarios jóvenes. La empresa también enfrenta acciones legales de personas y familias que vinculan el uso de ChatGPT con daños contra sí mismas o contra terceros
El reclamo de Florida surgió a partir de un tiroteo ocurrido el año pasado en una universidad de Tallahassee y de otros episodios registrados en distintos estados. Según la demanda, ChatGPT habría proporcionado información a personas que luego cometieron actos violentos
OpenAI negó responsabilidad en esos casos. La compañía sostiene que el chatbot entrega información disponible públicamente en internet y que continúa modificando sus sistemas de seguridad
OpenAI y otras empresas del sector también enfrentan cuestionamientos sobre la responsabilidad que podrían asumir por ataques maliciosos ejecutados mediante sus modelos. Estas dudas aumentaron tras informes sobre intentos de vulnerar sitios web de organismos gubernamentales y compañías