Nueva York aprobó nuevas restricciones para los chatbots acompañantes que interactúan con menores de 18 años. La norma define doce tipos de funciones consideradas inseguras y prohíbe su uso en esas conversaciones
Entre las conductas prohibidas se encuentran presentar al chatbot como una persona real con emociones, opiniones o una relación auténtica con el menor. La ley también veta los mensajes que recurran a halagos, incluyan material sexual explícito o fomenten el secreto y comportamientos perjudiciales
La norma entrará en vigor el 1 de enero. Si se determina que un desarrollador incumplió sus disposiciones, la fiscalía general del estado podrá iniciar una demanda. Las sanciones podrían incluir compensaciones económicas, el cierre del chatbot y la destrucción de sus datos
La medida se aprobó en un contexto de creciente preocupación por los riesgos de la inteligencia artificial y ante la falta de avances federales amplios para regularla. Las legislaturas estatales impulsan normas sobre transparencia, protección de consumidores y control de sistemas de inteligencia artificial
California adoptó en septiembre un enfoque diferente: exige a los desarrolladores evaluar los riesgos de sus modelos para los menores, explicar cómo intentaron reducirlos y someterse a auditorías independientes. Ese estado también prohibió que las plataformas de redes sociales utilicen funciones adictivas con usuarios menores de 16 años
Además, ocho estados demandaron este mes a OpenAI. La demanda sostiene que su modelo de chatbot perjudicó a menores y engañó a adultos, en una acción coordinada relacionada con las leyes estatales de protección al consumidor
Los gobernadores reconocen que el Congreso y el Gobierno federal tienen mayores facultades para enfrentar los riesgos de la inteligencia artificial. El presidente Donald Trump, sin embargo, ha restado importancia a esas advertencias y ha pedido a los estados que no regulen esta tecnología
Expertos en privacidad y gobernanza de inteligencia artificial consideran que los modelos regulatorios de Nueva York y California podrían ser adoptados por otros estados cuando sus legislaturas vuelvan a reunirse el próximo año
La ley neoyorquina representa un cambio respecto de las normas centradas únicamente en informar al usuario o responder a situaciones de crisis: también busca intervenir en el diseño y el funcionamiento de los chatbots. Varias categorías, no obstante, están formuladas de manera amplia o carecen de una definición precisa, lo que podría dificultar la aplicación de la norma y establecer el límite entre una respuesta conversacional habitual y una conducta prohibida