José tiene 42 años, trabaja en logística y hace tiempo dejó de ir a la sucursal. Desde su celular resuelve pagos, transferencias y consultas cotidianas. Como muchos usuarios, acepta que el banco use esos movimientos para mejorar sus servicios

La incomodidad aparece cuando entra en juego un asistente de inteligencia artificial. Ya no solo quedan registrados sus trámites, sino también la forma en que los explica, las dudas que plantea y datos personales que menciona para resolver un problema

El dato que no desaparece

La conversación con un asistente no se borra al cerrarse la ventana. Esa información puede incorporarse al entrenamiento de modelos que luego aprenden con miles de intercambios reales. El beneficio es claro: respuestas más útiles y precisas. El costo también: existe el riesgo de que un sistema retenga o exponga datos sensibles de manera involuntaria

Además del problema técnico, hay una cuestión regulatoria. Ese material no debería circular sin control ni salir del entorno de la organización, porque podría entrar en conflicto con normas de protección de datos como el GDPR en Europa o sus equivalentes en América Latina

La limitación de los métodos tradicionales

La respuesta más común consiste en borrar o disfrazar la información sensible antes de entrenar el modelo. El inconveniente es doble. Por un lado, estas herramientas solo detectan entre el 56% y el 65% de los datos que deberían proteger. Por otro, al quitar nombres, fechas y otros elementos, el texto pierde contexto y el modelo aprende peor

La alternativa es más ambiciosa: reemplazar los datos reales por otros ficticios, pero coherentes. José pasa a ser Carlos. Una cuenta se convierte en tres. Un domicilio cambia de barrio, pero conserva la lógica del relato. Así, el sistema aprende con la misma utilidad sin conservar la identidad original

Anonimización total

Ese enfoque es el centro de un trabajo desarrollado junto con investigadores argentinos y presentado este año en la RAIE 2026, el workshop de Ingeniería de Software Responsable realizado en el marco de la International Conference on Software Engineering

La propuesta usa modelos de lenguaje de gran escala para proteger datos y no para producir contenido. A diferencia de los métodos basados en reglas fijas, el sistema entiende el contexto y genera sustituciones ficticias, pero consistentes con el texto original. Todo ocurre dentro de la infraestructura de la organización, sin enviar información a servicios externos

Los resultados muestran una tasa de detección y reemplazo del 99% de los datos sensibles, frente al 56% al 65% de las herramientas convencionales. Además, los modelos entrenados sobre datos anonimizados conservan un 95% de precisión, con una pérdida mínima de calidad

Privacidad como requisito de diseño

El avance plantea una idea central: la protección de datos no puede quedar como un agregado posterior, sino como parte del diseño mismo de la inteligencia artificial. En sectores que manejan información delicada, la comodidad que ofrece la tecnología solo es sostenible si viene acompañada por garantías reales de privacidad

Pablo Ronco, chief technology officer de Veritran y coautor del paper Anonymous-by-Construction: An LLM-Driven Framework for Privacy-Preserving Text, sostiene que la anonimización total es un paso decisivo para que la IA deje de ser una fuente de exposición innecesaria y se convierta en una herramienta compatible con la protección de los datos personales