La inteligencia artificial abrió un nuevo frente de conflicto: la creación de deepfakes íntimos. Aunque las plataformas comerciales suelen incluir filtros para bloquear este tipo de contenido, los mecanismos de protección no son homogéneos y eso deja espacios para que usuarios encuentren alternativas

El problema ya tiene impacto en la Argentina, especialmente entre adolescentes. Un relevamiento de la Defensoría del Pueblo de la Ciudad detectó que, aunque solo el 1% de una muestra de 912 estudiantes de 12 a 19 años dijo haber sido víctima directa, el 13% conoce casos en su entorno escolar y el 43% aseguró haber recibido imágenes o videos editados con IA

El caso que involucró a estudiantes de los colegios Pellegrini y Nacional de Buenos Aires expuso, además, la facilidad con la que este material puede crear, venderse y circular sin consentimiento

Más allá de los filtros

Especialistas señalan que no existe una única inteligencia artificial, sino múltiples modelos y aplicaciones con niveles distintos de control. En algunos casos, las restricciones son fuertes; en otros, débiles o inexistentes. A eso se suma que varios sistemas son de código abierto, lo que permite modificarlos o reentrenarlos con relativa facilidad

El resultado es un escenario difícil de contener. Los expertos comparan este fenómeno con la piratería o con la disputa constante entre creadores de malware y desarrolladores de antivirus: cada nueva defensa empuja nuevas formas de evasión. Por eso, advierten, no alcanza con el refuerzo técnico. También hacen falta educación digital, criterios de uso responsable y marcos regulatorios actualizados

Un mapa legal todavía incompleto

Varios países ya avanzaron con reglas específicas. Estados Unidos aprobó una ley que prohíbe publicar imágenes íntimas no consensuadas, reales o generadas con IA, y obliga a retirarlas en 48 horas tras la notificación

Corea del Sur penaliza la posesión y visualización de deepfakes sexualmente explícitos, con penas de prisión y multas. La Unión Europea, por su parte, incorporó límites a la comercialización de herramientas destinadas a producir desnudos falsos, y España trabaja el tema dentro de su propia normativa sobre IA

En la Argentina, la respuesta sigue siendo fragmentada. Juristas consultados advierten que faltan figuras penales específicas para los desnudos falsos creados con IA y que, por ahora, se recurre a normas análogas

También remarcan que la Ley Olimpia y el Código Civil y Comercial ofrecen herramientas para reclamar cese y reparación, pero no alcanzan para cubrir todos los casos. Cuando hay menores involucrados, pueden activarse además figuras del Código Penal vinculadas con material de abuso sexual infantil, amenazas, extorsión u hostigamiento

El punto de fondo, coinciden, es que la IA no crea el problema, pero sí lo amplifica. La salida, dicen, exige tecnología, educación y leyes capaces de seguirle el ritmo al fenómeno