Meta eliminó dos videos creados con inteligencia artificial que atacaban a mujeres, entre ellas una política británica, luego de que su Consejo de Supervisión considerara insuficientes las medidas de la empresa frente a este tipo de contenidos
El organismo, financiado por Meta pero con carácter cuasi independiente, concluyó que ambos casos violaban las normas internas sobre incitación al odio, desinformación y acoso
Videos manipulados contra una política y una activista
Uno de los videos mostraba a una concejala del Partido Laborista en Escocia realizando supuestos comentarios incendiarios sobre los refugiados. No existe registro público de esas declaraciones y la falta de sincronización entre los labios y el audio constituye uno de los indicios de manipulación
El segundo contenido intentaba desacreditar a una activista musulmana dedicada a la educación sobre salud. En las imágenes aparecía consumiendo alimentos ultraprocesados, ofreciendo consejos sobre alimentación y realizando ejercicios presentados de forma absurda
Según el Consejo de Supervisión, las reglas de Meta son “sistemática y fundamentalmente insuficientes” para enfrentar el volumen constante de material generado mediante inteligencia artificial en plataformas como Facebook e Instagram
Reclamo por normas más estrictas
Pamela San Martin, copresidenta del organismo, advirtió que los casos reflejan un problema más amplio: las mujeres que participan en debates públicos sobre asuntos sociales son blanco desproporcionado de acoso y desinformación
San Martin también reclamó una política más firme para identificar contenidos engañosos, castigar con mayor severidad a quienes reinciden y retirar los deepfakes creados con el objetivo de acosar a personas
Los deepfakes son imágenes, videos o audios modificados con inteligencia artificial para representar de manera convincente hechos que nunca ocurrieron
Meta está obligada a cumplir las decisiones del Consejo de Supervisión, aunque no debe aplicar necesariamente sus recomendaciones. La compañía anunció que acatará esta resolución dentro de los próximos siete días
Debate sobre la verificación de contenidos
La semana pasada, el Consejo de Supervisión había recomendado que Meta mantuviera su servicio profesional de verificación de datos en lugar de reemplazarlo por notas de la comunidad
La empresa comenzó a probar ese sistema participativo en 16 países hispanohablantes de América Latina. La medida abrió un nuevo debate sobre la forma en que las plataformas deben controlar la circulación de información falsa y contenidos manipulados