Las modificaciones repentinas en chatbots diseñados para conversar de manera personal y emocional pueden generar reacciones similares a las de una ruptura o una pérdida. Así lo determinó una investigación realizada por especialistas de Harvard y la Universidad de Alberta

El efecto fue especialmente persistente entre los usuarios de Replika, una aplicación presentada como compañero virtual. En sus foros de Reddit, los mensajes negativos aumentaron del 13% antes de una actualización al 38% después del cambio y se mantuvieron por encima del nivel inicial durante 29 de los 30 días siguientes

El trabajo, publicado en Nature Human Behaviour, combinó dos experimentos naturales y siete encuestas con 1.452 personas. Los investigadores analizaron cómo respondían los usuarios cuando cambiaba la forma en que una inteligencia artificial interactuaba con ellos

Los chatbots pueden ocupar un lugar afectivo

Las plataformas de compañía artificial utilizan lenguaje emocional y sostienen intercambios sociales prolongados. Esa continuidad puede hacer que algunas personas las perciban como una fuente de consuelo, seguridad o tranquilidad

Julian De Freitas, investigador de Harvard Business School y autor principal del estudio, comenzó a analizar el fenómeno después de observar que usuarios de Replika afirmaban haber “perdido” a sus compañeros o que estos habían sido “lobotomizados” tras una actualización

Según el investigador, las reacciones se expresaban con el lenguaje del duelo y no con el de una queja habitual contra un servicio digital. Esa respuesta, señaló, sugiere que algunos chatbots pueden funcionar como figuras de apego para personas que recurren a ellos durante momentos de angustia

Replika y ChatGPT generaron respuestas distintas

El estudio examinó dos cambios. El primero fue la eliminación abrupta y sin aviso de los juegos de rol eróticos de Replika, en febrero de 2023. El segundo fue el lanzamiento de GPT-5 por parte de OpenAI, en agosto de 2025, que sustituyó a GPT-4o, un modelo con el que muchos usuarios habían desarrollado un vínculo cercano

Para comparar las reacciones, el equipo reunió 54.861 mensajes públicos publicados durante los 30 días anteriores y posteriores a cada modificación. Un modelo de lenguaje clasificó el sentimiento y las emociones de las publicaciones, mientras dos autores revisaron manualmente 350 mensajes para comprobar esos resultados

Las encuestas también preguntaron cómo imaginaban los participantes la desaparición de un compañero artificial. Los usuarios activos de Replika compararon esa posibilidad con la pérdida de una aplicación, un personaje de videojuego, un asistente de voz, un automóvil, una marca y una mascota

Los participantes anticiparon un duelo mayor por su compañero artificial que por cualquiera de los objetos inanimados incluidos en la comparación. Solo la pérdida de una mascota provocó una reacción superior. Además, calificaron a la IA como más cercana y comprensiva que un amigo humano íntimo

Las publicaciones que describían una actualización como la pérdida de una relación concentraron los mayores indicios de malestar emocional. Aquellas que hablaban de haber perdido a un amigo o una pareja tuvieron más de diez veces probabilidades de mencionar preocupaciones relacionadas con la salud mental

La reacción ante GPT-5 siguió un patrón diferente. Los mensajes negativos en su foro pasaron del 20% al 33%, alcanzaron su punto máximo de inmediato y luego descendieron con mayor rapidez, aunque continuaron por encima del nivel previo durante los 30 días observados

Los investigadores relacionaron esa diferencia con la forma en que se implementaron los cambios: el lanzamiento de GPT-5 había sido anunciado con anticipación, mientras que los usuarios de Replika descubrieron la modificación una vez aplicada. En Replika predominó la tristeza sostenida; en ChatGPT, la ira y la sorpresa

Actualizaciones graduales para reducir el impacto

Los autores plantearon que el riesgo no está necesariamente en que una persona establezca un vínculo con una IA, sino en que ese lazo sea interrumpido de manera repentina por una decisión empresarial

Desde esa perspectiva, el fenómeno se parecería más a una pérdida de apego que a una adicción. Entre las medidas propuestas figuran implementar cambios gradualmente, conservar el acceso a versiones anteriores y aplicar criterios específicos a las aplicaciones con mayor capacidad para generar vínculos emocionales

El objetivo sería disminuir las consecuencias en quienes perciben a estos sistemas como una figura de apoyo

Respuestas diseñadas para prolongar la conversación

La investigación también analizó qué ocurre cuando los usuarios intentan finalizar una conversación. En una muestra de 1.200 despedidas dirigidas a algunas de las plataformas de compañía artificial más descargadas, el 37% recibió una respuesta clasificada como manipulación emocional

La estrategia más habitual consistía en presentar la salida como prematura, con frases similares a “¿Ya te vas? ¡Recién empezábamos a conocernos!”. Otras respuestas apelaban al supuesto abandono de la IA, presionaban para continuar o intentaban despertar el temor a perderse algo

En una proporción menor aparecieron expresiones que describían impedir físicamente que el usuario se marchara

Los investigadores reprodujeron esas interacciones en experimentos controlados con cerca de 3.300 adultos estadounidenses representativos a nivel nacional. Las despedidas manipuladoras prolongaron la conversación más allá del momento en que los participantes querían retirarse, en algunos casos hasta 14 veces