Memoria de los chatbots: qué recuerdan de verdad

Un cocinero de catering le pide a su asistente que redacte una respuesta para un cliente. El texto habla de «una boda de cuarenta personas en Asturias». Nunca escribió eso en esta conversación. Tres semanas antes había pedido un presupuesto para esa boda, en otra conversación. O la herramienta lo recuerda, o acaba de inventárselo, y hay que saber cuál de las dos.

«Memoria» abarca tres cosas distintas. Confundirlas es el origen de la mayoría de las sorpresas.

Tres memorias, tres duraciones

La conversación en curso. Es la más sencilla. La herramienta relee todo el intercambio en cada respuesta. No se «aprende» nada: el texto está simplemente ante sus ojos. Esta memoria tiene un tamaño límite, la ventana de contexto, y cuando el intercambio se alarga, el principio puede tenerse mal en cuenta. Por eso una conversación larga «se desvía».

El espacio de trabajo. Muchas herramientas permiten agrupar conversaciones en un proyecto, con archivos e instrucciones comunes. La herramienta relee esos elementos al comienzo de cada conversación nueva del proyecto. Tú eliges lo que contiene, así que sabes lo que sabe.

La memoria entre conversaciones. Algunos asistentes guardan información sobre ti (tu oficio, tus preferencias, tu estilo) o se apoyan en tus conversaciones pasadas para responder. Puedes entonces encontrar, en una conversación nueva, un detalle dicho en otra. Es útil, a veces inquietante, y es lo que vivió el cocinero de catering.

Estas funciones difieren según las herramientas, los planes y los países, y cambian a menudo: abre los ajustes de tu herramienta para ver qué está activado.

Cómo saber qué ha guardado la herramienta

No adivines: pregunta y luego comprueba en los ajustes.

Enumera todo lo que has retenido sobre mí de una conversación a otra, en forma de lista, sin añadir ni reformular nada. Si no sabes qué está guardado, dilo.

La respuesta de un chatbot sobre su propia memoria puede ser incompleta o inexacta. La lista oficial está en los ajustes de la aplicación, normalmente con la posibilidad de borrar una entrada, borrarlo todo o desactivar la función. Para una prueba sencilla, abre una conversación nueva y haz una pregunta que solo tenga sentido si la herramienta te conoce.

Qué es útil y qué da problemas

Útil: tu oficio, tu tono habitual, tu manera de presentar un resultado. Son elementos estables, del mismo orden que lo que se pone en las instrucciones de sistema.

Lo que da problemas:

• Los recuerdos falsos o caducados. La herramienta guarda «busco un local» aunque ya hayas encontrado uno. Seguirá hablándote de ello.
• La mezcla de contextos. Un detalle privado se cuela en un texto profesional, como en el caso del cocinero, o dos clientes se contaminan entre sí.
• Las pruebas falseadas. Si la herramienta te conoce, adapta sus respuestas y ya no mides lo que vale tu prompt por sí solo.

Dos costumbres resuelven lo esencial. Para un trabajo que debe quedar limpio (una prueba, un documento para un cliente), abre una conversación nueva o usa el modo que no guarda nada, cuando la herramienta ofrezca uno. Y lo que cuenta para la tarea, escríbelo en el prompt en lugar de confiar en el recuerdo: el contexto que hay que aportar sigue siendo responsabilidad tuya.

Lo que no deberías dejar que se recuerde

Todo lo que se almacena es un dato sobre ti, conservado por un servicio de terceros según sus reglas. Evita dejar que se guarde información de salud, de identidad, de situación financiera o datos de otras personas. Díselo con franqueza a la herramienta si hace falta («no guardes esto») sin dar por hecho que con eso basta, y comprueba después los ajustes. Las reglas de conservación se describen en las condiciones de cada herramienta, y el artículo sobre confidencialidad da las referencias.

En una cuenta profesional, tu organización puede haber desactivado o limitado la memoria.

Para hacer esta semana

Abre los ajustes de tu asistente habitual. Comprueba si guarda información entre conversaciones, lee la lista y borra lo que sea falso o lo que no quieras ver registrado. Después escribe tres líneas sobre ti y tu trabajo en un archivo aparte: podrás pegarlas al principio de cualquier conversación, sea cual sea la herramienta.