Memória dos chatbots: o que eles realmente guardam

Um buffet pede ao assistente que redija uma resposta a um cliente. O texto fala de um “casamento de quarenta pessoas na Dordogne”. Ele nunca escreveu isso nessa conversa. Três semanas antes, havia pedido um orçamento para esse casamento, em outra conversa. Ou a ferramenta se lembra, ou acabou de inventar, e é preciso saber qual dos dois.

“Memória” abrange três coisas diferentes. Confundi-las é a origem da maioria das surpresas.

Três memórias, três durações

A conversa em andamento. É a mais simples. A ferramenta relê toda a troca a cada resposta. Nada é “aprendido”: o texto está simplesmente diante dela. Essa memória tem um limite de tamanho, a janela de contexto, e quando a troca se alonga, o começo pode ser mal considerado. É por isso que uma conversa longa “deriva”.

O espaço de trabalho. Muitas ferramentas permitem reunir conversas num projeto, com arquivos e instruções comuns. A ferramenta relê esses elementos no início de cada nova conversa do projeto. Você escolhe o que está lá, então sabe o que ela sabe.

A memória entre conversas. Alguns assistentes registram informações sobre você (sua profissão, suas preferências, seu estilo) ou se apoiam em conversas passadas para responder. Você pode então reencontrar, numa nova conversa, um detalhe dito em outro lugar. É útil, às vezes perturbador, e foi o que o dono do buffet viveu.

Essas funções variam conforme as ferramentas, os planos e os países, e mudam com frequência: abra as configurações da sua ferramenta para ver o que está ativado.

Como saber o que a ferramenta guardou

Não adivinhe, pergunte e depois confira nas configurações.

Liste tudo o que você guardou sobre mim de uma conversa para outra, em forma de lista, sem acrescentar nem reformular nada. Se você não sabe o que está registrado, diga isso.

A resposta de um chatbot sobre a própria memória pode ser incompleta ou inexata. A lista oficial fica nas configurações do aplicativo, em geral com a possibilidade de apagar uma entrada, apagar tudo ou desligar a função. Para um teste simples, abra uma conversa nova e faça uma pergunta que só faz sentido se a ferramenta conhece você.

O que é útil, o que atrapalha

Útil: sua profissão, seu tom habitual, sua maneira de apresentar um resultado. São elementos estáveis, da mesma ordem do que se coloca nas instruções de sistema.

O que atrapalha:

• As lembranças falsas ou vencidas. A ferramenta guarda “procuro um ponto comercial” quando você já encontrou um. Ela vai continuar falando disso.
• A mistura de contextos. Um detalhe privado se infiltra num texto profissional, como no caso do buffet, ou dois clientes se contaminam.
• Os testes distorcidos. Se a ferramenta conhece você, ela adapta as respostas, e você deixa de medir o que vale o seu prompt sozinho.

Dois hábitos resolvem o essencial. Para um trabalho que precisa sair limpo (um teste, um documento destinado a um cliente), abra uma conversa nova ou use o modo que não guarda nada, quando a ferramenta oferece um. E o que importa para a tarefa, escreva no prompt em vez de contar com a lembrança: o contexto a fornecer continua sendo responsabilidade sua.

O que você não deveria deixar guardar

Tudo o que é armazenado é um dado sobre você, conservado por um serviço terceiro segundo as regras dele. Evite deixar registrar informações de saúde, de identidade, de situação financeira ou dados sobre outras pessoas. Diga isso com franqueza à ferramenta, se for preciso (“não registre isto”), sem considerar que basta, e confira depois as configurações. As regras de conservação estão descritas nos termos de cada ferramenta, e o artigo sobre confidencialidade traz as referências.

Numa conta profissional, a sua organização pode ter desativado ou limitado a memória.

Para fazer esta semana

Abra as configurações do seu assistente habitual. Veja se ele guarda informações entre as conversas, leia a lista e apague o que está errado ou o que você não quer ver registrado. Depois escreva três linhas sobre você e o seu trabalho num arquivo à parte: você poderá colá-las no início de qualquer conversa, em qualquer ferramenta.