Confidencialidade: o que você não deve colar em um chatbot

São 18h, e uma contadora quer reformular um e-mail delicado para um cliente em dificuldade. Ela copia a conversa inteira em um chatbot: o nome da empresa, o do sócio-gerente, o valor da dívida, o IBAN na assinatura. A resposta é excelente. O problema está antes da resposta: essas informações saíram do computador dela e chegaram aos servidores de um terceiro, em condições que ela talvez nunca tenha lido.

Era possível reformular esse e-mail sem entregar nada disso, com dez segundos de preparo. Veja como raciocinar, sabendo que não existe uma regra única: tudo depende da ferramenta, do seu plano, dos seus ajustes e do tipo de dado. O que segue dá referências gerais, não um parecer jurídico.

O que pode acontecer com o seu texto depois de enviado

Quando você envia uma mensagem, ela é processada pelos servidores da empresa que oferece a ferramenta, a menos que você use um modelo instalado na sua própria máquina. A partir daí, várias coisas podem acontecer, conforme a ferramenta e o contrato:

• a conversa é guardada por um período definido pela empresa;
• ela pode servir para treinar futuros modelos, a menos que você se oponha ou que o seu plano exclua isso;
• pessoas autorizadas podem, às vezes, consultá-la, por exemplo para tratar um abuso ou avaliar a qualidade;
• ela pode ficar acessível a qualquer pessoa que use a sua conta, ou ser compartilhada por engano se você criar um link público.

Essas condições evoluem e diferem de um produto para outro. Um único reflexo se sustenta com o tempo: parta do princípio de que todo texto enviado saiu do seu controle, a menos que você tenha verificado o contrário nos ajustes e nas condições da ferramenta.

O risco existe também para as empresas mais bem equipadas. Em 2023, a imprensa noticiou que a Samsung restringiu internamente o uso dessas ferramentas depois que funcionários colaram nelas código confidencial.

A lista para ter em mente antes de colar

Por padrão, mantenha fora de um chatbot de uso geral os itens a seguir, a menos que a sua organização tenha validado uma ferramenta e um enquadramento adequados.

Credenciais e segredos. Senhas, chaves de API, tokens de acesso, arquivos de configuração. Para quem programa, é a armadilha mais comum: cola-se um arquivo para depurar e a chave vai junto. Se isso acontecer com você, considere o segredo comprometido e troque-o.

Dados pessoais de terceiros. Nomes, endereços, telefones, e-mails, números de documentos como CPF ou seguro social, dados bancários de clientes, funcionários, alunos ou associados. Uma professora não precisa do nome de um aluno para preparar um comentário de boletim.

Dados sensíveis. Saúde, opiniões políticas, religião, orientação sexual, origem, sindicato: o RGPD os protege de forma reforçada. A prudência vale em dobro para dados de menores.

O que é coberto por sigilo. Médicos, advogados, contadores e outras profissões têm obrigações próprias. Antes de qualquer uso em casos reais, consulte o seu conselho profissional.

O que você não tem o direito de divulgar. Documentos sujeitos a um acordo de confidencialidade, resultados financeiros não publicados, contratos, projetos de aquisição, código proprietário, dados estratégicos.

Quanto aos seus próprios dados pessoais, a decisão é sua, mas pense no depois: o que você confia a um serviço on-line pode vir à tona em caso de vazamento.

Três ajustes para conferir na sua ferramenta

Reserve cinco minutos para essas verificações. A localização das opções muda com frequência: procure nas configurações de “privacidade” ou de “dados” e leia as condições da ferramenta em caso de dúvida.

Não deduza nada pelo preço: um plano pago individual não se comporta necessariamente como um plano empresarial. E um ajuste desativado não apaga necessariamente o que já foi enviado. Confira também para onde vão os dados se você ativar conectores ou extensões: uma ferramenta ligada ao seu e-mail ou ao seu drive enxerga bem mais do que o que você cola.

Mascarar os dados: a boa prática e seus limites

Na maior parte do tempo, o chatbot não precisa saber quem são as pessoas, basta entender a situação. Substitua os elementos de identificação por marcadores neutros.

Esta é a versão arriscada, num caso fictício:

Reformule este e-mail para Jean Dupont, gerente da padaria Dupont em Dole, que nos deve 12.430 € desde março e que está com problemas de saúde.

E esta é a versão que presta o mesmo serviço:

Sou [PROFISSÃO] e preciso cobrar um cliente com quem quero manter um bom relacionamento. O cliente, que vou chamar de Cliente A, é uma pequena empresa. Ele está com o pagamento atrasado há vários meses e atravessa um período pessoal difícil, que não quero mencionar diretamente.

Aqui está o meu rascunho, em que os nomes foram substituídos por marcadores:
"""
[RASCUNHO SEM NOME, SEM ENDEREÇO, SEM IBAN, SEM VALOR EXATO]
"""

Reformule esta mensagem para que seja firme quanto ao pagamento e humana na forma, em menos de 120 palavras. Proponha um cronograma de pagamento em forma de pergunta aberta. Deixe os marcadores como estão para que eu possa substituí-los depois.

Você recoloca os nomes verdadeiros no seu programa de e-mail, fora do chatbot. Se você faz esse tipo de pedido com frequência, incorpore esses marcadores aos seus modelos de prompts reutilizáveis e aos seus prompts para e-mails profissionais.

Esse mascaramento tem um limite. Trocar um nome por “Cliente A” nem sempre torna a pessoa impossível de reconhecer: a combinação de uma profissão rara, uma cidade e um acontecimento pode bastar. A CNIL, aliás, distingue a anonimização, que torna a identificação impossível na prática, da pseudonimização, e dados apenas pseudonimizados continuam sendo dados pessoais. Retire, portanto, os detalhes sem relação com a sua pergunta e mantenha aqueles de que o modelo realmente precisa.

Para um documento longo, o exercício é mais pesado. Antes de seguir nosso método para trabalhar com documentos longos, pergunte-se se um trecho limpo não bastaria. E não conte com o próprio chatbot para anonimizar um arquivo sensível: seria preciso enviá-lo a ele primeiro.

No trabalho: o que muda quando a ferramenta não é só sua

Dentro de uma organização, a decisão não cabe só a você. Seus usos comprometem o seu empregador, às vezes à luz do RGPD. Verifique primeiro se existe uma política interna ou uma lista de ferramentas autorizadas. Se não houver, faça a pergunta ao encarregado de proteção de dados, à diretoria ou ao setor de informática antes de colocar dados reais.

Para uma associação ou uma pequena estrutura sem departamento jurídico, a CNIL publicou perguntas e respostas sobre o uso de sistemas de IA generativa. Ela recomenda ali, em especial, partir de uma necessidade identificada, regular os usos por escrito e treinar as pessoas envolvidas. Lembra também de informar apenas o que se está autorizado a compartilhar e de evitar dados pessoais e confidenciais. Esse documento está em cnil.fr: procure “questions-réponses IA générative”. Em caso de dúvida sobre um caso específico, procure a CNIL ou um profissional do direito.

Uma opção pode complementar esse enquadramento: rodar um modelo na sua própria máquina ou em um provedor de hospedagem escolhido por você. Os dados deixam então de passar por um serviço de uso geral, mas a configuração, a segurança e a qualidade das respostas passam a ser problema seu.

Antes de fechar esta aba

Abra as configurações do seu chatbot e encontre a opção sobre treinamento com as suas conversas. Decida se ela deve continuar ativa. Depois procure, no seu histórico, a última conversa em que você colou algo sensível e verifique se ela deve ser apagada, lembrando que a exclusão no servidor segue as regras da empresa responsável.