Confidencialidad: qué no debes pegar en un chatbot

Son las 18:00 y una contable quiere reformular un correo delicado para un cliente en apuros. Copia toda la conversación en un chatbot: el nombre de la empresa, el del gerente, el importe de la deuda, el IBAN de la firma. La respuesta es excelente. El problema está antes de la respuesta: esa información ha salido de su equipo para llegar a los servidores de un tercero, en unas condiciones que quizá nunca ha leído.

Reformular ese correo era posible sin entregar nada de eso, con diez segundos de preparación. Así conviene razonar, sabiendo que no existe una regla única: todo depende de la herramienta, de tu plan, de tus ajustes y del tipo de datos. Lo que sigue ofrece referencias generales, no un dictamen jurídico.

Lo que puede pasarle a tu texto una vez enviado

Cuando envías un mensaje, lo procesan los servidores del proveedor, salvo que uses un modelo instalado en tu propio equipo. A partir de ahí, pueden darse varias situaciones según la herramienta y el contrato:

• la conversación se conserva durante un plazo que fija el proveedor;
• puede servir para entrenar futuros modelos, salvo que te opongas o que tu plan lo excluya;
• personas autorizadas pueden consultarla en ocasiones, por ejemplo para tratar un abuso o evaluar la calidad;
• puede ser accesible para cualquiera que use tu cuenta, o compartirse por error si creas un enlace público.

Estas condiciones evolucionan y difieren de un producto a otro. Un solo reflejo perdura en el tiempo: da por hecho que todo texto enviado ha escapado a tu control, salvo que hayas comprobado lo contrario en los ajustes y en las condiciones de tu herramienta.

El riesgo existe también para las empresas mejor equipadas. En 2023, la prensa informó de que Samsung había restringido el uso de estas herramientas a nivel interno después de que algunos empleados pegaran en ellas código confidencial.

La lista que debes tener presente antes de pegar

Por defecto, mantén fuera de un chatbot de uso general los siguientes elementos, salvo que tu organización haya validado una herramienta y un marco adecuados.

Las credenciales y los secretos. Contraseñas, claves de API, tokens de acceso, archivos de configuración. Para un desarrollador, es la trampa más habitual: se pega un archivo para depurar y la clave se va con él. Si te ocurre, considera el secreto comprometido y cámbialo.

Los datos personales de terceros. Nombres, direcciones, teléfonos, correos electrónicos, números de la Seguridad Social, datos bancarios de clientes, empleados, alumnos o socios. Una profesora no necesita el nombre de un alumno para preparar una valoración.

Los datos sensibles. Salud, opiniones políticas, religión, orientación sexual, origen, sindicato: el RGPD los protege de forma reforzada. La prudencia vale el doble para los datos de menores.

Lo que está cubierto por un secreto. Médicos, abogados, asesores fiscales y otras profesiones tienen obligaciones propias. Antes de cualquier uso con expedientes reales, consulta a tu colegio profesional o a tu asesor.

Lo que no tienes derecho a divulgar. Documentos sujetos a un acuerdo de confidencialidad, resultados financieros no publicados, contratos, proyectos de adquisición, código propietario, datos estratégicos.

En cuanto a tus propios datos personales, la decisión es tuya, pero piensa en lo que viene después: lo que confías a un servicio en línea puede salir a la luz en caso de filtración.

Tres ajustes que debes revisar en tu herramienta

Dedica cinco minutos a estas comprobaciones. La ubicación de las opciones cambia a menudo: busca en los ajustes de «privacidad» o de «datos» y, si tienes dudas, lee las condiciones de la herramienta.

No deduzcas nada del precio: un plan de pago individual no se comporta necesariamente como un plan para empresas. Y un ajuste desactivado no elimina necesariamente lo que ya se ha enviado. Comprueba también adónde van los datos si activas conectores o extensiones: una herramienta conectada a tu correo o a tu unidad en la nube ve mucho más que lo que tú pegas.

Ocultar los datos: la buena práctica y sus límites

La mayoría de las veces, el chatbot no necesita saber quiénes son las personas; le basta con entender la situación. Sustituye los elementos identificativos por referencias neutras.

Esta es la versión arriesgada, sobre un caso ficticio:

Reformula este correo para Jean Dupont, gerente de la panadería Dupont en Dole, que nos debe 12 430 € desde marzo y que tiene problemas de salud.

Y esta es la versión que presta el mismo servicio:

Soy [PROFESIÓN] y debo reclamar un pago a un cliente con el que quiero mantener una buena relación. El cliente, al que llamaré Cliente A, es una pequeña empresa. Lleva varios meses de retraso en el pago y atraviesa un momento personal difícil, que no quiero mencionar directamente.

Este es mi borrador, en el que los nombres se han sustituido por referencias:
"""
[BORRADOR SIN NOMBRES, SIN DIRECCIONES, SIN IBAN, SIN IMPORTE EXACTO]
"""

Reformula este mensaje para que sea firme en cuanto al pago y humano en la forma, en menos de 120 palabras. Propón un calendario de pagos en forma de pregunta abierta. Deja las referencias tal cual para que pueda sustituirlas después.

Los nombres reales los vuelves a poner en tu programa de correo, fuera del chatbot. Si haces este tipo de petición a menudo, incorpora esas referencias a tus plantillas de prompts reutilizables y a tus prompts para correos profesionales.

Este enmascaramiento tiene un límite. Sustituir un nombre por «Cliente A» no siempre hace que la persona sea irreconocible: la combinación de un oficio poco común, una ciudad y un suceso puede bastar. La CNIL (la autoridad francesa de protección de datos) distingue, además, la anonimización, que hace imposible la identificación en la práctica, de la seudonimización, y los datos solo seudonimizados siguen siendo datos personales. Por eso, elimina los detalles que no tengan relación con tu pregunta y conserva aquellos que el modelo necesita de verdad.

Para un documento largo, el ejercicio es más pesado. Antes de seguir nuestro método para trabajar con documentos largos, pregúntate si no bastaría con un extracto depurado. Y no cuentes con que el propio chatbot anonimice un archivo sensible: primero habría que enviárselo.

En el trabajo: lo que cambia cuando la herramienta no es solo tuya

En una organización, la decisión no te pertenece solo a ti. Tus usos comprometen a tu empleador, a veces a la luz del RGPD. Comprueba primero si existe una política interna o una lista de herramientas autorizadas. Si no la hay, plantea la pregunta al delegado de protección de datos, a la dirección o al departamento de informática antes de introducir datos reales.

Para una asociación o una pequeña estructura sin servicio jurídico, la CNIL ha publicado preguntas y respuestas sobre el uso de los sistemas de IA generativa. Recomienda, en particular, partir de una necesidad identificada, regular los usos por escrito y formar a las personas afectadas. Recuerda también que solo se debe introducir la información que se esté autorizado a compartir, y que hay que evitar los datos personales y confidenciales. Este documento está en cnil.fr: busca «questions-réponses IA générative» (está en francés). En caso de duda sobre un expediente concreto, dirígete a la CNIL o a un profesional del derecho.

Una opción puede completar este marco: hacer funcionar un modelo en tu propio equipo o en un proveedor de alojamiento que tú elijas. Los datos dejan entonces de pasar por un servicio de uso general, pero la configuración, la seguridad y la calidad de las respuestas pasan a ser cosa tuya.

Antes de cerrar esta pestaña

Abre los ajustes de tu chatbot y localiza la opción que se refiere al entrenamiento con tus conversaciones. Decide si debe seguir activada. Después busca en tu historial la última conversación en la que pegaste algo sensible y comprueba si conviene eliminarla, teniendo presente que la eliminación en el servidor sigue las normas del proveedor.