Privacy: che cosa non incollare in un chatbot

Sono le 18, una contabile vuole riformulare un'e-mail delicata a un cliente in difficoltà. Copia tutto lo scambio in un chatbot: il nome della società, quello dell'amministratore, l'importo del debito, l'IBAN in firma. La risposta è eccellente. Il problema sta prima della risposta: quelle informazioni hanno lasciato il suo computer per finire sui server di un terzo, a condizioni che forse non ha mai letto.

Riformulare quell'e-mail era possibile senza consegnare niente di tutto questo, con dieci secondi di preparazione. Ecco come ragionare, sapendo che non esiste una regola unica: tutto dipende dallo strumento, dal tuo piano, dalle tue impostazioni e dal tipo di dati. Quanto segue dà indicazioni generali, non un parere legale.

Che cosa può succedere al tuo testo una volta inviato

Quando invii un messaggio, viene elaborato dai server del produttore, a meno che tu non usi un modello installato sul tuo computer. Da lì in poi possono succedere diverse cose, a seconda dello strumento e del contratto:

• la conversazione viene conservata, per una durata fissata dal produttore;
• può servire ad addestrare i modelli futuri, a meno che tu non ti opponga o che il tuo piano lo escluda;
• persone autorizzate possono talvolta consultarla, per esempio per gestire un abuso o valutare la qualità;
• può essere accessibile a chiunque usi il tuo account, o condivisa per errore se crei un link pubblico.

Queste condizioni cambiano e differiscono da un prodotto all'altro. Un solo riflesso regge nel tempo: parti dal presupposto che ogni testo inviato sia uscito dal tuo controllo, a meno che tu non abbia verificato il contrario nelle impostazioni e nei termini del tuo strumento.

Il rischio esiste anche per le aziende meglio attrezzate. Nel 2023 la stampa ha riferito che Samsung aveva limitato l'uso di questi strumenti al proprio interno dopo che alcuni dipendenti vi avevano incollato codice riservato.

L'elenco da tenere a mente prima di incollare

Per impostazione predefinita, tieni fuori da un chatbot per il grande pubblico gli elementi seguenti, a meno che la tua organizzazione non abbia convalidato uno strumento e un quadro adeguati.

Credenziali e segreti. Password, chiavi API, token di accesso, file di configurazione. Per uno sviluppatore è la trappola più comune: si incolla un file per fare il debug e la chiave se ne va con lui. Se ti succede, considera il segreto compromesso e cambialo.

I dati personali di terzi. Nomi, indirizzi, telefoni, e-mail, codici fiscali, coordinate bancarie di clienti, dipendenti, alunni o soci. Un'insegnante non ha bisogno del nome di un alunno per preparare un giudizio.

I dati sensibili. Salute, opinioni politiche, religione, orientamento sessuale, origine, appartenenza sindacale: il GDPR li protegge in modo rafforzato. La prudenza vale doppio per i dati riguardanti i minori.

Ciò che è coperto da segreto. Medici, avvocati, commercialisti e altre professioni hanno obblighi propri. Prima di qualsiasi uso su pratiche reali, interpella il tuo ordine professionale.

Ciò che non hai il diritto di divulgare. Documenti soggetti a un accordo di riservatezza, risultati finanziari non pubblicati, contratti, progetti di acquisizione, codice proprietario, dati strategici.

Per i tuoi dati personali la decisione spetta a te, ma pensa a ciò che può seguire: quello che affidi a un servizio online può riemergere in caso di fuga di dati.

Tre impostazioni da verificare nel tuo strumento

Dedica cinque minuti a questi controlli. La posizione delle opzioni cambia spesso: cerca nelle impostazioni di «privacy» o di «dati» e, in caso di dubbio, leggi i termini dello strumento.

Non dedurre nulla dal prezzo: un piano a pagamento individuale non si comporta necessariamente come un piano aziendale. E un'impostazione disattivata non cancella necessariamente ciò che è già stato inviato. Verifica anche dove vanno i dati se attivi connettori o estensioni: uno strumento collegato alla tua posta o al tuo drive vede molto più di ciò che incolli.

Mascherare i dati: la buona pratica e i suoi limiti

Il più delle volte il chatbot non ha bisogno di sapere chi sono le persone, gli basta capire la situazione. Sostituisci gli elementi identificativi con segnaposto neutri.

Ecco la versione rischiosa, su un caso fittizio:

Riformula questa mail per Mario Rossi, titolare del panificio Rossi a Cremona, che ci deve 12.430 € da marzo e ha problemi di salute.

E la versione che rende lo stesso servizio:

Sono [PROFESSIONE] e devo sollecitare un cliente con cui voglio mantenere un buon rapporto. Il cliente, che chiamerò Cliente A, è una piccola impresa. Ha un ritardo di pagamento di diversi mesi e attraversa un periodo personale difficile, che non voglio menzionare direttamente.

Ecco la mia bozza, in cui i nomi sono sostituiti da segnaposto:
"""
[BOZZA SENZA NOMI, SENZA INDIRIZZI, SENZA IBAN, SENZA IMPORTO ESATTO]
"""

Riformula questo messaggio perché sia fermo sul pagamento e umano nella forma, in meno di 120 parole. Proponi un piano di rientro sotto forma di domanda aperta. Lascia i segnaposto così come sono, in modo che io possa sostituirli dopo.

I nomi veri li rimetti nel tuo programma di posta, fuori dal chatbot. Se fai spesso questo tipo di richiesta, integra questi segnaposto nei tuoi modelli di prompt riutilizzabili e nei tuoi prompt per e-mail professionali.

Questo mascheramento ha un limite. Sostituire un nome con «Cliente A» non rende sempre la persona irriconoscibile: la combinazione di un mestiere raro, di una città e di un evento può bastare. In Francia, la CNIL distingue del resto l'anonimizzazione, che rende l'identificazione impossibile nella pratica, dalla pseudonimizzazione, e dati soltanto pseudonimizzati restano dati personali. Togli quindi i dettagli che non c'entrano con la tua domanda e tieni quelli di cui il modello ha davvero bisogno.

Per un documento lungo, l'esercizio è più pesante. Prima di seguire il nostro metodo per lavorare con documenti lunghi, chiediti se un estratto ripulito non basterebbe. E non contare sul chatbot stesso per rendere anonimo un file sensibile: bisognerebbe prima inviarglielo.

Al lavoro: che cosa cambia quando lo strumento non è solo tuo

In un'organizzazione, la decisione non spetta soltanto a te. I tuoi usi impegnano il tuo datore di lavoro, a volte ai sensi del GDPR. Verifica prima di tutto se esiste una policy o un elenco di strumenti autorizzati. Se non c'è, rivolgi la domanda al responsabile della protezione dei dati, alla direzione o al servizio informatico prima di inserirvi dati reali.

Per un'associazione o una piccola struttura senza ufficio legale, la CNIL (l'autorità francese per la protezione dei dati) ha pubblicato domande e risposte sull'uso dei sistemi di IA generativa. Raccomanda in particolare di partire da un'esigenza identificata, di regolamentare gli usi per iscritto e di formare le persone interessate. Ricorda anche di inserire solo le informazioni che si è autorizzati a condividere e di evitare i dati personali e riservati. Il documento si trova su cnil.fr: cerca «questions-réponses IA générative». In caso di dubbio su una pratica specifica, rivolgiti alla CNIL o a un professionista del diritto.

Un'opzione può completare questo quadro: far girare un modello sul tuo computer o presso un fornitore di hosting da te scelto. I dati non passano più da un servizio per il grande pubblico, ma la configurazione, la sicurezza e la qualità delle risposte diventano affar tuo.

Prima di chiudere questa scheda

Apri le impostazioni del tuo chatbot e trova l'opzione che riguarda l'addestramento sulle tue conversazioni. Decidi se deve restare attiva. Poi cerca nella cronologia l'ultima conversazione in cui hai incollato qualcosa di sensibile e verifica se deve essere eliminata, tenendo presente che la cancellazione lato server segue le regole del produttore.