La memoria dei chatbot: che cosa ricordano davvero

Un catering chiede al suo assistente di scrivere una risposta a un cliente. Il testo parla di un «matrimonio di quaranta persone in Dordogna». Non l'ha mai scritto in questa conversazione. Tre settimane prima aveva chiesto un preventivo per quel matrimonio, in un'altra discussione. O lo strumento se ne ricorda, o lo ha appena inventato, e bisogna sapere quale delle due.

«Memoria» copre tre cose diverse. Confonderle è all'origine della maggior parte delle sorprese.

Tre memorie, tre durate

La conversazione in corso. È la più semplice. Lo strumento rilegge tutto lo scambio a ogni risposta. Non viene «appreso» nulla: il testo è semplicemente sotto i suoi occhi. Questa memoria ha un limite di dimensione, la finestra di contesto, e quando lo scambio si allunga, l'inizio può essere considerato male. Per questo una lunga discussione «deriva».

Lo spazio di lavoro. Molti strumenti permettono di raggruppare le conversazioni in un progetto, con file e istruzioni comuni. Lo strumento rilegge questi elementi all'inizio di ogni nuova discussione del progetto. Scegli tu che cosa c'è dentro, quindi sai che cosa sa.

La memoria tra le conversazioni. Alcuni assistenti registrano informazioni su di te (il tuo mestiere, le tue preferenze, il tuo stile) o si appoggiano alle tue discussioni passate per rispondere. Puoi allora ritrovare, in una nuova conversazione, un dettaglio detto altrove. È utile, a volte sconcertante, ed è ciò che ha vissuto il catering.

Queste funzioni differiscono a seconda degli strumenti, dei piani e dei paesi, e cambiano spesso: apri le impostazioni del tuo strumento per vedere che cosa è attivo.

Come sapere che cosa ha conservato lo strumento

Non indovinare, chiedi, poi verifica nelle impostazioni.

Elenca tutto ciò che hai ricordato di me da una conversazione all'altra, sotto forma di elenco, senza aggiungere né riformulare nulla. Se non sai che cosa è registrato, dillo.

La risposta di un chatbot sulla propria memoria può essere incompleta o inesatta. L'elenco ufficiale si trova nelle impostazioni dell'applicazione, con in genere la possibilità di eliminare una voce, cancellare tutto o disattivare la funzione. Per un test semplice, apri una conversazione nuova e fai una domanda che ha senso solo se lo strumento ti conosce.

Che cosa è utile, che cosa dà problemi

Utile: il tuo mestiere, il tuo tono abituale, il tuo modo di presentare un risultato. Sono elementi stabili, dello stesso ordine di ciò che si mette nelle istruzioni di sistema.

Che cosa dà problemi:

• I ricordi falsi o superati. Lo strumento conserva «cerco un locale» mentre tu ne hai trovato uno. Continuerà a parlartene.
• La mescolanza dei contesti. Un dettaglio privato si intrufola in un testo professionale, come per il catering, oppure due clienti si contaminano.
• I test falsati. Se lo strumento ti conosce, adatta le sue risposte, e non misuri più quanto vale il tuo prompt da solo.

Due abitudini risolvono l'essenziale. Per un lavoro che deve essere pulito (un test, un documento destinato a un cliente), apri una conversazione nuova o usa la modalità che non conserva nulla, quando lo strumento ne offre una. E ciò che conta per il compito, scrivilo nel prompt invece di contare sul ricordo: il contesto da fornire resta una tua responsabilità.

Che cosa non dovresti lasciar ricordare

Tutto ciò che viene archiviato è un dato su di te, conservato da un servizio terzo secondo le sue regole. Evita di lasciar registrare informazioni sulla salute, sull'identità, sulla situazione finanziaria o dati su altre persone. Dillo chiaramente allo strumento, se serve («non registrare questo») senza ritenere che basti, e verifica poi le impostazioni. Le regole di conservazione sono descritte nelle condizioni di ciascuno strumento, e l'articolo sulla riservatezza dà i punti di riferimento.

Su un account professionale, la tua organizzazione può aver disattivato o regolamentato la memoria.

Da fare questa settimana

Apri le impostazioni del tuo assistente abituale. Individua se conserva informazioni tra le conversazioni, leggi l'elenco, elimina ciò che è falso o che non vuoi veder registrato. Poi scrivi tre righe su di te e sul tuo lavoro in un file a parte: potrai incollarle all'inizio di qualsiasi conversazione, qualunque sia lo strumento.