Das Gedächtnis von Chatbots: was sie wirklich behalten

Ein Caterer bittet seinen Assistenten, eine Antwort an einen Kunden zu verfassen. Der Text spricht von einer „Hochzeit mit vierzig Personen in der Dordogne“. In dieser Unterhaltung hat er das nie geschrieben. Drei Wochen zuvor hatte er in einer anderen Unterhaltung ein Angebot für diese Hochzeit angefragt. Entweder erinnert sich das Tool daran, oder es hat es eben erfunden, und man muss wissen, was von beidem.

„Gedächtnis“ umfasst drei verschiedene Dinge. Sie zu verwechseln ist die Quelle der meisten Überraschungen.

Drei Gedächtnisse, drei Zeitspannen

Die laufende Unterhaltung. Sie ist die einfachste. Das Tool liest bei jeder Antwort den gesamten Austausch erneut. Nichts wird „gelernt“: Der Text liegt ihm einfach vor Augen. Dieses Gedächtnis hat eine Größengrenze, das Kontextfenster, und wird der Austausch länger, können die Anfänge schlecht berücksichtigt werden. Deshalb „driftet“ eine lange Unterhaltung ab.

Der Arbeitsbereich. Viele Tools erlauben es, Unterhaltungen in einem Projekt zu bündeln, mit gemeinsamen Dateien und Anweisungen. Das Tool liest diese Elemente zu Beginn jeder neuen Unterhaltung des Projekts erneut. Du wählst, was dort liegt, also weißt du, was es weiß.

Das Gedächtnis zwischen den Unterhaltungen. Manche Assistenten speichern Informationen über dich (deinen Beruf, deine Vorlieben, deinen Stil) oder stützen sich auf deine früheren Unterhaltungen, um zu antworten. Du kannst dann in einer neuen Unterhaltung ein Detail wiederfinden, das anderswo gesagt wurde. Das ist nützlich, manchmal irritierend, und es ist das, was der Caterer erlebt hat.

Diese Funktionen unterscheiden sich je nach Tool, Tarif und Land, und sie ändern sich oft: Öffne die Einstellungen deines Tools, um zu sehen, was aktiviert ist.

Wie du erfährst, was das Tool behalten hat

Rate nicht, frag, und prüfe dann in den Einstellungen.

Liste alles auf, was du von einer Unterhaltung zur nächsten über mich behalten hast, als Liste, ohne etwas hinzuzufügen oder umzuformulieren. Wenn du nicht weißt, was gespeichert ist, sag es.

Die Antwort eines Chatbots über sein eigenes Gedächtnis kann unvollständig oder ungenau sein. Die offizielle Liste findest du in den Einstellungen der Anwendung, in der Regel mit der Möglichkeit, einen Eintrag zu löschen, alles zu löschen oder die Funktion auszuschalten. Für einen einfachen Test öffne eine neue Unterhaltung und stell eine Frage, die nur Sinn ergibt, wenn das Tool dich kennt.

Was nützt, was klemmt

Nützlich: dein Beruf, dein üblicher Ton, deine Art, ein Ergebnis darzustellen. Das sind stabile Elemente, von der Art dessen, was man in die Systemanweisungen schreibt.

Was klemmt:

• Falsche oder überholte Erinnerungen. Das Tool behält „ich suche Räumlichkeiten“, obwohl du welche gefunden hast. Es wird dich weiter darauf ansprechen.
• Das Vermischen von Kontexten. Ein privates Detail schleicht sich in einen beruflichen Text, wie beim Caterer, oder zwei Kunden stecken sich gegenseitig an.
• Verfälschte Tests. Kennt dich das Tool, passt es seine Antworten an, und du misst nicht mehr, was dein Prompt allein taugt.

Zwei Gewohnheiten regeln das Wesentliche. Öffne für Arbeit, die sauber sein muss (ein Test, ein Dokument für einen Kunden), eine neue Unterhaltung oder nutze den Modus, der nichts speichert, wenn das Tool einen anbietet. Und was für die Aufgabe zählt, schreib in den Prompt, statt auf die Erinnerung zu bauen: der zu liefernde Kontext bleibt deine Verantwortung.

Was du nicht speichern lassen solltest

Alles, was gespeichert wird, ist ein Datum über dich, aufbewahrt von einem Drittanbieter nach dessen Regeln. Vermeide es, dass Gesundheits-, Identitäts- oder Finanzinformationen oder Daten über andere Personen gespeichert werden. Sag es dem Tool bei Bedarf offen („speichere dies nicht“), ohne davon auszugehen, dass das genügt, und prüfe danach die Einstellungen. Die Aufbewahrungsregeln stehen in den Bedingungen jedes Tools, und der Artikel über Vertraulichkeit gibt Orientierung.

Bei einem Firmenkonto kann deine Organisation das Gedächtnis deaktiviert oder eingeschränkt haben.

Für diese Woche

Öffne die Einstellungen deines gewohnten Assistenten. Finde heraus, ob er zwischen Unterhaltungen Informationen behält, lies die Liste und lösche, was falsch ist oder was du nicht gespeichert sehen willst. Schreib dann drei Zeilen über dich und deine Arbeit in eine eigene Datei: Du kannst sie an den Anfang jeder beliebigen Unterhaltung einfügen, egal in welchem Tool.