Datenschutz: was du nicht in einen Chatbot einfügen solltest

Es ist 18 Uhr, und eine Buchhalterin will eine heikle E-Mail an einen Kunden in Schwierigkeiten umformulieren. Sie kopiert den gesamten Austausch in einen Chatbot: den Namen der Firma, den des Geschäftsführers, die Höhe der Schulden, die IBAN in der Signatur. Die Antwort ist hervorragend. Das Problem liegt vor der Antwort: Diese Informationen haben ihren Rechner verlassen und sind auf den Servern eines Dritten gelandet, zu Bedingungen, die sie vielleicht nie gelesen hat.

Diese E-Mail umzuformulieren wäre möglich gewesen, ohne irgendetwas davon preiszugeben, mit zehn Sekunden Vorbereitung. Hier erfährst du, wie du dabei denken kannst, wobei es keine einheitliche Regel gibt: Alles hängt vom Tool, vom Tarif, von deinen Einstellungen und von der Art der Daten ab. Das Folgende liefert allgemeine Orientierung, keine Rechtsberatung.

Was mit deinem Text passieren kann, sobald er abgeschickt ist

Wenn du eine Nachricht sendest, wird sie auf den Servern des Anbieters verarbeitet, es sei denn, du nutzt ein Modell, das auf deinem eigenen Rechner installiert ist. Von da an kann je nach Tool und Vertrag Verschiedenes geschehen:

• Die Unterhaltung wird gespeichert, für eine vom Anbieter festgelegte Dauer;
• sie kann zum Training künftiger Modelle dienen, es sei denn, du widersprichst oder dein Tarif schließt das aus;
• befugte Personen können sie manchmal einsehen, etwa um einen Missbrauch zu bearbeiten oder die Qualität zu bewerten;
• sie kann für jeden zugänglich sein, der dein Konto nutzt, oder versehentlich geteilt werden, wenn du einen öffentlichen Link erstellst.

Diese Bedingungen ändern sich, und sie unterscheiden sich von Produkt zu Produkt. Ein einziger Reflex hält auf Dauer: Geh davon aus, dass jeder abgeschickte Text deiner Kontrolle entglitten ist, es sei denn, du hast in den Einstellungen und Bedingungen deines Tools das Gegenteil geprüft.

Das Risiko besteht auch bei bestens ausgestatteten Unternehmen. 2023 berichtete die Presse, Samsung habe die Nutzung dieser Tools intern eingeschränkt, nachdem Beschäftigte vertraulichen Code dort eingefügt hatten.

Die Liste, die du vor dem Einfügen im Kopf haben solltest

Halte standardmäßig folgende Dinge aus einem Chatbot für die breite Öffentlichkeit heraus, es sei denn, deine Organisation hat ein Tool und einen passenden Rahmen freigegeben.

Zugangsdaten und Geheimnisse. Passwörter, API-Schlüssel, Zugriffstoken, Konfigurationsdateien. Für Entwickler ist das die häufigste Falle: Man fügt eine Datei zum Debuggen ein, und der Schlüssel geht mit. Passiert dir das, betrachte das Geheimnis als kompromittiert und ändere es.

Personenbezogene Daten Dritter. Namen, Adressen, Telefonnummern, E-Mails, Sozialversicherungsnummern, Bankdaten von Kunden, Beschäftigten, Schülern oder Mitgliedern. Eine Lehrerin braucht den Namen eines Schülers nicht, um ein Zeugnisgutachten vorzubereiten.

Sensible Daten. Gesundheit, politische Meinungen, Religion, sexuelle Orientierung, Herkunft, Gewerkschaftszugehörigkeit: Die DSGVO schützt sie besonders stark. Besondere Vorsicht ist bei Daten von Minderjährigen geboten.

Was einem Berufsgeheimnis unterliegt. Ärzte, Anwälte, Steuerberater und andere Berufe haben eigene Pflichten. Bevor du echte Akten verwendest, frag deine Kammer oder deinen Berufsverband.

Was du nicht offenlegen darfst. Dokumente unter Geheimhaltungsvereinbarung, unveröffentlichte Finanzergebnisse, Verträge, Übernahmepläne, proprietärer Code, strategische Daten.

Bei deinen eigenen personenbezogenen Daten entscheidest du selbst, aber denk an die Folgen: Was du einem Onlinedienst anvertraust, kann bei einem Datenleck wieder auftauchen.

Drei Einstellungen, die du in deinem Tool prüfen solltest

Nimm dir fünf Minuten für diese Kontrollen. Die Optionen liegen oft an wechselnden Orten, such in den Einstellungen unter „Datenschutz“ oder „Daten“, und lies im Zweifel die Bedingungen des Tools.

Schließe nicht vom Preis auf die Bedingungen: Ein kostenpflichtiger Einzeltarif verhält sich nicht zwingend wie ein Unternehmenstarif. Und eine abgeschaltete Einstellung löscht nicht unbedingt, was bereits gesendet wurde. Prüf auch, wohin die Daten gehen, wenn du Konnektoren oder Erweiterungen aktivierst: Ein Tool, das mit deinem Postfach oder deinem Laufwerk verbunden ist, sieht weit mehr als das, was du einfügst.

Daten maskieren: die gute Praxis und ihre Grenzen

Meistens muss der Chatbot nicht wissen, wer die Menschen sind, er muss nur die Situation verstehen. Ersetze identifizierende Angaben durch neutrale Platzhalter.

Hier die riskante Version, an einem erfundenen Fall:

Formuliere diese Mail für Jean Dupont, Inhaber der Bäckerei Dupont in Dole, der uns seit März 12.430 € schuldet und gesundheitliche Probleme hat.

Und die Version, die denselben Dienst leistet:

Ich bin [BERUF] und muss einen Kunden erinnern, mit dem ich ein gutes Verhältnis behalten möchte. Der Kunde, den ich Kunde A nenne, ist ein kleines Unternehmen. Er ist seit mehreren Monaten mit einer Zahlung im Rückstand und macht gerade eine schwierige persönliche Phase durch, die ich nicht direkt erwähnen will.

Hier ist mein Entwurf, in dem die Namen durch Platzhalter ersetzt sind:
"""
[ENTWURF OHNE NAMEN, OHNE ADRESSE, OHNE IBAN, OHNE GENAUEN BETRAG]
"""

Formuliere diese Nachricht so um, dass sie bei der Zahlung bestimmt und im Ton menschlich ist, in weniger als 120 Wörtern. Schlage einen Zahlungsplan in Form einer offenen Frage vor. Lass die Platzhalter unverändert, damit ich sie anschließend ersetzen kann.

Die echten Namen setzt du in deinem Mailprogramm wieder ein, außerhalb des Chatbots. Wenn du solche Anfragen oft stellst, bau diese Platzhalter in deine wiederverwendbaren Prompt-Vorlagen und deine Prompts für geschäftliche E-Mails ein.

Dieses Maskieren hat eine Grenze. Einen Namen durch „Kunde A“ zu ersetzen, macht die Person nicht immer unkenntlich: Die Kombination aus einem seltenen Beruf, einer Stadt und einem Ereignis kann genügen. Die CNIL (die französische Datenschutzbehörde) unterscheidet übrigens zwischen Anonymisierung, die eine Identifizierung praktisch unmöglich macht, und Pseudonymisierung, und lediglich pseudonymisierte Daten bleiben personenbezogene Daten. Entferne also die Details, die mit deiner Frage nichts zu tun haben, und behalte die, die das Modell wirklich braucht.

Bei einem langen Dokument ist die Übung aufwendiger. Bevor du unserer Methode zum Arbeiten mit langen Dokumenten folgst, frag dich, ob ein bereinigter Auszug nicht genügt. Und verlass dich nicht darauf, dass der Chatbot selbst eine sensible Datei anonymisiert: Dazu müsstest du sie ihm erst schicken.

Bei der Arbeit: was sich ändert, wenn das Tool nicht nur dir gehört

In einer Organisation entscheidest du nicht allein. Deine Nutzung bindet deinen Arbeitgeber, zum Teil im Hinblick auf die DSGVO. Prüf zuerst, ob es eine Richtlinie oder eine Liste zugelassener Tools gibt. Gibt es keine, frag den Datenschutzbeauftragten, die Geschäftsleitung oder die IT, bevor du echte Daten einsetzt.

Für einen Verein oder eine kleine Struktur ohne Rechtsabteilung hat die CNIL Fragen und Antworten zur Nutzung generativer KI-Systeme veröffentlicht. Sie empfiehlt darin unter anderem, von einem erkannten Bedarf auszugehen, die Nutzung schriftlich zu regeln und die Betroffenen zu schulen. Sie erinnert auch daran, nur Informationen einzugeben, die man weitergeben darf, und personenbezogene und vertrauliche Daten zu vermeiden. Das Dokument findest du auf cnil.fr: Such nach „questions-réponses IA générative“. Wenn du bei einem konkreten Fall unsicher bist, wende dich an die CNIL oder an einen Rechtsberater.

Eine Option kann diesen Rahmen ergänzen: ein Modell auf deinem eigenen Rechner oder bei einem Hoster deiner Wahl betreiben. Die Daten laufen dann nicht mehr über einen Dienst für die breite Öffentlichkeit, aber Konfiguration, Sicherheit und Qualität der Antworten werden zu deiner Sache.

Bevor du diesen Tab schließt

Öffne die Einstellungen deines Chatbots und such die Option, die das Training mit deinen Unterhaltungen betrifft. Entscheide, ob sie aktiv bleiben soll. Such dann in deinem Verlauf die letzte Unterhaltung, in die du etwas Sensibles eingefügt hast, und prüf, ob sie gelöscht werden sollte, und bedenke dabei, dass das Löschen auf dem Server den Regeln des Anbieters folgt.