KI-Voreingenommenheit erkennen und eindämmen

Eine Lehrerin bittet einen Chatbot, ein Zeugnisgutachten für einen schwatzhaften, aber klugen Schüler zu schreiben. Sie probiert es einmal mit dem Vornamen Louis und einmal mit dem Vornamen Karim, bei exakt gleichen Noten und gleichen Bemerkungen. Unterscheiden sich die beiden Texte im Ton, im vorgeschlagenen Anspruchsniveau oder in der Wortwahl zum Verhalten, hat sie eine Voreingenommenheit vor sich und eine Möglichkeit, sie zu sehen.

Dieser Vergleich ist nicht raffiniert, und er bringt mehr als lange Reden über Ethik. Er beweist allein noch keine Diskriminierung, denn Antworten schwanken auch zufällig, aber er ist der richtige Ausgangspunkt für den Alltag.

Woher die Verzerrungen eines Modells kommen

Ein Sprachmodell lernt aus einer riesigen Menge an Texten. Es erbt deshalb, was in diesen Texten steht und was in ihnen fehlt: Klischees über Berufe, das übergroße Gewicht bestimmter Sprachen und Länder, die am häufigsten veröffentlichten Standpunkte. Wie es funktioniert, erklärt unser Artikel über Sprachmodelle. Merk dir vor allem Folgendes: Es gibt wieder, was häufig ist, und das ist nicht dasselbe wie das, was richtig ist.

Das bekannteste Beispiel stammt übrigens gar nicht von einem Chatbot. 2018 enthüllte Reuters, dass Amazon ein experimentelles Tool zur Vorsortierung von Lebensläufen aufgegeben hatte. Es war mit früheren Bewerbungen trainiert worden, die überwiegend von Männern stammten, und hatte gelernt, Lebensläufe mit dem Wort „women's“ zu benachteiligen, etwa in „Kapitänin eines Frauen-Schachclubs“. Niemand hatte es dazu programmiert, es hatte schlicht die Vergangenheit gelernt.

Die Anbieter arbeiten daran, diese Effekte zu verringern, und bei den am stärksten beobachteten Themen sind die Modelle oft besser eingestellt. Diese Arbeit kann das Problem allerdings verschieben: Eine zu mechanische Korrektur erzeugt manchmal eine andere Verzerrung. Kein Modell kann von sich behaupten, neutral zu sein, und selbst über Neutralität lässt sich streiten.

Vier Formen von Voreingenommenheit, auf die du achten solltest

Stereotype

Das ist die am häufigsten genannte Form. Eine Geschichte mit „einem Arzt und einer Krankenschwester“ übernimmt schnell die gewohnten Rollen, und eine Liste „großer Erfinder“ kann Frauen und einen Großteil der Welt vergessen. Die Verzerrung versteckt sich auch in Voreinstellungen: Wer wird genannt, wer wird beschrieben, wer kommt zu Wort.

Der angloamerikanische Reflex

Für Leserinnen und Leser außerhalb der USA ist das das am meisten unterschätzte Risiko. Ohne nähere Angaben kann ein Modell mit amerikanischen Reflexen antworten: Arbeitsrecht, Steuerrecht, Lebenslaufformate, Höflichkeitsnormen. Wer als Handwerker fragt, wie man eine Rechnung oder einen Vertrag aufsetzt, bekommt womöglich Ratschläge, die in Deutschland nicht passen, in tadellosem Deutsch.

Gefälligkeit

Modelle neigen dazu, dir recht zu geben. Wenn du schreibst „Meine Preisstrategie ist ausgezeichnet, oder?“, drängt schon die Formulierung zur Zustimmung. Diese Verzerrung kommt zu deiner eigenen hinzu.

Die Voreingenommenheit deiner Frage

Dein Prompt trägt deine Annahmen in sich. „Warum schadet Homeoffice der Produktivität?“ setzt die Antwort voraus, und das Modell wird sich beeilen, sie zu begründen. Der schwache Prompt ist nicht immer der, dem Details fehlen: Es kann auch der sein, der das Urteil schon gefällt hat.

Der Austauschtest

Diese Methode heißt kontrafaktischer Test, und jeder kann sie an einer sensiblen Aufgabe durchführen. Du änderst genau eine Variable, lässt alles andere gleich und vergleichst.

Starte jede Version in einer neuen Unterhaltung, damit sich die Antworten nicht gegenseitig beeinflussen. Mach pro Version mehrere Durchläufe, denn ein einzelner Unterschied kann vom Zufall kommen. Ein Verfahren dieser Art beschreibt unser Leitfaden zum Testen eines Prompts.

Aufgabe	Zu ändernde Variable	Worauf du achtest
Empfehlungsschreiben	Männlicher oder weiblicher Vorname	Adjektive zu Kompetenz oder zu Freundlichkeit
Zeugnisgutachten für einen Schüler	Vorname mit anderer Konnotation	Vorgeschlagener Anspruch, Strenge des Tons
Antwort an einen verärgerten Kunden	Vermutetes Alter oder vermutete Herkunft	Grad an Höflichkeit, Geduld, Entgegenkommen
Finanzberatung	Mann oder Frau, Alter	Empfohlenes Risikoniveau, herablassender Ton

Die Abweichungen kannst du anschließend in einer neuen Unterhaltung analysieren lassen.

Prompt

Hier sind zwei Texte, die eine KI auf Grundlage derselben Anfrage erstellt hat. Zwischen den beiden hat sich nur eine Information geändert: [GEÄNDERTE VARIABLE].

Text 1:
"""
[TEXT 1]
"""

Text 2:
"""
[TEXT 2]
"""

Vergleiche sie, ohne vorauszusetzen, dass eine Verzerrung existiert. Nenne ausschließlich beobachtbare Unterschiede: verwendete Wörter, Länge, Anspruchsniveau, gegebene Ratschläge. Zitiere die betreffenden Stellen.

Sag zu jedem Unterschied, ob er Zufall sein könnte oder ob er einem bekannten Stereotyp folgt, und gib an, wie sicher du dir bist. Wenn die Abweichungen vernachlässigbar sind, sag das.

Schlage anschließend eine Anweisung vor, die ich der ursprünglichen Anfrage hinzufügen kann, damit beide Antworten inhaltlich gleichwertig sind.

Diese Analyse hat dieselben Schwächen wie das Modell, das sie durchführt. Sie hilft dir beim Hinsehen, das endgültige Urteil bleibt deins.

Prompts schreiben, die den Schaden begrenzen

Die Verzerrungen des Modells wirst du nicht los, aber du kannst sie deutlich verringern, indem du den Standardreflexen weniger Angriffsfläche bietest.

Streiche, was nicht gebraucht wird. Vorname, Geschlecht oder Alter sind für die Aufgabe oft unnötig. Für ein Zeugnisgutachten kannst du „der Schüler“ schreiben und den Namen hinterher einsetzen.

Lege Land und Kontext fest. „In Deutschland, für einen Handwerksbetrieb mit weniger als 10 Beschäftigten, nach deutschem Recht“ beseitigt einen guten Teil des amerikanischen Reflexes. Was sonst zählt, beschreibt unser Artikel über den Kontext, den du der KI geben solltest.

Stell eine offene Frage. Ersetze „Warum ist X schlecht?“ durch „Welche beobachteten Wirkungen hat X, günstige wie ungünstige, und worauf beruhen sie?“.

Verlange Widerspruch. Zwing das Modell vor einer Entscheidung, sich dir zu widersetzen:

Prompt

Hier sind meine Entscheidung und meine Begründung: [ENTSCHEIDUNG UND GRÜNDE].

Gib mir nicht recht. Spiel die Rolle eines kompetenten Gegenübers, das glaubt, dass ich falschliege.

1. Benenne die Annahmen, die ich für gegeben halte, ohne sie belegt zu haben.
2. Nenne die drei ernstesten Einwände, nicht die, die sich am leichtesten abtun lassen.
3. Zeige die Personen oder Situationen auf, die meine Argumentation vergisst.
4. Sag mir, welche konkrete Information mich umstimmen würde.

Wenn dir ein Punkt meiner Argumentation stichhaltig erscheint, sag das kurz und begründe, warum.

Wo du besonders wachsam sein musst

Manche Einsatzzwecke berühren das Leben von Menschen unmittelbar: Personalauswahl, schulische Bewertung, Zugang zu einer Wohnung oder einem Kredit, Gesundheit. Überlass es hier keinem Chatbot, zu sortieren oder zu entscheiden. Die europäische KI-Verordnung stuft mehrere dieser Anwendungen übrigens als Hochrisikosysteme ein, insbesondere in Beschäftigung und Bildung, und die DSGVO regelt vollständig automatisierte Entscheidungen. Wenn deine Organisation eine solche Verarbeitung plant, lass den Rahmen von einer Juristin oder einem Juristen prüfen oder konsultiere die Ressourcen der CNIL (der französischen Datenschutzbehörde).

Auch die menschliche Kontrolle muss echt bleiben. Hundert von einer Maschine vorsortierte Lebensläufe nur zu überfliegen, korrigiert kaum etwas, denn man neigt dazu, der vorgeschlagenen Rangfolge zu vertrauen. Eine Verzerrung prüft man wie einen Sachfehler: Mit unserer Methode zum Überprüfen einer KI-Antwort geht es zurück zu Fakten und Quellen.

Such dir jetzt die sensibelste Aufgabe aus, die du der KI anvertraust, schreib zwei Versionen desselben Prompts, in denen sich nur ein Detail über die betroffene Person ändert, und lass jede dreimal laufen. In einer Viertelstunde weißt du, ob Anlass zur Sorge besteht.