Sensible Daten in KI-Prompts: So bleibt dein Prompt sauber
Sensible Daten in KI-Prompts sind ein typischer, vermeidbarer Leak-Vektor: Ein Prompt wird aus einer Mail, einem Ticket oder einem Dokument kopiert, und plötzlich sind personenbezogene Daten Teil der KI-Verarbeitung.
- Du lernst, was als sensible Daten im Prompt gilt (inkl. indirekter Personenbezüge).
- Du verstehst typische Datenleck-Szenarien durch Prompts und Templates.
- Du bekommst Regeln, Techniken und eine Checkliste für datenschutzkonforme Prompts.
Ziel ist nicht „weniger KI“, sondern sichere Nutzung: mit Datenminimierung, Platzhaltern und klaren Guardrails.
Du fragst Dich, was das konkret für Euer Setup bedeutet? Schreib uns oder sichere Dir direkt Dein kostenloses Erstgespräch.
Definition
Sensible Daten in KI-Prompts sind Informationen, die Personen direkt oder indirekt identifizieren oder einen besonderen Schutzbedarf haben und deshalb nicht unkontrolliert in KI-Systemen verarbeitet werden sollten. Das umfasst personenbezogene Daten sowie vertrauliche Unternehmensinformationen, die durch den Prompt in die Verarbeitung geraten.
Das ist keine Feature-Diskussion über Modelle, sondern eine Eingabe- und Prozessfrage: welche Daten in Prompts landen dürfen und welche nicht.
Einleitung
„Nur kurz zusammenfassen“ ist im Arbeitsalltag der Moment, in dem sensible Daten in KI-Prompts am häufigsten passieren. Ein Absatz aus einer Mail, ein Ticket-Verlauf, ein Kommentar aus dem CRM: schon ist ein Personenbezug drin, obwohl die Aufgabe auch anonymisiert lösbar wäre.
Wenn du das sauber regelst, wird KI-Nutzung schneller, sicherer und für Datenschutz und IT deutlich leichter zu betreiben.
Welche Daten in Prompts als sensibel gelten
Für die Praxis hilft eine klare Einteilung: sensibel ist alles, was du nicht ohne Prüfen in eine externe Anwendung kopieren würdest. Dazu zählen nicht nur „Name und Mail-Adresse“, sondern auch Kombinationen aus Kontext und Details.
- Personenbezogene Daten: Name, Mail-Adresse, Adresse, Telefonnummer, Kundennummer, Mitarbeitenden-ID.
- Besonders schützenswerte Daten: Gesundheits-, Finanz- oder andere Spezialdatenkategorien, die je nach Kontext strengere Regeln brauchen.
- Vertrauliche Unternehmensdaten: interne Strategien, Vertragsinhalte, Sicherheitsdetails, nicht veröffentlichte Zahlen.
Wie Datenlecks durch Prompts entstehen
Datenlecks passieren selten „durch KI“ an sich, sondern über Gewohnheiten: Copy-Paste und zu viel Kontext. Kritisch wird es dort, wo Eingaben gespeichert, weiterverarbeitet oder für andere sichtbar werden könnten (z. B. in Logs, Prompt-Historien, geteilten Templates).
- Mail-Text direkt einfügen: komplette Mail-Adressen, Signaturen, interne Anhänge.
- Prompt-Templates mit echten Beispieldaten: „Max Mustermann“ wird durch echte Kundendaten ersetzt und weiterkopiert.
- Fehlende Trennung von Rollen: Nutzer haben Zugriff auf Daten, die für ihre Nutzung nicht nötig sind.
Wichtig: Auch wenn ein Anbieter (z. B. OpenAI, kommerzielle Anbieter, APIs) Sicherheitszusagen macht, bleibt für euch die Frage relevant, ob die Verarbeitung zur Aufgabe passt und wie ihr die Eingaben kontrolliert.
Regeln, um personenbezogene Daten im Prompt zu erkennen
Du brauchst eine schnelle Erkennung, die ohne Juristen-Loop funktioniert. Praktisch ist ein „Stop-or-Replace“-Check: Alles, was eindeutig identifiziert, wird ersetzt. Alles, was nur Kontext ist, wird gekürzt.
- Erkennt der Prompt eine Person direkt (Name, Mail-Adresse, Adresse) oder indirekt (Rolle + Fall + Ort)?
- Ist der Originaltext nötig, oder reicht eine neutrale Beschreibung der Situation?
- Ist die Verarbeitung DSGVO-konform dokumentierbar (Zweck, Datenumfang, Zugriff)?
Techniken für Anonymisierung, Pseudonymisierung und Datenminimierung
Der größte Hebel ist Datenminimierung: weniger Eingabe, gleiche Qualität. Für viele Aufgaben (Formulierung, Struktur, Tonalität) braucht die KI keine echten Identitäten.
- Platzhalter: Ersetze Namen und Mail-Adressen konsequent, z. B. „Person A“, „Kunde 1“, „Ort X“.
- Pseudonymisierung: Nutze stabile Pseudonyme („Kunde 4711“), wenn du über mehrere Prompts hinweg Konsistenz brauchst.
- Kontext kürzen: Gib nur den relevanten Ausschnitt statt ganzer Dokumente oder kompletter Mail-Threads.
Mini-Story: Ein Team wollte Kundenbeschwerden klassifizieren und paste ganze E-Mails in die KI. Nach Umstellung auf ein Template mit Platzhaltern und nur dem relevanten Absatz war der Output gleich gut, aber die Prompts waren ohne Mail-Adressen und ohne Signaturen.
Prinzip der geringsten Privilegien im Prompting
Least Privilege heißt hier: Nur die Leute und Systeme sehen die Daten, die sie für die Nutzung brauchen. Das betrifft Rollen, Freigaben und die Frage, ob ein Prompt überhaupt Zugriff auf Quelltexte haben darf.
- Trenne „Prompt erstellen“ und „Daten liefern“: Template bleibt gleich, Daten kommen aus freigegebenen Auszügen.
- Reduziere Zugriff auf Rohdaten: Wenn eine Zusammenfassung reicht, gib keine vollständigen Akten.
- Dokumentiere, wer nutzen darf: einfache Regeln statt stiller Schatten-Workflows.
Best Practices für sichere Prompts und Template-Design
Gute Templates machen das Richtige leicht. Das reduziert Aufwand, spart Abstimmungen und macht die Nutzung messbar, weil Prompts vergleichbar werden.
- Baue Felder ein: „Ziel“, „Kontext (anonymisiert)“, „Output-Format“, „Tabus“ (z. B. keine Namen ausgeben).
- Nutze Standard-Platzhalter: [NAME], [MAIL], [KUNDEN_ID] statt Freitext.
- Schreibe klare Output-Regeln: „Keine personenbezogenen Daten wiederholen; wenn enthalten, durch Platzhalter ersetzen.“
Tools und Ressourcen für datenschutzkonforme Prompts
Tools helfen bei Skalierung, nicht beim Denken. Sinnvoll sind Erkennungs- und Guardrail-Ansätze, die vor dem Senden prüfen oder automatisch ersetzen.
- PII-Erkennung: z. B. Presidio für das Erkennen und Maskieren personenbezogener Daten.
- Guardrails: z. B. Privacy Guardrail (Apache-2.0) als Baustein für Regeln rund um Eingaben und Ausgaben.
- Plattform-Integration: Einbindung über APIs, damit Prüfungen nicht vom Nutzer „vergessen“ werden.
Checkliste: sichere Prompts vor der Nutzung in KI-Systemen
- Enthält der Prompt Namen, Mail-Adressen oder Adressen? Wenn ja: ersetzen.
- Ist der Zweck mit weniger Daten erreichbar? Wenn ja: kürzen.
- Kann jemand aus Kontext + Details eine Person erkennen? Wenn ja: abstrahieren.
Wenn du diese drei Punkte standardisierst, sinkt Risiko schnell, ohne dass die Nutzung langsamer wird.
Wann externe Unterstützung sinnvoll wird
Wenn KI nicht nur „ein paar Power-User“ nutzen, wird es schnell komplex: Templates, Rollen, Freigaben, Tooling und Nachweisbarkeit müssen zusammenpassen. Dann lohnt sich ein kurzer, strukturierter Ansatz, statt viele Einzelentscheidungen.
Externe Unterstützung ist sinnvoll, wenn ihr Prompt-Standards, Pseudonymisierung/Ersetzung, Integration in eure Anwendungen und eine DSGVO-taugliche Dokumentation pragmatisch aufsetzen wollt.
Fazit
Sensible Daten in KI-Prompts sind meistens kein Technikproblem, sondern ein Eingabe- und Prozessproblem. Mit Datenminimierung, Platzhaltern, klaren Templates und dem Prinzip der geringsten Privilegien bekommst du KI-Nutzung in den Griff, ohne den Mehrwert zu verlieren.
Wenn du einen Standard willst, der im Arbeitsalltag funktioniert, starte mit einem kleinen Template-Set, einem kurzen PII-Check und klaren Regeln, wer was eingeben darf.
Häufige Fragen
Sind Namen und Mail-Adressen in Prompts grundsätzlich verboten?
Nicht grundsätzlich, aber sie sollten nur eingegeben werden, wenn sie für den Zweck wirklich erforderlich sind. In den meisten Fällen lassen sie sich durch Platzhalter oder Pseudonyme ersetzen, ohne dass die Qualität leidet.
Was ist der Unterschied zwischen Anonymisierung und Pseudonymisierung im Prompt?
Anonymisierung entfernt den Personenbezug so, dass eine Identifikation nicht mehr möglich ist. Pseudonymisierung ersetzt Identitäten durch stabile Kennzeichen, sodass Fälle unterscheidbar bleiben, die echte Identität aber getrennt gehalten wird.
Wie messe ich, ob unsere Prompt-Regeln wirken?
Praktisch sind drei Signale: weniger gefundene PII in Prompts (z. B. durch Scans), höherer Anteil an Standard-Templates statt Freitext und weniger Datenschutz-Rückfragen im Betrieb. So wird Wirksamkeit auch ohne komplizierte Metriken sichtbar.
Ist das nicht zu viel Aufwand für Teams?
Der Aufwand sinkt, wenn du Templates statt Einzelfall-Regeln nutzt. Ein gutes Template dauert Sekunden, verhindert aber Nacharbeit durch Datenschutz, IT und Fachbereiche und macht die Nutzung in Anwendungen konsistent.
