Für generative KI gibt es kein eigenes Datenschutzrecht. Sobald personenbezogene Daten in ein KI-System gelangen, gilt die DSGVO – ganz gleich, ob sie in einen Prompt eingegeben, aus internen Dokumenten abgerufen oder für das Fine-Tuning eines Modells verwendet werden. Neu ist vor allem, wohin die Daten fließen und wie schwer sie sich danach noch kontrollieren lassen.
Wissen, wo personenbezogene Daten hineinfließen
Erfassen Sie die Datenflüsse, bevor Sie sie bewerten. Typische Eintrittspunkte sind:
- Prompts und hochgeladene Dateien, oft mit Kunden- oder Beschäftigtendaten
- Quellen für RAG, etwa SharePoint, CRM-Datensätze oder Support-Tickets
- Trainings- und Fine-Tuning-Datensätze
- Ergebnisse, die personenbezogene Daten enthalten oder ableiten können
- Protokolle, Gesprächsverläufe und Telemetriedaten des Anbieters
Rechtsgrundlage und Zweck
Jeder Verarbeitungszweck braucht eine Rechtsgrundlage nach Artikel 6. Für viele interne Anwendungen ist das berechtigte Interesse die realistische Option. Es setzt aber eine dokumentierte dreistufige Prüfung voraus: berechtigtes Interesse, Erforderlichkeit und Interessenabwägung. Wie diese Prüfung auf KI-Modelle anzuwenden ist, hat der Europäische Datenschutzausschuss in seiner Stellungnahme 28/2024 beschrieben.
Beim Fine-Tuning ist vor allem die Zweckbindung nach Artikel 5 entscheidend. Kunden- oder Beschäftigtendaten, die für einen bestimmten Zweck erhoben wurden, dürfen nicht ohne Weiteres zum Training eines Modells genutzt werden. Prüfen Sie die Vereinbarkeit, informieren Sie die betroffenen Personen und klären Sie, ob synthetische oder anonymisierte Daten genügen. Führen KI-Ergebnisse ohne menschliche Beteiligung zu Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung, greift Artikel 22.
Besondere Kategorien erfordern besondere Sorgfalt
Gesundheitsdaten, biometrische Daten zur Identifizierung sowie Daten, aus denen ethnische Herkunft, politische Meinungen, religiöse Überzeugungen, Gewerkschaftszugehörigkeit oder sexuelle Orientierung hervorgehen, fallen unter Artikel 9. Für ihre Verarbeitung brauchen Sie zusätzlich zur Rechtsgrundlage nach Artikel 6 eine Ausnahme nach Artikel 9 Abs. 2. Besonders betroffen sind Anwendungsfälle in Personalwesen, Gesundheitswesen und Kundenservice. Legen Sie fest, ob solche Daten überhaupt in Prompts oder Suchindizes gelangen dürfen, und setzen Sie diese Entscheidung nach Möglichkeit technisch durch.
Minimieren, pseudonymisieren oder anonymisieren
Datenminimierung (Artikel 5) und Datenschutz durch Technikgestaltung (Artikel 25) bedeuten: Die KI soll nur die personenbezogenen Daten sehen, die sie tatsächlich braucht. Pseudonymisierung – etwa das Ersetzen von Namen durch Platzhalter, bevor ein Prompt gesendet wird – senkt das Risiko. Pseudonymisierte Daten bleiben aber personenbezogen für alle, die sie wieder zuordnen können. Anonymisierte Daten fallen nicht unter die DSGVO, echte Anonymisierung ist jedoch schwer zu erreichen. Nach Auffassung des EDSA ist im Einzelfall zu prüfen, ob ein trainiertes Modell anonym ist, da Modelle Trainingsdaten speichern und wiedergeben können.
- Personenbezogene Daten schwärzen oder pseudonymisieren, bevor sie externe Modelle erreichen
- RAG-Indizes auf die Inhalte beschränken, die der Anwendungsfall braucht, und bestehende Berechtigungen beachten
- Aufbewahrungsfristen für Prompts, Ergebnisse und Protokolle festlegen
- Für Tests und Fine-Tuning bevorzugt synthetische oder anonymisierte Daten verwenden
Datenschutz-Folgenabschätzung bei hohem Risiko
Nach Artikel 35 ist eine Datenschutz-Folgenabschätzung erforderlich, wenn eine Verarbeitung voraussichtlich ein hohes Risiko mit sich bringt – etwa wenn neue Technologien mit systematischer Bewertung von Personen oder umfangreicher Verarbeitung besonderer Kategorien zusammenkommen. Viele KI-Anwendungen erreichen diese Schwelle, und die Aufsichtsbehörden veröffentlichen Listen von Verarbeitungen, für die stets eine DSFA durchzuführen ist. Bei Hochrisiko-KI-Systemen ergänzt die Grundrechte-Folgenabschätzung nach der KI-Verordnung die DSFA. Planen Sie beide gemeinsam.
Auftragsverarbeitung und Drittlandübermittlung
Die meisten KI-Anbieter sind Auftragsverarbeiter. Sie brauchen einen Vertrag nach Artikel 28, der Weisungen, Vertraulichkeit, Sicherheit, Unterauftragsverarbeiter und Löschung regelt. Prüfen Sie, ob der Anbieter Ihre Prompts oder Daten zum Training eigener Modelle nutzt und wie Sie dies abschalten können. Nehmen Sie die Verarbeitung in Ihr Verzeichnis von Verarbeitungstätigkeiten (Artikel 30) auf und dokumentieren Sie Ihre technischen und organisatorischen Maßnahmen (Artikel 32).
Verlassen Daten die EU bzw. den EWR – auch durch Fernzugriffe des Supports –, gelten die Übermittlungsregeln aus Kapitel V. Stützen Sie sich auf einen Angemessenheitsbeschluss, etwa das EU-US Data Privacy Framework für zertifizierte US-Unternehmen, oder auf Standardvertragsklauseln mit einer Bewertung der Übermittlungsrisiken. Wählen Sie nach Möglichkeit eine Datenhaltung in der EU und halten Sie die Liste der Unterauftragsverarbeiter aktuell.
Fidempli unterstützt Sie bei Datenflussanalyse, Datenschutz-Folgenabschätzung und technischen Maßnahmen; die Fidempli-Plattform, die im Dezember 2026 startet, bietet zudem PII/PHI-Anonymisierung und Guardrails für Prompts.