DSGVO-konforme LLM-Workflows für Kanzleien kombinieren ein in der EU gehostetes oder vertraglich abgesichertes Sprachmodell, einen unterzeichneten Auftragsverarbeitungsvertrag (AVV) gemäß Art. 28 DSGVO, strikte Datenminimierung und eine Retrieval-Schicht, die Mandantendaten in Systemen belässt, die die Kanzlei selbst kontrolliert. In der Praxis bedeutet das: niemals identifizierbare Mandantendaten an ein Modell senden, das mit Eingaben trainiert wird, eine Rechtsgrundlage für die Verarbeitung dokumentieren und jeden Prompt sowie jede Ausgabe für die Rechenschaftspflicht nach Art. 5 Abs. 2 protokollieren. Richtig umgesetzt können Kanzleien LLMs für Entwürfe, Recherche und Prüfung nutzen — und gegenüber Aufsichtsbehörden belastbar bleiben.
Warum Kanzleien einen eigenen LLM-Standard brauchen
Kanzleien verarbeiten von Natur aus besondere Kategorien personenbezogener Daten und berufsgeheimnisgeschützte Informationen: Mandanten-Identitäten, Prozessstrategie, Finanzunterlagen und — in vielen DACH-Jurisdiktionen — Daten, die unter das Berufsgeheimnis fallen (§ 203 StGB in Deutschland). Das hebt die Anforderungen über die übliche DSGVO-Compliance hinaus.
Drei Pflichten kommen zusammen:
- DSGVO — Rechtsgrundlage, AVV, Datenminimierung, Drittlandtransferregeln.
- Berufsgeheimnis — in Deutschland verlangen § 203 StGB und § 43e BRAO, dass jeder externe Dienstleister mit potenziellem Zugang zu Mandantengeheimnissen vertraglich zur Verschwiegenheit verpflichtet wird.
- Vorgaben der Kammern — die meisten DACH- und EU-Kammern erwarten heute dokumentierte Risikobewertungen, bevor generative KI in Mandatsarbeit eingesetzt wird.
Die Konsequenz: Ein privater ChatGPT-Account, der auf echte Fallakten angewendet wird, ist fast immer nicht konform. Ein ordnungsgemäß vertraglich abgesichertes, über die EU geroutetes Enterprise-Deployment mit deaktivierter Datenspeicherung kann konform sein.
Die zentrale Compliance-Checkliste
Bevor ein LLM Mandantendaten berührt, sollte die Kanzlei zu jedem der folgenden Punkte mit Ja antworten können.
- Unterzeichneter AVV nach Art. 28 DSGVO mit dem Modellanbieter — die Kanzlei als Verantwortliche, der Anbieter als Auftragsverarbeiter.
- Transparenz über Unterauftragsverarbeiter — eine aktuelle Liste, wer sonst noch Daten verarbeitet und wo.
- Kein Training mit Eingaben — vertraglich garantiert (Zero Data Retention oder Opt-out aus Modellverbesserung).
- Datenresidenz oder ein gültiger Übermittlungsmechanismus — EU/EWR-Hosting oder Standardvertragsklauseln plus Transfer Impact Assessment bei US-Anbietern.
- Rechtsgrundlage dokumentiert — meist berechtigtes Interesse (Art. 6 Abs. 1 lit. f) für interne Entwürfe, mit einer Interessenabwägung in der Akte.
- Verschwiegenheitsklausel nach § 203 StGB für deutsche Kanzleien, die Anbieter und seine Mitarbeiter bindet.
- Protokollierung und menschliche Prüfung — jede Ausgabe wird vor Mandantenverwendung anwaltlich geprüft; Prompts und Ausgaben werden zur Rechenschaftspflicht aufbewahrt.
- DSFA (Art. 35), wenn die Verarbeitung umfangreich oder risikoreich ist.
EU-Anbieter vs. US-Anbieter in 2026
Der Modellmarkt teilt sich für europäische Kanzleien in drei praktische Optionen.
EU-souveräne und in der EU gehostete Modelle
Anbieter wie Mistral (Frankreich), Aleph Alpha (Heidelberg) und auf IONOS oder OVHcloud betriebene Open-Source-Modelle halten Daten innerhalb der EU und bieten AVVs, die mit den deutschen Berufsgeheimnisanforderungen vereinbar sind. Für Kanzleien, denen die § 203-StGB-Belastbarkeit wichtig ist, ist das der friktionsärmste Weg.
US-Anbieter über EU-Regionen
OpenAI, Anthropic und Google bieten Enterprise-Tarife mit EU-Datenresidenz, Zero-Data-Retention-Optionen und AVVs an. Stand 2026 bietet das EU–US Data Privacy Framework eine Angemessenheitsgrundlage; angesichts der weiterhin offenen rechtlichen Angriffe auf Angemessenheitsbeschlüsse ist ein gestaffelter Ansatz (DPF + SCCs + Transfer Impact Assessment) der vorsichtige Standard.
Selbst gehostete Open-Source-Modelle
Llama-, Mistral- oder Qwen-Modelle auf einer von der Kanzlei kontrollierten Infrastruktur (on-premise oder in einem deutschen Cloud-Tenant) zu betreiben, eliminiert den Dritt-Auftragsverarbeiter vollständig. Das maximiert die Kontrolle, verlagert aber Security-, Patching- und Qualitätsverantwortung in die Kanzlei. Geeignet für große Kanzleien mit IT-Kapazität; kleine und mittlere Kanzleien sind mit einem vertraglich abgesicherten EU-Deployment in der Regel besser bedient.
Eine Referenzarchitektur: RAG über eine Kanzlei-Wissensbasis
Das sicherste und nutzbringendste Muster für Kanzleien ist Retrieval-Augmented Generation (RAG) — nicht das Fine-Tuning von Mandantendaten in ein Modell. RAG hält die Dokumente in einer Datenbank, die der Kanzlei gehört, und übergibt dem Modell nur die jeweils relevanten Ausschnitte zur Laufzeit.
Ein typischer Mindflows-Build für eine DACH-Kanzlei sieht so aus:
- Ingestion — Mandatsdokumente, Präzedenzfälle und interne Vorlagen werden in Chunks zerlegt und als Vector Embeddings in einer in der EU gehosteten Vektordatenbank gespeichert (z. B. Qdrant oder pgvector auf deutscher Infrastruktur). Embeddings können über ein in der EU gehostetes Embedding-Modell erzeugt werden, sodass Rohtexte die Region nicht verlassen.
- Zugriffskontrolle — das Retrieval respektiert Mandatsberechtigungen, sodass eine Anfrage nur Dokumente liefert, für die die anfragende Anwältin oder der Anwalt berechtigt ist. Das verhindert mandatsübergreifenden Datenabfluss — ein häufig übersehenes Risiko.
- Pseudonymisierungs-Layer — bevor ein Prompt an das LLM geht, ersetzt ein automatisierter Schritt Namen, Kontonummern und Identifikatoren durch Token, die in der Ausgabe wieder zurückgemappt werden. Das reduziert die personenbezogenen Daten, die das Modell sieht.
- Generierung — das LLM erhält den redigierten Kontext plus die Frage und entwirft eine Antwort mit Quellenverweisen auf die Originaldokumente.
- Human-in-the-Loop-Review — die Ausgabe wird der Anwältin oder dem Anwalt mit verlinkten Quellen zur Verifizierung gezeigt, bevor sie mandantenseitig verwendet wird.
- Audit-Log — Prompt, abgerufene Dokumente, Modellversion und Ausgabe werden für die Rechenschaftspflicht nach Art. 5 Abs. 2 und die Nachvollziehbarkeit nach § 203 protokolliert.
Diese Architektur sorgt dafür, dass das Modell nie die vollständige Fallakte aufnimmt, dass die Kanzlei den Datenspeicher kontrolliert und dass jede Antwort auf eine Quelle zurückführbar ist — was zugleich das Halluzinationsrisiko reduziert, die andere große Haftungsfrage in der Legal AI.
Risikoarme Anwendungsfälle mit hohem Wert zum Einstieg
Nicht jeder Workflow trägt dasselbe Risiko. Ein gestaffelter Rollout baut Vertrauen und eine Nachweiskette auf.
- Interne Wissenssuche — „Finde unsere letzten drei SPA-Vorlagen mit Earn-out-Klauseln.“ Geringes Risiko, hohe Zeitersparnis.
- Erstentwürfe aus Kanzleivorlagen, anwaltlich überprüft.
- Zusammenfassung langer Verträge oder Discovery-Akten mit Quellenlinks.
- Übersetzung und Tonalitätsanpassung von Korrespondenz (mit Redaktion).
- Intake-Triage — Klassifizierung eingehender Mandatsanfragen und Weiterleitung, nur auf Basis der vom Interessenten ohnehin offengelegten Daten.
Risikoreichere Aktivitäten — automatisierte Mandantenberatung, Entscheidungen mit Auswirkung auf Personen oder die Verarbeitung besonderer Kategorien personenbezogener Daten der Gegenseite — sollten warten, bis Governance, DSFA und Review-Kontrollen erprobt sind.
Umsetzungsschritte für eine mittelgroße Kanzlei
- Dateninventar erstellen — kartieren, welche Mandatsdaten das LLM berühren würden, und ihre Sensibilität klassifizieren.
- Deployment-Modell wählen — ein EU-gehostetes Enterprise-Tier ist für die meisten Kanzleien der pragmatische Default.
- AVV unterzeichnen und Zero Retention bestätigen — die Zusage „kein Training mit Eingaben“ schriftlich fixieren.
- DSFA und § 203-Bewertung abschließen — die Interessenabwägung und die Verschwiegenheits-Sicherungen dokumentieren.
- RAG-Schicht bauen — mit Zugriffskontrolle, Pseudonymisierung und Protokollierung. Das ist der technische Kern; Automationstools wie n8n oder Make orchestrieren Ingestion und Reviewschritte.
- Mit einer Praxisgruppe sechs bis acht Wochen auf risikoarmen Use Cases pilotieren.
- Anwältinnen und Anwälte zu Prompt-Hygiene, Prüfpflicht und Daten, die niemals manuell eingegeben werden dürfen, schulen.
- Auf Basis der Audit-Log-Evidenz prüfen und ausweiten.
Realistisch sind sechs bis zehn Wochen vom Inventar bis zum kontrollierten Piloten — abhängig davon, wie weit die Dokument-Ingestion automatisiert wird.
Häufige Compliance-Fehler
- Private oder kostenlose Accounts nutzen, die mit Eingaben trainieren und keinen AVV haben.
- Vollständige Mandantendokumente in Prompts einfügen, statt Retrieval und Redaktion zu verwenden.
- Keine menschliche Prüfung — Modellausgabe wie ein finales anwaltliches Arbeitsergebnis behandeln.
- Unterauftragsverarbeiter ignorieren — nachgelagerte Anbieter eines Providers können die Transferkette brechen.
- DSFA überspringen, weil „es nur ein Pilot ist“ — Aufsichtsbehörden bewerten Absicht und Umfang, nicht Etiketten.
- Keine Aufbewahrungspolitik für Logs und Embeddings — schafft ein neues Speicherbegrenzungsproblem nach Art. 5 Abs. 1 lit. e.
FAQ
Ist ChatGPT für Kanzleien DSGVO-konform?
Die kostenlose Endverbraucherversion in der Regel nicht — Eingaben können zur Modellverbesserung verwendet werden und es gibt keinen AVV mit der Kanzlei. Die Enterprise- und API-Tarife von OpenAI mit EU-Datenresidenz, Zero Data Retention und unterzeichnetem AVV lassen sich konform gestalten, aber jede Kanzlei muss weiterhin ihre eigene Rechtsgrundlage, DSFA und Berufsgeheimnis-Sicherungen dokumentieren.
Welche Rechtsgrundlage gilt für den LLM-Einsatz auf Mandantendaten?
Für interne Entwürfe und Recherche ist berechtigtes Interesse nach Art. 6 Abs. 1 lit. f die übliche Grundlage, gestützt auf eine dokumentierte Interessenabwägung. Sind besondere Kategorien (Art. 9) betroffen, muss eine zusätzliche Bedingung greifen — häufig die Geltendmachung, Ausübung oder Verteidigung von Rechtsansprüchen nach Art. 9 Abs. 2 lit. f.
Brauchen wir eine DSFA?
In den meisten Fällen ja. Die umfangreiche Verarbeitung vertraulicher Mandantendaten mit einer neuen Technologie erfüllt die Schwelle des Art. 35. Die DSFA sollte Datenflüsse, die Zusage „kein Training“, Übermittlungsmechanismen und Review-Kontrollen abdecken.
Dürfen wir deutsche Mandantendaten an ein US-Modell senden?
Nur mit einem gültigen Übermittlungsmechanismus. Stand 2026 bietet das EU–US Data Privacy Framework für zertifizierte Anbieter eine Angemessenheit; Kanzleien sollten zusätzlich Standardvertragsklauseln und ein Transfer Impact Assessment einsetzen — und bei § 203-StGB-Mandaten EU-Regionen oder Pseudonymisierung vor dem Transfer bevorzugen.
Wie reduziert RAG das DSGVO-Risiko gegenüber Fine-Tuning?
Fine-Tuning verankert Mandantendaten in den Modellgewichten — Löschung und Zugriffskontrolle werden nahezu unmöglich. RAG hält die Daten in einem von der Kanzlei kontrollierten Speicher mit Berechtigungen pro Mandat und einem klaren Löschpfad und übergibt dem Modell nur den minimal nötigen Kontext — passend zu Datenminimierung und Recht auf Löschung.
Mindflows baut DSGVO-konforme LLM- und RAG-Workflows für Kanzleien und Professional-Services-Firmen in der DACH-Region — von Dateninventar und DSFA-Unterstützung bis zu in der EU gehosteter Retrieval-Architektur und Review-Portalen für Anwältinnen und Anwälte. Wenn Sie einen kontrollierten Piloten statt eines Compliance-Risikos wollen, ist das genau die Arbeit, die wir leisten.