DSGVO und KI-Agenten: Was deutsche Unternehmen 2026 wirklich wissen müssen

Der Einsatz von KI-Agenten und großen Sprachmodellen (LLMs) im deutschen Mittelstand hat sich in den letzten zwei Jahren von einem Pilotprojekt zum operativen Alltag entwickelt. Gleichzeitig verdichten sich die rechtlichen Anforderungen: Die DSGVO gilt unverändert, der EU AI Act entfaltet seit August 2025 erste verbindliche Wirkung, und Datenschutzbehörden von Berlin bis München haben spezialisierte Orientierungshilfen für den KI-Einsatz veröffentlicht. Dieser Artikel fasst zusammen, was Unternehmen konkret tun müssen – ohne Panikstimmung, aber ohne die notwendige Ernsthaftigkeit zu unterschätzen.

---

TL;DR: Die 7 wichtigsten Pflichten für KI-Agenten im Überblick

Wer einen KI-Agenten betreibt, der personenbezogene Daten verarbeitet, muss folgende Kernpflichten erfüllen:

1. Rechtsgrundlage bestimmen (Art. 6 DSGVO): Vor jeder Inbetriebnahme muss feststehen, auf welche Rechtsgrundlage – Einwilligung, Vertragserfüllung oder berechtigtes Interesse – sich die Verarbeitung stützt.

1. Auftragsverarbeitungsvertrag (AVV) abschließen (Art. 28 DSGVO): Jeder externe LLM-Anbieter, dem personenbezogene Daten übermittelt werden, muss vertraglich als Auftragsverarbeiter gebunden sein. Auch API-Nutzung reicht dafür nicht.

1. Datenschutz-Folgenabschätzung (DSFA) durchführen (Art. 35 DSGVO): Bei KI-gestützter Analyse personenbezogener Daten ist die DSFA in aller Regel verpflichtend – die DSK-Muss-Liste nennt KI-Systeme zur Bewertung persönlicher Aspekte explizit.

1. Drittlandtransfer absichern (Art. 44 ff. DSGVO): US-Anbieter dürfen nur genutzt werden, wenn ein DPF-zertifizierter Anbieter vorliegt oder Standardvertragsklauseln (SCC) zusammen mit einem Transfer Impact Assessment (TIA) vereinbart wurden.

1. Transparenz und Informationspflichten (Art. 13/14 DSGVO): Betroffene müssen über den KI-Einsatz und eine etwaige automatisierte Entscheidungsfindung informiert werden – spätestens bei Erhebung der Daten.

1. Automatisierte Einzelentscheidungen vermeiden oder absichern (Art. 22 DSGVO): Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung, die ausschließlich auf KI-Verarbeitung beruhen, sind grundsätzlich verboten, sofern keine der eng definierten Ausnahmen greift.

1. Technische und organisatorische Maßnahmen implementieren (Art. 32 DSGVO): PII-Redaktion in Prompts, Input-Filter, sichere Logging-Strategien und definierte Speicherfristen sind keine optionalen Best Practices, sondern rechtliche Pflicht.

---

1. Grundlagen: Die DSGVO-Artikel, die beim KI-Einsatz zählen

Art. 5 – Grundsätze der Verarbeitung

Die fünf Kerngrundsätze der DSGVO gelten uneingeschränkt auch für KI-Agenten: Rechtmäßigkeit, Transparenz, Zweckbindung, Datenminimierung, Richtigkeit und Speicherbegrenzung. Für LLM-basierte Systeme ist insbesondere die Zweckbindung kritisch: Daten, die für einen Kundensupport-Chatbot erhoben wurden, dürfen nicht ohne gesonderte Rechtsgrundlage zum Training eines eigenen Modells verwendet werden. Ebenso problematisch ist die Datenminimierung: LLMs neigen systembedingt dazu, Kontexte mit Informationsfülle besser zu bearbeiten, was in der Praxis Anreize schafft, Prompts mit mehr personenbezogenen Daten anzureichern, als tatsächlich notwendig ist.

Art. 6 – Rechtsgrundlagen

Im unternehmerischen Kontext kommen beim KI-Einsatz vor allem drei Rechtsgrundlagen in Betracht:

• Vertragserfüllung (Art. 6 Abs. 1 lit. b): Zulässig, wenn die KI-Verarbeitung objektiv notwendig ist, um einen Vertrag mit der betroffenen Person zu erfüllen. Für einen Chatbot, der Bestellanfragen beantwortet, kann dies tragen; für ein Mitarbeiternotizsystem regelmäßig nicht.
• Berechtigtes Interesse (Art. 6 Abs. 1 lit. f): Seit dem EDPB-Opinion 28/2024 vom Dezember 2024 grundsätzlich auch für KI-Entwicklung und -Betrieb anwendbar, aber nur nach sorgfältiger dreigliedriger Interessenabwägung (Legitimes Interesse → Notwendigkeit → Balancing Test). Die Abwägung muss schriftlich dokumentiert werden.
• Einwilligung (Art. 6 Abs. 1 lit. a): Bleibt die sicherste Rechtsgrundlage, ist im B2B-Kontext aber schwer skalierbar. Bei Sonderkategorien (Art. 9) grundsätzlich erforderlich.

Art. 22 – Automatisierte Einzelentscheidungen

Art. 22 DSGVO verbietet Entscheidungen, die ausschließlich auf automatisierter Verarbeitung beruhen und rechtliche oder ähnlich erhebliche Wirkung für Betroffene entfalten. Dazu zählen KI-gestützte Kreditscoring-Systeme, automatisierte Bewerbungsabsagen oder Bonitätsprüfungen ohne menschliche Überprüfung. Der EDPB stellt klar: Bloßes „Rubber-Stamping" – eine Formalprüfung ohne tatsächliche Überprüfungsmöglichkeit – schließt die Anwendbarkeit des Art. 22 nicht aus. Menschliche Einbeziehung muss substanziell sein und eine echte Abänderungsmöglichkeit umfassen.

Die drei engen Ausnahmen: Vertragsnotwendigkeit, gesetzliche Erlaubnis oder ausdrückliche Einwilligung – jeweils verbunden mit der Pflicht, geeignete Schutzmaßnahmen zu treffen und Betroffenen das Recht auf menschliche Überprüfung, Standpunktdarstellung und Anfechtung zu gewähren.

Art. 32 – Sicherheit der Verarbeitung

Art. 32 verpflichtet zur Implementierung dem Risiko angemessener technischer und organisatorischer Maßnahmen (TOM). Bei LLM-Integrationen bedeutet das konkret: Verschlüsselung der API-Kommunikation (TLS), rollenbasierte Zugriffssteuerung auf Prompts und Logs, Pseudonymisierung oder PII-Redaktion vor dem Versand an externe Dienste sowie definierte Protokollierungskonzepte.

Art. 35 – Datenschutz-Folgenabschätzung

Die DSFA ist vor Aufnahme einer Verarbeitung durchzuführen, die voraussichtlich ein hohes Risiko für Rechte und Freiheiten natürlicher Personen mit sich bringt. Die DSK führt in ihrer Muss-Liste (Blacklist gem. Art. 35 Abs. 4 DSGVO) den Einsatz von KI zur Verarbeitung personenbezogener Daten, zur Steuerung der Interaktion mit Betroffenen oder zur Bewertung persönlicher Aspekte als zwingend DSFA-pflichtig auf. Bei KI-Agenten im Unternehmenseinsatz mit Zugriff auf Kundendaten, Mitarbeiterdaten oder Anfrageinhalten ist die DSFA daher regelmäßig obligatorisch – nicht optional.

Art. 44 ff. – Drittlandtransfer

Die Übermittlung personenbezogener Daten in Länder außerhalb des EWR erfordert entweder einen Angemessenheitsbeschluss der EU-Kommission, geeignete Garantien (insbesondere SCC) oder besondere Ausnahmen (Art. 49). US-Anbieter stützen Transfers derzeit auf das EU-US Data Privacy Framework (DPF) oder auf SCC in Kombination mit einem TIA.

---

2. Der EU AI Act — was ab August 2026 gilt

Der EU AI Act (Verordnung (EU) 2024/1689) trat am 1. August 2024 in Kraft und wird stufenweise angewendet. Die wichtigsten Daten im Überblick:

Datum	Regelung
02.02.2025	Verbote für KI-Systeme mit unakzeptablem Risiko gelten (Social Scoring, manipulative KI, Echtzeit-Biometrie in öffentlichen Räumen) und KI-Literacy-Pflicht für Mitarbeiter
02.08.2025	Pflichten für General-Purpose AI (GPAI) Modelle, Governance-Struktur und Bußgeldrahmen
02.08.2026	Vollständige Anwendung der Anforderungen für Hochrisiko-KI-Systeme gemäß Anhang III; Transparenzpflichten nach Art. 50
02.08.2027	Hochrisiko-KI in regulierten Produkten (Medizinprodukte, Maschinen); vollständige Compliance-Pflicht für GPAI-Modelle, die vor August 2025 auf den Markt kamen

Hinweis: Das EU-Parlament und der Rat verhandeln im Rahmen des sogenannten AI Omnibus über eine mögliche Verschiebung der Hochrisiko-Pflichten bis Dezember 2027. Eine politische Einigung muss vor dem 2. August 2026 erzielt werden, damit sie rechtswirksam wird. Bis dahin gilt der ursprüngliche Zeitplan.

Risikoklassifizierung: Die vier Stufen

1. Unakzeptables Risiko (verboten seit Feb. 2025): Social Scoring, Emotionserkennung am Arbeitsplatz, manipulative Systeme, Real-time-Biometrie in öffentlichen Räumen.

1. Hochrisiko (strenge Anforderungen ab Aug. 2026): KI in Biometrie, kritischer Infrastruktur, Bildung, Personalrekrutierung, Kreditscoring, Strafverfolgung, Migration und demokratischen Prozessen (Anhang III). Hier greifen Pflichten zur Risikoanalyse, Qualitätsmanagementsystem, technischer Dokumentation (Anhang IV), Konformitätsbewertung und EU-Datenbankregistrierung.

1. Begrenztes Risiko / Transparenzpflichten (ab Aug. 2026): Chatbots, Deepfakes, Emotionserkennung (außer Arbeitsplatz). Nutzer müssen informiert werden, dass sie mit einem KI-System interagieren.

1. Minimales Risiko: Spam-Filter, KI in Spielen – keine spezifischen Pflichten.

Was bedeutet das konkret für KI-Agenten im Mittelstand?

Ein KI-Agent, der Kundengespräche zusammenfasst und keine rechtlich relevanten Entscheidungen trifft, ist typischerweise minimales Risiko oder begrenztes Risiko. Sobald der Agent jedoch an Personalentscheidungen, Kreditbewertungen oder Scoring-Prozessen beteiligt ist, fällt er unter Hochrisiko – mit allen damit verbundenen Pflichten. Die Klassifizierungsfrage ist die erste und wichtigste Aufgabe bei der KI-Compliance.

GPAI-Pflichten seit August 2025: Wer LLMs wie GPT-4o, Claude oder Mistral Large als Teil seiner Infrastruktur nutzt, ist „Deployer" eines GPAI-Modells. Transparenz, Nutzungseinschränkungen und Dokumentation der Einsatzbedingungen sind seit August 2025 verbindlich.

---

3. DSGVO-konforme LLM-Anbieter: Datenstandort und AVV im Vergleich

Die folgende Tabelle gibt eine Übersicht der am häufigsten genutzten LLM-Anbieter mit Blick auf Datenschutz-relevante Eigenschaften. Die Angaben basieren auf öffentlich zugänglicher Anbieterdokumentation (Stand: April 2026) und ersetzen keine individuelle Prüfung.

Anbieter	Rechtssitz	EU-Datenhaltung möglich	AVV verfügbar	Drittlandtransfer	Besonderheiten
OpenAI (direkt / API)	USA	Ja (EU Data Residency seit Feb. 2025 für neue API-Projekte)	Ja (Enterprise/API mit Zero Data Retention)	DPF-zertifiziert + SCC	Freie Tarife ohne AVV; EU-Residency nur für neue Projekte konfigurierbar; US Cloud Act Risiko beachten
Microsoft Azure OpenAI	USA/EU	Ja (EU Data Zones für Deutschland, Frankreich etc.)	Ja (Microsoft DPA, seit Jahren erprobt)	DPF-zertifiziert + SCC	EU-Region-Deployment gilt als DSGVO-tauglichste Option für US-LLMs; Fine-Tuning-Daten können Region verlassen
Anthropic (Claude API)	USA	Eingeschränkt (kein dediziertes EU-Hosting angekündigt)	Ja (DPA automatisch in kommerziellen Tarifen; Claude Enterprise ab 01.01.2026)	SCC (Module 2) im kommerziellen DPA	Free/Pro-Tarife ohne DPA; USA-basierte Verarbeitung; TIA erforderlich; US-Behördenzugriff über FISA 702/CLOUD Act möglich
Mistral AI (La Plateforme)	Frankreich (EU)	Ja (ausschließlich EU-Hosting)	Ja (AVV für API-Nutzung)	Kein Drittlandtransfer; bei Ausnahmen nur SCC nach Art. 46 DSGVO	Unterliegt direkt DSGVO ohne CLOUD Act-Risiko; keine Trainingsdatennutzung in kostenpflichtigen Tarifen; Open-Source-Modelle auch self-hostingfähig
Aleph Alpha	Deutschland (EU)	Ja (deutsches Rechenzentrum)	Ja	Kein Drittlandtransfer	Speziell auf Sovereign AI / Behörden und regulierte Branchen ausgerichtet; DSGVO-nativ; hat EU AI Act Code of Practice unterzeichnet (Transparenz + Copyright)
Perplexity AI	USA	Eingeschränkt (EU- oder US-Server; keine vollständige Nutzer-Kontrolle)	Ja (DPA verfügbar, mit EU SCCs Module 2/3)	DPF-zertifiziert; DPA mit SCC	Keine unabhängige DSGVO-Zertifizierung; Tracking-Praktiken datenschutzrechtlich problematisch; für sensitive Daten nur nach Risikobewertung und DSFA empfehlenswert

Wichtige Einschränkung: Die bloße Existenz eines AVV bedeutet nicht automatisch DSGVO-Konformität. Unternehmen müssen den AVV aktiv prüfen, insbesondere hinsichtlich Subprozessorlisten, Löschfristen und Weisungsrecht.

---

4. Was heißt Auftragsverarbeitung beim LLM? AVV-Vertragskomponenten und SCC

Wann liegt Auftragsverarbeitung vor?

Auftragsverarbeitung nach Art. 28 DSGVO liegt vor, wenn ein externer Dienstleister personenbezogene Daten im Auftrag und nach Weisung des Verantwortlichen verarbeitet. Bei der Nutzung eines LLM-API ist das fast immer der Fall, sobald personenbezogene Daten (Namen, E-Mail-Adressen, Kundennummern, Inhalt von Nachrichten) in Prompts oder als Kontext übermittelt werden. Das Unternehmen bleibt Verantwortlicher; der LLM-Anbieter wird Auftragsverarbeiter.

Ausnahme: Wenn der LLM-Anbieter eigene Zwecke verfolgt (etwa das Training eigener Modelle mit Nutzerdaten ohne vertragliche Beschränkung), wird er zum eigenverantwortlichen Datenverarbeiter oder Mitverantwortlichen – was die Anforderungen deutlich erhöht.

Mindestinhalt eines AVV nach Art. 28 Abs. 3 DSGVO

Ein rechtskonformer AVV mit einem LLM-Anbieter muss mindestens regeln:

• Gegenstand, Dauer, Art und Zweck der Verarbeitung (z. B. „Generierung von Textzusammenfassungen für eingehende Kundenanfragen über die API")
• Art der personenbezogenen Daten (z. B. Namen, Anfrageinhalte, Support-Tickets)
• Kategorien betroffener Personen (Kunden, Mitarbeiter, Interessenten)
• Weisungsgebundenheit des Auftragsverarbeiters
• Verpflichtung zur Vertraulichkeit aller autorisierten Personen
• Nachweis geeigneter TOM nach Art. 32 DSGVO
• Regelung zu Subunternehmern (Subprozessoren): Der Auftragsverarbeiter darf Sub-AV nur mit schriftlicher Genehmigung des Verantwortlichen hinzuziehen; die Subprozessorliste muss aktuell und einsehbar sein
• Unterstützung bei Betroffenenrechten, Datenpannenmeldung und DSFA
• Löschung oder Rückgabe der Daten nach Vertragsende

Standardvertragsklauseln (SCC) bei Drittlandtransfer

Wenn der LLM-Anbieter Daten in die USA überträgt, reicht ein AVV allein nicht aus: Zusätzlich sind SCC (Standardvertragsklauseln der EU-Kommission, Beschluss 2021/914) in der Modulkonfiguration Controller-to-Processor (Modul 2) erforderlich. Viele Anbieter integrieren die SCC direkt in ihr DPA-Dokument, was die Vertragskette vereinfacht, aber die inhaltliche Prüfung nicht ersetzt.

Seit der EuGH-Entscheidung in Schrems II (2020) und dem Folgeurteil des Europäischen Gerichts (EuG) vom 3. September 2025 (Rechtssache T-553/23, Latombe/Kommission) gilt:

• Das EU-US Data Privacy Framework (DPF) von Juli 2023 wurde vom Europäischen Gericht erster Instanz bestätigt – Datentransfers zu DPF-zertifizierten US-Unternehmen sind damit grundsätzlich zulässig.
• Ein Berufungsverfahren vor dem EuGH ist möglich; Unternehmen sollten parallel SCC als Fallback-Mechanismus beibehalten.
• Für Unternehmen ohne DPF-Zertifizierung des US-Anbieters: SCC + Transfer Impact Assessment (TIA) als Mindeststandard.

---

5. Datenschutz-Folgenabschätzung (DSFA) nach Art. 35 DSGVO

Wann ist eine DSFA bei KI-Agenten verpflichtend?

Eine DSFA ist immer dann durchzuführen, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für Rechte und Freiheiten natürlicher Personen mit sich bringt (Art. 35 Abs. 1 DSGVO). Art. 35 Abs. 3 nennt drei Regelbeispiele, von denen für KI-Agenten besonders relevant ist:

„Systematische und umfassende Bewertung persönlicher Aspekte natürlicher Personen, die sich auf automatisierte Verarbeitung einschließlich Profiling gründet und die ihrerseits als Grundlage für Entscheidungen dient, die Rechtswirkung gegenüber natürlichen Personen entfalten oder diese in ähnlich erheblicher Weise beeinträchtigen."

Die DSK-Blacklist (Muss-Liste) konkretisiert dies: KI-Systeme zur Verarbeitung personenbezogener Daten, zur Steuerung von Interaktionen mit Betroffenen oder zur Bewertung persönlicher Aspekte sind DSFA-pflichtig. Praktisch bedeutet das: Jeder KI-Agent, der auf Kundendaten, HR-Daten oder ähnliche personenbezogene Datensätze zugreift, löst die DSFA-Pflicht aus.

Wie wird eine DSFA durchgeführt?

Art. 35 Abs. 7 DSGVO schreibt folgende Mindestinhalte vor:

1. Systematische Beschreibung der Verarbeitungsvorgänge und Zwecke (inkl. berechtigter Interessen)
2. Bewertung der Notwendigkeit und Verhältnismäßigkeit der Verarbeitungsvorgänge
3. Risikobewertung für Rechte und Freiheiten der Betroffenen
4. Abhilfemaßnahmen: Garantien, Sicherheitsvorkehrungen und Verfahren zum Schutz personenbezogener Daten

Der Datenschutzbeauftragte (DSB) ist nach Art. 35 Abs. 2 DSGVO bei der Durchführung zu konsultieren – sofern ein DSB benannt wurde. Nach § 38 BDSG kann gerade der KI-Einsatz mit DSFA-Pflicht zur Bestellungspflicht eines DSB führen, wenn mindestens 20 Personen ständig mit automatisierter Verarbeitung beschäftigt sind.

Wenn nach der DSFA ein hohes Risiko nicht hinreichend gemindert werden kann, ist eine vorherige Konsultation der Aufsichtsbehörde nach Art. 36 DSGVO zwingend.

---

6. Konkrete technische und organisatorische Maßnahmen

PII-Redaktion in Prompts

Personenbezogene Daten sollten, wo immer möglich, vor dem Versand an einen externen LLM anonymisiert oder pseudonymisiert werden. Praktische Ansätze:

• Regex-basierte Filterung (Namen, E-Mail-Adressen, Telefonnummern, IBAN) vor dem API-Call
• Maschinelles NER-Tagging (Named Entity Recognition) zur automatisierten Erkennung und Ersetzung von Entitäten durch Platzhalter
• Prompt-Vorlagen (Templates), die strukturiert nur die für die Aufgabe notwendigen Variablen einschließen, keine Roh-Textblöcke

Input-Filter und Prompt-Governance

• System-Prompt-Einschränkungen: KI-Agenten sollten durch System-Prompts klar definierte Verarbeitungszwecke erhalten und Anweisungen, keine personenbezogenen Daten zu extrahieren oder weiterzugeben
• Prompt-Injection-Schutz: Externe Eingaben (z. B. aus Web-Scraping oder Nutzerformularen) müssen vor der Weitergabe an den LLM validiert und auf Injektionsversuche geprüft werden
• Whitelist-Ansatz für Werkzeugaufrufe: Bei Agenten mit Tool-Calling-Fähigkeiten (z. B. Datenbankabfragen) nur explizit genehmigte Datenzugriffe erlauben

Logging-Strategien

Das Protokollieren von Prompts und LLM-Antworten ist für Audit und Debugging notwendig, schafft aber selbst eine Datenschutzverarbeitungsebene. Grundsätze:

• Zweckgebundenes Logging: Nur das protokollieren, was für Betrieb, Sicherheit und Compliance notwendig ist
• Keine Klartext-Protokollierung sensibler Daten: PII im Log maskieren oder hashen
• Rollenbasierter Zugriff: Log-Zugriff auf autorisierte Personen beschränken, Zugriffsprotokoll führen
• Löschfristen: Logs spätestens nach 90 Tagen löschen, sofern keine gesetzliche Aufbewahrungspflicht besteht; Retention-Konzept dokumentieren

Retention und Datenlöschung

• Speicherfristen für Konversationsverläufe und Kontextfenster definieren und technisch durchsetzen
• Beim LLM-Anbieter: Zero Data Retention (ZDR) oder kurzestmögliche Retention konfigurieren, wo der Anbieter dies ermöglicht
• Löschbarkeit von Daten, die in Vektor-Datenbanken (RAG-Systeme) gespeichert sind, sicherstellen – die DSK hat dazu Ende 2025 eine eigene Orientierungshilfe für RAG-Systeme veröffentlicht

---

7. Der Schrems-II-Kontext und US-Anbieter

Chronologie und aktueller Stand

• 2020 (Schrems II): Der EuGH erklärte das EU-US Privacy Shield für ungültig; US-Massenüberwachung nach FISA 702 und Executive Order 12333 wurden als mit EU-Grundrechten unvereinbar eingestuft. SCC wurden als grundsätzlich weiter verwendbar eingestuft, aber nur mit zusätzlichen Maßnahmen (TIA).
• Juli 2023 (EU-US DPF): Die EU-Kommission erließ einen Angemessenheitsbeschluss für das EU-US Data Privacy Framework. US-Unternehmen können sich zertifizieren lassen; zertifizierte Unternehmen können EU-Daten ohne separate SCC empfangen.
• September 2025 (EuG-Urteil Latombe/Kommission, T-553/23): Das Europäische Gericht erster Instanz wies die Klage gegen das DPF zurück und bestätigte dessen Gültigkeit. Das Urteil kann noch an den EuGH appelliert werden.

Verbleibendes Restrisiko

Trotz des DPF-Urteils bleiben rechtliche Risiken bestehen:

• US CLOUD Act und FISA 702: US-Behörden können von US-Unternehmen Zugriff auf Daten verlangen, die auf EU-Servern gespeichert sind, wenn das Unternehmen US-amerikanischer Rechtshoheit unterliegt. Ein EU-Rechenzentrum eines US-Unternehmens bietet keinen vollständigen Schutz.
• Politische Instabilität: Executive Order 14086, auf die das DPF maßgeblich aufbaut, kann durch eine US-Regierung geändert werden. NOYB und andere Datenschutzorganisationen halten das DPF für strukturell gefährdet.
• Empfehlung: Für besonders sensible Verarbeitungen (Gesundheitsdaten, Finanzdaten, HR-Daten) europäische Anbieter bevorzugen oder Self-Hosting-Optionen prüfen. Bei US-Anbietern: DPF-Zertifizierungsstatus regelmäßig verifizieren, SCC als parallele Absicherung und TIA dokumentieren.

---

8. Betroffenenrechte bei KI-Agenten

Der Einsatz von KI-Agenten ändert nichts an der Pflicht, Betroffenenrechte zu erfüllen – erhöht aber den organisatorischen Aufwand erheblich.

Auskunftsrecht (Art. 15 DSGVO)

Wenn eine natürliche Person Auskunft verlangt, muss das Unternehmen mitteilen, ob und welche personenbezogenen Daten verarbeitet werden, zu welchem Zweck und wer sie empfangen hat. Bei KI-Agenten bedeutet das: Prompts, Konversationsverläufe und Log-Einträge müssen durchsuchbar und auf eine betroffene Person beziehbar sein. Liegt kein systematischer Bezug mehr vor (weil Daten aggregiert oder anonymisiert wurden), entfällt das Auskunftsrecht – die Anonymisierung muss aber nachweislich belastbar sein.

Löschrecht (Art. 17 DSGVO)

Das Recht auf Löschung gilt auch für KI-Systeme. Kritisch ist die Frage, ob Daten, die in ein LLM eingeflossen sind, aus dem Modellgewichten gelöscht werden können. Die EDPB-Opinion 28/2024 stellt klar: Ob ein KI-Modell als „anonym" gilt, ist eine Einzelfallprüfung. Ein trainiertes Modell gilt nur dann als anonym, wenn es praktisch unmöglich ist, aus dem Modell auf individuelle Trainingspersonen zu schließen. Für Unternehmen, die keine eigenen Modelle trainieren (sondern nur LLM-APIs nutzen), greift das Löschrecht primär auf die gespeicherten Eingaben, Outputs und Logs – nicht auf Modellgewichte.

Widerspruchsrecht gegen automatisierte Entscheidungen (Art. 22 Abs. 3 DSGVO)

Wenn ein Unternehmen sich auf Art. 22 Abs. 2 lit. a (Vertragserfüllung) oder lit. c (Einwilligung) stützt, um automatisierte Einzelentscheidungen zu treffen, müssen Betroffene das Recht erhalten:

• Einen menschlichen Ansprechpartner zu verlangen
• Den eigenen Standpunkt darzulegen
• Die Entscheidung anzufechten

Diese Rechte müssen proaktiv kommuniziert und technisch ermöglicht werden – nicht erst auf Anfrage.

---

9. Typische Fehler deutscher Unternehmen beim KI-Einsatz

Aus der Praxis lassen sich folgende häufige Fehler identifizieren:

1. AVV vergessen: Mitarbeiter nutzen ChatGPT oder andere LLMs über Konsumenten-Accounts ohne AVV. Verbraucher-AGB ersetzen keinen Art.-28-Vertrag.

1. Drittlandtransfer nicht geprüft: Daten werden an US-Anbieter übermittelt, ohne zu prüfen, ob dieser DPF-zertifiziert ist oder SCC vorliegen. Besonders kritisch bei neuen Tools, die im Rahmen von Teamarbeit eingeführt werden.

1. DSFA nicht durchgeführt: Der KI-Einsatz wird als „Pilotprojekt" oder „intern" deklariert und die DSFA-Pflicht übersehen. Die DSK-Blacklist ist eindeutig: KI zur Interaktionssteuerung oder Bewertung persönlicher Aspekte ist DSFA-pflichtig, unabhängig vom Projektumfang.

1. Zweckbindung missachtet: Kundendaten, die für Support erhoben wurden, werden in Prompts für Produktentwicklung oder Marketing-Analysen verwendet.

1. Art. 22 nicht erkannt: Ein KI-Agent sortiert Bewerbungen vor, ohne dass ein menschlicher Prozess zur Überprüfung definiert oder dokumentiert ist. Das stellt eine automatisierte Einzelentscheidung dar, für die keine Rechtsgrundlage vorhanden ist.

1. Intransparenz gegenüber Betroffenen: Die Datenschutzerklärung auf der Unternehmenswebsite enthält keinen Hinweis auf KI-gestützte Verarbeitung; Kunden werden nicht informiert, dass Anfragen über LLM-APIs geleitet werden.

1. Subprozessoren nicht beachtet: Der AVV mit dem LLM-Anbieter ist abgeschlossen, aber die Subprozessorliste des Anbieters wird nicht geprüft – obwohl dieser z. B. auf Azure, AWS oder GCP aufbaut, die eigene Datenschutzvereinbarungen erfordern.

1. Logs unbegrenzt aufbewahrt: System-Logs, die personenbezogene Daten enthalten, werden ohne Löschkonzept dauerhaft gespeichert – Verstoß gegen Art. 5 Abs. 1 lit. e (Speicherbegrenzung).

1. KI-Act-Klassifizierung nicht vorgenommen: Unternehmen wissen nicht, ob ihre KI-Anwendung unter Anhang III EU AI Act fällt, und haben keine Dokumentation zu Konformitätspflichten.

1. Keine Mitarbeiterschulung: Art. 4 Abs. 2 EU AI Act sieht eine KI-Literacy-Pflicht für Mitarbeiter seit Februar 2025 vor. Viele Unternehmen haben noch keine entsprechenden Schulungsmaßnahmen umgesetzt.

---

10. Praxis-Checkliste: 15-Punkte-Audit für den eigenen KI-Agenten

Die folgende Checkliste kann als Grundlage für eine interne Überprüfung dienen. Sie ersetzt keine individuelle rechtliche Beratung.

#	Prüfpunkt	Ja	Nein	Offen
1	Ist für jede Verarbeitungstätigkeit mit KI-Beteiligung eine Rechtsgrundlage nach Art. 6 DSGVO dokumentiert?
2	Wurde die KI-Anwendung im Verzeichnis der Verarbeitungstätigkeiten (Art. 30 DSGVO) eingetragen?
3	Liegt für alle externen LLM-Anbieter, die personenbezogene Daten verarbeiten, ein gültiger AVV nach Art. 28 DSGVO vor?
4	Ist der AVV-Status aller Sub-Auftragsverarbeiter (Subprozessoren) geprüft und dokumentiert?
5	Ist für jeden US-Anbieter geprüft, ob dieser DPF-zertifiziert ist oder SCC + TIA vorliegen?
6	Wurde eine DSFA nach Art. 35 DSGVO durchgeführt (Pflicht bei KI-gestützter Personenbewertung)?
7	Wurde der DSB bei der DSFA konsultiert (sofern benannt)?
8	Sind PII-Redaktions- oder Pseudonymisierungsmaßnahmen vor dem Versand von Daten an externe LLM-APIs implementiert?
9	Existiert ein Logging-Konzept mit definierten Speicherfristen und rollenbasiertem Zugriff?
10	Werden Betroffene über den KI-Einsatz in der Datenschutzerklärung (Art. 13/14) informiert, einschließlich etwaiger automatisierter Entscheidungen?
11	Sind Prozesse zur Erfüllung von Betroffenenrechten (Auskunft, Löschung, Widerspruch) auch für KI-verarbeitete Daten definiert?
12	Ist geprüft, ob Art. 22 DSGVO (automatisierte Einzelentscheidungen) greift, und sind die erforderlichen Schutzmaßnahmen und Rechte implementiert?
13	Wurde die KI-Anwendung nach EU AI Act klassifiziert (minimal / begrenzt / hoch / verboten) und die Dokumentation entsprechend geführt?
14	Haben Mitarbeiter, die mit dem KI-Agenten arbeiten, eine KI-Literacy-Schulung erhalten (Pflicht nach Art. 4 Abs. 2 EU AI Act seit Feb. 2025)?
15	Gibt es einen Prozess zur regelmäßigen Überprüfung und Aktualisierung der Compliance-Dokumentation (mindestens jährlich oder bei wesentlichen Änderungen)?

---

11. FAQ

Brauche ich einen AVV, wenn ich ChatGPT nur „zum Testen" nutze?

Sobald personenbezogene Daten – auch aus nur gelegentlichem Einsatz – in Prompts verarbeitet werden, ist ein AVV erforderlich. Das gilt auch für Test- und Pilotphasen. Verbraucher-AGB (wie die kostenlosen ChatGPT-Nutzungsbedingungen) ersetzen keinen AVV nach Art. 28 DSGVO. Für Enterprise-/API-Nutzung bietet OpenAI einen AVV an; für Konsumenten-Konten nicht.

Gilt Art. 22 DSGVO bei jedem KI-Chatbot?

Nein. Art. 22 greift nur bei Entscheidungen, die ausschließlich auf automatisierter Verarbeitung beruhen und rechtliche oder ähnlich erhebliche Wirkung haben. Ein Chatbot, der Support-Anfragen beantwortet, ohne über Verträge, Kredite oder Personalentscheidungen zu urteilen, fällt in der Regel nicht unter Art. 22.

Ist Mistral AI automatisch DSGVO-konform?

Nicht automatisch, aber strukturell vorteilhafter als US-Anbieter. Mistral AI mit Sitz in Paris unterliegt direkt der DSGVO und ist nicht dem US CLOUD Act unterworfen. Ein AVV für die API-Nutzung muss dennoch abgeschlossen werden, und die individuellen Verarbeitungsumstände (Zweck, Datenkategorien, Drittempfänger) müssen geprüft werden.

Was ist ein Transfer Impact Assessment (TIA) und wann brauche ich es?

Ein TIA ist eine dokumentierte Risikoanalyse, die bewertet, ob das Datenschutzniveau im Drittland (z. B. USA) dem EU-Standard gleichwertig ist. Wer SCC nutzt und Daten in die USA überträgt, muss ein TIA erstellen – auch wenn der Empfänger DPF-zertifiziert ist (als ergänzende Absicherung empfohlen). Ein TIA ist kein einmaliges Dokument, sondern sollte bei Änderungen der US-Rechtslage aktualisiert werden.

Muss ich eine DSFA durchführen, wenn ich nur intern einen LLM-basierten Schreibassistenten nutze?

Das hängt davon ab, welche Daten verarbeitet werden. Wenn der Assistent ausschließlich nicht-personenbezogene Daten verarbeitet, entfällt die DSFA-Pflicht. Sobald Mitarbeiterdaten, Kundennamen oder andere personenbezogene Inhalte in den Kontext fließen, greift die Pflicht zur Schwellwertanalyse und i. d. R. auch die DSFA-Pflicht.

Was gilt für KI-Agenten, die Entscheidungen mit Webhooks oder API-Calls auslösen?

Sobald ein Agent autonom Aktionen ausführt – E-Mails versenden, Bestellungen auslösen, Datensätze ändern –, erhöht sich das Datenschutzrisiko erheblich. Neben Art. 22 kommt Art. 5 (Zweckbindung, Datenminimierung) ins Spiel. Eine DSFA ist bei autonomen Agenten fast immer erforderlich; Prozesse zur menschlichen Überwachung kritischer Aktionen sollten technisch erzwungen werden.

Ab wann muss ich meinen KI-Agenten nach dem EU AI Act klassifizieren?

Die Klassifizierungspflicht gilt seit dem Inkrafttreten des AI Act für neue Systeme und ab August 2026 vollständig auch für bestehende Hochrisiko-Systeme. Verbotene Praktiken sind seit Februar 2025 illegal. Die Empfehlung: Klassifizierung und Dokumentation jetzt vornehmen, um bei der August-2026-Frist compliance-fähig zu sein.

Kann ich als deutsches Unternehmen auf den EU-US-DPF vertrauen?

Aktuell ja: Das Europäische Gericht hat das DPF im September 2025 bestätigt. Allerdings ist ein Berufungsverfahren vor dem EuGH möglich, und politische Entwicklungen in den USA (Executive Orders, Behördenreformen) könnten die Grundlage des DPF gefährden. Best Practice: DPF-Zertifizierung des Anbieters regelmäßig prüfen, SCC als Fallback erhalten und TIA dokumentieren. Für hochsensible Verarbeitungen EU-Anbieter bevorzugen.

---

Quellen

1. Europäische Kommission: EU AI Act – Shaping Europe's Digital Future
2. EU Artificial Intelligence Act: Implementation Timeline
3. EDPB: Opinion 28/2024 on AI Models (Pressemitteilung)
4. EDPB: Opinion 28/2024 on AI Models (Volltext, PDF)
5. Datenschutzkonferenz (DSK): Orientierungshilfe KI und Datenschutz (Mai 2024)
6. DSK: Orientierungshilfe zu KI-Systemen mit RAG-Methode (Oktober 2025)
7. Bayerisches Landesamt für Datenschutzaufsicht (BayLDA): KI und Datenschutz – IHK-Webinar-Foliensatz (Januar 2025)
8. OpenAI / TechCrunch: OpenAI launches data residency in Europe (Februar 2025)
9. Compound Law: Claude Enterprise Germany: GDPR Compliance Review
10. Europäisches Gericht (EuG), T-553/23: Urteil Latombe/Kommission, 3. September 2025 – Pressemitteilung
11. Arnold & Porter: European General Court Upholds EU-U.S. Data Protection Framework
12. Perplexity AI: Data Processing Addendum
13. NOYB: EU-US Data Transfers: Time to prepare for more trouble to come (Dezember 2025)
14. Europäische Kommission: Standard Contractual Clauses (SCC) – Übersicht
15. Proliance: Auftragsverarbeitungsvertrag nach DSGVO
16. GDPR-Text.com: Art. 22 GDPR – Automated individual decision-making
17. Kennedys Law: EU AI Act Implementation Timeline
18. MediaLaws: EU AI Obligations for GPAI Providers

---

Disclaimer

Dieser Artikel stellt keine Rechtsberatung dar und ersetzt diese nicht.

Die hier enthaltenen Informationen dienen ausschließlich der allgemeinen Orientierung und spiegeln den Stand der verfügbaren öffentlichen Informationen zum Zeitpunkt der Redaktion (April 2026) wider. Das Datenschutzrecht und die Regulierung von KI-Systemen befinden sich in einem dynamischen Entwicklungsprozess; Gesetze, Leitlinien und Behördenpraxis können sich kurzfristig ändern.

Für konkrete Compliance-Entscheidungen, die Umsetzung von Datenschutzmaßnahmen sowie die Beurteilung einzelner Verarbeitungsvorgänge oder Vertragsgestaltungen empfehlen wir die Hinzuziehung eines qualifizierten Datenschutzberaters, Rechtsanwalts oder des betrieblichen Datenschutzbeauftragten.

Die Verwendung der in diesem Artikel enthaltenen Checklisten, Tabellen und Handlungsempfehlungen erfolgt auf eigene Verantwortung.