DSGVO-konforme KI: Anbieter und Modelle im Vergleich

DSGVO-konforme KI liegt vor, wenn personenbezogene Daten nur mit gültiger Rechtsgrundlage verarbeitet werden und Speicherort sowie Zugriff einer bekannten Rechtsordnung unterliegen. Nach Artikel 44 ff. der DSGVO (Verordnung (EU) 2016/679) sind Datenübermittlungen in Drittstaaten nur unter zusätzlichen Garantien zulässig – ein Grund, warum deutsche Unternehmen zunehmend zwischen maskierter Cloud, EU-souveränen und On-Premise-Modellen wählen.

Das Wichtigste in Kürze

• DSGVO-konforme KI verlangt eine Rechtsgrundlage, einen wirksamen Auftragsverarbeitungsvertrag und Klarheit über den tatsächlichen Rechtsraum der Verarbeitung.
• Datensouveränität bedeutet nicht nur „Server in der EU“, sondern Kontrolle darüber, welche Behörde außerhalb der EU Zugriff verlangen kann – Stichwort US CLOUD Act.
• ChatGPT und vergleichbare Modelle lassen sich DSGVO-konform einsetzen, aber nicht automatisch – entscheidend sind Vertrag, Datenmaskierung und technische Maßnahmen.
• Drei Souveränitätsstufen decken unterschiedliche Datensensibilität ab: maskierte Cloud, EU-souveräner Anbieter und vollständiges On-Premise-Hosting.
• Die EDPB hat mit Stellungnahme 28/2024 erstmals EU-weit konkretisiert, wie DSGVO-Grundsätze auf KI-Modelle angewendet werden.
• Ein einzelnes „DSGVO-konformes Modell“ reicht selten aus – entscheidend ist eine governte Umgebung, die Zugriff, Kosten und Souveränitätsstufe je Anwendungsfall steuert.

Inhaltsverzeichnis

• Was ist Datensouveränität in der Cloud?
• Ist ChatGPT DSGVO-konform?
• Drei Souveränitätsstufen für DSGVO-konforme KI
• Woran erkennen Sie eine wirklich DSGVO-konforme KI-Lösung?
• Häufige Fragen zu DSGVO und KI

Was ist Datensouveränität in der Cloud?

Datensouveränität in der Cloud bedeutet, dass ein Unternehmen jederzeit weiß und kontrolliert, welchem Rechtsraum seine Daten unterliegen und welche Behörden oder Gerichte darauf zugreifen können – unabhängig davon, wo der physische Server steht. Das ist eine andere Frage als „wo liegen meine Daten“, auch wenn beide oft verwechselt werden.

Der Unterschied wird beim US CLOUD Act (Clarifying Lawful Overseas Use of Data Act, 2018) konkret: Das Gesetz verpflichtet US-Unternehmen, Daten auf behördliche Anordnung herauszugeben – auch wenn diese Daten physisch in einem Rechenzentrum in Frankfurt oder Dublin liegen. Ein Cloud-Anbieter mit Hauptsitz in den USA bleibt dem US-Recht unterworfen, ganz gleich, wie „europäisch“ sein Hosting-Standort beworben wird. Echte Datensouveränität setzt deshalb nicht nur einen EU-Serverstandort voraus, sondern einen Anbieter, dessen Muttergesellschaft selbst unter EU-Rechtsprechung steht.

Für deutsche Unternehmen kommt eine zweite Ebene hinzu, die über die reine Jurisdiktionsfrage hinausgeht: der Nachweis, dass ein Anbieter überhaupt angemessene technische und organisatorische Sicherheitsmaßnahmen betreibt. Etablierte deutsche Prüfraster für Cloud-Dienste verlangen dafür weit mehr als eine Selbstauskunft – sie prüfen Aspekte wie Verschlüsselung, Mandantentrennung, Zugriffsprotokollierung und Vorfallmanagement im Detail. Wer einen KI-Anbieter evaluiert, sollte deshalb nicht nur nach dem Sitz des Unternehmens fragen, sondern auch danach, ob und wie er sich einer solchen unabhängigen Prüfung stellt.

Für die DSGVO ist diese Unterscheidung direkt relevant: Kapitel V der DSGVO im EUR-Lex-Volltext (Artikel 44 bis 49) regelt Datenübermittlungen in Drittstaaten und verlangt bei fehlendem Angemessenheitsbeschluss zusätzliche Garantien, etwa Standardvertragsklauseln nach Artikel 46. Diese Klauseln lösen das vertragliche Problem, aber nicht zwangsläufig das faktische: Wenn ein US-Gericht den Anbieter zur Herausgabe verpflichten kann, hilft die schönste Vertragsklausel wenig. Das ist der Kern dessen, was in der Praxis als „Datensouveränität“ diskutiert wird, und der Grund, warum viele Unternehmen für besonders sensible Daten gezielt auf europäische Anbieter oder eigene Infrastruktur setzen.

Zwei ergänzende rechtliche Mechanismen werden dabei oft verwechselt. Standardvertragsklauseln nach Artikel 46 DSGVO sind ein vertragliches Instrument, das jedes Unternehmen selbst mit seinem Anbieter vereinbaren kann. Das EU-US Data Privacy Framework dagegen ist ein Angemessenheitsbeschluss der Europäischen Kommission für bestimmte, dort zertifizierte US-Unternehmen – es vereinfacht die Übermittlung, ändert aber nichts an der grundsätzlichen CLOUD-Act-Zugriffsmöglichkeit für US-Behörden. Beide Mechanismen schaffen eine rechtliche Grundlage für die Übermittlung, beseitigen aber nicht die zugrunde liegende jurisdiktionelle Realität, die für besonders sensible Daten den Ausschlag zugunsten eines EU-souveränen oder On-Premise-Modells geben sollte.

Ist ChatGPT DSGVO-konform?

ChatGPT kann DSGVO-konform eingesetzt werden, ist es aber nicht automatisch. Entscheidend sind ein wirksamer Auftragsverarbeitungsvertrag nach Artikel 28 DSGVO, geeignete Garantien für die Datenübermittlung in die USA und technische Maßnahmen, die verhindern, dass personenbezogene oder sensible Daten unkontrolliert in Prompts landen.

OpenAI ist ein US-Unternehmen und unterliegt damit grundsätzlich derselben CLOUD-Act-Problematik wie jeder andere US-Anbieter. Für die vertragliche Seite bietet OpenAI Enterprise-Kunden einen Auftragsverarbeitungsvertrag und stützt internationale Übermittlungen auf Standardvertragsklauseln nach Artikel 46 DSGVO; Enterprise- und API-Nutzung schließt zudem typischerweise aus, dass eingegebene Daten zum Training künftiger Modelle verwendet werden – ein Unterschied, der bei der kostenlosen Consumer-Version von ChatGPT nicht in gleicher Form gilt. Das schafft eine rechtliche Grundlage – löst aber nicht automatisch die Frage, welche Daten überhaupt in einen Prompt gehören sollten.

Dass diese Fragen nicht rein theoretisch sind, zeigte sich bereits 2023, als die italienische Datenschutzbehörde ChatGPT vorübergehend sperrte, weil aus ihrer Sicht die Rechtsgrundlage für die Verarbeitung personenbezogener Daten beim Modelltraining ungeklärt war. Der Dienst wurde nach Anpassungen wieder freigeschaltet, doch der Fall zeigt exemplarisch, dass „DSGVO-konform“ keine statische Eigenschaft eines Anbieters ist, sondern von der konkreten Konfiguration, dem Vertrag und der tatsächlichen Datennutzung abhängt.

Die Vorgeschichte dieser Diskussion reicht weiter zurück, als viele erwarten: Der Europäische Gerichtshof kippte 2020 mit dem sogenannten Schrems-II-Urteil das damalige „Privacy Shield“-Abkommen zwischen der EU und den USA, weil es US-Behörden zu weitreichenden Zugriff auf Daten europäischer Bürger einräumte. Seither müssen Unternehmen bei Datenübermittlungen in die USA zusätzliche Garantien nachweisen, nicht nur auf ein pauschales Abkommen verweisen. Diese Rechtsprechung ist der eigentliche Grund, warum die Frage „ist Anbieter X DSGVO-konform“ heute so viel sorgfältigere Antworten braucht als noch vor einigen Jahren.

Genau hier setzt der Ansatz an, den DevKira als „maskierte Cloud“ bezeichnet: Führende Modelle wie Claude oder GPT bleiben nutzbar, weil sie für viele Aufgaben schlicht die besten verfügbaren Werkzeuge sind – aber sensible Daten werden vor dem Verlassen der Arbeitsumgebung maskiert, statt im Klartext an den Anbieter zu gehen. Das reduziert das Risiko unabhängig davon, wie sich die vertragliche Lage rund um transatlantische Datenübermittlungen künftig entwickelt. Auch die EDPB hat in ihrer Stellungnahme 28/2024 vom 18. Dezember 2024 klargestellt, dass allgemeine DSGVO-Grundsätze – Zweckbindung, Datenminimierung, Rechtsgrundlage – uneingeschränkt auch für den Einsatz von KI-Modellen gelten, nicht nur für deren Training.

Dass diese Fragen keineswegs abschließend geklärt sind, zeigt auch die deutsche Aufsicht selbst: Die BfDI wies in einer Handreichung vom Dezember 2025 ausdrücklich auf „erhebliche Unsicherheiten“ beim Einsatz von Large Language Models hin – dort mit Fokus auf Bundesbehörden, doch dieselben Fragen zu Trainingsdaten, eingebetteten personenbezogenen Daten und Transparenzpflichten stellen sich für jedes Unternehmen, das mit einem großen Sprachmodell arbeitet.

Drei Souveränitätsstufen für DSGVO-konforme KI

Statt sich für ein einziges „DSGVO-konformes Modell“ zu entscheiden, arbeiten datenschutzbewusste Unternehmen mit abgestuften Souveränitätsstufen, die sich an der Sensibilität der jeweiligen Daten orientieren. Diese Abstufung ist deutlich praxistauglicher als ein Alles-oder-nichts-Ansatz, der entweder jede Produktivität kostet oder jedes Risiko ignoriert.

Stufe	Wie sie funktioniert	Wann sie sinnvoll ist
Maskierte Cloud	Führende Modelle wie Claude oder GPT im Einsatz; sensible Daten werden vor dem Verlassen der Arbeitsumgebung automatisch maskiert	Mindeststandard für den datenschutzkonformen KI-Einsatz im Alltag
EU-souverän	Ein europäischer Anbieter wie Mistral verarbeitet die Daten unter EU-Rechtsprechung	Für die meisten sensiblen Unternehmensdaten – löst Datentransfer- und CLOUD-Act-Fragen
On-Premise	Ein offenes Modell läuft vollständig auf unternehmenseigenen Servern; kein Dritter ist beteiligt	Für kritische Daten wie Industriepläne oder Geschäftsgeheimnisse

Der Unterschied zwischen Stufe eins und Stufe zwei ist dabei keine akademische Feinheit. Ein europäischer Anbieter wie Mistral unterliegt als Unternehmen der EU-Rechtsprechung – US-Behörden können ihn nicht auf Basis des CLOUD Act zur Datenherausgabe verpflichten, weil das Gesetz nur für US-Unternehmen und ihre Tochtergesellschaften gilt. Für Daten, die eine Vertraulichkeitsstufe höher liegen als der Alltagsgebrauch, ist das der entscheidende Unterschied. On-Premise wiederum eliminiert die Frage komplett: Ohne Datenübermittlung an einen Dritten gibt es auch kein Drittstaatentransfer-Problem im Sinne von Kapitel V DSGVO.

Die meisten am deutschen Markt sichtbaren Angebote bündeln zwar mehrere Modelle mit EU- oder On-Premise-Hosting – die eigentliche Herausforderung liegt aber selten im verfügbaren Modell, sondern darin, im Alltag zuverlässig zu steuern, welche Aufgabe welche Souveränitätsstufe tatsächlich braucht, und das nachvollziehbar zu dokumentieren.

Ein Beispiel aus der Praxis macht den Unterschied greifbar: Eine Marketingabteilung, die Blogtext-Entwürfe formuliert, arbeitet meist problemlos in der maskierten Cloud – die Inhalte sind ohnehin für die Veröffentlichung bestimmt. Eine Personalabteilung, die einen Kündigungssachverhalt oder eine Gehaltsverhandlung mit KI-Unterstützung vorbereitet, bewegt sich dagegen in einem Bereich, in dem ein EU-souveräner Anbieter die deutlich sinnvollere Wahl ist. Und ein Ingenieursteam, das an einer unveröffentlichten Patentanmeldung oder an sicherheitskritischen Konstruktionsdaten arbeitet, sollte ausschließlich auf ein On-Premise-Modell zugreifen, bei dem die Daten das eigene Rechenzentrum nie verlassen. Entscheidend ist, dass diese Zuordnung nicht dem einzelnen Nutzenden überlassen bleibt, sondern als Regel in der Arbeitsumgebung selbst verankert ist.

Woran erkennen Sie eine wirklich DSGVO-konforme KI-Lösung?

Eine DSGVO-konforme KI-Lösung erkennen Sie nicht am Marketingversprechen „europäisch gehostet“, sondern an neun konkreten, überprüfbaren Eigenschaften.

1. Klarheit über den tatsächlichen Rechtsraum

Nicht nur der Serverstandort zählt, sondern auch der Sitz des Mutterunternehmens – nur beides zusammen bestimmt, welchem Recht die Verarbeitung tatsächlich unterliegt.

2. Ein wirksamer Auftragsverarbeitungsvertrag

Ohne einen Vertrag nach Artikel 28 DSGVO, der Weisungsgebundenheit, Löschpflichten und Unterauftragsverarbeiter regelt, ist jede weitere technische Maßnahme rechtlich auf wackligem Fundament.

3. Getrennte Behandlung je nach Datensensibilität

Eine Lösung, die für Marketingtexte und für Verhandlungsunterlagen mit Kunden dasselbe Vorgehen vorsieht, hat die eigentliche Aufgabe nicht verstanden – Sensibilität sollte die Souveränitätsstufe bestimmen, nicht Zufall.

4. Nachvollziehbare Kostenzuordnung pro Nutzer

Wer nicht pro Nutzer und Modell abrechnen kann, kann in der Regel auch nicht genau sagen, wer wann welches Modell mit welchen Daten genutzt hat – Kostenzuordnung und Nachweisführung hängen technisch oft zusammen.

5. Eine gemeinsame Umgebung für Business und IT

Wenn Fachabteilungen und IT in getrennten Tools arbeiten, entstehen zwangsläufig Schatten-KI-Nutzung und Lücken in der Dokumentation – eine gemeinsame, governte Umgebung schließt genau diese Lücke strukturell.

6. Governter, kontrollierter Netzwerkzugriff

Ein authentifizierter Proxy mit expliziter Freigabeliste zeigt zuverlässig, welche externen Ziele ein Team tatsächlich erreicht, statt sich auf ungeprüfte, direkte API-Verbindungen zu verlassen.

7. Definierte Lösch- und Aufbewahrungskonzepte

Prompts und Ausgaben brauchen dieselbe Sorgfalt bei Löschfristen wie jede andere personenbezogene Verarbeitung auch – „das Modell vergisst das schon“ ist keine Rechtsgrundlage.

8. Lückenlose Protokollierung

Im Streitfall oder bei einer Anfrage der Aufsichtsbehörde zählt, ob sich nachweisen lässt, wer wann welches Modell mit welchen Daten genutzt hat – nicht, ob es theoretisch möglich gewesen wäre.

9. Die Möglichkeit, Souveränitätsstufen zu wechseln

Die stärkste Lösung ist selten die restriktivste, sondern die, die je nach Anwendungsfall zwischen maskierter Cloud, EU-souveränem Modell und On-Premise wechseln kann, ohne dass Nutzende dafür das Tool wechseln müssen.

Wer diese neun Punkte gegen ein Angebot prüft, merkt schnell: Viele am Markt sichtbare Lösungen beantworten die Modellfrage gut, lassen die Fragen vier bis sechs – Kostenzuordnung, gemeinsame Umgebung für Business und IT, governten Netzwerkzugriff – aber offen. Genau das ist die Lücke, die eine governte KI-Arbeitsumgebung schließt: DevKira bündelt sechs Rollen von der internen IT über Business-Analysten bis zur Compliance-Beratung in einem gemeinsamen, überwachten System, in dem jede der drei Souveränitätsstufen verfügbar ist und Kosten pro Nutzer, Modell und Projekt sichtbar bleiben. Ergänzend dazu regelt eine schriftliche KI-Richtlinie verbindlich, welche Tools für welche Datenkategorien überhaupt freigegeben sind – die technische Steuerung und die organisatorische Regel greifen erst gemeinsam vollständig.

Punkt sechs – governter Netzwerkzugriff – verdient dabei einen genaueren Blick, weil er in vielen Bewertungen unterschätzt wird. Die Governed-Egress-Funktion von DevKira arbeitet über einen authentifizierten Forward-Proxy mit expliziter Freigabeliste: Nur Ziele, die ausdrücklich erlaubt sind, lassen sich überhaupt erreichen, alles andere wird standardmäßig blockiert. Wenn ein Entwicklerteam ein neues KI-Werkzeug ausprobieren möchte, stellt es eine begründete Freigabeanfrage, die bei geringem Risiko automatisch genehmigt wird – statt dass jede neue Verbindung entweder komplett gesperrt bleibt oder unbeobachtet durchgeht. Voreingestellte Proxy-Variablen sorgen dabei dafür, dass gängige Entwicklerwerkzeuge ohne zusätzlichen Konfigurationsaufwand innerhalb dieser Freigabeliste funktionieren. Für die Frage der Datensouveränität ist das relevant, weil sich damit lückenlos nachvollziehen lässt, welche externen KI-Anbieter ein Unternehmen tatsächlich erreicht, nicht nur, welche es offiziell freigegeben hat.

Auch die technische Bewertung von Cloud-Anbietern selbst folgt in Deutschland zunehmend etablierten Prüfrastern für Informationssicherheit, an denen sich Unternehmen bei der Anbieterauswahl orientieren können, statt sich allein auf Marketingaussagen zu verlassen. Wer eine KI-Lösung evaluiert, sollte entsprechend nicht nur nach dem Sitz des Anbieters fragen, sondern auch danach, wie er seine technischen und organisatorischen Maßnahmen im Sinne von Artikel 32 DSGVO nachweist.

Der nächste Schritt

Der pragmatischste erste Schritt ist eine Bestandsaufnahme: Welche Teams nutzen heute welche KI-Werkzeuge, und welche Datenkategorien landen dabei tatsächlich in Prompts? In den meisten Unternehmen ist die ehrliche Antwort „wir wissen es nicht genau“ – und genau das ist der Punkt, an dem sich Souveränität nicht mehr nur behaupten, sondern belegen lassen muss.

Diese drei Souveränitätsstufen sind zugleich ein Baustein einer umfassenderen KI-Governance im Unternehmen, die auch Freigabeprozesse und Risikoklassifizierung umfasst – Souveränität allein macht eine KI-Nutzung noch nicht vollständig governt. In einem Gespräch mit DevKira zeigen wir, wie sich alle drei Stufen in einer gemeinsamen, prüfbaren Umgebung für Business- und IT-Teams abbilden lassen, ohne dass Fachabteilungen dafür auf die Modelle verzichten müssen, mit denen sie am produktivsten arbeiten.

Häufige Fragen zu DSGVO und KI

Was ist Datensouveränität in der Cloud?

Datensouveränität bedeutet, dass ein Unternehmen weiß und kontrolliert, welchem Rechtsraum seine Daten unterliegen und welche Behörden darauf zugreifen können – unabhängig vom physischen Serverstandort. Ein US-Anbieter mit EU-Rechenzentrum bleibt dennoch dem US CLOUD Act unterworfen, weshalb echte Souveränität einen Anbieter voraussetzt, dessen Mutterunternehmen selbst unter EU-Rechtsprechung steht. Serverstandort und Souveränität sind damit zwei getrennte Fragen, die oft fälschlich als eine behandelt werden.

Ist ChatGPT DSGVO-konform?

ChatGPT lässt sich DSGVO-konform einsetzen, ist es aber nicht automatisch. Nötig sind ein wirksamer Auftragsverarbeitungsvertrag, Garantien für die Datenübermittlung in die USA nach Artikel 46 DSGVO und technische Maßnahmen wie Datenmaskierung, die verhindern, dass sensible Daten unkontrolliert in Prompts gelangen.

Was ist der Unterschied zwischen EU-Hosting und echter Datensouveränität?

EU-Hosting betrifft nur den physischen Serverstandort, an dem Daten technisch gespeichert werden. Echte Datensouveränität verlangt zusätzlich, dass auch das Mutterunternehmen des Anbieters der EU-Rechtsprechung unterliegt – sonst bleibt der US CLOUD Act theoretisch anwendbar, unabhängig davon, wo die Daten physisch liegen. Beide Kriterien gemeinsam, nicht nur der Serverstandort, entscheiden über die tatsächliche Souveränität.

Reicht ein einzelnes DSGVO-konformes KI-Modell für ein ganzes Unternehmen?

In der Praxis selten. Unterschiedliche Daten haben unterschiedliche Sensibilität – eine Marketingfreigabe braucht andere Maßstäbe als eine Gehaltsverhandlung oder eine unveröffentlichte Konstruktionszeichnung. Abgestufte Souveränitätsstufen – maskierte Cloud, EU-souverän, On-Premise – sind deshalb meist praxistauglicher als der Versuch, ein einziges Modell für sämtliche Anwendungsfälle gleichermaßen abzusichern.

Was schreibt die DSGVO konkret zu KI-Modellen vor?

Die DSGVO selbst nennt KI nicht ausdrücklich, ihre Grundsätze gelten aber uneingeschränkt: Rechtsgrundlage, Zweckbindung, Datenminimierung, technische und organisatorische Maßnahmen nach Artikel 32 sowie Betroffenenrechte. Die EDPB hat mit Stellungnahme 28/2024 vom 18. Dezember 2024 präzisiert, wie diese allgemeinen Grundsätze konkret auf den Einsatz und das Training von KI-Modellen anzuwenden sind.

Welche Rolle spielt der US CLOUD Act für europäische Unternehmen?

Der US CLOUD Act von 2018 verpflichtet US-Unternehmen, Daten auf behördliche Anordnung herauszugeben, auch wenn diese in einem EU-Rechenzentrum liegen – der Serverstandort allein schützt also nicht davor. Für Unternehmen, die mit sensiblen Daten arbeiten, ist das ein Grund, gezielt europäische oder On-Premise-Alternativen für die entsprechend sensiblen Anwendungsfälle vorzusehen, statt sich auf EU-Hosting allein zu verlassen.