Bei KI-Tools für Unternehmen hängt der Datenschutz an drei Punkten: wo die Daten gespeichert werden, wo das Modell rechnet und wer darauf zugreifen kann. Diese drei Punkte lassen Sie sich vertraglich zusichern, und danach wählen Sie eines von vier Betriebsmodellen: US-Anbieter global, US-Anbieter mit EU-Region, EU-Anbieter oder selbst betrieben. Was nach der Auswahl im laufenden Betrieb zu tun ist, steht in der DSGVO-Checkliste für KI im Unternehmen.

„DSGVO-konform“ ist kein Produktlabel

Kein Tool ist für sich genommen DSGVO-konform, denn verantwortlich für die Verarbeitung bleiben Sie. Setzen Sie eine externe KI aus der Cloud ein, liegt nach der Orientierungshilfe der Datenschutzkonferenz (DSK) vom 6. Mai 2024 häufig eine Auftragsverarbeitung vor (Rn. 32). Dann gilt Art. 28 DSGVO: Sie dürfen nur Anbieter beauftragen, die hinreichende Garantien bieten, und der Anbieter darf weitere Unterauftragnehmer nur mit Ihrer vorherigen Genehmigung einschalten (Art. 28 Abs. 2). Die Orientierungshilfe ist nicht rechtsverbindlich. Sie zeigt aber, wie die Aufsichtsbehörden die Sache lesen. (Stand: 20.10.2026)

Die drei Fragen vor jeder Tool-Wahl

Erstens: Wo liegen die Daten? Gemeint ist die Speicherung von Eingaben, Ausgaben, Protokollen und hochgeladenen Dateien.

Zweitens: Wo wird verarbeitet? Das Modell kann in einer anderen Region rechnen, als die Daten gespeichert sind. „Server in der EU“ beantwortet diese Frage allein nicht.

Drittens: Wer kann zugreifen? Dazu gehören Support, Betrieb und Missbrauchskontrolle des Anbieters und seine Unterauftragnehmer, auch wenn sie in einem Drittland sitzen.

Die Antworten gehören in den Vertrag oder in eine Dokumentation, auf die der Vertrag verweist.

Drei Begriffe werden dabei gern vermischt. Eine selbst betriebene Orchestrierung, etwa n8n auf einem eigenen Server (siehe n8n, Zapier und Make im Vergleich), steuert Ihre Abläufe. Ruft der Workflow aber ein Sprachmodell per API auf, gehen die Eingaben trotzdem an den Modellanbieter. Ein selbst betriebenes Modell ist etwas anderes: Hier läuft das Sprachmodell selbst auf Hardware, die Sie kontrollieren oder mieten. Und die EU-Region eines US-Anbieters heißt, dass das Modell in einem europäischen Rechenzentrum rechnet, der Anbieter aber ein US-Unternehmen bleibt.

Die vier Betriebsmodelle im Vergleich

KriteriumUS-Anbieter, Standard (global)US-Anbieter mit EU-RegionEU-Anbieter / dt. Cloud (Mistral, STACKIT, IONOS)Selbst betrieben (gemietete EU-GPU oder eigene Hardware)
AVV (Art. 28)jajajaMietserver: ja, mit dem Server-Anbieter; eigene Hardware: entfällt
Drittlandübermittlungja (DPF/SCC)je nach Zusage reduziert, Support-/Betriebszugriff prüfenin der Regel nein, Subunternehmer prüfennein
Modellqualitätsehr leistungsfähige Modellesehr leistungsfähige Modellegut (offene Modelle) bis sehr gut (Mistral)offene Modelle, kleinere Größen
Laufende KostenTokenToken, teils AufschlagTokenFixkosten (Server) plus Betrieb
Aufwand für KMUgeringgering bis mittel (Vertrag, Einstellungen)geringhoch
Nachweis, den Sie verlangen solltenAVV, Subprozessorliste, DPF-Eintragvertragliche Zusicherung Speicherung und InferenzTrust Center, AVV, StandortLöschkonzept, Zugriffskonzept, Updates

Die DSK ordnet offene Cloud-Systeme als Risiko für Übermittlungen in Drittländer ein, für die Kapitel V DSGVO gilt (Rn. 17). Bei EU-Anbietern lohnt der genaue Blick trotzdem. Mistral hostet Daten laut eigenem Hilfeartikel standardmäßig in der EU, schreibt aber auch, dass Daten je nach Funktion vorübergehend außerhalb der EU übertragen werden können. Bei deutschen Clouds wie STACKIT oder IONOS prüfen Sie Ort der Verarbeitung und AVV-Bedingungen ebenfalls im Einzelfall.

US-Anbieter mit EU-Region: was wirklich zugesichert wird

Hier hängt alles am konkreten Angebot. Bei den drei folgenden ist die EU-Verarbeitung jeweils an ein bestimmtes Produkt, an Bedingungen oder an eine Einstellung geknüpft. (Stand: 20.10.2026)

OpenAI API, regionale Verarbeitung „Europe“

Die Inferenz läuft in der Region, allerdings nur bei Endpunkten und Modellen, die regionale Verarbeitung unterstützen. Voraussetzung sind unter anderem Zero Data Retention oder Modified Abuse Monitoring sowie eine Freigabe durch OpenAI; ob Sie berechtigt sind, klären Sie laut Dokumentation mit dem Vertrieb. Für sogenannte System Data gilt die Datenresidenz ausdrücklich nicht. Ohne solche Vereinbarungen bewahrt OpenAI Daten zur Missbrauchsüberwachung standardmäßig bis zu 30 Tage auf.

Microsoft Azure (Foundry), Data Zone EU

Bereitstellungen vom Typ „Data Zone“ verarbeiten nur innerhalb der gewählten Zone (USA, EU oder Asien-Pazifik). Der Typ „Global“ darf in jeder Azure-Region rechnen. Die EU-Zone folgt der EU Data Boundary, kann EFTA-Staaten einschließen, und Microsoft kann ohne vorherige Ankündigung Regionen hinzufügen. Welcher Typ es wird, legen Sie bei der Bereitstellung selbst fest.

Anthropic: direkte API, Amazon Bedrock, Google Vertex AI

Über die direkte API gibt es keine EU-Option. Die Inferenz lässt sich dort nur auf „us“ oder „global“ stellen, der Speicherort des Workspace nur auf „us“. Europa ist laut Anthropics Seite zur regionalen Compliance über Amazon Bedrock und Google Vertex AI abgedeckt. Bei Bedrock rät AWS, sich nicht allein auf das geografische Präfix eines Inference-Profils zu verlassen, sondern die Zielregionen zu prüfen, an die Anfragen gehen können.

Bleibt die Frage, ob eine EU-Region Zugriffe von US-Behörden verhindert, etwa nach dem US CLOUD Act. Das ist juristisch umstritten. Lassen Sie es im Einzelfall prüfen, wenn Ihre Daten sensibel sind.

Self-hosted KI im Mittelstand: Hardware, Aufwand, Modell-Lizenzen

Die DSK schreibt: „Technisch geschlossene Systeme sind daher aus datenschutzrechtlicher Sicht vorzugswürdig“ (Rn. 20). Geschlossen heißt dabei laut Rn. 16: Die Verarbeitung läuft in einer eingegrenzten, technisch abgeschlossenen Umgebung, nur ein eng begrenzter Kreis hat Zugriff, die Kontrolle über Ein- und Ausgabedaten liegt bei den Anwendenden, und systemseitig ist nicht vorgesehen, dass der Anbieter die Daten zum Training nutzt. Wie viel Hardware Self-Hosting braucht, zeigen Mietserver mit GPU, hier am Beispiel Hetzner.

ServerGPU-SpeicherPreis pro Monatzzgl. einmaliger EinrichtungsgebührStandort
GEX4524 GB VRAM214 €209 €Helsinki
GEX6396 GB999 €999 €Helsinki
GEX13196 GBab 1.499 €1.499 €Deutschland

Anbieterangabe, netto, Stand Oktober 2026. Das sind Preise eines Server-Anbieters, keine Preise von meine-bots, und sie enthalten weder Kaufpreise eigener GPUs noch Strom oder die Zeit für Administration. Eine Gesamtrechnung lässt sich daraus nicht ableiten.

Auf solche Server passen offene Modelle. gpt-oss-20b kommt laut Modellkarte mit 16 GB aus, gpt-oss-120b passt auf eine einzelne GPU mit 80 GB. Mistral-Small-3.2-24B braucht in bf16 rund 55 GB GPU-Speicher. Diese drei Modelle und Qwen3-32B stehen unter Apache-2.0. Anders Llama 4: Die Nutzungsrichtlinie gewährt die Rechte an den multimodalen Modellen nicht für Personen mit Wohnsitz oder Unternehmen mit Hauptgeschäftssitz in der EU, Endnutzer von Produkten sind davon ausgenommen.

Self-Hosting nimmt Ihnen keine Pflichten ab. Das Verzeichnis von Verarbeitungstätigkeiten nach Art. 30 DSGVO bleibt, ebenso die technischen und organisatorischen Maßnahmen (TOM) und das Löschkonzept. Mieten Sie den Server, brauchen Sie einen AVV mit dem Server-Anbieter. Und jemand muss Updates einspielen und regeln, wer zugreifen darf.

Wann es sich nicht lohnt: wenn niemand im Haus den Server dauerhaft betreut, oder wenn Ihre Aufgabe mehr Modellqualität braucht, als offene Modelle in kleineren Größen liefern.

Und wenn das Data Privacy Framework kippt?

Das EU-US Data Privacy Framework (DPF) ist in Kraft. Das Gericht der EU hat die Klage dagegen (T-553/23, Latombe) am 3.9.2025 abgewiesen und den Rahmen damit bestätigt. Die Berufung beim EuGH ist anhängig; eine Entscheidung haben wir bis zum 20.10.2026 nicht gefunden. (Stand: 20.10.2026)

Fiele das DPF, kämen als Rückfallebene vor allem Standardvertragsklauseln (SCC) in Betracht, deren Einsatz im Einzelfall zu prüfen ist. Machen Sie deshalb die Exit-Fähigkeit zum Auswahlkriterium: Lassen sich Daten, Prompts und Wissensbasis exportieren? Ist das Modell in Ihren Abläufen austauschbar, oder hängt jeder Workflow an einem Anbieter? Haben Sie eine EU-Alternative für den Fall vorgemerkt, dass Sie wechseln müssen?

EU AI Act: was bei der Auswahl zählt

Seit dem 2.2.2025 gilt Art. 4 zur KI-Kompetenz. Auch nach der geänderten Fassung müssen Anbieter und Betreiber von KI-Systemen Maßnahmen ergreifen, um die Entwicklung der KI-Kompetenz ihres Personals zu unterstützen; ein bestimmtes Niveau an KI-Kompetenz müssen sie aber nicht garantieren. Die Transparenzpflichten aus Art. 50 gelten seit dem 2.8.2026; für Systeme, die schon vorher auf dem Markt waren, läuft bei Art. 50 Abs. 2 eine Übergangsfrist bis zum 2.12.2026. Art. 50 Abs. 1 richtet sich an die Anbieter von KI-Systemen, ob und wie er Sie als nutzendes KMU betrifft, hängt von Ihrer Rolle ab. Diese Daten geben den Stand nach der Omnibus-Verordnung (EU) 2026/1744 vom 8.7.2026 wieder, die beschlossen und am 27.7.2026 in Kraft getreten ist. (Stand: 20.10.2026)

Für die Tool-Wahl heißt das: Fragen Sie den Anbieter, wie er die Transparenzpflichten umsetzt, die ihn treffen.

Entscheidungshilfe: fünf Prüffragen

  1. Welche Daten sollen überhaupt in die KI? Wenn eine Aufgabe ohne personenbezogene Daten funktioniert, lassen Sie sie weg. Bei Gesundheits- oder Mandantendaten spricht die DSK-Linie für geschlossene Systeme, also eine abgeschlossene Umgebung mit eng begrenztem Nutzerkreis, in der Sie die Daten kontrollieren und der Anbieter sie nicht zum Training nutzt (Rn. 16).
  2. Sichert der Anbieter Speicherung und Inferenz in der EU vertraglich zu, und welche Bedingungen hängen daran?
  3. Wer hat Support- oder Betriebszugriff, von wo aus, und welche Unterauftragnehmer stehen auf der Liste?
  4. Kommen Sie mit Ihren Daten wieder heraus, falls das DPF fällt oder der Anbieter seine Bedingungen ändert?
  5. Wer betreibt das System? Wenn niemand Zeit für Updates, Zugriffskonzept und Löschung hat, scheidet Self-Hosting aus.

Manchmal ist die Antwort auch, einen Prozess gar nicht mit KI zu lösen, etwa wenn ein Formular oder eine feste Regel denselben Zweck erfüllt. Die Auswahl im Einzelfall sollten Sie von Ihrem Datenschutzbeauftragten oder einem Rechtsanwalt prüfen lassen.

meine-bots hilft in der KI-Beratung bei der Wahl eines passenden Setups, etwa für einzelne KI-Agenten. Welche Auftragsverarbeiter meine-bots selbst einsetzt, steht in der Datenschutzerklärung. Für eine erste Einordnung Ihres Vorhabens buchen Sie das kostenlose Erstgespräch (30 Minuten, erste Einordnung); der nächste Schritt danach ist der KI-Check, kostenpflichtig, er wird auf ein Folgeprojekt angerechnet.

Dieser Beitrag ist eine allgemeine Orientierung (Stand: 20.10.2026) und ersetzt keine Rechts- oder Steuerberatung.

Quellen