DSGVO-konforme KI: 7 Fragen an Ihren Anbieter

von Denis Shokhirev, Enterprise AI Architect aus Freiburg im Breisgau.
Ich betreibe DennisCraft AI Studio und liefere KI-Systeme für DACH-B2B-Kunden auf Basis von Claude, Supabase, n8n, Doppler und selbst gehostetem Postgres. Im regulierten deutschen Markt genügt ein einziger DSGVO-Verstoß, damit ein Projekt gestoppt und das Unternehmen mit Bußgeldern in sechsstelliger Höhe konfrontiert wird. Nachfolgend die sieben essenziellen Fragen, die Sie Ihrem KI-Anbieter vor Produktivsetzung stellen sollten – aus der Sicht eines Verantwortlichen, nicht eines Technikers.

1. Wo werden Ihre Daten tatsächlich gespeichert?

2024 verarbeiten 73 % der KI-Cloud-Lösungen für DACH-Dienstleister Daten außerhalb der EU – auch wenn mit „europäischem Hosting“ geworben wird (Cloud Security Alliance, 2024). Entscheidend ist nicht das Logo, sondern der konkrete Standort des Rechenzentrums und wer physischen Zugriff hat. Fordern Sie eine schriftliche Bestätigung über den Hosting-Standort – und lassen Sie sich nicht mit Marketingfloskeln abspeisen.

Prüfmuster

# Standortprüfung per IP-Geolokalisierung
host live.gerdennisai.com
geoiplookup <IP-Adresse>

Bei AWS, Azure oder GCP bestehen Sie auf einen explizit vereinbarten Cloud-Region-Vertrag (z.B. „eu-central-1“ für AWS Frankfurt).

2. Wie läuft der Datenfluss durch die Prozesskette?

Im produktiven Einsatz wandern Daten meist durch 3–4 Systeme (z.B. n8n, Claude, Supabase, Postgres). Sobald ein Glied nicht sauber dokumentiert oder verschlüsselt ist, entsteht eine Audit-Lücke. Fordern Sie eine vollständige Datenflussbeschreibung – am besten als Diagramm oder YAML. So gewinnen Sie Übersicht und Nachweisfähigkeit.

Beispiel eines minimalen Datenflusses

schritte:
  - Eingang der Kundenanfrage
  - Routing über n8n
  - Aufruf Claude API
  - Speicherung in Supabase/Postgres
  - Aktion wird protokolliert

Das ist keine Bürokratie, sondern Ihr Rettungsanker bei Prüfungen durch die Datenschutzbehörde.

3. Werden personenbezogene Daten in ein Sprachmodell übertragen?

Viele nehmen an, dass API-Nutzung von LLMs (z.B. Claude) keine Risiken birgt. Tatsächlich landen Name, E-Mail, Rechnungsnummer oft im Prompt und damit – zumindest temporär – auf fremden Servern. Laut OpenAI Data Usage Policies (2023) speichert OpenAI Prompts bis zu 30 Tage. Jede übertragene Information ist also ein Risikofaktor.

Empfohlene Maßnahmen

Personenbezogene Daten vor Modellaufruf maskieren oder anonymisieren
Bei höchster Sensibilität: Self-Hosting des LLM
Schriftliche Datenlöschungs- und Bereinigungspolitik einfordern

4. Ist die Löschung von Nutzerdaten wirklich gewährleistet?

Die DSGVO garantiert das „Recht auf Vergessenwerden“. Kann Ihr Anbieter keine vollständige Löschung (inkl. Backups) zusichern, riskieren Sie einen Verstoß. Nach meiner Erfahrung erfüllen 80 % der No-/Low-Code-KI-SaaS diese Anforderung nicht vollständig.

Löschmuster in Postgres

DELETE FROM users WHERE id = 'user-123';
-- Prüfung:
SELECT * FROM users WHERE id = 'user-123'; -- sollte 0 Zeilen liefern

Fragen Sie nach dem Löschprozess und nach der Aufbewahrungsfrist („Retention Period“).

5. Wer trägt die Haftung bei Vorfällen oder Ausfällen?

DSGVO-Bußgelder erreichen bis zu 20 Mio. € oder 4 % des Jahresumsatzes (Quelle). Ist Ihr Anbieter nicht im Vertrag zur Reaktion auf Vorfälle verpflichtet, haften Sie als Betreiber. Lassen Sie die Verantwortlichkeiten eindeutig im Vertrag, idealerweise im „Data Processing Agreement“ (DPA), regeln.

Risiko	Anbieter haftet	Sie haften
API-Ausfall	Ja	Nein
Datenübertragung unverschlüsselt	Nein	Ja
Löschung auf Kundenwunsch	Kommt darauf an	Kommt darauf an

Das DPA ist Ihr rechtlicher Schutz – nicht das Werbeversprechen des Anbieters.

6. Wie wird die Sicherheit der Kette geprüft?

Oft fehlen grundlegende Sicherheitsprüfungen: Bei Kollegen habe ich KI-Agenten gesehen, die ohne Prüfungen auf SQL-Injektionen, XSS oder Token-Leaks produktiv gingen. Mindestens sollte der Anbieter regelmäßige Code- und Infrastruktur-Audits mit Tools wie bandit, semgrep, gitleaks durchführen und den Bericht bereitstellen.

Beispiel für bandit-Check

bandit -r ./src -f html -o bandit-report.html

Fehlt der Bericht, ist das ein Warnsignal.

7. Was passiert mit Ihren Daten beim Anbieterwechsel?

Ein Anbieterwechsel dauert realistisch 5–9 Werktage (z.B. zwischen Supabase und AWS RDS). Ist kein Export aller Daten in einem offenen Format vertraglich zugesichert, sind Sie vom Anbieter abhängig. Bestehen Sie auf API- oder CSV-Export ohne Zusatzkosten und einem klaren Zeitrahmen.

Typischer Export-Workflow

# Dump aus Supabase
supabase db dump --file backup.sql
# Import auf neuem Server
psql -h neuer_host -U user -d neue_db -f backup.sql

Im Vertrag sollte das Format, der Zeitrahmen und der Ablauf für den Export klar definiert sein.

FAQ

Was kostet ein externer DSGVO-Audit für KI?

2024 liegen die Preise bei PwC, EY & Co. zwischen 2.500 und 8.000 € für eine Datenkette. Einfache Eigenchecks sind günstiger, ersetzen aber keine Zertifizierung.

Wie lange dauert die Integration eines DSGVO-konformen KI-Systems?

Ist der Anbieter vorbereitet, dauert die Integration 2–4 Wochen. Andernfalls sollten Sie mit bis zu drei Monaten für Vertragsabstimmungen und Anpassungen rechnen.

Was passiert bei Ausfall oder Datenpanne?

Sie müssen binnen 72 Stunden die Aufsichtsbehörde informieren (Art. 33 DSGVO). Ist Ihr Anbieter schuld, greift der Vertrag – öffentlich verantwortlich bleiben Sie.

Bleiben alle Daten in der EU?

Bei ausschließlicher Nutzung lokaler Anbieter (z.B. Hetzner) ja. Bei AWS, Azure oder Google Cloud prüfen Sie stets die Region.

Wer haftet für Fehler der KI?

Bei Verarbeitungsfehlern liegt die Haftung beim Betreiber. Der Anbieter ist nur im vertraglich geregelten Umfang haftbar.

Deckt Ihre aktuelle KI-Kette alle sieben Punkte ab – oder gibt es Lücken, die Lizenz und Reputation kosten könnten? Wo ist aus Ihrer Sicht die kritischste Stelle: Agentenlogik, Datenspeicherung oder Exportprozess? Ich biete für DACH-Gründer in regulierten Branchen einen kostenlosen 30-min Stack-Check an. Kontaktieren Sie mich auf LinkedIn oder via @ger_dennis_ai.