Ihr lokaler Agent merkt sich zu viel: So betreiben Sie AutoRAG auf Arbeitsdateien ohne Datenabfluss und Zugriffschaos
von Denis Shokhirev, Enterprise AI Architect aus Freiburg im Breisgau Ich bin Denis Shokhirev, Agentic AI Systems Architect in Freiburg im Breisgau, Germany, und ich liefere mit DennisCraft AI Studio produktive KI-Systeme für DACH-B2B auf Basis von Claude, Supabase, n8n, Doppler und selbst betriebenem Postgres. Der unangenehmste Fehler bei lokalem AutoRAG ist selten ein spektakulärer Angriff, sondern ein stiller Produktivfehler: Der Agent beantwortet eine Anfrage mit einem abgelaufenen Vertrags
von Denis Shokhirev, Enterprise AI Architect aus Freiburg im Breisgau
Ich bin Denis Shokhirev, Agentic AI Systems Architect in Freiburg im Breisgau, Germany, und ich liefere mit DennisCraft AI Studio produktive KI-Systeme für DACH-B2B auf Basis von Claude, Supabase, n8n, Doppler und selbst betriebenem Postgres. Der unangenehmste Fehler bei lokalem AutoRAG ist selten ein spektakulärer Angriff, sondern ein stiller Produktivfehler: Der Agent beantwortet eine Anfrage mit einem abgelaufenen Vertragsstand, einer internen HR-Datei und einer Betriebsanweisung aus dem falschen Bereich, weil der Index mehr erinnert, als der aktuelle Nutzer sehen darf.
Viele Teams sagen: „Die Daten bleiben lokal, also ist das sicher.“ In der Praxis ist genau das oft der Denkfehler. Bei RAG auf Arbeitsdateien haben Sie mindestens 3 getrennte Aufgaben: Aufnahme der Dateien, Indizierung und Segmentierung sowie Autorisierung zum Zeitpunkt der Abfrage. Wenn diese Ebenen vermischt werden, behandelt der Agent Relevanz als Berechtigung. Genau daraus entstehen im Produktivbetrieb Datenabfluss, veraltete Antworten und unklare Zuständigkeiten bei der Sperrung von Inhalten.
Wo lokales AutoRAG Zugriffsgrenzen verletzt
Der kritische Punkt liegt meist nicht in der Textgenerierung, sondern früher: beim Aufbau eines globalen Index „der Einfachheit halber“. Ich sehe in Projekten mit Richtlinien, Verträgen und internen Ablaufdokumenten immer wieder dasselbe Muster. Ein Entwickler liest ein gemeinsames Verzeichnis ein, speichert Embeddings in einer Tabelle und plant die Rechteprüfung erst in der Anwendungsschicht. Das reicht nicht. Vektorsuche liefert semantische Nähe, aber keine Berechtigung.
3 typische Fehlermuster
| Fehlermuster | Was passiert | Auswirkung |
|---|---|---|
| Globaler Index | Alle Bereiche durchsuchen denselben Suchraum | Der Agent mischt fremde oder gesperrte Dateien in Antworten |
| Keine Gültigkeitsdauer | Gelöschte oder veraltete Dateien bleiben auffindbar | Antworten stützen sich auf überholte Vorgaben |
| Rechteprüfung erst nach der Suche | Gefiltert wird erst nach der Kandidatenauswahl | Inhalte gelangen in Protokolle, Zwischenschritte oder Rangfolgen |
OWASP führt im GenAI-Kontext die Offenlegung sensibler Informationen sowie Schwächen bei Vektoren und Embeddings ausdrücklich als reale Risikoklassen auf: https://genai.owasp.org/. Für den DACH-Markt ist das nicht nur eine technische Frage. Unter DSGVO, ISO 27001, BSI Grundschutz und je nach Branche auch NIS2 müssen Sie nachvollziehbar steuern, wer welche Informationen wann verarbeiten darf. „Lokal gespeichert“ ersetzt keine Zugriffsarchitektur.
Der Index muss eine Abbildung Ihrer Berechtigungen sein
Mein Grundsatz ist einfach: Ein Dokument darf nur dann in die Suche gelangen, wenn es bereits die notwendigen Metadaten für die Zugriffskontrolle trägt. Nicht erst später. Nicht per Nachpflege. Wenn tenant_id, access_group, classification, source_path, checksum und expires_at fehlen, muss die Aufnahme scheitern. Ein Index ist kein Sammelbehälter für Inhalte, sondern eine durchsuchbare Abbildung Ihrer Berechtigungslogik.
Minimale Metadaten für produktive Systeme
| Feld | Zweck | Beispiel |
|---|---|---|
| tenant_id | Trennung von Mandanten oder Bereichen | dach_industrial_03 |
| access_group | Abbildung von Rolle oder Team | quality_ops |
| classification | Kennzeichnung der Schutzstufe | internal / confidential |
| source_path | Nachvollziehbarkeit der Herkunft | /runbooks/line-a/restart.pdf |
| checksum | Dublettenprüfung und Sperrung | sha256... |
| expires_at | Gültigkeitsdauer und Verfallslogik | 2026-12-31 |
Entscheidend ist die Umsetzung: Die Abfrage muss diese Bedingungen innerhalb der Datenbank erzwingen, bevor Treffer zurückgegeben werden. Nicht erst im Prompt. Nicht nur in der Webanwendung. Und schon gar nicht als freundliche Anweisung an das Modell.
from anthropic import Anthropic
import psycopg
def search_chunks(tenant_id, access_group, embedding):
sql = """
select id, content, source_path
from rag_chunks
where tenant_id = %s
and access_group = %s
and expires_at > now()
order by embedding <=> %s::vector
limit 8
"""
with psycopg.connect() as conn:
with conn.cursor() as cur:
cur.execute(sql, (tenant_id, access_group, embedding))
return cur.fetchall()
client = Anthropic()
print(search_chunks("dach_industrial_03", "quality_ops", "[0.1,0.2]"))Die meisten Gedächtnisfehler beginnen bei der Aufnahme
Viele Teams investieren in den Chat, aber nicht in den Pfad, über den Inhalte in den Index gelangen. Dann überwacht ein Dateidienst ein gemeinsames Verzeichnis, und jede neue Datei wird automatisch verarbeitet: freigegebene Richtlinien, aber auch Gehaltslisten, Exporte, Sicherungen oder temporäre CSV-Dateien aus ERP-Systemen. Wenn das Eingangsverzeichnis zu breit ist, wird auch das Gedächtnis des Agenten zu breit.
Bewährte Regeln für die Aufnahme
Ich arbeite standardmäßig mit einer Sperrlogik. Nur freigegebene Verzeichnisse werden indiziert. Dateinamen und Pfade mit payroll, backup, secret, key oder export werden vor der Segmentierung blockiert. Jede Datei erhält eine checksum. Für Sperrung und Rücknahme gibt es eine eigene Warteschlange, damit Sie nicht auf die nächste Vollindizierung warten müssen. Vollständige Textprotokolle des gefundenen Kontexts vermeide ich bei sensiblen Arbeitsdateien.
#!/usr/bin/env bash
set -euo pipefail
FILE="$1"
echo "$FILE" | grep -E '/approved/(policies|contracts|runbooks)/' > /dev/null
echo "$FILE" | grep -Ei '(payroll|backup|secret|key|export)' && exit 1 || true
gitleaks detect --no-git --source "$FILE" > /dev/null
sha256sum "$FILE" | awk '{print $1}'
python ingest_file.py "$FILE"In CI und Aufnahmeprozessen setze ich häufig gitleaks und semgrep ein. Gitleaks verhindert, dass offensichtliche Geheimnisse in den Speicher des Agenten gelangen. Semgrep hilft, gefährliche Muster in Aufnahme- und Suchlogik früh zu finden. Wenn Python-Werkzeuge beteiligt sind, ist Bandit eine sinnvolle zusätzliche Sicherheitsprüfung.
Lokal bedeutet nicht automatisch kontrolliert
Anthropic betont in der Dokumentation zu Tool-Nutzung und Kontextsteuerung, dass Modelle nur die Daten erhalten sollten, die sie für den konkreten Schritt wirklich benötigen: https://docs.anthropic.com/. Das deckt sich mit meiner Erfahrung. Ich trenne Speicherebene, Suchindex und Laufzeitkontext strikt voneinander. Das Originaldokument liegt im Speicher. Der Index enthält Segmente und Metadaten mit Berechtigungsmerkmalen. Erst danach baut die Laufzeit den Prompt aus bereits gefilterten Treffern zusammen.
| Ebene | Zweck | Häufiger Fehler |
|---|---|---|
| Speicher | Ablage der Originaldateien | Zu weit gefasste technische Konten |
| Index | Durchsuchbare Segmente und Metadaten | Fehlende Rechte- und Verfallsprüfung in der Abfrage |
| Laufzeit | Prompt, Werkzeuge, Protokolle | Vollständige Inhalte standardmäßig protokollieren |
steps:
- name: classify_file
run: python classify.py ${FILE}
- name: secret_scan
run: gitleaks detect --no-git --source ${FILE}
- name: metadata_check
run: python validate_metadata.py ${FILE}
- name: index_file
run: python ingest_file.py ${FILE}Ein weiterer Fehler ist das allmächtige technische Konto. Wenn der Agent mit einer Identität sucht, die alles lesen kann, aber einem realen Mitarbeiter antwortet, verlieren Sie die fachliche Wahrheit Ihrer Zugriffsprüfung. Der Agent darf nicht nach allem suchen, was technisch vorhanden ist, sondern nur nach dem, was für diesen Akteur zu diesem Zeitpunkt zulässig ist.
Woran ich produktionsfähiges AutoRAG erkenne
Produktionsfähig bedeutet für mich Vorhersagbarkeit. Wird eine Datei gelöscht, verschwindet sie aus den Treffern. Verliert ein Nutzer eine Berechtigung, gilt das sofort und nicht erst nach dem Nachtlauf. Wenn eine Antwort auf ein Dokument verweist, kann ich source_path, checksum und Zeitstempel der Indizierung belegen. Und wenn ein Vorfall auftritt, kann ich genau dieses Dokument sperren, ohne den gesamten Index neu aufzubauen.
Darum nutze ich selbst betriebenes Postgres als Kontrollschicht, Supabase als Anwendungsebene, n8n für Aufnahme- und Sperrautomatisierung und Claude dort, wo gutes Reasoning auf bereits gefiltertem Kontext gebraucht wird. Der wichtige Denkwechsel ist nicht die Frage, wie klug das Modell ist, sondern welche Datei es unter welchen Rechten und zu welchem Zeitpunkt überhaupt sehen darf.
FAQ
Kann ich einen gemeinsamen Vektorindex für das ganze Unternehmen betreiben?
Technisch ja, fachlich ist das bei Arbeitsdateien meist riskant. Ohne klare Mandanten- und Gruppenlogik steigt der Schaden stark an, sobald eine Abfrage falsch umgesetzt ist.
Reicht eine lokale oder On-Premise-Speicherung aus?
Nein. Sie senkt einen Teil des Übertragungsrisikos, löst aber weder veralteten Kontext noch fehlerhafte Berechtigungen oder unkontrollierte Aufnahme.
Sollte ich gefundene Segmente zur Fehlersuche vollständig protokollieren?
Im Regelfall nein. Sinnvoller sind Kennungen, source_path, checksum und Entscheidungsprotokolle. Volltexte sollten bei sensiblen Dateien die Ausnahme bleiben.
Wie sperre ich ein Dokument schnell aus dem Agentengedächtnis?
Über checksum und source_path als technische Primäranker. Der Sperrprozess muss alle zugehörigen Segmente entfernen oder deaktivieren und Zwischenspeicher unmittelbar leeren.
Ist n8n für diesen Ablauf geeignet?
Ja, als Orchestrierungsschicht. Kritische Berechtigungsregeln und Suchfilter gehören aus meiner Sicht dennoch in den Anwendungscode und in die Datenbank.
An welcher Stelle Ihres LLM-Systems entstehen im Produktivbetrieb die meisten Probleme: bei der Aufnahme, bei der Suche, in der Laufzeitabschottung oder erst in der menschlichen Prüfung nach der Antwort? Das würde ich gern mit den Mustern abgleichen, die ich in regulierten DACH-Umgebungen sehe.
I run a free 30-min stack audit for DACH founders building AI in regulated markets. DM me on LinkedIn or write to @ger_dennis_ai.
Solche Agenten baue ich für Betriebe in Südbaden und ganz Deutschland.
Schreiben Sie in zwei Sätzen, was bei Ihnen Zeit frisst – Antwort innerhalb von 24 Stunden.
Aus einem Ablauf ein System machen, das läuft
Gebaut für den Betriebsalltag, nicht als Demo.