Über mich Portfolio Referenzen Leistungen Blog Kontakt 🎙 Mit KI sprechen
EN DE RU
🎙 Mit KI sprechen
November 15, 2026 · 5 min read

Ihr lokaler Agent merkt sich zu viel: So betreiben Sie AutoRAG auf Arbeitsdateien ohne Datenabfluss und Zugriffschaos

von Denis Shokhirev, Enterprise AI Architect aus Freiburg im Breisgau Ich bin Denis Shokhirev, Agentic AI Systems Architect in Freiburg im Breisgau, Germany, und ich liefere mit DennisCraft AI Studio produktive KI-Systeme für DACH-B2B auf Basis von Claude, Supabase, n8n, Doppler und selbst betriebenem Postgres. Der unangenehmste Fehler bei lokalem AutoRAG ist selten ein spektakulärer Angriff, sondern ein stiller Produktivfehler: Der Agent beantwortet eine Anfrage mit einem abgelaufenen Vertrags

Denis Shokhirev
Denis Shokhirev
Agentic AI Systems Architect
Telegram LinkedIn

von Denis Shokhirev, Enterprise AI Architect aus Freiburg im Breisgau

Ich bin Denis Shokhirev, Agentic AI Systems Architect in Freiburg im Breisgau, Germany, und ich liefere mit DennisCraft AI Studio produktive KI-Systeme für DACH-B2B auf Basis von Claude, Supabase, n8n, Doppler und selbst betriebenem Postgres. Der unangenehmste Fehler bei lokalem AutoRAG ist selten ein spektakulärer Angriff, sondern ein stiller Produktivfehler: Der Agent beantwortet eine Anfrage mit einem abgelaufenen Vertragsstand, einer internen HR-Datei und einer Betriebsanweisung aus dem falschen Bereich, weil der Index mehr erinnert, als der aktuelle Nutzer sehen darf.

Viele Teams sagen: „Die Daten bleiben lokal, also ist das sicher.“ In der Praxis ist genau das oft der Denkfehler. Bei RAG auf Arbeitsdateien haben Sie mindestens 3 getrennte Aufgaben: Aufnahme der Dateien, Indizierung und Segmentierung sowie Autorisierung zum Zeitpunkt der Abfrage. Wenn diese Ebenen vermischt werden, behandelt der Agent Relevanz als Berechtigung. Genau daraus entstehen im Produktivbetrieb Datenabfluss, veraltete Antworten und unklare Zuständigkeiten bei der Sperrung von Inhalten.

Wo lokales AutoRAG Zugriffsgrenzen verletzt

Der kritische Punkt liegt meist nicht in der Textgenerierung, sondern früher: beim Aufbau eines globalen Index „der Einfachheit halber“. Ich sehe in Projekten mit Richtlinien, Verträgen und internen Ablaufdokumenten immer wieder dasselbe Muster. Ein Entwickler liest ein gemeinsames Verzeichnis ein, speichert Embeddings in einer Tabelle und plant die Rechteprüfung erst in der Anwendungsschicht. Das reicht nicht. Vektorsuche liefert semantische Nähe, aber keine Berechtigung.

3 typische Fehlermuster

FehlermusterWas passiertAuswirkung
Globaler IndexAlle Bereiche durchsuchen denselben SuchraumDer Agent mischt fremde oder gesperrte Dateien in Antworten
Keine GültigkeitsdauerGelöschte oder veraltete Dateien bleiben auffindbarAntworten stützen sich auf überholte Vorgaben
Rechteprüfung erst nach der SucheGefiltert wird erst nach der KandidatenauswahlInhalte gelangen in Protokolle, Zwischenschritte oder Rangfolgen

OWASP führt im GenAI-Kontext die Offenlegung sensibler Informationen sowie Schwächen bei Vektoren und Embeddings ausdrücklich als reale Risikoklassen auf: https://genai.owasp.org/. Für den DACH-Markt ist das nicht nur eine technische Frage. Unter DSGVO, ISO 27001, BSI Grundschutz und je nach Branche auch NIS2 müssen Sie nachvollziehbar steuern, wer welche Informationen wann verarbeiten darf. „Lokal gespeichert“ ersetzt keine Zugriffsarchitektur.

Der Index muss eine Abbildung Ihrer Berechtigungen sein

Mein Grundsatz ist einfach: Ein Dokument darf nur dann in die Suche gelangen, wenn es bereits die notwendigen Metadaten für die Zugriffskontrolle trägt. Nicht erst später. Nicht per Nachpflege. Wenn tenant_id, access_group, classification, source_path, checksum und expires_at fehlen, muss die Aufnahme scheitern. Ein Index ist kein Sammelbehälter für Inhalte, sondern eine durchsuchbare Abbildung Ihrer Berechtigungslogik.

Minimale Metadaten für produktive Systeme

FeldZweckBeispiel
tenant_idTrennung von Mandanten oder Bereichendach_industrial_03
access_groupAbbildung von Rolle oder Teamquality_ops
classificationKennzeichnung der Schutzstufeinternal / confidential
source_pathNachvollziehbarkeit der Herkunft/runbooks/line-a/restart.pdf
checksumDublettenprüfung und Sperrungsha256...
expires_atGültigkeitsdauer und Verfallslogik2026-12-31

Entscheidend ist die Umsetzung: Die Abfrage muss diese Bedingungen innerhalb der Datenbank erzwingen, bevor Treffer zurückgegeben werden. Nicht erst im Prompt. Nicht nur in der Webanwendung. Und schon gar nicht als freundliche Anweisung an das Modell.

from anthropic import Anthropic
import psycopg

def search_chunks(tenant_id, access_group, embedding):
    sql = """
    select id, content, source_path
    from rag_chunks
    where tenant_id = %s
      and access_group = %s
      and expires_at > now()
    order by embedding <=> %s::vector
    limit 8
    """
    with psycopg.connect() as conn:
        with conn.cursor() as cur:
            cur.execute(sql, (tenant_id, access_group, embedding))
            return cur.fetchall()

client = Anthropic()
print(search_chunks("dach_industrial_03", "quality_ops", "[0.1,0.2]"))

Die meisten Gedächtnisfehler beginnen bei der Aufnahme

Viele Teams investieren in den Chat, aber nicht in den Pfad, über den Inhalte in den Index gelangen. Dann überwacht ein Dateidienst ein gemeinsames Verzeichnis, und jede neue Datei wird automatisch verarbeitet: freigegebene Richtlinien, aber auch Gehaltslisten, Exporte, Sicherungen oder temporäre CSV-Dateien aus ERP-Systemen. Wenn das Eingangsverzeichnis zu breit ist, wird auch das Gedächtnis des Agenten zu breit.

Bewährte Regeln für die Aufnahme

Ich arbeite standardmäßig mit einer Sperrlogik. Nur freigegebene Verzeichnisse werden indiziert. Dateinamen und Pfade mit payroll, backup, secret, key oder export werden vor der Segmentierung blockiert. Jede Datei erhält eine checksum. Für Sperrung und Rücknahme gibt es eine eigene Warteschlange, damit Sie nicht auf die nächste Vollindizierung warten müssen. Vollständige Textprotokolle des gefundenen Kontexts vermeide ich bei sensiblen Arbeitsdateien.

#!/usr/bin/env bash
set -euo pipefail

FILE="$1"

echo "$FILE" | grep -E '/approved/(policies|contracts|runbooks)/' > /dev/null
echo "$FILE" | grep -Ei '(payroll|backup|secret|key|export)' && exit 1 || true

gitleaks detect --no-git --source "$FILE" > /dev/null
sha256sum "$FILE" | awk '{print $1}'
python ingest_file.py "$FILE"

In CI und Aufnahmeprozessen setze ich häufig gitleaks und semgrep ein. Gitleaks verhindert, dass offensichtliche Geheimnisse in den Speicher des Agenten gelangen. Semgrep hilft, gefährliche Muster in Aufnahme- und Suchlogik früh zu finden. Wenn Python-Werkzeuge beteiligt sind, ist Bandit eine sinnvolle zusätzliche Sicherheitsprüfung.

Lokal bedeutet nicht automatisch kontrolliert

Anthropic betont in der Dokumentation zu Tool-Nutzung und Kontextsteuerung, dass Modelle nur die Daten erhalten sollten, die sie für den konkreten Schritt wirklich benötigen: https://docs.anthropic.com/. Das deckt sich mit meiner Erfahrung. Ich trenne Speicherebene, Suchindex und Laufzeitkontext strikt voneinander. Das Originaldokument liegt im Speicher. Der Index enthält Segmente und Metadaten mit Berechtigungsmerkmalen. Erst danach baut die Laufzeit den Prompt aus bereits gefilterten Treffern zusammen.

EbeneZweckHäufiger Fehler
SpeicherAblage der OriginaldateienZu weit gefasste technische Konten
IndexDurchsuchbare Segmente und MetadatenFehlende Rechte- und Verfallsprüfung in der Abfrage
LaufzeitPrompt, Werkzeuge, ProtokolleVollständige Inhalte standardmäßig protokollieren
steps:
  - name: classify_file
    run: python classify.py ${FILE}
  - name: secret_scan
    run: gitleaks detect --no-git --source ${FILE}
  - name: metadata_check
    run: python validate_metadata.py ${FILE}
  - name: index_file
    run: python ingest_file.py ${FILE}

Ein weiterer Fehler ist das allmächtige technische Konto. Wenn der Agent mit einer Identität sucht, die alles lesen kann, aber einem realen Mitarbeiter antwortet, verlieren Sie die fachliche Wahrheit Ihrer Zugriffsprüfung. Der Agent darf nicht nach allem suchen, was technisch vorhanden ist, sondern nur nach dem, was für diesen Akteur zu diesem Zeitpunkt zulässig ist.

Woran ich produktionsfähiges AutoRAG erkenne

Produktionsfähig bedeutet für mich Vorhersagbarkeit. Wird eine Datei gelöscht, verschwindet sie aus den Treffern. Verliert ein Nutzer eine Berechtigung, gilt das sofort und nicht erst nach dem Nachtlauf. Wenn eine Antwort auf ein Dokument verweist, kann ich source_path, checksum und Zeitstempel der Indizierung belegen. Und wenn ein Vorfall auftritt, kann ich genau dieses Dokument sperren, ohne den gesamten Index neu aufzubauen.

Darum nutze ich selbst betriebenes Postgres als Kontrollschicht, Supabase als Anwendungsebene, n8n für Aufnahme- und Sperrautomatisierung und Claude dort, wo gutes Reasoning auf bereits gefiltertem Kontext gebraucht wird. Der wichtige Denkwechsel ist nicht die Frage, wie klug das Modell ist, sondern welche Datei es unter welchen Rechten und zu welchem Zeitpunkt überhaupt sehen darf.

FAQ

Kann ich einen gemeinsamen Vektorindex für das ganze Unternehmen betreiben?

Technisch ja, fachlich ist das bei Arbeitsdateien meist riskant. Ohne klare Mandanten- und Gruppenlogik steigt der Schaden stark an, sobald eine Abfrage falsch umgesetzt ist.

Reicht eine lokale oder On-Premise-Speicherung aus?

Nein. Sie senkt einen Teil des Übertragungsrisikos, löst aber weder veralteten Kontext noch fehlerhafte Berechtigungen oder unkontrollierte Aufnahme.

Sollte ich gefundene Segmente zur Fehlersuche vollständig protokollieren?

Im Regelfall nein. Sinnvoller sind Kennungen, source_path, checksum und Entscheidungsprotokolle. Volltexte sollten bei sensiblen Dateien die Ausnahme bleiben.

Wie sperre ich ein Dokument schnell aus dem Agentengedächtnis?

Über checksum und source_path als technische Primäranker. Der Sperrprozess muss alle zugehörigen Segmente entfernen oder deaktivieren und Zwischenspeicher unmittelbar leeren.

Ist n8n für diesen Ablauf geeignet?

Ja, als Orchestrierungsschicht. Kritische Berechtigungsregeln und Suchfilter gehören aus meiner Sicht dennoch in den Anwendungscode und in die Datenbank.

An welcher Stelle Ihres LLM-Systems entstehen im Produktivbetrieb die meisten Probleme: bei der Aufnahme, bei der Suche, in der Laufzeitabschottung oder erst in der menschlichen Prüfung nach der Antwort? Das würde ich gern mit den Mustern abgleichen, die ich in regulierten DACH-Umgebungen sehe.

I run a free 30-min stack audit for DACH founders building AI in regulated markets. DM me on LinkedIn or write to @ger_dennis_ai.

Für Ihren Betrieb

Solche Agenten baue ich für Betriebe in Südbaden und ganz Deutschland.

Schreiben Sie in zwei Sätzen, was bei Ihnen Zeit frisst – Antwort innerhalb von 24 Stunden.

KI-Agenten entwickeln lassen →
Weiterlesen
Wie Sie im MCP-Chaos nicht untergehen: Mehr als 50 Remote-MCP-Server existieren bereits, aber ohne Auswahl wird Ihr Produktivagent zum Sicherheitsloch
Ihr KI-Agent scheitert an mobiler Benutzeroberfläche: wie Sie iOS und Android über MCP anbinden und reale Abläufe statt Screenshot-Demos ausführen
Ein gestohlener Schlüssel brachte 5.000 Entwickler in Gefahr: was der Cursor-Vorfall und eine trojanisierte Claude-Code-Erweiterung für die Sicherheit von KI-IDEs ändern
Ihre Kunden fragen ChatGPT nach einem Handwerksbetrieb. Nennt es Ihr Unternehmen
Alle Artikel →
Wo das im Betrieb ankommt
KI-Telefonassistent — Anrufe annehmen, wenn niemand kann
KI-Automatisierung für Betriebe in Freiburg und der Ortenau
KI-Agentur in Freiburg — gebaut statt weiterverkauft
KI-Telefonassistent fürs Handwerk — Notfälle erkennen, Aufträge sichern
DSGVO-konforme KI — was das praktisch bedeutet
Bereit für den nächsten Schritt?

Aus einem Ablauf ein System machen, das läuft

Gebaut für den Betriebsalltag, nicht als Demo.

Projekt anfragen → ← Alle Artikel