# Interne Wissensdatenbanken mit RAG: Architektur, Tools und Wartung

> Wie aus PDFs und Dokumenten ein Chat mit Quellenangaben wird: Aufbereitung, Embeddings, Vektordatenbank und Pflege einer RAG-Wissensdatenbank.

- Von: [Alexander Schnabl](https://www.alexschnabl.com/), S&S Technologies
- Veröffentlicht: 25. Juli 2025
- Aktualisiert: 21. Oktober 2026
- Kategorie: Künstliche Intelligenz
- Quelle: https://www.sus-tech.com/de/blog/internal-knowledge-bases-with-rag

Montagmorgen. Ihr Service-Desk-Agent wirft ein 300-seitiges Compliance-PDF in einen **n8n**-Workflow. Zehn Minuten später kann jede*r Mitarbeitende natürliche Fragen stellen und erhält Antworten - jede mit Seiten-Zitation. *Automate. Optimize. Scale.*

## Wissen verstreut über PDFs und Wikis
Wissen liegt verstreut in PDFs, Wikis und SharePoint-Libraries. Keyword-Suche liefert Trefferlisten ohne Kontext.

- Langsame Ticket-Bearbeitung und frustrierte Teams  
- Gefahr veralteter Richtlinien und Compliance-Verstöße  
- Manuelle Pflege, die bei Volumenwachstum kollabiert

## Retrieval-Augmented Generation
**Retrieval-Augmented Generation (RAG)** rüstet ein Sprachmodell mit aktuellen, kontrollierten Daten auf. Statt sich auf Pre-Training zu verlassen, holt RAG passende Dokument-Chunks aus einem Vektorspeicher und übergibt sie dem LLM - inklusive Quellenangaben.

Rund um RAG bauen wir eine Pipeline für den Produktivbetrieb mit **[n8n](https://n8n.partnerlinks.io/4t3y7zvzmyu3)**:

1. Ingest: Dateien, URLs, Datenbanken  
2. Chunk & Embed: Text splitten, Vektoren erstellen  
3. Store: Embeddings in Milvus oder pgvector  
4. Query: Chat-UI, API oder ITSM-Widget  
5. Governance: RBAC, Versionierung, Audit Trail

Für Datenhoheit hosten wir das LLM lokal mit **Ollama**, wie in den Beiträgen *[DSGVO & KI: Sicheres lokales Hosting für LLMs](https://www.sus-tech.com/de/blog/gdpr-safe-local-hosting-for-llms)* oder *[LLMs lokal ausführen mit Ollama und n8n](https://www.sus-tech.com/de/blog/run-local-llms-with-ollama-and-n8n)* beschrieben.

## Eine RAG-Wissensdatenbank Schritt für Schritt
Eine RAG-Wissensdatenbank hat zwei Teile mit einem gemeinsamen Vektorspeicher: Die Indexierung bereitet neue und geänderte Dokumente auf, die Beantwortung nutzt sie bei jeder Frage.

![Aufbau einer RAG-Wissensdatenbank: Dokumente werden zerlegt, eingebettet und im Vektorspeicher abgelegt, die Ähnlichkeitssuche liefert sie dem Sprachmodell](https://www.sus-tech.com/media/1280/rag-knowledge-base-architecture-de.png.webp)

Die Indexierung zerlegt jedes Dokument in Chunks von etwa 500 Tokens, macht mit einem Embedding-Modell Vektoren daraus und legt sie in Milvus oder pgvector ab. Bei jeder Frage findet eine Ähnlichkeitssuche die Top-K-Chunks und das Sprachmodell antwortet daraus mit Zitat der Quellseite. Beide Teile laufen als n8n-Workflows. Die fünf Schritte unten beschreiben sie genauer.

### 1 - Ingestion & Chunking
Ein n8n-Trigger überwacht Ordner, S3-Buckets oder SharePoint. Neue PDFs werden extrahiert, in semantisch kohärente Chunks (etwa 500 Tokens) zerlegt und mit Metadaten versehen.

### 2 - Embeddings & Vektorspeicher
Chunks durchlaufen ein Embedding-Modell - OpenAI, Instructor XL oder On-Premise-Modelle - und landen als dichte Vektoren in **Milvus** oder **pgvector**. Inkrementelle Updates halten den Index frisch.

### 3 - Retrieval + Generation
Bei jeder Frage führt die RAG-Schicht eine Ähnlichkeitssuche durch, wählt Top-K-Chunks und sendet sie mit der Query an das LLM. Das Modell formuliert eine Antwort im Ton Ihres Unternehmens und hängt Zitationen an - Schluss mit „Black Box“.

### 4 - Chat-UX & Integration
Ein schlankes React-Widget oder ein natives Panel in Ihrer ITSM-Software liefert das Chat-Erlebnis. Mouse-Over zeigt die PDF-Seite, Log-Daten sichern Audit-Pflichten.

### 5 - Governance & Monitoring
Alle Artefakte leben in Git-versionierten n8n-Workflows mit RBAC. Geplante **Process-Mining**-Jobs analysieren Nutzung, markieren veraltete Inhalte und schlagen Automationen vor.

## Was Teams gewinnen
Was sich für das Team ändert:

- Schnellere Ticket-Bearbeitung, weil Antworten in Sekunden gefunden statt gesucht werden  
- Weniger Fragen, die eine Fachperson brauchen, weil die Wissensdatenbank die Routinefragen beantwortet  
- Weniger Suchzeit in wissensintensiven Abläufen  
- Vollständiger Audit Trail für ISO 27001 & DSGVO

Eingebettet in das Hilfemodul eines ERP-Systems verkürzt der RAG-Chat auch die Einarbeitung neuer Mitarbeiter: Sie fragen den Chat statt einer Kollegin.

## Wie wir sie einrichten
Möchten Sie Ihre Daten einfacher zugänglich machen? Wir gehen in drei Schritten vor:

1. 3-tägiger Discovery-Workshop: Quellen, Sicherheit, KPIs  
2. Pilot (2 - 4 Wochen): Dokumente ingestieren, Vektorspeicher & Chat-UI  
3. Roll-out mit Messung: Baseline, Iteration, Übergabe mit Playbooks

**[Kontaktieren Sie unser Team](mailto:office@sus-tech.at)** und sichern Sie sich Ihren Workshop-Termin.