Interne Wissensdatenbanken mit RAG: Architektur, Tools und Wartung

Montagmorgen. Ihr Service‑Desk‑Agent wirft ein 300‑seitiges Compliance‑PDF in einen n8n‑Workflow. Zehn Minuten später kann jede*r Mitarbeitende natürliche Fragen stellen und erhält Antworten – jede mit Seiten‑Zitation. Automate. Optimize. Scale.

Das Problem

Wissen liegt verstreut in PDFs, Wikis und SharePoint‑Libraries. Keyword‑Suche liefert Trefferlisten ohne Kontext.

• Langsame Ticket‑Bearbeitung und frustrierte Teams
• Gefahr veralteter Richtlinien und Compliance‑Verstöße
• Manuelle Pflege, die bei Volumenwachstum kollabiert

Unsere Lösung

Retrieval‑Augmented Generation (RAG) rüstet ein Sprachmodell mit aktuellen, kontrollierten Daten auf. Statt sich auf Pre‑Training zu verlassen, holt RAG passende Dokument‑Chunks aus einem Vektorspeicher und übergibt sie dem LLM – inklusive Quellenangaben.

Rund um RAG bauen wir eine produktionsreife Pipeline mit n8n:

1. Ingest – Dateien, URLs, Datenbanken
2. Chunk & Embed – Text splitten, Vektoren erstellen
3. Store – Embeddings in Milvus oder pgvector
4. Query – Chat‑UI, API oder ITSM‑Widget
5. Governance – RBAC, Versionierung, Audit Trail

Für Datenhoheit hosten wir das LLM lokal mit Ollama, wie im Beitrag GDPR & AI: Safe Local Hosting for LLMs oder Run Local LLMs with Ollama & n8n* beschrieben.

Funktionsweise

1 – Ingestion & Chunking

Ein n8n‑Trigger überwacht Ordner, S3‑Buckets oder SharePoint. Neue PDFs werden extrahiert, in semantisch kohärente Chunks (∼500 Tokens) zerlegt und mit Metadaten versehen.

2 – Embeddings & Vektorspeicher

Chunks durchlaufen ein Embedding‑Modell – OpenAI, Instructor XL oder on-prem Models – und landen als dichte Vektoren in Milvus oder pgvector. Inkrementelle Updates halten den Index frisch.

3 – Retrieval + Generation

Bei jeder Frage führt die RAG‑Schicht eine Ähnlichkeitssuche durch, wählt Top‑K‑Chunks und sendet sie mit der Query an das LLM. Das Modell formuliert eine Antwort in Ihrer Corporate Voice und hängt Zitationen an – Schluss mit „Black Box“.

4 – Chat‑UX & Integration

Ein schlankes React‑Widget oder ein nativer Panel in ihrer ITSM Software liefert das Chat‑Erlebnis. Mouse‑Over zeigt die PDF‑Seite, Log‑Daten sichern Audit‑Pflichten.

5 – Governance & Monitoring

Alle Artefakte leben in Git‑versionierten n8n‑Workflows mit RBAC. Geplante Process‑Mining‑Jobs analysieren Nutzung, markieren veraltete Inhalte und schlagen Automationen vor.

Geschäftlicher Nutzen

Aktuelle Anwender berichten:

• 30–50 % schnellere Ticket‑Bearbeitung
• 60–70 % weniger manuelle Schritte
• Bis zu 45 % Gesamt‑Effizienzgewinn
• Vollständiger Audit Trail für ISO 27001 & GDPR

Ein Beispielkunde reduzierte die Einarbeitung neuer Mitarbeiter von zwei Wochen auf drei Tage, indem er den RAG‑Chat in sein ERP‑Hilfemodul einbettete.

Praktische nächste Schritte

Möchten Sie Ihre Daten einfacher zugänglich machen? Unser erprobtes Vorgehen liefert Wert in kruzer Zeit:

1. 3‑tägiger Discovery‑Workshop – Quellen, Sicherheit, KPIs
2. Pilot (2 - 4 Wochen) – Dokumente ingestieren, Vektorspeicher & Chat‑UI
3. Roll‑out mit Messung – Baseline, Iteration, Übergabe mit Playbooks

Kontaktieren Sie unser Team und sichern Sie sich Ihren Workshop‑Termin.

---

Tags: workflow automation, n8n, AI agents, ITSM automation, Österreich IT services

S&S Technologies GmbH · UID‑Nr: ATU 77676212 · FN: 571385y (LG Salzburg) · Haspingerstraße 4, 5550 Radstadt, Austria