Ist die richtige Information überhaupt im System?
Quellenabdeckung, Aktualität, Parsing-Qualität und Berechtigungen sind die Grundlage jeder Antwort.
Guide 01 · Retrieval Augmented Generation
Unternehmenswissen.
Präzise abrufbar.
RAG verbindet Ihre aktuellen, internen Informationen mit einem Large Language Model. Das Ergebnis sind verständliche Antworten, die auf auffindbaren Quellen basieren – ohne das Modell neu zu trainieren.
Die Grundidee
Erst suchen.
Dann antworten.
Ein Sprachmodell kennt nicht automatisch Ihre Verträge, Handbücher, Projektdokumente oder aktuellen Produktdaten. RAG sucht deshalb zuerst die relevanten Textstellen und gibt sie dem Modell als begrenzten, nachprüfbaren Kontext.
Dafür werden Dokumente in sinnvolle Abschnitte zerlegt. Ein Embedding-Modell übersetzt jeden Abschnitt in einen Zahlenvektor. Ähnliche Bedeutungen liegen im Vektorraum nahe beieinander – auch wenn die Formulierungen unterschiedlich sind. Bei einer Frage wird der passende Kontext semantisch gesucht, optional gefiltert und neu sortiert.
Das LLM erhält anschließend nur die stärksten Treffer, klare Antwortregeln und Referenzen auf die Originalquellen. So bleibt das System aktueller, kontrollierbarer und meist günstiger als ein spezielles Modelltraining.
AWS-Erklärung des RAG-Datenflusses ↗Systemdiagramm
Vom Dokument zur belegten Antwort
Zwei Abläufe greifen ineinander: Die Aufbereitung macht Wissen suchbar. Der Anfragepfad holt den richtigen Kontext in die Antwort.
Aufbereitung
Anfrage
01 · Quellen
Dokumente & Daten
PDF, Wiki, Tickets, CRM, Datenbank
02 · Ingestion
Parsen & Chunking
Text, Struktur und Metadaten erhalten
03 · Index
Embeddings
Bedeutung als Vektor speichern
04 · Suche
Vector-Datenbank
Semantik, Filter und Hybrid Search
05 · Retrieval
Treffer & Reranking
Relevante Abschnitte priorisieren
06 · Ausgabe
Antwort + Quellen
Kontextgebunden und nachvollziehbar
Verständliche Anleitung
RAG in sieben Schritten.
Ein gutes System beginnt nicht mit der Vector-Datenbank, sondern mit einer klaren Frage: Welche Entscheidung soll mit welchem Wissen zuverlässiger werden?
-
01
Anwendungsfall und Messlatte definieren
Beispielfragen, Nutzergruppen und erwartete Antwortform festlegen. Für die spätere Evaluation entsteht ein kleiner, repräsentativer Goldstandard.
- Welche Fragen muss das System sicher beantworten?
- Wann soll es bewusst „nicht genug Information“ melden?
- Welche Latenz und welche Kosten pro Anfrage sind akzeptabel?
-
02
Quellen, Rechte und Aktualität ordnen
Nur freigegebene Quellen aufnehmen. Eigentümer, Vertraulichkeit, Gültigkeitsdatum und Zielgruppe als Metadaten erfassen.
- Originale unverändert als Source of Truth behalten
- Berechtigungen bereits beim Retrieval durchsetzen
- Lösch- und Aktualisierungsprozesse festlegen
-
03
Dokumente fachgerecht aufbereiten
Überschriften, Tabellen und Seitenbezüge erhalten. Chunks entlang semantischer Grenzen bilden, statt Texte blind nach Zeichenanzahl zu schneiden.
- Chunk-Größe anhand echter Fragen testen
- Dokumenttitel und Abschnittspfad mitführen
- OCR- und Parsing-Fehler sichtbar machen
-
04
Embedding und Vector Store auswählen
Dimension, Sprache, Datenmenge, Filterbedarf und Betriebsmodell bestimmen. Für viele Business-Anwendungen ist eine verwaltete Lösung oder PostgreSQL mit Vektor-Erweiterung ausreichend.
- Dasselbe Embedding-Modell für Dokumente und Fragen verwenden
- Metadatenfilter und Mandantentrennung früh testen
- Indexversion und Embedding-Version protokollieren
-
05
Retrieval-Pipeline abstimmen
Semantische und klassische Stichwortsuche kombinieren, Filter anwenden und die Kandidaten mit einem Reranker neu bewerten.
- Top-k nicht pauschal wählen, sondern messen
- Abkürzungen und Fachbegriffe gezielt behandeln
- Dublettenkontrolle und Mindestscore vorsehen
-
06
LLM-Aufbereitung begrenzen
Der System-Prompt verlangt eine Antwort ausschließlich aus dem gelieferten Kontext, trennt Fakten von Schlussfolgerungen und erzeugt anklickbare Quellen.
- Kontext gegen Prompt Injection absichern
- Belegpflicht für zentrale Aussagen definieren
- Fallback bei fehlenden oder widersprüchlichen Quellen
-
07
Qualität kontinuierlich betreiben
Retrieval und Antwort getrennt evaluieren. Nutzerfeedback, Groundedness, Quellenabdeckung, Latenz und Kosten beobachten.
- Regressionstests bei Modell- oder Indexwechseln
- Fehlfragen in den Goldstandard übernehmen
- Daten- und Promptversionen gemeinsam ausrollen
Qualität vor Demo-Effekt
Drei Stellen entscheiden.
Ein überzeugendes Modell kann schwaches Retrieval sprachlich kaschieren. Deshalb müssen die Ebenen einzeln messbar bleiben.
Wird der richtige Abschnitt zuverlässig gefunden?
Recall, Precision, Filter, Hybrid Search und Reranking werden mit echten Beispielfragen geprüft.
Bleibt die Antwort im belegten Kontext?
Groundedness, Zitierqualität, Vollständigkeit und ein kontrollierter „weiß ich nicht“-Pfad verhindern falsche Sicherheit.
Praxisregel
Wenn die gesuchte Passage nicht in den Top-Treffern liegt, kann auch das beste LLM keine verlässliche Antwort daraus erzeugen.
Weiterlesen · Primärquellen
Technische Grundlagen
Vom Wissen zum Produkt
Welcher Prozess braucht
bessere Antworten?
CSD Becher konzipiert und entwickelt RAG-Systeme vom ersten Datencheck bis zum überwachten Betrieb.
Nächster Schritt
info@csd-becher.de ↗Bringen Sie drei typische Fragen und zwei repräsentative Dokumente mit. Daraus lässt sich bereits viel ableiten.
RAG-Projekt besprechen