RAG (Retrieval Augmented Generation): Definition und Einordnung
Definition
RAG steht für Retrieval Augmented Generation. Ein Sprachmodell bekommt vor der Antwort passende Ausschnitte aus deinen freigegebenen Dokumenten mitgeliefert und stützt sich darauf, statt auf allgemeines Trainingswissen. So beruht die Antwort auf aktuellem Firmenwissen und kann ihre Fundstelle nennen. Vergleichbar mit einem Sachbearbeiter, der vor der Auskunft erst die richtige Akte aufschlägt.
Warum der Begriff zählt
Für einen Fahrplan ist RAG oft der Punkt, an dem sich entscheidet, ob ein KI-Vorhaben überhaupt tragfähig ist. Als neutrale Beratung prüfen wir zuerst, ob das nötige Wissen ausreichend geordnet vorliegt, wer welche Quellen sehen darf und ob eine belegbare Antwort rechtlich verlangt ist. Wer RAG sauber versteht, kauft nicht vorschnell ein System, sondern klärt vorher, ob die Datenlage den Ansatz trägt.
Wann es relevant ist
- Antworten sollen auf eigenem, aktuellem Wissen beruhen und nicht auf Modellannahmen.
- Die Herkunft einer Aussage muss nachvollziehbar belegt sein.
- Das Wissen ändert sich, etwa bei Preislisten, Richtlinien oder technischen Daten.
- Zugriffsrechte sind wichtig, weil nicht jede Rolle alle Quellen sehen darf.
Wann nicht
Wenn es nur um Stil oder Formulierung geht und kein aktuelles Firmenwissen gebraucht wird, ist RAG der falsche Hebel. Auch bei einer sehr engen, immer gleichen Aufgabe kann Fine-Tuning passender sein. Und ohne halbwegs sortierte Quellen liefert RAG nur so gute Antworten wie die Unterlagen, die es findet. Dann steht die Datenaufbereitung im Fahrplan vor dem Bau.
Branchen, die das nutzen
- Technischer Großhandel: Anfragen zu Produktdaten und Lieferkonditionen aus dem eigenen Katalog beantworten, mit Verweis auf die Datenquelle.
- Stadtwerke und Energieversorger: Auskünfte zu Tarifen und Netzregeln auf Basis der jeweils gültigen Fassung geben.
- Steuer- und Wirtschaftsprüfung: Recherche in Mandats- und Gesetzestexten mit klarer Fundstelle für jede Aussage.
- Immobilienverwaltung: Fragen zu Objekten, Verträgen und Hausordnungen aus dem Bestand mit belegbarer Quelle klären.
Typische Anwendungsfälle
- Ein interner Assistent, der Antworten mit Link zur genutzten Quelldatei liefert.
- Eine Suche über Verträge, die die passende Klausel zitiert statt umschreibt.
- Ein Onboarding-Helfer, der neue Mitarbeitende entlang der gültigen Richtlinien führt.
- Ein Angebots-Assistent, der Spezifikationen aus dem Produktkatalog zieht.
- Ein Assistent, der bei fehlender Quelle ehrlich an einen Menschen übergibt.
Entscheidungshilfe
| Signal | RAG passt | Alternative |
|---|---|---|
| Aktuelles Firmenwissen nötig | RAG mit geordneter Wissensbasis | Fine-Tuning liefert kein Wissen |
| Belege pro Antwort verlangt | RAG mit Quellenverweis | reines Prompting reicht selten |
| Nur Ton oder Format | eher nicht | Fine-Tuning oder Prompt |
| Quellen chaotisch | erst Datenlage klären | Aufbereitung vor dem Bau |
Beispiel
Ein Großhändler will Innendienst und Kundenservice schnelleren Zugriff auf Produktwissen geben. In der Potenzialanalyse prüfen wir, welche Kataloge und Preislisten aktuell und rechtlich freigegeben sind, und ordnen den Fall im EU AI Act ein. Erst wenn die Datenlage trägt, empfehlen wir den Bau bei einem Partner. Das Beispiel beschreibt die Methode, keine behauptete Kundenkennzahl.
Verbindung zu Services
Ob RAG zu deiner Datenlage passt, klärt der KI-Readiness-Check oder die KI-Potenzialanalyse. Bei rechtlichen Fragen zur Nachvollziehbarkeit hilft die EU-AI-Act-Beratung.
Verwandte Begriffe
Quellen
Die Beschreibung folgt dem etablierten RAG-Muster aus der Fachliteratur. Qualität, Rechte und Datenschutz hängen von Quellen, Architektur und gewähltem Modell ab. Aussagen zum EU AI Act sind allgemeine Orientierung und keine Rechtsberatung und müssen im Einzelfall geprüft werden.