RAG (Retrieval-Augmented Generation)
RAG (Retrieval-Augmented Generation) ist ein Verfahren, bei dem ein Sprachmodell vor jeder Antwort passende Textstellen aus Ihren eigenen Dokumenten abruft und seine Antwort auf diese Stellen stützt, statt nur aus seinem Trainingswissen zu schöpfen.
Stand:
Auch: Retrieval-Augmented Generation, Abrufgestützte Generierung
Ein Sprachmodell kennt Ihre Handbücher, Verträge und Preislisten nicht. RAG löst das ohne neues Training: Die Dokumente werden in Abschnitte zerlegt und durchsuchbar abgelegt, meist als Embeddings in einer Vektordatenbank. Stellt jemand eine Frage, sucht das System die passendsten Abschnitte heraus und gibt sie dem Modell zusammen mit der Frage. Das Modell formuliert die Antwort aus diesem Material.
Der praktische Vorteil: Ändert sich ein Dokument, ist die nächste Antwort aktuell, ohne dass ein Modell neu trainiert wird. Und jede Antwort kann die Stelle nennen, aus der sie stammt. Das macht Fehler prüfbar, weil der Mitarbeiter die Quelle mit einem Klick aufschlagen kann.
RAG ist so gut wie die Ablage dahinter. Doppelte, veraltete oder widersprüchliche Dokumente führen zu widersprüchlichen Antworten. Deshalb beginnt ein RAG-Projekt fast immer mit Aufräumen: Welche Fassung gilt, wer pflegt sie, und welche Dokumente dürfen welche Mitarbeiter überhaupt sehen? Die Zugriffsrechte müssen in der Suche genauso gelten wie im Dateisystem, sonst beantwortet der Bot Fragen aus der Personalakte.