Retrieval-Augmented Generation (RAG) bezeichnet einen Ansatz, bei dem ein Sprachmodell seine Antwort nicht nur aus dem gelernten Trainingswissen erzeugt, sondern vor der Generierung gezielt passende Informationen aus externen Quellen (z. B. Dokumentenbeständen oder Datenbanken) abruft. Die gefundenen Textstellen werden als Kontext in den Prompt eingebracht, damit die Ausgabe fachlich präziser, aktueller und besser nachvollziehbar wird. In der Verwaltung kann RAG z. B. genutzt werden, um Antworten auf Basis interner Dienstanweisungen, Erlasse oder FAQ‑Sammlungen zu erstellen, ohne das Modell neu zu trainieren. Damit lassen sich Halluzinationen reduzieren, die Qualität hängt jedoch von Datenqualität, Suche und Berechtigungen ab.