Was ist Retrieval-Augmented Generation (RAG)?
Retrieval-Augmented Generation (RAG) ist ein Verfahren der generativen KI, bei dem ein Sprachmodell vor der Antwort passende Informationen aus externen Quellen wie einem Suchindex oder einer Wissensdatenbank abruft und seine Antwort auf diese Inhalte stützt.
Auch bekannt als: RAG, abrufgestützte Generierung
Kategorie: Generative KI, Information Retrieval
Fachbereich: Organic Growth
Verwandte Begriffe: Grounding, Halluzination, AI Mode
Zuletzt geprüft: 17.11.2026
Warum ist RAG für B2B-Unternehmen relevant?
RAG ist der Mechanismus, über den deine Website in KI-Antworten gelangt. ChatGPT mit Suche, Perplexity und die KI-Funktionen von Google rufen Inhalte ab, bevor sie antworten. Was dabei nicht gefunden wird, fließt nicht in die Antwort ein.
RAG begegnet dir im B2B gleich zweimal. Nach außen entscheidet es mit, ob KI-Systeme dein Unternehmen in der Überlegungsphase nennen. Nach innen nutzen viele Unternehmen RAG für eigene Assistenten, etwa einen Chatbot auf Basis von Produktdokumentation oder CRM-Wissen. In beiden Fällen gilt: Die Antwort ist nur so gut wie die Inhalte, die abgerufen werden.
Im Unternehmen betrifft RAG Marketing und IT gleichermaßen. Marketing sorgt dafür, dass die Website gut abrufbare Fakten liefert. IT entscheidet, welche internen Quellen ein eigener Assistent nutzen darf.
Wie sieht RAG in der Praxis aus?
Beispiel (fiktiv)
Ein Hersteller von Messtechnik baut einen Support-Assistenten auf Basis von RAG. Die Wissensbasis besteht aus 400 Handbuchseiten und den Antworten aus dem Ticketsystem. Fragt ein Kunde nach der Kalibrierung eines Sensors, ruft der Assistent die passenden Handbuchabschnitte ab und antwortet mit Verweis auf die Seite.
In der Testphase liefert der Assistent bei einem Drittel der Fragen falsche Werte. Die Ursache liegt in der Wissensbasis: Alte und neue Handbuchversionen widersprechen sich. Nach dem Aufräumen der Dokumente sinkt die Fehlerquote deutlich, ohne dass am Modell etwas geändert wurde.
Was nicht abrufbar ist, kommt in der Antwort nicht vor.
Für uns ist RAG der Grund, warum Faktenklarheit auf jeder Seite zählt. Ein Sprachmodell kann nur zitieren, was es findet und versteht. Leistungsseiten mit vagen Versprechen liefern dem Retriever wenig, Seiten mit konkreten Fakten zu Leistung, Zielgruppe und Ablauf liefern viel.
In Projekten sehen wir oft das Gegenteil: Die wichtigsten Informationen stecken in PDFs, Bildern oder hinter Formularen. Für Menschen ist das ärgerlich, für ein RAG-System sind diese Inhalte meist unsichtbar.
„RAG ist gnadenlos ehrlich: Es zeigt dir, welche deiner Inhalte eine Maschine wirklich findet.“ - Linda Knüvener, Fachbereichsleitung Organic Growth bei sixclicks
Wie funktioniert RAG?
Den Begriff prägten Patrick Lewis und Kolleg:innen 2020 in einem Paper für die Konferenz NeurIPS. Das Prinzip ist seither gleich geblieben.
Die Anfrage wird in Suchbegriffe oder einen Vektor übersetzt, mit dem sich passende Inhalte finden lassen.
Ein Retriever durchsucht Index oder Wissensdatenbank und liefert die relevantesten Textstellen.
Die gefundenen Textstellen werden dem Sprachmodell zusammen mit der Frage übergeben.
Das Modell formuliert die Antwort auf Basis dieser Inhalte und kann sie mit Quellen belegen.
RAG vs. Grounding vs. Fine-Tuning
Die drei Begriffe werden oft vermischt. RAG ist ein Verfahren, Grounding das Ziel, Fine-Tuning ein anderer Weg, Wissen ins Modell zu bringen.
| Kriterium | RAG | Grounding | Fine-Tuning |
|---|---|---|---|
| Was ist es? | Verfahren: erst abrufen, dann generieren | Prinzip: Antworten an Quellen binden | Nachtraining des Modells mit eigenen Daten |
| Aktualität | So aktuell wie die Quelle | So aktuell wie die Quelle | Stand des Trainings |
| Quellenangaben | Möglich | Kernbestandteil | Nicht vorgesehen |
| Einfluss für Unternehmen | Über abrufbare Inhalte | Über abrufbare Inhalte | Nur bei eigenen Modellen |
Was sagen die Zahlen zu RAG in der Suche?
88 % der KI-Zusammenfassungen in der Google-Suche nannten in der Pew-Analyse drei oder mehr Quellen, nur 1 % stützte sich auf eine einzige (März 2025). Quelle: Pew Research Center, 2025
Für dich heißt das: KI-Antworten setzen sich aus mehreren abgerufenen Seiten zusammen. Jede deiner Seiten ist ein möglicher Baustein.
Wo stößt RAG an Grenzen?
RAG verringert Fehler, verhindert sie aber nicht. Findet der Retriever die falschen oder veraltete Textstellen, übernimmt das Modell diese Fehler.
Auch das Modell selbst kann Inhalte falsch zusammenfassen oder Lücken mit eigenem Trainingswissen füllen. Wer RAG intern einsetzt, sollte Antworten deshalb mit Quellenverweis ausgeben und regelmäßig stichprobenartig prüfen.
Häufige Fragen zu Retrieval-Augmented Generation
Nein. Grounding ist das Prinzip, Antworten an überprüfbare Quellen zu binden. RAG ist ein konkretes Verfahren, mit dem sich Grounding umsetzen lässt.
Ja, wenn die Websuche aktiv ist. Dann ruft ChatGPT Webseiten ab und stützt die Antwort auf diese Inhalte.
Ja. Viele Unternehmen bauen interne Assistenten auf Basis eigener Dokumente. Entscheidend ist eine gepflegte, widerspruchsfreie Wissensbasis.
Eine Websuche liefert eine Liste von Treffern. RAG nutzt solche Treffer als Material und formuliert daraus eine eigene Antwort.
Vor allem Inhalte in Bildern, eingescannten PDFs, hinter Logins oder in Formularen. Was als Text auf einer indexierbaren Seite steht, ist am leichtesten abrufbar.