Skip to content

Was ist Retrieval-Augmented Generation (RAG)?

Definition

Retrieval-Augmented Generation (RAG) ist ein Verfahren der generativen KI, bei dem ein Sprachmodell vor der Antwort passende Informationen aus externen Quellen wie einem Suchindex oder einer Wissensdatenbank abruft und seine Antwort auf diese Inhalte stützt.

Steckbrief

Auch bekannt als: RAG, abrufgestützte Generierung

Kategorie: Generative KI, Information Retrieval

Fachbereich: Organic Growth

Verwandte Begriffe: Grounding, Halluzination, AI Mode

Zuletzt geprüft: 17.11.2026

Einordnung

Warum ist RAG für B2B-Unternehmen relevant?

RAG ist der Mechanismus, über den deine Website in KI-Antworten gelangt. ChatGPT mit Suche, Perplexity und die KI-Funktionen von Google rufen Inhalte ab, bevor sie antworten. Was dabei nicht gefunden wird, fließt nicht in die Antwort ein.

RAG begegnet dir im B2B gleich zweimal. Nach außen entscheidet es mit, ob KI-Systeme dein Unternehmen in der Überlegungsphase nennen. Nach innen nutzen viele Unternehmen RAG für eigene Assistenten, etwa einen Chatbot auf Basis von Produktdokumentation oder CRM-Wissen. In beiden Fällen gilt: Die Antwort ist nur so gut wie die Inhalte, die abgerufen werden.

Im Unternehmen betrifft RAG Marketing und IT gleichermaßen. Marketing sorgt dafür, dass die Website gut abrufbare Fakten liefert. IT entscheidet, welche internen Quellen ein eigener Assistent nutzen darf.

Praxisbeispiel

Wie sieht RAG in der Praxis aus?

Beispiel (fiktiv)

Ein Hersteller von Messtechnik baut einen Support-Assistenten auf Basis von RAG. Die Wissensbasis besteht aus 400 Handbuchseiten und den Antworten aus dem Ticketsystem. Fragt ein Kunde nach der Kalibrierung eines Sensors, ruft der Assistent die passenden Handbuchabschnitte ab und antwortet mit Verweis auf die Seite.

In der Testphase liefert der Assistent bei einem Drittel der Fragen falsche Werte. Die Ursache liegt in der Wissensbasis: Alte und neue Handbuchversionen widersprechen sich. Nach dem Aufräumen der Dokumente sinkt die Fehlerquote deutlich, ohne dass am Modell etwas geändert wurde.

So sehen wir das

Was nicht abrufbar ist, kommt in der Antwort nicht vor.

Für uns ist RAG der Grund, warum Faktenklarheit auf jeder Seite zählt. Ein Sprachmodell kann nur zitieren, was es findet und versteht. Leistungsseiten mit vagen Versprechen liefern dem Retriever wenig, Seiten mit konkreten Fakten zu Leistung, Zielgruppe und Ablauf liefern viel.

In Projekten sehen wir oft das Gegenteil: Die wichtigsten Informationen stecken in PDFs, Bildern oder hinter Formularen. Für Menschen ist das ärgerlich, für ein RAG-System sind diese Inhalte meist unsichtbar.

„RAG ist gnadenlos ehrlich: Es zeigt dir, welche deiner Inhalte eine Maschine wirklich findet.“ - Linda Knüvener, Fachbereichsleitung Organic Growth bei sixclicks
Ablauf

Wie funktioniert RAG?

Den Begriff prägten Patrick Lewis und Kolleg:innen 2020 in einem Paper für die Konferenz NeurIPS. Das Prinzip ist seither gleich geblieben.

1
Frage umwandeln

Die Anfrage wird in Suchbegriffe oder einen Vektor übersetzt, mit dem sich passende Inhalte finden lassen.

2
Inhalte abrufen

Ein Retriever durchsucht Index oder Wissensdatenbank und liefert die relevantesten Textstellen.

3
Kontext ergänzen

Die gefundenen Textstellen werden dem Sprachmodell zusammen mit der Frage übergeben.

4
Antwort generieren

Das Modell formuliert die Antwort auf Basis dieser Inhalte und kann sie mit Quellen belegen.

Vergleich

RAG vs. Grounding vs. Fine-Tuning

Die drei Begriffe werden oft vermischt. RAG ist ein Verfahren, Grounding das Ziel, Fine-Tuning ein anderer Weg, Wissen ins Modell zu bringen.

Kriterium RAG Grounding Fine-Tuning
Was ist es? Verfahren: erst abrufen, dann generieren Prinzip: Antworten an Quellen binden Nachtraining des Modells mit eigenen Daten
Aktualität So aktuell wie die Quelle So aktuell wie die Quelle Stand des Trainings
Quellenangaben Möglich Kernbestandteil Nicht vorgesehen
Einfluss für Unternehmen Über abrufbare Inhalte Über abrufbare Inhalte Nur bei eigenen Modellen
Daten/Benchmark

Was sagen die Zahlen zu RAG in der Suche?

88 % der KI-Zusammenfassungen in der Google-Suche nannten in der Pew-Analyse drei oder mehr Quellen, nur 1 % stützte sich auf eine einzige (März 2025). Quelle: Pew Research Center, 2025

Für dich heißt das: KI-Antworten setzen sich aus mehreren abgerufenen Seiten zusammen. Jede deiner Seiten ist ein möglicher Baustein.

Kritik & Grenzen

Wo stößt RAG an Grenzen?

RAG verringert Fehler, verhindert sie aber nicht. Findet der Retriever die falschen oder veraltete Textstellen, übernimmt das Modell diese Fehler.

Auch das Modell selbst kann Inhalte falsch zusammenfassen oder Lücken mit eigenem Trainingswissen füllen. Wer RAG intern einsetzt, sollte Antworten deshalb mit Quellenverweis ausgeben und regelmäßig stichprobenartig prüfen.

Noch Fragen zum Thema? Stell sie uns live im nächsten AMA

Einmal im Monat beantworten wir im AMA (Ask Me Anything) 60 Minuten lang Fragen rund um Revenue Marketing. Schau nach dem nächsten Termin und bring deine Fragen mit.

FAQ

Häufige Fragen zu Retrieval-Augmented Generation

Ist RAG dasselbe wie Grounding?

Nein. Grounding ist das Prinzip, Antworten an überprüfbare Quellen zu binden. RAG ist ein konkretes Verfahren, mit dem sich Grounding umsetzen lässt.

Nutzt ChatGPT RAG?

Ja, wenn die Websuche aktiv ist. Dann ruft ChatGPT Webseiten ab und stützt die Antwort auf diese Inhalte.

Kann ich RAG für mein Unternehmen nutzen?

Ja. Viele Unternehmen bauen interne Assistenten auf Basis eigener Dokumente. Entscheidend ist eine gepflegte, widerspruchsfreie Wissensbasis.

Was unterscheidet RAG von einer normalen Websuche?

Eine Websuche liefert eine Liste von Treffern. RAG nutzt solche Treffer als Material und formuliert daraus eine eigene Antwort.

Welche Inhalte findet ein RAG-System schlecht?

Vor allem Inhalte in Bildern, eingescannten PDFs, hinter Logins oder in Formularen. Was als Text auf einer indexierbaren Seite steht, ist am leichtesten abrufbar.