RAG: erst nachschlagen, dann antworten
RAG steht für Retrieval-Augmented Generation: Statt nur aus dem Gedächtnis zu antworten, schlägt ein Sprachmodell zuerst in einer Wissensquelle nach und stützt seine Antwort darauf. Gib hier einer KI eine kleine Wissensbasis, die sie nie gesehen hat, stell eine Frage – und sieh, wie sie die passenden Unterlagen heraussucht und daraus antwortet.
1. Abrufen – die ähnlichsten Unterlagen
Wissensbasis: die Lindenhof-Schule (0 von 0 aktiv)Eine kleine Sammlung erfundener Dokumente, die das Modell nie gesehen hat. Stell eine Frage – die Suche bettet sie ein und sortiert nach Ähnlichkeit.
2. Antworten – dieselbe Frage, einmal ohne und einmal mit diesen Unterlagen
Nur die Frage geht ans Modell. Was nicht im Training stand – wie diese erfundene Schule – kann es nicht wissen.
Die abgerufenen Unterlagen werden vor die Frage gestellt.
Oben sucht ein Embedding-Modell die ähnlichsten Unterlagen heraus; daraus formuliert ein Sprachmodell die Antwort.