Das KI-Vokabular · 03 Mit KI arbeiten

Was ist Retrieval-Augmented Generation (RAG)?

Erst die passenden Dokumente heraussuchen und sie dem Modell geben, damit es aus deinen Quellen antwortet.

Fortgeschritten

RAG ist ein verbreitetes Muster, damit KI aus deinen eigenen Informationen antwortet. Kommt eine Frage, durchsucht das System zuerst eine Sammlung von Dokumenten, wählt die relevantesten Textstellen aus und fügt sie dem Kontext hinzu. Das Modell schreibt seine Antwort dann auf Basis dieser Stellen, idealerweise mit Quellenangaben.

Für die Suche werden oft Embeddings genutzt, die Textstellen nach Bedeutung statt nach exakten Wörtern finden. Mit RAG kann ein Modell mit internem oder aktuellem Wissen arbeiten, ohne neu trainiert zu werden, und es halluziniert weniger, weil die Fakten direkt vor ihm liegen.

RAG ist nur so gut wie seine Suche. Werden die falschen Stellen gefunden, verwendet die Antwort selbstbewusst das falsche Material.

Warum es für dich wichtig ist

Die meisten „Chatte mit deinen Dokumenten“-Produkte sind RAG. Wenn du eines bewertest, teste es mit echten Fragen, deren Antwort du kennst, und prüf, ob es die richtige Quelle zitiert.

Own it

Mit RAG bleibt dein Wissen in deiner Dokumentensammlung, nicht im Modell. Du kannst es jeden Tag aktualisieren und das Modell darunter austauschen, ohne etwas zu verlieren.

Verwandt