RAG stands for Retrieval Augmented Generation. When a user query is received, the system searches a specialized vector database for relevant information (retrieval). This information is then passed along with the original query to the LLM, which then generates a well-founded response (generation).
Ein RAG ist also eine KI-Architektur, bei der Sprachmodelle (LLMs) vor der Antwortgenerierung externe Wissensquellen durchsuchen. Dadurch greifen die Antworten auf aktuelle Fakten zu und reduzieren sogenannte „Halluzinationen“, da sie sich auf verifizierbare Daten stützen.