Frage
Nachvollziehbar belegt
Fachwissen für digitale Entscheidungen
Wie schnell erscheinen geänderte Dokumente im RAG-System?
Kurzantwort
So schnell, wie das System neu einliest: Wird ein Dokument beim Speichern sofort verarbeitet, ist die Änderung nach Sekunden bis wenigen Minuten sichtbar. Bei einem stündlichen Abgleich dauert es bis zu 60 Minuten, bei einem nächtlichen Lauf bis zu 24 Stunden.
Was beim Aktualisieren passiert
Ein RAG-System beantwortet Fragen nicht aus den Originaldateien, sondern aus einem Suchindex. Ändert sich ein Dokument, muss es neu in Abschnitte zerlegt, in Vektoren umgerechnet – beim Modell nomic-embed-text 768 Zahlen je Abschnitt – und im Index ersetzt werden. Bis das geschehen ist, antwortet die KI mit dem alten Stand.
Drei übliche Verfahren
| Verfahren | Längste Wartezeit | Aufwand |
|---|---|---|
| Beim Speichern (ereignisgesteuert) | Sekunden bis wenige Minuten | Anbindung an das Ablagesystem nötig |
| Stündlicher Abgleich | bis zu 60 Minuten | einfach, vergleicht das Änderungsdatum |
| Nächtlicher Lauf | bis zu 24 Stunden | am einfachsten, belastet den Server nachts |
Wovon die Dauer außerdem abhängt
- Dokumentgröße: Ein langes Handbuch hat hunderte Abschnitte, eine Preisliste nur wenige.
- Auslastung: Einlesen und Beantworten teilen sich auf einem eigenen KI-Server dieselbe Grafikkarte.
- Gelöschte Dokumente: Sie müssen ausdrücklich aus dem Index entfernt werden. Sonst zitiert die KI weiter aus einer Fassung, die es nicht mehr gibt.
Empfehlung
- Preislisten, Richtlinien und Verträge beim Speichern neu einlesen.
- Archive und selten geänderte Bestände nachts abgleichen.
- In jeder Antwort den Stand der verwendeten Quelle anzeigen, damit Nutzer eine veraltete Angabe erkennen.
Kernfakten
- Beim Speichern
- Sekunden bis wenige Minuten
- Stündlicher Abgleich
- bis zu 60 Minuten
- Nächtlicher Lauf
- bis zu 24 Stunden
Quellen
Alle externen Angaben nachvollziehbar belegt.-
01
Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks Lewis et al. / arXiv
-
02
nomic-embed-text-v1.5 Nomic AI / Hugging Face