Dokument-Parsing/Indexing und Online-Queries haben unterschiedliche Ressourcenprofile.
Bei RAG liegt der teure Fehler oft nicht im Modell, sondern im Parsing. Sind PDF-Tabellen, OCR, Chunking, Embeddings oder Retrieval falsch, bekommt auch ein starkes LLM schlechten Kontext. Installation über Dokument-Pipeline testen.
„PDF hochgeladen“ ist kein Erfolg. Tabellen, Überschriften, Fußnoten und Sprachtext aus Stichprobenseiten via Retrieval prüfen.
Bei RAGFlow ist Ingestion-Last ebenso wichtig wie CPU/RAM. Hunderte PDFs beim Erstindexieren haben anderes Ressourcenprofil als normale Queries; Indexing und Query separat messen.
Bei RAGFlow ist Ingestion-Last ebenso wichtig wie CPU/RAM. Hunderte PDFs beim Erstindexieren haben anderes Ressourcenprofil als normale Queries; Indexing und Query separat messen.
RAGFlow auf VPS produktionsnah deployen: Docker-Host, Dokument-Parsing, Storage, Search/Vector, Modell-Endpoint, Backup und Ingestion-Tests.
Dokument-Parsing/Indexing und Online-Queries haben unterschiedliche Ressourcenprofile.
Schlechte Chunk-Grenzen senken Retrieval-Qualität noch vor Modellqualität.
RAG-Antworten sollten auf Source-Chunks zurückführbar sein.
Rohdokumente zusätzlich zu Index/Vector-Daten sichern.
Upload, Parse, Chunk, Embed, Retrieve und Generate getrennt beobachten, um vage Diagnosen wie „Modell halluziniert“ zu vermeiden.
| Stufe | Test |
|---|---|
| Parse | Sind Text/Tabellen korrekt? |
| Chunk | Ist Kontext ungünstig geteilt? |
| Embed | Wurden Vektoren erzeugt? |
| Retrieve | Erwarteter Chunk in top-k? |
| Generate | Basiert Antwort auf Kontext? |
OCR/Parsing und Embeddings für viele Dokumente können CPU/RAM/I/O stark erhöhen. Bulk-Ingestion nicht zur Query-Spitzenzeit planen.
nprocfree -hdf -hTiostat -xz 1 5 2>/dev/null || truedocker stats --no-streamEin Index kann rebuildbar sein, aber nicht ohne Rohquellen. Retention- und Backup-Wert unterscheiden sich.
Chat-Modellwechsel unterscheidet sich vom Embedding-Modell-/Dimensionswechsel, der Reindexing erfordern kann. Embedding-Wechsel als Migration behandeln.
| Komponente | Änderungsauswirkung |
|---|---|
| Chat LLM | Antwortstil/Reasoning |
| Embedding-Modell | Index-Kompatibilität/Rebuild |
| Reranker | Top-k-Reihenfolge |
Für jede Frage erwartetes Dokument/Seite/Chunk festlegen und Retrieval-Hit-Rate vor Generation messen.
Auch mit restaurierter DB/Object Storage kann Search-/Vector-Versionsmismatch Queries brechen. Nach Restore Golden-Set-Stichprobe ausführen.
docker compose psdocker compose logs --tail 120 | grep -Ei "error|fail|oom" || truedf -hTOrdner in UI zu verstecken ist keine Authorization. Tenant-/Abteilungs-/User-Scope muss serverseitig im Retrieval erzwungen werden.
RAGFlow Parser, Vector/Search und Modell-Inference je Workload auf einem oder getrennten Eka Sunucu VPS/GPU Nodes planen.
Primärdokumentation und technische Referenzen dieses Leitfadens.
Mit passenden Infrastruktur- und Implementierungsleitfäden fortfahren.
RAGFlow VPS
Plattform/Parsing kann teils auf CPU laufen; lokale Embedding/LLM/OCR-Wahl bestimmt GPU-Bedarf. Bei Remote-Model-APIs kann GPU anderswo laufen.
Nein. Geparsten Text, Tabellen, Chunks und Retrieval an Stichprobenseiten prüfen.
Vector-Dimension/Semantikraum kann sich ändern; bestehender Index ist ggf. inkompatibel und Reindexing nötig.
Nein. RAG holt externen Kontext zur Query-Zeit und muss Modellgewichte nicht verändern.