向量 RAG、GraphRAG 與 LightRAG 有甚麼分別?
三者都是先從你的文件檢索,再由 LLM 寫出答案,分別在於索引的內容。向量 RAG 把文字分塊後以嵌入向量索引。GraphRAG 和 LightRAG 則多一步:由 LLM 把實體和關係抽取成知識圖譜,再透過圖譜檢索。
向量 RAG
- 1問題轉成向量
- 2揀出最接近的文字分塊
- 3LLM 根據這些分塊作答
GraphRAG
- 1LLM 抽取實體和關係
- 2把實體分成社群
- 3為每個社群撰寫摘要;用摘要回答整個文件庫的問題
LightRAG
- 1宏觀概念對應問題的主題
- 2具體事實對應問題的細節
- 3連結把兩個層次合成一個答案
| 方法 | 索引內容 | 適合 | 要留意 |
|---|---|---|---|
| 向量 RAG | 文字分塊的嵌入向量,檢索最相似的前 k 個 | 答案在一段或幾段文字內的問題 | 答不到針對整個文件庫的問題;平面分塊可能傳回零碎答案 |
| GraphRAG(Microsoft) | 知識圖譜、社群層級結構,以及每個社群的摘要 | 針對整個文件庫的問題,例如主要主題 | 索引時要用 LLM 處理全部文件;文件強烈建議調校提示詞 |
| LightRAG(香港大學) | 知識圖譜加向量,分兩個層次檢索:具體事實和宏觀概念 | 跨文件問題,而且想要較輕量、較易更新的圖譜 | 每個分塊都要用 LLM 抽取;預設儲存不適合正式環境 |
甚麼時候向量 RAG 已經足夠?
答案在一段或少數幾段文字內,向量 RAG 便已足夠,例如一條規則編號、一個條款、表格內的一個數字,或一套程序。大部分企業問答都屬這一類,也是應該先建置和量度的基線。
Super Cat Technology 為四大會計師行建置的本地部署 RAG 系統就以這一層為基礎。它把關鍵字檢索與語義檢索混合,比例約為 30 比 70,因為規則編號和名稱正是單靠嵌入向量最容易漏掉的內容,而且每個答案都附上來源段落。系統的質素主要來自解析和檢索調校,而不是圖譜。
甚麼時候需要 GraphRAG?
用戶要問整個文件庫的問題時,便需要 GraphRAG。Edge 等人的 GraphRAG 論文(2025 年 2 月修訂版)指出,RAG 答不到「資料集的主要主題是甚麼?」這類全局問題,因為這是摘要任務,不是檢索任務。
GraphRAG 的做法是抽取知識圖譜、建立社群層級結構,再為每個社群產生摘要。其文件列出四種查詢模式:針對社群摘要的全局搜尋、圍繞特定實體的本地搜尋、DRIFT 搜尋,以及處理普通 RAG 已能應付的問題的基本向量搜尋。你需要按自己的數據調校它的提示詞。
甚麼時候 LightRAG 是較好的圖譜選擇?
想要跨文件的圖譜檢索,但不想要社群報告那一套機制,LightRAG 便較合適。Guo 等人的論文(2025 年 4 月修訂版)描述它把圖譜結構放進索引,並以雙層檢索系統同時涵蓋低層的具體事實和高層的宏觀概念。
其維護者表示,它避開社群報告,因此減少 LLM 呼叫次數,並支援增量更新和選擇性刪除文件。圖譜儲存方面,它支援 Neo4j 和 Memgraph;文件建議以 PostgreSQL 作為正式環境的單一後端。預設的記憶體儲存只供測試。
圖譜式 RAG 有哪些風險?
圖譜帶來新能力,也帶來新的故障方式。決定採用之前,應先考慮以下幾點:
- 索引成本。兩種方法都要用 LLM 讀過你的文件,抽取實體和關係。LightRAG 的文件指出,無論是抽取,還是從冗長而雜亂的上下文寫出答案,所需模型都比傳統 RAG 更強。
- 抽取質素。圖譜只會和 LLM 抽取出的實體一樣好。GraphRAG 的文件指出,開箱即用的結果未必最理想,並建議調校提示詞。
- 嵌入模型被鎖定。LightRAG 的文件指出,嵌入模型必須在索引前選定;更換便要重新嵌入全部內容,而且目前沒有重新嵌入的工具。
- 解析錯了,圖譜也錯。表格從中間被切開,或掃描件讀不出來,建出來的圖譜只會承繼這些錯誤。在採用任何檢索方法之前,應先做好版面感知解析和 OCR。
應該怎樣揀選?
按用戶實際會問的問題來揀選。以下例子顯示各類問題對應的方法:
| 問題例子 | 類型 | 先用 |
|---|---|---|
| 保單第 4.2 條寫了甚麼? | 單一段落 | 向量 RAG 加關鍵字檢索 |
| 哪些供應商同時出現在合約和審計報告內? | 跨文件 | LightRAG,或 GraphRAG 本地搜尋 |
| 500 份申報文件的主要風險是甚麼? | 整個文件庫 | GraphRAG 全局搜尋 |
然後按以下次序進行:
- 建立附有引用的向量加關鍵字基線,並建立一套已標註的評估集。
- 把基線答錯的問題分類:單一段落、跨文件,還是整個文件庫。
- 只為跨文件或整個文件庫的失敗個案加入圖譜,然後重新執行評估。
- 無論由哪種方法檢索,每個答案都保留來源引用。
數據屬機密時,以上全部都可以在你自己的基建上運行。Super Cat 為家族辦公室建置的私有本地部署平台,就是對研究資料和持倉進行檢索,並為每個答案附上引用。至於自建還是購買的決定,請參閱香港企業 RAG 方案:自建還是購買平台?。
常見問題
甚麼是 GraphRAG?
GraphRAG 是 Microsoft Research 的檢索方法:從你的文件抽取知識圖譜,建立社群層級結構,並為每個社群撰寫摘要。它專為針對整個文件庫的全局問題而設,GraphRAG 論文指出標準 RAG 答不到這類問題。
LightRAG 比 GraphRAG 好嗎?
兩者沒有絕對的優劣。LightRAG 的維護者聲稱,由於不使用社群報告,索引和查詢成本較低;GraphRAG 則專為整個文件庫的摘要問題而設。揀選之前,應用你自己的問題和已標註的評估集分別測試。
做圖譜式 RAG 一定要用 Neo4j 這類圖譜資料庫嗎?
起步時不需要。LightRAG 預設使用記憶體儲存,只供測試。正式環境方面,其文件建議以 PostgreSQL 作為單一後端,同時支援以 Neo4j 和 Memgraph 儲存圖譜,所以圖譜資料庫只是其中一個選項,並非必要條件。
圖譜式 RAG 可以在自己的伺服器上運行嗎?
LightRAG 可以。其文件說明可透過 Docker 在本地部署嵌入、重排序和儲存元件,並把 Qwen3-30B-A3B-Instruct 列為本地抽取模型的合理最低要求。Super Cat Technology 為機密數據建置本地部署的檢索系統。
資料來源
- Lewis 等,Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks(arXiv 2005.11401) (2020 年 5 月)
- Edge 等,From Local to Global: A Graph RAG Approach to Query-Focused Summarization(arXiv 2404.16130) (2025 年 2 月修訂)
- Microsoft,GraphRAG 文件 (2026 年 10 月查閱)
- Guo 等,LightRAG: Simple and Fast Retrieval-Augmented Generation(arXiv 2410.05779) (2025 年 4 月修訂)
- HKUDS,LightRAG 程式庫及文件 (2026 年 10 月查閱)
何時平台已經足夠,何時應自建。
服務內容和已交付的系統。
混合檢索,每個答案附上來源段落。
主導 RAG 工作的創辦人。

關於作者
Cat Yung是 Super Cat Technology 創辦人,團隊在香港及倫敦開發 AI Agent,並以 AI 專家、Data Scientist 及兼職 CTO 身份與企業合作。擁有逾十年生產級 AI、NLP 及機器學習經驗;Upwork Expert-Vetted 頂尖 1%,Job Success Score 100%(來源:Upwork 個人檔案,2026 年 10 月)。
