向量 RAG、GraphRAG 與 LightRAG:應該用哪一種?

先用向量 RAG:它適合答案集中在幾段文字內的問題,建置和運行成本最低。用戶要問整個文件庫的問題,例如「主要主題是甚麼」,才加上 GraphRAG;想要知識圖譜但不想要社群摘要,可以考慮 LightRAG。截至 2026 年,Super Cat Technology 只在向量檢索不足的地方才加入圖譜。

Cat Yung
,Super Cat Technology 創辦人
發佈

向量 RAG、GraphRAG 與 LightRAG 有甚麼分別?

三者都是先從你的文件檢索,再由 LLM 寫出答案,分別在於索引的內容。向量 RAG 把文字分塊後以嵌入向量索引。GraphRAG 和 LightRAG 則多一步:由 LLM 把實體和關係抽取成知識圖譜,再透過圖譜檢索。

三步動畫。向量 RAG:問題轉成向量,揀出最接近的文字分塊,LLM 根據這些分塊作答。GraphRAG:LLM 抽取實體和關係,把實體分成社群,再為每個社群撰寫摘要。LightRAG:宏觀概念和具體事實同時對應問題,再用連結合成一個答案。

向量 RAG

  1. 1問題轉成向量
  2. 2揀出最接近的文字分塊
  3. 3LLM 根據這些分塊作答

GraphRAG

  1. 1LLM 抽取實體和關係
  2. 2把實體分成社群
  3. 3為每個社群撰寫摘要;用摘要回答整個文件庫的問題

LightRAG

  1. 1宏觀概念對應問題的主題
  2. 2具體事實對應問題的細節
  3. 3連結把兩個層次合成一個答案
方法索引內容適合要留意
向量 RAG文字分塊的嵌入向量,檢索最相似的前 k 個答案在一段或幾段文字內的問題答不到針對整個文件庫的問題;平面分塊可能傳回零碎答案
GraphRAG(Microsoft)知識圖譜、社群層級結構,以及每個社群的摘要針對整個文件庫的問題,例如主要主題索引時要用 LLM 處理全部文件;文件強烈建議調校提示詞
LightRAG(香港大學)知識圖譜加向量,分兩個層次檢索:具體事實和宏觀概念跨文件問題,而且想要較輕量、較易更新的圖譜每個分塊都要用 LLM 抽取;預設儲存不適合正式環境

甚麼時候向量 RAG 已經足夠?

答案在一段或少數幾段文字內,向量 RAG 便已足夠,例如一條規則編號、一個條款、表格內的一個數字,或一套程序。大部分企業問答都屬這一類,也是應該先建置和量度的基線。

Super Cat Technology 為四大會計師行建置的本地部署 RAG 系統就以這一層為基礎。它把關鍵字檢索與語義檢索混合,比例約為 30 比 70,因為規則編號和名稱正是單靠嵌入向量最容易漏掉的內容,而且每個答案都附上來源段落。系統的質素主要來自解析和檢索調校,而不是圖譜。

甚麼時候需要 GraphRAG?

用戶要問整個文件庫的問題時,便需要 GraphRAG。Edge 等人的 GraphRAG 論文(2025 年 2 月修訂版)指出,RAG 答不到「資料集的主要主題是甚麼?」這類全局問題,因為這是摘要任務,不是檢索任務。

GraphRAG 的做法是抽取知識圖譜、建立社群層級結構,再為每個社群產生摘要。其文件列出四種查詢模式:針對社群摘要的全局搜尋、圍繞特定實體的本地搜尋、DRIFT 搜尋,以及處理普通 RAG 已能應付的問題的基本向量搜尋。你需要按自己的數據調校它的提示詞。

甚麼時候 LightRAG 是較好的圖譜選擇?

想要跨文件的圖譜檢索,但不想要社群報告那一套機制,LightRAG 便較合適。Guo 等人的論文(2025 年 4 月修訂版)描述它把圖譜結構放進索引,並以雙層檢索系統同時涵蓋低層的具體事實和高層的宏觀概念。

其維護者表示,它避開社群報告,因此減少 LLM 呼叫次數,並支援增量更新和選擇性刪除文件。圖譜儲存方面,它支援 Neo4j 和 Memgraph;文件建議以 PostgreSQL 作為正式環境的單一後端。預設的記憶體儲存只供測試。

圖譜式 RAG 有哪些風險?

圖譜帶來新能力,也帶來新的故障方式。決定採用之前,應先考慮以下幾點:

  • 索引成本。兩種方法都要用 LLM 讀過你的文件,抽取實體和關係。LightRAG 的文件指出,無論是抽取,還是從冗長而雜亂的上下文寫出答案,所需模型都比傳統 RAG 更強。
  • 抽取質素。圖譜只會和 LLM 抽取出的實體一樣好。GraphRAG 的文件指出,開箱即用的結果未必最理想,並建議調校提示詞。
  • 嵌入模型被鎖定。LightRAG 的文件指出,嵌入模型必須在索引前選定;更換便要重新嵌入全部內容,而且目前沒有重新嵌入的工具。
  • 解析錯了,圖譜也錯。表格從中間被切開,或掃描件讀不出來,建出來的圖譜只會承繼這些錯誤。在採用任何檢索方法之前,應先做好版面感知解析和 OCR。

應該怎樣揀選?

按用戶實際會問的問題來揀選。以下例子顯示各類問題對應的方法:

問題例子類型先用
保單第 4.2 條寫了甚麼?單一段落向量 RAG 加關鍵字檢索
哪些供應商同時出現在合約和審計報告內?跨文件LightRAG,或 GraphRAG 本地搜尋
500 份申報文件的主要風險是甚麼?整個文件庫GraphRAG 全局搜尋

然後按以下次序進行:

  1. 建立附有引用的向量加關鍵字基線,並建立一套已標註的評估集。
  2. 把基線答錯的問題分類:單一段落、跨文件,還是整個文件庫。
  3. 只為跨文件或整個文件庫的失敗個案加入圖譜,然後重新執行評估。
  4. 無論由哪種方法檢索,每個答案都保留來源引用。

數據屬機密時,以上全部都可以在你自己的基建上運行。Super Cat 為家族辦公室建置的私有本地部署平台,就是對研究資料和持倉進行檢索,並為每個答案附上引用。至於自建還是購買的決定,請參閱香港企業 RAG 方案:自建還是購買平台?。

常見問題

甚麼是 GraphRAG?

GraphRAG 是 Microsoft Research 的檢索方法:從你的文件抽取知識圖譜,建立社群層級結構,並為每個社群撰寫摘要。它專為針對整個文件庫的全局問題而設,GraphRAG 論文指出標準 RAG 答不到這類問題。

LightRAG 比 GraphRAG 好嗎?

兩者沒有絕對的優劣。LightRAG 的維護者聲稱,由於不使用社群報告,索引和查詢成本較低;GraphRAG 則專為整個文件庫的摘要問題而設。揀選之前,應用你自己的問題和已標註的評估集分別測試。

做圖譜式 RAG 一定要用 Neo4j 這類圖譜資料庫嗎?

起步時不需要。LightRAG 預設使用記憶體儲存,只供測試。正式環境方面,其文件建議以 PostgreSQL 作為單一後端,同時支援以 Neo4j 和 Memgraph 儲存圖譜,所以圖譜資料庫只是其中一個選項,並非必要條件。

圖譜式 RAG 可以在自己的伺服器上運行嗎?

LightRAG 可以。其文件說明可透過 Docker 在本地部署嵌入、重排序和儲存元件,並把 Qwen3-30B-A3B-Instruct 列為本地抽取模型的合理最低要求。Super Cat Technology 為機密數據建置本地部署的檢索系統。

資料來源

  1. Lewis 等,Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks(arXiv 2005.11401) (2020 年 5 月)
  2. Edge 等,From Local to Global: A Graph RAG Approach to Query-Focused Summarization(arXiv 2404.16130) (2025 年 2 月修訂)
  3. Microsoft,GraphRAG 文件 (2026 年 10 月查閱)
  4. Guo 等,LightRAG: Simple and Fast Retrieval-Augmented Generation(arXiv 2410.05779) (2025 年 4 月修訂)
  5. HKUDS,LightRAG 程式庫及文件 (2026 年 10 月查閱)
企業 RAG:自建還是購買 →

何時平台已經足夠,何時應自建。

香港 RAG 方案 →

服務內容和已交付的系統。

四大 RAG 案例 →

混合檢索,每個答案附上來源段落。

關於 Cat Yung →

主導 RAG 工作的創辦人。

Cat Yung

關於作者

Cat Yung是 Super Cat Technology 創辦人,團隊在香港及倫敦開發 AI Agent,並以 AI 專家、Data Scientist 及兼職 CTO 身份與企業合作。擁有逾十年生產級 AI、NLP 及機器學習經驗;Upwork Expert-Vetted 頂尖 1%,Job Success Score 100%(來源:Upwork 個人檔案,2026 年 10 月)。

First-Sprint Data Scientist

一位經審核的工程師加入你的團隊,第一個 Sprint 完結前交付成果。

在下面揀選時間,與你通話的是我本人。請帶同用例、數據及限制條件,我會就可行性、工作量及首個應交付的項目,給予直接而具體的意見。

預約通話

Cat Yung

配合香港及倫敦時區

預約通話 · 與 Cat Yung 通話 30 分鐘