# 託管 RAG 與自建 RAG 流程比較（2026）｜Super Cat 指南

> 比較託管 RAG 服務、開源框架和自建流程：每個階段由誰負責、各自適合甚麼情況、有哪些風險，以及怎樣決定。

Source: https://www.super-cat.tech/zh-hk/guides/managed-rag-vs-custom-rag-pipeline  
Last modified: 2026-10-26

[主頁](https://www.super-cat.tech/zh-hk)/ [指南](https://www.super-cat.tech/zh-hk/guides)

# 託管 RAG 還是自建 RAG：應該用哪一種？

文件整齊而且要快，便用託管 RAG 服務；團隊想要控制權又有能力營運，便用開源框架；文件是掃描件、表格、雙語或機密，而且答案必須引用來源，便自建流程。截至 2026 年，Super Cat Technology 在客戶自己的基建上自建流程，而當託管服務更合適時，我們會直接這樣說。
[Cat Yung](https://www.super-cat.tech/zh-hk/cat-yung)，Super Cat Technology 創辦人 發佈 2026年10月26日

重點

- 以文件和數據必須存放的位置來決定，而不是以模型：格式、語言、機密程度，以及答案是否必須引用來源。

- Amazon Bedrock Knowledge Bases、Google 的 Vertex AI RAG Engine 和 OpenAI file search 這類託管服務，會替你運行由匯入到檢索的流程。

- 在決定之前，先閱讀各服務的限制。Google 的 RAG Engine 頁面指出不支援數據駐留控制，並會就託管的 Spanner 向量資料庫另外收費。

- 無論選哪一條路，都應先建立已標註的評估集，日後轉換路線時才不用靠估。

## 託管 RAG 服務替你做甚麼？

託管 RAG 服務替你運行由文件到檢索的流程：匯入檔案、切成分塊、轉成嵌入向量、儲存向量，並在查詢時檢索最相符的內容。Amazon Bedrock Knowledge Bases、Google 的 Vertex AI RAG Engine 和 OpenAI 的 file search 工具都是這個模式。
Amazon 的文件指出，知識庫把建立流程的繁重工作抽象化，提供現成的 RAG 方案以縮短開發時間。OpenAI 則把 file search 描述為由 OpenAI 託管的工具，所以你毋須自己編寫檢索的執行程式。下圖顯示三種建置方式在每個階段通常由誰負責。
動畫：RAG 五個階段各由誰負責。使用託管服務時，服務負責解析、索引和檢索，答案和評估由你負責。使用開源框架時，除評估外，每個階段由你以程式庫組件組合。自建流程則五個階段全部由你設計。託管 RAG 服務
服務負責前面的階段；答案和評估由你負責。
解析
索引
檢索
作答
評估

開源框架
你以程式庫組件組合每個階段，並自行託管。
解析
索引
檢索
作答
評估

自建流程
每個階段都按你的文件設計。
解析
索引
檢索
作答
評估

- 由服務負責

- 由你以組件組合

- 由你設計和調校

| 選項 | 你得到甚麼 | 適合 | 要留意 |
| --- | --- | --- | --- |
| 託管 RAG 服務 | 由供應商負責匯入、分塊、嵌入、儲存和檢索 | 文件整齊，需要快速推出第一個版本 | 解析、地區和檢索只能在服務提供的選項內調整 |
| 開源框架 | 由你自行託管和運行的 RAG 及 Agent 工具包，例如 LlamaIndex | 想要控制權，而且有能力營運系統的團隊 | 解析、評估、託管和升級都由你負責 |
| 自建流程 | 按你的文件設計解析、檢索和評估，運行於你的基建 | 掃描件、表格、雙語或機密文件，而且答案要引用來源 | 需要最多工程時間，而且由第一天起就需要評估集 |

## 甚麼時候託管服務是正確選擇？

文件整齊，而且第一個版本要盡快推出時，託管服務是正確選擇。單一語言的幫助中心頁面、政策文字和 FAQ 內容都很適合，目的只是測試 RAG 對用戶有沒有幫助的原型也一樣。
沒有檢索工程師的團隊也適合，因為流程由供應商承擔。判斷準則是答案要不要經得起審計：如果錯誤或沒有引用的答案只是沒有幫助，託管服務通常已經足夠；如果會變成負債，請閱讀下一節。

## 甚麼時候會超出託管服務的能力？

當你需要服務沒有開放的控制權時，便會超出它的能力：表格和掃描件怎樣解析、答案怎樣引用來源、數據在哪裏處理，或者怎樣按你自己的問題調校檢索。
位置是最清楚的例子。Google 的 RAG Engine 頁面指出支援 VPC-SC 控制和 CMEK，但不支援數據駐留控制，而且部分地區要加入許可名單才可使用。解析是另一個例子。Super Cat Technology 為[四大會計師行建置的本地部署系統](https://www.super-cat.tech/zh-hk/portfolio/enterprise-rag-big-4)，會把每一頁分成文字、表格和圖表區域，並為每個答案附上來源段落。這些流程是我們按該行的文件設計的。

## 開源框架適合放在哪裏？

開源框架介乎兩者之間：你得到組件，然後自己運行成品。LlamaIndex 的文件把它的框架描述為 RAG 和 Agent 的開源工具包。解析器、向量儲存、檢索邏輯和託管方式，仍然由你選擇和營運。
所以框架適合想要控制權、而且有工程師可以營運的團隊；不適合希望由別人承擔流程的團隊。如果你的問題橫跨多份文件，請參閱[向量 RAG、GraphRAG 與 LightRAG](https://www.super-cat.tech/zh-hk/guides/vector-rag-vs-graphrag-vs-lightrag)，了解何時值得加入圖譜。

## 選擇之前應先決定甚麼？

先解答這五個問題，它們通常已經決定了路線：

- 數據必須存放在哪裏？服務支援哪些地區和控制？

- 文件是甚麼樣子：整齊的文字，還是表格、掃描件和兩種語言？

- 每個答案都必須引用來源段落嗎？

- 上線之後由誰維護流程？

- 怎樣量度答案質素，用哪些已標註的問題？

如涉及香港數據、雙語文件和監管機構的期望，請參閱[香港企業 RAG 方案：自建還是購買平台？](https://www.super-cat.tech/zh-hk/guides/enterprise-rag-hong-kong-build-vs-buy)。

## 有哪些風險？

每條路線都有自己的故障方式。以下是需要預先考慮的：

- **服務在你腳下改變。**Microsoft 的 Azure AI Search 指引現時指出，新的 RAG 實作應從 agentic retrieval 開始，既有方案則可考慮遷移。綁定某個服務特定模式的流程，也要承受這些變動。

- **沒有計算在內的成本。**Google 的 RAG Engine 頁面指出，如果由服務管理 Spanner 實例作為你的向量資料庫，Google Cloud 會就該實例收費。

- **可用範圍有限。**同一頁面指出，新專案要在數個地區使用 RAG Engine，需要加入許可名單。

- **沒有評估集。**沒有已標註的問題，你就無法判斷新的分塊設定或新的服務令答案變好還是變差，而且沒有任何警報。

## 常見問題

### 甚麼是託管 RAG 服務？

託管 RAG 服務替你運行檢索流程：匯入文件、切成分塊、轉成嵌入向量、儲存向量，並在查詢時檢索相符內容。Amazon Bedrock Knowledge Bases、Google 的 Vertex AI RAG Engine 和 OpenAI file search 都是例子。

### 購買 RAG 還是自建比較平？

視乎路線而定。託管服務按組件收費，而 Google 指出會就託管的 Spanner 向量資料庫另外收費；自建則花費工程時間。比較時應計算一整年的總成本，包括由誰維護流程，而不是只看第一個月的賬單。

### 可以先用託管服務，日後再轉用自建流程嗎？

可以，前提是你把來源文件和已標註的評估集保存在服務之外。不同嵌入模型產生的向量不能互通，所以要預留重新嵌入整個文件庫的工作。評估集可以告訴你新流程是否更好。

### Super Cat Technology 有出售 RAG 平台嗎？

沒有。Super Cat Technology 派出工程師在你的基建上建置檢索系統，按時間和物料收費，收入來自工程時間而不是授權費。當託管服務更適合你的文件時，我們會直接指引你使用。

## 資料來源

- [Amazon Web Services，How Amazon Bedrock knowledge bases work](https://docs.aws.amazon.com/bedrock/latest/userguide/kb-how-it-works.html) (2026 年 10 月查閱)

- [Google Cloud，RAG Engine overview](https://cloud.google.com/vertex-ai/generative-ai/docs/rag-engine/rag-overview) (2026 年 10 月查閱)

- [OpenAI，File search](https://platform.openai.com/docs/guides/tools-file-search) (2026 年 10 月查閱)

- [Microsoft，Retrieval-augmented generation (RAG) in Azure AI Search](https://learn.microsoft.com/en-us/azure/search/retrieval-augmented-generation-overview) (2026 年 10 月查閱)

- [LlamaIndex，Framework 文件](https://docs.llamaindex.ai/en/stable/) (2026 年 10 月查閱)

香港企業 RAG 方案：自建還是購買 →
同一個決定，針對香港數據和監管機構。
向量 RAG、GraphRAG 與 LightRAG →
哪種檢索方法適合哪類問題。
香港 RAG 方案 →
服務內容和已交付的系統。
四大 RAG 案例 →
版面感知解析，每個答案附上來源段落。

## 關於作者

[Cat Yung](https://www.super-cat.tech/zh-hk/cat-yung)是 Super Cat Technology 創辦人，團隊在香港及倫敦開發 AI Agent，並以 AI 專家、Data Scientist 及兼職 CTO 身份與企業合作。擁有逾十年生產級 AI、NLP 及機器學習經驗；Upwork Expert-Vetted 頂尖 1%，Job Success Score 100%（來源：Upwork 個人檔案，2026 年 10 月）。

First-Sprint Data Scientist

## 一位經審核的工程師加入你的團隊，第一個 Sprint 完結前交付成果。

在下面揀選時間，與你通話的是我本人。請帶同用例、數據及限制條件，我會就可行性、工作量及首個應交付的項目，給予直接而具體的意見。
[預約通話](https://calendly.com/super-chain/catyung?utm_source=super-cat.tech&utm_campaign=first-sprint-data-scientist&utm_content=zh-hk%2Fguides%2Fmanaged-rag-vs-custom-rag-pipeline)Cat Yung
配合香港及倫敦時區

預約通話 · 與 Cat Yung 通話 30 分鐘