香港企業 RAG 方案 · 企業 RAG 顧問
香港企業 RAG 方案：已在正式環境運行
關於香港 RAG 的文章，大多出自未曾在香港部署過 RAG 的人。我們交付過三個。第一個是為四大會計師行合規文庫建立的本地部署檢索系統。第二個是為家族辦公室建立、資料完全不外流的私有平台。第三個是處理文字、表格及圖像的多模態 RAG 應用。
中英雙語檢索，自行託管，文件留在貴公司範圍內，每個答案都附上支持它的段落。在審計及投資工作中，無法引用出處的答案不算答案，而是一項負債。
Upwork Expert-Vetted 頂尖 1% · 100% JSS（來源：Upwork 個人檔案，2026 年 10 月）。曾為一家 5,000 名員工的美國企業及四大會計師行交付正式運作的 AI
實證
我們交付的三個 RAG 系統
不是三篇關於 RAG 的文章，而是三個在客戶基建上運行的檢索系統，以及塑造它們的限制條件。
四大會計師行：合規文庫 RAG Chatbot
四大會計師行客戶 · 完全本地部署Junior auditor 為了回答一條問題，要翻閱數千頁合規白皮書和審計指引。資深同事經常須代為檢索資料，同一條問題在不同團隊之間反覆被問。
我們為整個合規文庫建立多模態 RAG，系統完全部署於客戶自有基建。OCR 配合表格解析，連費率表、披露矩陣和掃描附件都能搜尋。系統以「引用」為先：答案與支持它的原文段落一併呈現。
在審計工作中，沒有出處的答案不是答案，而是風險。由排序、切分到「文庫沒有提及便直說」，整個系統都圍繞「可引用」而設計。
Super Chain：家族辦公室私有 AI
數據不出辦公室家族辦公室掌管的是核心財務資料：基金報表、信託契據、交易對手條款、稅務文件，全都不能上傳到他人的 API。因此許多辦公室選擇不使用 AI，不是不想用，而是無法安全地用。
Super Chain：在辦公室自有基建上運行、配備檢索的 LLM，模型按每間辦公室的需要選定；檢索金融研究、宏觀數據與持倉，每個答案附出處，負責人可自行核對。
數據不出辦公室。私隱並非最後才加上的功能，而是由第一次設計會議起，就決定了模型、部署與檢索架構。這才是法律顧問願意簽批的 AI。
多模態 RAG 應用
246 小時 · 長期合作資料一半是文字、一半是表格，還有圖片，並非 RAG 教學中那種整齊的文章。
每種格式先按其特性解析，才存入 vector database，而非全部壓成文字再交由 embedding 估算。在 ingestion、retrieval 與 evaluation 各層共投入 246 小時。
格式一旦混雜，簡單的 RAG 便會悄悄出錯：表格被切開、數字藏在未建 index 的圖片中，答案卻說得十分肯定。沒有 error、沒有 alert，只有流暢但錯誤的答案，這是最危險的失敗。
全部八個項目的詳情：正式運作的 AI 項目案例。
為何 RAG 會答錯
企業 RAG 的四種無聲失效
實務上的痛點，已由生成轉移到檢索。以下每一種都靜悄悄地失效：沒有報錯、沒有警報，答案只是流暢地錯了。
表格被從中切開
香港企業文件多是費率表、披露矩陣及掃描附件，而非 RAG 教學假設的整齊文字。簡單的分塊程式會把表格切成兩半，檢索器便自信地回傳錯誤的一半。系統不會報錯。你得到的，是說得非常流暢的錯誤答案。
問題用英文，文件卻是中文
英文董事會文件引用繁體中文的監管文件；有些政策只有一種語言版本，沒有具權威的譯本。單一語言的 embedding 根本檢索不到另一半文件。跨語言檢索必須是架構決定，而非在查詢時臨時加上的翻譯步驟。
答案沒有附上出處
在審計、合規及投資工作中，無法引用出處的答案不算答案，而是一項負債。為摘要而調校的檢索，會產生流暢、但無人能在工作底稿中辯護的段落。為引用而調校的檢索，會把支持答案的段落一併回傳。
沒有人建立評估集
團隊先示範、再上線，然後從正式運作的故障中才發現邊緣情況。在首次部署前建立已標註的評估集，並在每次發佈時重跑，才能把示範變成系統。它是最便宜的建設，也是最昂貴的省略。
受監管的香港
文件涉及機密時，有甚麼不同？
對銀行、保險公司、家族辦公室或專業服務公司而言，在選擇模型之前，已有四項限制決定了架構。
數據駐留
客戶數據受《個人資料（私隱）條例》、金管局外判單元（SPM SA-2）及其 2022 年雲端運算指引規管。自行託管的檢索及可自行託管的 embedding 模型，讓文件留在貴公司範圍內。這是四大及家族辦公室兩個項目的決定性限制。
可解釋性
金管局的生成式 AI 指引，期望機構能解釋 AI 輔助的輸出。以引用為先的檢索是實際做法：原文段落與答案一併呈現，審閱者可以核對推理過程。
人工監督
高風險輸出需要審閱關卡。當文庫確實未涵蓋某個問題時，系統應拒答而非猜測。拒答行為是設計決定，而非後備方案。
審計記錄
財務紀錄有較長的保存要求。記錄查詢、檢索到的證據及生成的答案，六個月後出現爭議時，仍可重組當時的輸出。
以上是這些限制如何影響檢索系統的一般說明，並非法律或監管意見。請與貴公司的風險及合規部門確認適用要求。
市場概覽
香港企業 RAG 顧問：誰做甚麼，何時該選他們
一份坦白的地圖，包括別人更合適的情況。如果是整齊、單一語言的客戶服務 FAQ 機械人，我們並非合適之選。
| 公司 | 做甚麼 | 適合選擇的情況 |
|---|---|---|
| HKPC（香港生產力促進局） | 機構項目：Agentic AI Foundry、PistaChio 知識平台，以及面向中小企的 AI 展示。 | 適合取得資助、培訓及初步認識技術。並非會進入貴公司代碼庫的團隊。 |
| HKU RAG-Anything | 香港大學數據智能實驗室的開源多模態 RAG 框架，建基於 LightRAG。文字、表格、圖像及公式放進同一知識圖譜。 | 貴公司團隊能自行運行並強化開源框架。它是很好的起點，但不是已部署的系統。 |
| ThinkCol | 本地生成式 AI 顧問公司，提供 RAG Chatbot 平台，客戶橫跨零售、地產、金融及政府。 | 你想要一個平台加一支項目團隊，並接受平台既有的檢索架構。 |
| GPTBots / Aurora Mobile, Wavenex, MasterConcept | 上載文件即用的 Chatbot 產品，底層是 RAG，主要面向中小企及客戶服務。 | 文件整齊、以英文為主，而且答案毋須經得起審計。 |
| UD (InfiniAI) and DMS Solutions (elDoc) | 底層為 RAG 的私有 AI 及文件智能產品，可本地或私有雲部署，並為香港買家提供解說內容。 | 你想要套裝產品，而且文件符合其資料匯入模式。 |
| Sthambh | 以英文撰寫的香港及新加坡企業 RAG 詳細指南，涵蓋 agentic RAG、MAS/HKMA 架構模式及多語言檢索。作者身處香港市場以外。 | 你仍在做資料搜集。把列出的案例放進候選名單前，先查證是否真屬他們的項目。 |
| Super Cat Technology | 派駐頂尖 1% 工程師，已為四大會計師行及一家家族辦公室交付本地部署 RAG。Time & Materials，用貴公司基建，無平台授權費。 | 文件中英雙語、半結構化而且機密，每個答案都需要出處支持。 |
常見問題
香港企業 RAG 常見問題
受監管的香港企業，最適合哪種 RAG 方案？
取決於文件，而非模型。如果文件整齊、單一語言而且不涉機密，本地供應商的現成 RAG 平台可能已經足夠。有些文件中英雙語、包含掃描表格或附件，又不能離開貴公司基建，而且每個答案都要引用出處。這種情況下，最好的香港 RAG 方案是建在貴公司伺服器上的系統。
它包括自行託管的多語言檢索、按格式解析、以引用為先的答案，以及上線前建立的評估集。Super Cat Technology 交付的正是第二種，對象是四大會計師行的合規文庫及一家家族辦公室。
香港有哪些公司開發 RAG 系統？
香港市場大致分為三類。第一類是機構及學術工作，例如 HKPC 的 Agentic AI Foundry 及 PistaChio，以及 HKU 的開源框架 RAG-Anything，重點在建立能力與認知。第二類是本地顧問及產品供應商，包括 ThinkCol、Aurora Mobile 旗下的 GPTBots、Wavenex、MasterConcept、UD 的 InfiniAI 及 DMS Solutions 的 elDoc。它們銷售 RAG 平台，上載文件即可得到助手。
Sthambh 等境外出版者，則在市場以外撰寫詳細的香港指南。第三類是少數派駐資深工程師、在貴公司基建上建立檢索系統的公司。
Super Cat Technology 屬於第三類。我們曾為四大會計師行的合規文庫交付本地部署企業 RAG，亦為一家家族辦公室交付私有檢索系統。另外還交付過一個處理文字、表格及圖像的多模態 RAG 應用。我們以 Time & Materials 形式在香港及倫敦工作，不收平台授權費。
RAG 系統能否同時處理繁體中文及英文文件？
可以，但前提是系統為此而設計。香港企業文件確實是雙語的：英文董事會會議記錄引用繁體中文的監管文件，有些政策只有一種語言的權威版本。單一語言的 embedding 模型根本檢索不到另一半文件。在查詢時才翻譯，又會失去金融及法律文本中關鍵的術語。
可行的做法，是採用可自行託管、同時支援 dense 及 sparse 檢索的多語言 embedding 模型。處理繁體中文及英文，BGE-M3 是常見的起點。再配合按語言分塊，以及結合向量搜尋與關鍵字配對的混合層。這樣政策編號、條例條文等精確識別碼，仍能準確命中。
數據可以留在香港、留在我們自己的伺服器上嗎？
在我們的項目中，這是常態而非例外。四大合規系統及家族辦公室平台，都完全在客戶自有基建上運行。原因是涉及的文件，包括審計指引、基金結單、信託契據及交易對手條款，正正是不能傳送到別人 API 的文件。
可自行託管的 embedding 模型及向量資料庫，令完全本地部署的檢索系統切實可行。對受《私隱條例》規管及金管局監管的機構而言，這項限制應從第一次設計會議起主導架構，而非事後補加。
文件明明已在索引內，為何 RAG 系統仍會答錯？
在我們重建過的系統中，問題多出在檢索而非生成。大部分情況來自四種失效模式。一是分塊切開了表格或掃描附件，檢索到的片段缺了那個數字。二是用一種語言查詢另一種語言的文件。三是檢索為摘要而調校，答案送達時沒有支持它的段落。四是沒有評估集，直到用戶發現前，無人知道失敗率。
解決方法並不花巧。每種格式先按其特性解析，才放進向量資料庫。以 metadata 過濾，令已被取代的文件版本無法被檢索。結合向量及關鍵字檢索，並在首次正式部署前建立已標註的評估集。
在香港實施 RAG 涉及甚麼工作？需時多久？
第一步是界定範圍及審視文件：有哪些格式、多少種語言、哪些版本具權威、誰可以看甚麼。然後按這批文件建立資料匯入及檢索流程。在任何人看到系統前先建立評估集，並加入監測，讓故障可被找出。
時間取決於文件而非模型。整齊的單一語言文庫進展快；附權限界線的掃描雙語監管文件，花在資料匯入的時間比其他環節都多。我們以駐場 Time & Materials 形式進行，團隊規模隨工作增減，而非購買固定範圍。
應該購買 RAG 平台，還是自行開發？
如果文件整齊、單一語言、不涉機密，而且答案毋須經得起審計，就應購買：平台會更快、更便宜。如果架構由限制條件決定，就應自建。例如數據不能離開貴公司基建、需要雙語檢索、有半結構化附件，或有通用 Chatbot 無法滿足的引用要求。
在這個問題上我們對供應商保持中立，平台是正確答案時我們會直說。我們靠工程時間賺錢，而非授權費。
延伸閱讀：香港企業 RAG：自建還是外購。
把別人都說太亂的文件交給我們。
掃描的雙語監管文件、有多個版本的政策、沒人能索引的表格。這類工作我們已在客戶基建上做過兩次，由Cat Yung主理。按結果採取行動的 AI Agent 會先經過強化，詳見安全 AI Agent 開發。