問題
Junior auditor 為了回答一條問題，要翻閱數千頁合規白皮書和審計指引。資深同事經常須代為檢索資料，同一條問題在不同團隊之間反覆被問。
方案
我們為整個合規文庫建立多模態 RAG，系統完全部署於客戶自有基建。OCR 配合表格解析，連費率表、披露矩陣和掃描附件都能搜尋。系統以「引用」為先：答案與支持它的原文段落一併呈現。
痛點
- 查一條問題要翻數千頁
- 資深同事須代為檢索資料
- 表格與掃描附件無法搜尋
方案拆解
按版面拆解. 每頁先拆成文字、表格、圖表與標題；表格和圖表連同標題裁出，交由 Vision Model 讀取。
每段都有出處. 按語意切分 chunk，記錄檔案、頁碼與原圖，答案可直接指向原頁。
以客戶自有 GPU 微調模型. 在客戶自有的 H100 GPU 叢集上 Fine-tune Phi-3、Llama 語言模型及 Jina embedding 模型，文件與訓練數據全程不離開客戶基建。
Hybrid Search. 關鍵字與語意搜尋並用（約 30/70），條文編號和專有名詞不會遺漏。
拆解複雜問題. 「以表格整理 2024 年風險框架更新」這類要求，先拆成子問題，逐條檢查是否切題。
逐步選用工具. AI Agent 決定每部分用檢索還是整理表格，最後核對是否回應所有要求。
取較佳答案. 需要表格時，表格與文字答案分別評分，取更準確的一個。
成果
四大會計師行客戶 · 完全本地部署
Tech Stack
RAGOCROn-PremiseLLM Fine-TuningH100可靠之處
在審計工作中，沒有出處的答案不是答案，而是風險。由排序、切分到「文庫沒有提及便直說」，整個系統都圍繞「可引用」而設計。
相關服務: 企業 RAG
更多項目案例
每月 20 萬通來電 · 預約率 67%（真人 77%）
24/7 AI Call Centre：每月 20 萬通來電
為一間 5,000 人美國企業旗下 60 個 HVAC 品牌，每月處理 20 萬通來電。AI 預約率達 67%，真人團隊為 77%，差距僅 10 個百分點，且全天候運作。
- 夜間及週末無人接聽
- 每更增聘人手成本過高
首三個月收回逾 100 萬美元
AI 收款及付款提醒
AI 前台的姊妹產品：定時、有禮地追收款項，附付款連結，客戶一付款即自動停止。上線首三個月已為客戶收回逾 100 萬美元。
- 追收款項尷尬又易拖延
- 可計費時間被收款工作佔用
一句話查詢 EDI
以自然語言查詢 EDI：美國 EDI 方案商
業務同事直接問「發票 4471 的付款條款是甚麼？」，經 EDI Fine-tune 的 Llama 3 即時以日常語言回答。
- Business 與 EDI 團隊各說各話
- 被拒交易要人手逐段拆解