問題
一間環球資產管理公司已在研究報告上運行多模態 RAG。問題精準時檢索效果理想;但現實中,用戶往往問得含糊、一次問幾件事,或不知道該如何追問。
方案
在原有 retriever 之前加入 query rewriting PoC,並以該公司公開的新興市場報告測試。每種策略都比較改寫前後的檢索結果,結論是有數據支持的分流方案。
痛點
- 問題含糊、缺乏關鍵字
- 一次提出多條問題
- 用戶不知道下一步該問甚麼
方案拆解
HyDE:先寫假設答案. 問題含糊時,模型先草擬可能的答案,再據此改寫提問。草稿未必正確,但用字貼近真實文件。
Rewrite-Retrieve-Read. 一次問幾件事時,先拆成多條 query,各自尋找證據。
STORM:多角度追問. 探索型問題由多個不同角度的 Agent 各提出一條追問。
在檢索階段量度. 以檢索結果對比 baseline,避免流暢的答案掩蓋搜尋的不足。
按問題類型分流. 含糊問題用 HyDE、複合問題用 RRR、需要追問時用 STORM。
成果
PoC · 實測三種改寫策略
Tech Stack
RAGQuery RewritingHyDEAsset Management可靠之處
大部分 RAG 問題被歸咎於模型,其實出在「問法」。改寫成本低,但每類問題只適合一種方法;全部疊加只會增加延遲與干擾。在檢索階段量度,分流才有根據。
相關服務: 企業 RAG
更多項目案例
四大會計師行客戶 · 完全本地部署
四大會計師行:合規文庫 RAG Chatbot
數千頁合規文件可即時查詢,每個答案均附原文出處。
- 查一條問題要翻數千頁
- 資深同事須代為檢索資料
每月 20 萬通來電 · 預約率 67%(真人 77%)
24/7 AI Call Centre:每月 20 萬通來電
為一間 5,000 人美國企業旗下 60 個 HVAC 品牌,每月處理 20 萬通來電。AI 預約率達 67%,真人團隊為 77%,差距僅 10 個百分點,且全天候運作。
- 夜間及週末無人接聽
- 每更增聘人手成本過高
首三個月收回逾 100 萬美元
AI 收款及付款提醒
AI 前台的姊妹產品:定時、有禮地追收款項,附付款連結,客戶一付款即自動停止。上線首三個月已為客戶收回逾 100 萬美元。
- 追收款項尷尬又易拖延
- 可計費時間被收款工作佔用