9,000+

每次查詢 tokens 使用 xMemory 前

約 4,700

每次查詢 tokens 使用 xMemory 後

約 50% Token 減少 + 準確度提升

唯一能省錢又讓 AI 更聰明的記憶系統

問題：標準 RAG 為何不適用於 AI 代理

標準 RAG 是針對內容高度多樣的大型文件資料庫而設計。AI 代理面臨的挑戰更嚴峻： 連續、相關的對話串流 ，其中的片段彼此高度重複。

柑橘水果問題： 使用者說「我喜歡柳橙」「我喜歡橘子」，又另外討論了柑橘類水果的定義。標準 RAG 會將這些視為語義相近，並檢索出 10 個「柑橘偏好」的副本，卻遺漏了解答問題所需的實際分類事實。AI 代理因缺乏已有脈絡而無法發揮。

現有解法為何讓問題更糟

工程團隊通常採取檢索後修剪或壓縮——在檢索後過濾雜訊。聽起來合理，但對 AI 代理卻行不通，因為人類對話具有 「時間交織」 的特性：

• 共指：「它」「那個」連結到前文

• 省略：遺漏的字詞需靠前句才能理解

• 時間順序依賴：依序出現才有意義的事實

修剪工具會不慎刪除重要的對話片段。AI 失去脈絡，回答變得語無倫次。你花了 token 卻一無所獲。

xMemory：四層記憶階層

倫敦國王學院 與 艾倫·圖靈研究所 的研究人員開發了 xMemory——一個將對話組織成可搜尋語義階層的框架，而非將所有內容傾倒進上下文。

4

主題層級

高層級主題與分類 — 搜尋由此開始

3

語義層級

提煉後可重複使用的事實 — 核心知識，無重複

2

片段層級

連續的對話摘要區塊

1

原始訊息

原始的對話串流

關鍵創新：不確定性閘控

💡 語義相似度是候選項生成的信號。 不確定性則是決策信號。

— Lin Gui，共同作者，倫敦國王學院

傳統系統僅依賴 相似度 進行檢索。xMemory 增加了第二道閘門： 不確定性 。在找到候選項後，它會問：「加入這個真的能降低我對答案的不確定性嗎？」如果不能，就停止。這就是為什麼 xMemory 能用更少的 token 達到更高的準確度。

相似度 告訴你什麼在附近。 不確定性 告訴你在 prompt 預算中什麼才真正值得投入。

xMemory 與其他方案比較

系統 結構 冗餘 準確度 成本 平面RAG（MemGPT） 原始日誌 高 遺漏 高 結構化RAG（A-MEM） 層級/圖形 中 中等 中 xMemory ⭐ 4層級 + 不確定性閘門 低 改善 -50%

這對編碼代理的意義

對於執行多會話工作流程的AI編碼代理，xMemory可直接應用：

✅ 代理可在數小時或數天的工作中保持連貫的專案記憶，無需擴展上下文

✅ 無需重新注入完整歷史，即可檢索先前會話中的相關程式碼決定

✅ 每次查詢更少的Token = 更低的API成本 + 更快的回應

✅ 提高準確性，因為不相關的對話被結構性排除，而非僅修剪

停止為不需要的Token付費。

AI記憶的未來不在於更大的上下文視窗，而在於更智慧的檢索。xMemory證明了你可以同時擁有：更低的成本和更好的答案。

研究： xMemory（arXiv:2602.02007） — 倫敦國王學院與艾倫圖靈研究所 | 經由 VentureBeat 標籤：#xMemory #AIResearch #TokenOptimization #CodingAgent #RAG #LLMMemory #FinOps #AI