9,000+

쿼리당 토큰 수 xMemory 이전

~4,700

쿼리당 토큰 수 xMemory 이후

약 50% 토큰 감소 + 정확도 향상

비용을 절약하고 AI를 더 똑똑하게 만드는 유일한 메모리 시스템

문제: 표준 RAG가 AI 에이전트에서 실패하는 이유

표준 RAG는 콘텐츠가 매우 다양한 대규모 문서 데이터베이스를 위해 설계되었습니다. AI 에이전트는 훨씬 더 어려운 과제, 즉 청크가 서로 거의 중복되는 지속적이고 상관관계 있는 대화 스트림 을 처리해야 합니다.

감귤류 문제: 사용자가 "오렌지를 좋아해요", "귤을 좋아해요"라고 말하고, 별도로 감귤류의 정의에 대해 논의했습니다. 표준 RAG는 이 모든 것을 의미적으로 유사하게 처리하여 "감귤류 선호도"에 대한 10개의 복사본을 검색하지만, 질문에 답하는 데 필요한 실제 범주 정보는 놓칩니다. 에이전트는 이미 가지고 있는 컨텍스트를 활용하지 못합니다.

기존 해결책이 상황을 악화시키는 이유

엔지니어링 팀은 일반적으로 검색 후 프루닝 또는 압축, 즉 검색 후 노이즈를 필터링하는 방법을 사용합니다. 합리적으로 들리지만, 인간의 대화는 "시간적으로 얽혀" 있기 때문에 AI 에이전트에게는 실패합니다:

• 공참조: "그것"과 "저것"이 이전 컨텍스트를 참조

• 생략: 이전 문장이 있어야만 의미가 있는 누락된 단어

• 타임라인 의존성: 순서대로만 의미가 있는 사실

프루닝 도구는 실수로 중요한 대화 조각을 삭제합니다. AI는 흐름을 잃습니다. 답변이 일관되지 않게 됩니다. 토큰 비용을 지불했지만 아무것도 얻지 못했습니다.

xMemory: 4단계 메모리 계층 구조

King's College London 과 The Alan Turing Institute 의 연구원들이 xMemory를 구축했습니다. 이 프레임워크는 모든 것을 컨텍스트에 덤프하는 대신 대화를 검색 가능한 의미론적 계층 구조로 구성합니다.

4

테마 수준

상위 주제 및 카테고리 — 여기서 검색 시작

3

의미 수준

정제된 재사용 가능한 사실 — 핵심 지식, 반복 없음

2

에피소드 수준

연속된 대화 요약 블록

1

원본 메시지

원래 대화 스트림

핵심 혁신: 불확실성 게이팅

💡 의미적 유사성은 후보 생성 신호입니다. 불확실성은 결정 신호입니다.

— Lin Gui, 공동 저자, King's College London

기존 시스템은 유사성 만으로 검색합니다. xMemory는 두 번째 게이트인 불확실성 을 추가합니다. 후보를 찾은 후 다음을 묻습니다: "이것을 추가하면 실제로 답변에 대한 불확실성이 줄어드는가?" 그렇지 않으면 중단합니다. 이것이 xMemory가 더 적은 토큰으로 더 나은 정확도를 달성하는 이유입니다.

유사성 은 근접한 것이 무엇인지 알려줍니다. 불확실성 은 프롬프트 예산에서 실제로 가치 있는 것이 무엇인지 알려줍니다.

xMemory 대 대안

시스템 구조 중복성 정확도 비용 Flat RAG (MemGPT) 원시 로그 높음 누락 높음 Structured RAG (A-MEM) 계층/그래프 중간 보통 중간 xMemory ⭐ 4단계 + 불확실성 게이트 낮음 개선 -50%

코딩 에이전트에 미치는 의미

여러 세션에 걸친 워크플로우를 실행하는 AI 코딩 에이전트에게 xMemory는 직접 적용됩니다:

✅ 에이전트가 컨텍스트 폭발 없이 수시간 또는 수일의 작업 동안 일관된 프로젝트 메모리 유지 가능

✅ 전체 기록을 다시 주입하지 않고 이전 세션의 관련 코드 결정을 검색

✅ 쿼리당 적은 토큰 = 낮은 API 비용 + 빠른 응답

✅ 관련 없는 대화가 구조적으로 제외되어 단순한 가지치기보다 정확도 향상

필요하지 않은 토큰에 비용을 지불하지 마세요.

AI 메모리의 미래는 더 큰 컨텍스트 윈도우가 아닌 더 스마트한 검색에 있습니다. xMemory는 더 적은 비용과 더 나은 답변을 동시에 얻을 수 있음을 증명합니다.

연구: xMemory (arXiv:2602.02007) — King's College London & The Alan Turing Institute | 출처 VentureBeat 태그: #xMemory #AIResearch #TokenOptimization #CodingAgent #RAG #LLMMemory #FinOps #AI