상위: 03_00_MOC

논문 리뷰 — RAG-MCP

서지 정보

항목	내용
제목	RAG-MCP: Mitigating Prompt Bloat in LLM Tool Selection via Retrieval-Augmented Generation
저자	Tiantian Gan, Qiyao Sun
제출	2025년 5월 6일 (arXiv:2505.03275)
URL	https://arxiv.org/abs/2505.03275

문제 의식

MCP 환경에서 LLM은 수십에서 수백 개에 이르는 외부 툴 설명을 컨텍스트에 통째로 받아야 한다. 이 프롬프트 블로트(prompt bloat)가 두 가지 문제를 함께 일으킨다.

토큰 비용 폭증: 툴 정의만으로 수만 토큰을 소비한다.
툴 선택 정확도 급락: 선택지가 너무 많으면 모델이 혼란에 빠진다.

RAG-MCP는 LLM이 툴 목록을 보기 전에 관련 툴만 걸러내는 방식으로 이 두 문제를 한꺼번에 푼다.

방법론

sequenceDiagram
    participant U as 사용자
    participant A as 에이전트
    participant R as RAG 검색기
    participant I as 툴 인덱스 (벡터 DB)
    participant L as LLM
    U->>A: 쿼리 입력
    A->>R: 쿼리 임베딩 생성
    R->>I: 시맨틱 유사도 검색
    I-->>R: Top-K 관련 툴 반환 (3-7개)
    R-->>A: 필터링된 툴 설명
    A->>L: 쿼리 + 관련 툴만 포함
    L-->>A: 정확한 툴 호출
    A->>U: 최종 응답
    Note over A,I: 전체 150+ 툴은 인덱스에만 존재<br/>LLM 컨텍스트에는 진입 안 함

핵심 아이디어는 RAG(검색 증강 생성) 패러다임을 툴 선택에 적용하는 것이다. 문서를 검색하는 대신 쿼리에 가장 관련 있는 툴을 검색해 LLM에 넘긴다.

핵심 수치

방식	툴 선택 정확도	변화
기준선 (전체 툴 로드)	13.62%	—
RAG-MCP (시맨틱 검색)	43.13%	+217%, 3.17배

“RAG-MCP significantly cuts prompt tokens (e.g., by over 50%) and more than triples tool selection accuracy (43.13% vs 13.62% baseline) on benchmark tasks.” — Gan & Sun (2025)

프롬프트 토큰은 50% 이상 줄었다.

수치 해석 시 주의사항

13.62%라는 기준선은 매우 낮다. 많은 툴을 한꺼번에 로드한 스트레스 테스트 환경이기 때문이다.
43.13%도 절대값으로 보면 높지 않다. 여전히 과반이 실패한다는 뜻이다.
핵심은 상대적 개선(3.17배)과 토큰 절감(50% 이상)을 동시에 달성했다는 점이다.

한계

검색기 오류의 파급 효과: 검색기가 엉뚱한 툴을 Top-K에 넣으면 정작 최적 툴이 LLM에 전달되지 않는다. 이 경우 전체 툴을 로드하는 것보다 더 나쁜 결과가 나올 수 있다.
임베딩 검색 지연: 검색 단계가 하나 더 끼어들어 실시간 SLA에 영향을 준다.
툴 인덱스 동기화: MCP 서버가 업데이트되면 벡터 인덱스도 함께 갱신해야 한다. ScaleMCP(Lumer et al., 2025)가 이 문제를 자동화하려 시도한다.

ScaleMCP — RAG-MCP 보완책

Lumer et al.(arXiv:2505.06416, 2025)의 ScaleMCP는 MCP 서버가 바뀔 때 툴 인덱스를 CRUD로 자동 동기화하고, TDWA(Tool Document Weighted Average) 임베딩으로 툴 문서의 핵심 성분을 강조한다. RAG-MCP가 안고 있던 인덱스 유지 문제를 떠받치는 인프라 레이어인 셈이다.

비용 영향 계산

RAG-MCP 적용 전/후 비교 (150툴 환경, Claude Sonnet 4.5 $3/MTok):

항목	전	후
요청당 툴 토큰	60,000	30,000 (50% 절감)
하루 10,000회 비용	$1,800	$900
연간 절감	—	$328,500

참고문헌

RAG-MCP: Mitigating Prompt Bloat in LLM Tool Selection via Retrieval-Augmented Generation — Tiantian Gan, Qiyao Sun, 2025, arXiv
ScaleMCP: Dynamic and Auto-Synchronizing Model Context Protocol Tools for LLM Agents — Lumer et al., 2025, arXiv
How to Prevent MCP Tool Overload and Build Faster, Safer AI Agents — Lunar.dev, 2025, 블로그

형제 노트: 03_02-툴-과부하-MCP-실태 · 03_06-paper-cmtf-bor · 03_08-해결전략-less-is-more 타 챕터: 06 해결전략

컨텍스트 엔지니어링 실패모드 위키

탐색기

논문 리뷰 — RAG-MCP (Gan & Sun, arXiv 2025)